大模型的超参数Top P是什么 ？有什么用？
大模型超参数TopP详解
一、定义与核心原理
Top-P（又称核心采样或累积概率阈值采样）是一种控制大语言模型（LLM）输出随机性的超参数，其核心在于动态调整候选词的选择范围。具体而言，Top-P通过设定一个累积概率阈值（范围0.0-1.0），筛选出概率从高到低排列的候选词，直到这些词的累积概率之和达到或超过阈值，最终仅从该子集中随机抽取下一个词。
工作流程：
- 概率计算：模型预测所有候选词的概率分布。
- 排序与累积：将候选词按概率降序排列，并累加概率值。
- 阈值截断：当累积概率首次超过设定的Top-P值时停止，保留当前子集。
- 随机抽样：从该子集中按归一化后的概率分布抽取下一个词。
例如，若Top-P设为0.9，模型会从累积概率≥90%的最小词集中选择，可能包含多个高概率词；而Top-P=0.5时，仅考虑累积概率≥50%的词集，候选范围更小，但可能包含低概率但有创意的词。