返回博客列表

chatbox的top P是什么意思

本文解释了chatbox的top P的作用,并以实例进行演示

和温度一样,都是用来控制大模型生成随机性、创造力的参数。

Top-P:只截取概率最高的一小部分候选词。

提示词:

用一句话描述‘幸福’是什么。

同一条提示词在相同 top_p 下跑 3-5 次,观察结果的稳定程度。低 top_p 结果高度雷同,高 top_p 每次差异明显

原理

把所有候选 token 按概率从高到低排序,累加概率,直到总和 ≥ P,只保留这一组候选;剩下低概率 token 直接丢弃,不会被选。

例:Top-P=0.9 模型只在「概率加起来占 90%」的最高概率候选里挑选,尾部 10% 低概率词汇直接出局,不参与采样

  • P 接近 1.0:候选池很大,可选词多
  • P 变小:只保留极少数高概率词,选择范围收窄

对比温度,举个通俗例子

抽奖:所有奖品对应不同中奖概率

  • Temperature:调高 = 给冷门奖品提高中奖概率;调低 = 冷门几乎抽不到,但奖品名单不变
  • Top-P:直接把中奖概率很低的奖品拿走,奖品池变小,只剩热门奖品可供抽取

📺 进阶学习 本文是《Chatbox零基础实战》系列教程中的一节。如果你想系统掌握 Chatbox 的所有高阶技巧,可以:👉 观看完整的视频教程

chatbox

相关推荐