07浅谈大语言模型可调节参数tempreture

浅谈temperature

什么是temperature？

temperature是大预言模型生成文本时常用的两个重要参数。它的作用体现在控制模型输出的确定性和多样性：

• 控制确定性：

  temperature参数可以控制模型生成文本的确定性，大部分模型中temperature取值范围为(0-1]。

  • 接近0时，模型倾向于选择概率最高的输出，使生成的文本更加确定、一致。
  • 接近1时，模型倾向于按照概率分布随机选择输出，使输出的文本更加多样化。

• 创造性与多样性：

  较高的值能够鼓励模型尝试不同的、可能较少出现的表达，从而增加生成内容的创造性和多样性。如文学创作场景设置高一点

temperature逻辑通俗理解

图片不清晰，附件为pdf原图