📖
温度参数
基础概念
一句话概括
控制模型生成随机性的参数,值越高输出越多样,越低越确定。
详细解析
Temperature是采样温度参数,作用于模型输出logits后的softmax层。它通过缩放logits分布来调节概率分布的"尖锐度":温度趋近0时分布越尖锐,模型几乎总是选概率最高的token;温度升高时分布越平坦,低概率token被选中的几率增加。
温度为0时输出近乎确定性(贪婪解码),适合代码生成、数学计算、事实问答等需要稳定准确的任务;温度在0.7-1.0之间适合创意写作、对话、头脑风暴;超过1.2则可能出现胡言乱语。
温度常与top_p、top_k配合使用。理解温度对生成质量的影响,是调优模型行为、平衡"准确性"与"创造性"的关键手段。