Temperature 是 LLM 解码时的一个超参数,控制输出结果的随机性。取值范围通常 0–2。值越低(如 0.1),模型越倾向于选择概率最高的 token,输出确定性高、重复性强;值越高(如 1.5),模型越可能选择低概率 token,输出更随机、更有创意。
你可以把它理解为 AI 的“创造力旋钮”——拧到最低,AI 像个严谨的公务员;拧到最高,AI 像个天马行空的艺术家。
Temperature 的工作原理:
- 低温度(0–0.3):几乎总是选最可能的词,回答稳定但可能枯燥
- 中温度(0.5–0.8):适当引入变化,兼顾准确性和多样性
- 高温度(0.9–2.0):经常选不太可能的词,回答有创意但可能偏离事实
大白话理解:
Temperature 很低的时候:
- AI 回答同一个问题十次,答案几乎一模一样
- 适合需要准确性的场景:代码生成、数学计算、事实问答
- 缺点是有点死板,缺乏惊喜
Temperature 很高的时候:
- AI 每次回答都不一样,有时会给你惊艳的回答
- 适合需要创意的场景:写诗、 brainstorm、故事创作
- 缺点是容易胡说八道,编造事实
打个比方:
|
Temperature = 0.1 |
Temperature = 1.5 |
|---|---|
|
问“太阳从哪边升起” → 每次都答“东方” |
问“太阳从哪边升起” → 可能答“东方,但在金星上是西方” |
|
写一首关于春天的诗 → 规规矩矩的七言绝句 |
写一首关于春天的诗 → 可能冒出意识流现代诗 |
|
翻译一段话 → 每次都一样,准确但平淡 |
翻译一段话 → 每次用词不同,可能有惊喜 |
一句话总结:
Temperature 控制 AI 回答的随机程度,越低越保守准确,越高越有创意但可能跑偏。