temperature 中文意思是“温度”。

LLM 温度是影响语言模型输出的参数，决定输出是否更随机、更有创意，还是更可预测。较高的温度将导致较低的概率，即更多的创造性输出。较低的温度将导致更高的概率，即更可预测的输出。因此，温度是微调模型性能的关键。温度的概念适用于各种类型的语言模型，包括 LLM。

生成文本时，模型会考虑一系列可能的下一个单词或 token，每个单词或 token 都有一定的概率。例如，在短语“The cat is on the…”之后，模型可能会将高概率分配给“mat”、“roof”或“tree”等单词。

温度设置

温度是一个数值（通常设置在 0 到 1 之间，但有时更高），用于调整模型在选择中承担风险或安全的程度。它影响下一个单词的概率分布。

不同的LLM温度参数：

• 低温（< 1.0）：将温度设置为小于 1 的值会使模型的输出更具确定性和重复性。较低的温度会导致模型更频繁地选择最有可能的下一个单词，从而减少输出的可变性。当你需要更可预测、更保守的响应时，这可能很有用，但它也可能会导致文本的创造性或多样性降低，同时使模型听起来更机械化。

• 高温（> 1.0）：高于 1 的温度设置会增加生成文本的随机性。该模型更有可能选择不太可能的单词作为序列中的下一个单词，从而产生更多样、有时更有创意的输出。然而，这也可能导致更多错误或无意义的响应，因为模型受训练数据概率分布的约束较少。

• 温度 1.0：这通常是默认设置，旨在实现随机性和确定性之间的平衡。该模型根据训练期间学到的概率分布生成既不太可预测也不太随机的文本。

LLM 温度微调用例

温度微调涉及微调该参数以实现随机性和确定性之间的理想平衡。这在生成文本的质量可以显著影响用户体验或决策的应用程序中尤其重要。

在实际使用中，根据所需结果选择温度设置。对于需要更多创造力或不同反应的任务，可以选择更高的温度。对于需要更高准确性或事实响应的任务，较低的温度通常更好。

以下是一些用例和推荐的 LLM 模型温度：

• 创意写作：更高的温度可以激发更多创新和多样化的产出。这可以帮助克服作家的障碍或产生创造性的内容想法。

• 技术文档：由于文档需要精确性和一致性，因此优选较低的温度以确保内容的准确性和可靠性。

• 客户互动：可以根据组织的品牌和语气以及受众偏好来调整温度，以定制聊天机器人或虚拟助理的响应。

LLM 温度和 MLOps

LLM 温度微调可以集成到 MLOps 生命周期中，使数据科学家和工程师能够根据用户反馈和不断变化的需求进行调整。

• MLOps pipeline 集成：LLM 温度可以作为可配置参数集成到 ML 部署 pipeline 中。这使得工程师和数据科学家能够调整模型的行为，而无需重新训练。

• 行为跟踪：MLOps 可以监控不同温度设置的结果。此操作日志记录有助于了解温度变化如何影响现实场景中的用户体验和模型性能。

• 反馈循环：团队可以在 MLOps pipeline 中的温度调整上实施反馈循环。这支持模型细化。

• A/B 测试：使用 MLOps，可以在受控实验（如 A/B 测试）中改变温度设置。这有助于确定特定用例的最佳配置。

• 版本控制：MLOps 记录和版本控制不同的温度设置。在针对不同应用调整温度时，这有助于跨模型版本的回滚和比较版本或用户组。

• 道德和负责任的人工智能：MLOps 能够实施实践、指南和保障措施，以监控和减轻道德人工智能风险，这些风险可能是由于温度调整带来的不适当或有偏见的反应而引起的。