我要投稿

大模型微调十诫：关于将微调模型部署到生产环境的十条建议

发布日期：2024-05-26 12:55:04 浏览次数： 1695 来源：NLP工程化

大模型微调十诫：关于将微调模型部署到生产环境的十条建议：

（1）不要盲目微调模型，先尝试使用提示的方式满足需求。只有当提示无法达到质量、性能或成本目标时，才考虑微调。

（2）一定要编写提示。通过提示证明任务是可行的，作为微调的基线。如果提示就可以达到要求，微调可以进一步提升；如果提示不起作用，微调成功的可能性就很低。

（3）一定要检查数据质量。删除或修正问题数据。数据质量直接决定模型质量。

（4）使用真实数据进行微调。即使存在一些不完美的数据也没关系，只要整体分布正确就可以。

（5）留出部分数据作为测试集。不要将所有数据都用于训练。

（6）选择合适的模型规模。不要使用过大的模型，也不要使用过小的模型。规模要匹配任务难度。

（7）编写快速的评估指标。可以多次每天评估，以便快速迭代。

（8）同时编写完整的评估。定期进行完整评估，确保快速指标和最终指标一致。

（9）不要执行一次性的模型训练后就结束。持续优化模型和管道。

（10）不要死板地遵循这些建议。根据具体情形调整建议的适用性。

参考文献：

[1] https://docs.google.com/presentation/d/1IIRrTED0w716OsU_-PL5bONL0Pq_7E8alewvcJO1BCE/edit#slide=id.g2721fb6713e_0_44

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

2024-05-14

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

2024-04-26

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

2024-04-12

万字长文解析：大模型需要怎样的硬件算力

2024-03-30

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

2024-05-22

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-05-10

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

更改ollama模型存储路径

2024-04-25

全面对比dify、coze、streamlit、chainlit

2024-04-26

一文带你了解大模型——智能体（Agent）

2024-05-28

大家都在问

数据集成困难、利用低效：AI 热潮下，存储该怎么跟上？

2024-10-18

学习大模型开发，需要具备人工智能或深度学习理论基础吗？

2024-10-17

什么是新的 Apple Intelligence？

2024-10-16

如何向 AI 提问？

2024-10-16

2024年前三季度，大模型中标项目都被谁拿走了?

2024-10-16

RAG工程如何评测？

2024-10-15

「AI 搜索专题」 Kimi VS MindSearch 谁更胜一筹？

2024-10-15

长上下文 LLMs 兴起，RAG 会成为历史吗？

2024-10-15

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示

万字长文解析：大模型需要怎样的硬件算力

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

更改ollama模型存储路径

全面对比dify、coze、streamlit、chainlit

一文带你了解大模型——智能体（Agent）

大家都在问

数据集成困难、利用低效：AI 热潮下，存储该怎么跟上？

学习大模型开发，需要具备人工智能或深度学习理论基础吗？

什么是新的 Apple Intelligence？

如何向 AI 提问？

2024年前三季度，大模型中标项目都被谁拿走了?

RAG工程如何评测？

「AI 搜索专题」 Kimi VS MindSearch 谁更胜一筹？

长上下文 LLMs 兴起，RAG 会成为历史吗？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

最强 GPT 免费使用！GPT4O 开启多模态新时代！

全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！

OLLama详细的 api 介绍 不完全指南 python 直接调用 OLLama api 翻译助手演示

万字长文解析：大模型需要怎样的硬件算力

【开源看AI】4.9K star！Khoj：完美融合本地文档和在线网页的AI第二大脑

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

更改ollama模型存储路径

全面对比dify、coze、streamlit、chainlit

一文带你了解大模型——智能体（Agent）

大家都在问

数据集成困难、利用低效：AI 热潮下，存储该怎么跟上？

学习大模型开发，需要具备人工智能或深度学习理论基础吗？

什么是新的 Apple Intelligence？

如何向 AI 提问？

2024年前三季度，大模型中标项目都被谁拿走了?

RAG工程如何评测？

「AI 搜索专题」 Kimi VS MindSearch 谁更胜一筹？

长上下文 LLMs 兴起，RAG 会成为历史吗？

热门标签

OLLama详细的 api 介绍不完全指南 python 直接调用 OLLama api 翻译助手演示