粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
文章的目标是通过pruning和distillation，将Llama 3.1 8B和Mistral NeMo 12B模型分别压缩到4B和8B参数。总的来说，获得了非常好的结果。
先压缩参数 -> 剪枝。 先计算每层、神经元、头和嵌入维度的重要性，开始剪枝过程。然后，对这些重要性分数进行排序，以计算相应的重要性排名。
判断是否重要，考虑三个不同的指标来评估层重要性：(1) LM dev loss，(2) Block Importance (BI) 和 (3) 下游任务的准确性。
一般开源模型不知道什么数据训练的，所以文中提出了在剪枝和蒸馏之前对教师模型进行微调的步骤，称为teacher correction，用了127B tokens。
至于蒸馏，仅在teacher和student logits 上使用前向 KL 散度损失
是否加teacher correction步骤，差异如下：
Width vs Depth Pruning， 两种变体具有相同数量的参数，但宽度剪枝可以得到较小的初始损失，并始终优于深度剪枝模型。
与随机初始化更小的网络相比，pruning起点明显更低，另外基于蒸馏的训练优于传统训练方法，同时需要更少的训练tokens（下图红线和绿线）
teacher correction不回影响到剪枝的重要性排序，结合蒸馏，可以弥补剪枝从原始权重带来的差距
开头和结尾的layer是最重要的。删除不连续的layer可以获得更好的 LM 验证损失（下图虚线）。但是这个结论在下游任务准确率上不一定稳定成立。
最后文中的总结结论，上面大体上提到了：
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-09-19
o1 能带我们走进 AGI 吗？
2024-09-19
解锁医疗新未来：Sunsimiao-7B 中文医疗大模型震撼登场
2024-09-19
36%的国资央企组建大模型团队，沙丘智库发布《2024年国资央企大模型应用跟踪报告》
2024-09-18
AI大模型实战篇：LATS，可能是目前最强的AI Agent设计框架
2024-09-18
360视角：大模型幻觉问题及其解决方案的深度探索与实践
2024-09-18
太爽了！o1 现在可以天天享用了
2024-09-18
Claude Artifacts 数据分析的N种打开方式（附Prompt)
2024-09-18
如何微调（Fine-tuning）大语言模型？
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-05-09
2023-07-01
2024-07-07
2024-07-25
回到顶部