惊喜!Ollama 刚刚支持Llama3.1 8B 70B 405B 全部型号的模型了,赶紧试试效果吧
Ollama 支持了 Llama 3.1 的三种型号模型,包括 8B、70B 和 405B。Llama 3.1 405B 模型在多语言翻译和通用知识方面表现出色,8B 和 70B 模型则具有更长的上下文长度和更强的推理能力。Meta 对模型许可证进行了更改,允许使用 Llama 模型的输出来改进其他模型。Llama 3.1 405B 模型在超过 15 万亿个 token 上进行训练,采用了纯解码器转换器模型架构,并进行了迭代的训练后程序。为了支持大规模生产推理,模型从 16 位量化到 8 位数值。微调过程包括监督微调、拒绝采样和直接偏好优化。
发布日期:
2024-07-24 20:09:42
查看详情