AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


首发!本地运行最强开源大模型Llama3
发布日期:2024-04-20 14:58:53 浏览次数: 2146 来源:学术Fun


首发! 本地运行最强开源大模型Llama3

Meta公司于4月18日对外发布了两款规模庞大的开源模型:Llama 3 8B和Llama 3 70B。这两款模型为外部开发者提供了免费的使用机会。在同类模型中,Llama 3 8B和Llama 3 70B的性能堪称顶级,其中Llama 3 8B甚至在某些测试中超越了之前的Llama 2 70B模型。(整合包在文末自取)

Llama 3 大模型的几大特点:

  • 训练数据超过15T token,是Llama 2数据集7倍以上的规模;
  • 训练效率是Llama 2的3倍;
  • 支持最长达8K的文本输入,经过改进的tokenizer拥有128K个token的词汇量,以此提升模型性能;
  • 在多个重要的基准测试中表现卓越,居于领先地位;
  • 推理和编码能力得到显著增强;
  • 安全性大幅提升,搭载了Llama Guard 2、Code Shield和CyberSec Eval 2等新一代的信任与安全工具,并在错误拒绝方面表现优于Llama 2。

学术Fun迅速对这些模型和应用文件进行了整理,用户只需简单下载并替换模型文件,即可轻松开始本地体验Llama 3的强大功能。

? 安装指南

下载压缩包

请访问以下链接下载所需文件(建议使用电脑浏览器访问):学术Fun下载页面,在页面右侧找到下载按钮进行下载。或者关注本公众号?学术Fun,私信?回复免费2字获取Llama3整合包下载链接?!

安装步骤

  1. 下载并解压缩文件后,您会看到以下目录结构:
  • FaradayDotDev:含有Llama3-8B模型的目录
  • .exe:最新的、兼容Llama3模型的LM Studio安装程序
  1. 安装LM-Studio。双击运行安装程序,按照提示完成安装。安装完成后,打开软件界面如下所示:
  1. 加载模型。打开LM-Studio软件内的模型目录:
  1. 复制FaradayDotDev目录到模型文件夹内,然后重启LM-Studio软件。
  1. 重新启动软件,检查模型文件列表,确保新模型已经加入列表中。
  1. 切换到聊天?界面,在模型列表中选择Llama模型并进行加载。
  1. 完成上述步骤后,您就可以开始与AI进行互动了。

通过以上步骤,您可以在本地环境中体验到Llama 3模型的强大能力,并开始探索AI的无限可能。




53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询