AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


全新llama3:ollama与lobe-chat的完美结合
发布日期:2024-05-06 15:47:53 浏览次数: 2153


? 全新llama3:ollama与lobe-chat的结合使用指南 ?

???开启你的AI助手新纪元!

最新动态:今天要介绍一个令人激动的新进展---全新llama3模型的一键部署,以及如何利用ollamalobe-chat作为Agents,让你的AI体验更上一层楼!

? 什么是llama3?

llama3meta的最新力作,一个具有海量参数和卓越性能的AI大模型。它不仅能够执行复杂的任务,还能提供更加精准和个性化的结果。

? 为什么要用ollama?

ollama是一个开源工具,它可以让你在本地运行AI大模型,保护隐私的同时享受AI的便利。

关于部署

ollama的部署随便搜索都有,真的很简单,windows用户,下载EXE文件,双击文件,一路下一步即可。具体可以参考以往的文章:

一键部署大模型,Windows用户的福音!

ollama run llama3

? lobe-chat:你的私人Agents

lobe-chat是一个先进的聊天界面,它可以作为你的私人Agents,帮助你与llama3模型进行交互。无论是日常咨询还是专业问题,lobe-chat都能提供即时、智能的反馈。

? 个性化你的体验

lobe-chat不仅支持基本的聊天功能,还可以根据你的需要进行个性化设置。无论是界面风格还是对话模式,都能按照你的喜好来调整。

? 自定义体验

  • • 多模型支持:选择适合你需求的模型。

  • • 视觉识别:利用llm的视觉识别能力。

  • • 语音会话:TTS & STT,让交流更自然。

  • • 文生图:将文本想法转化为图像。

关于部署

只要一句命令即可开启它们的交互:

docker run -d -p 3210:3210 -e OLLAMA_PROXY_URL=http://host.docker.internal:11434/v1 lobehub/lobe-chat

具体还有更多功能或设定,请继续查阅文章的最后,参考资料哟。

? 注意事项

  • • 确保硬件配置足够。

  • • 网络连接需稳定。

说起硬件配置

如何才能运行起这些的AI服务呢?

极摩客K8 迷你主机

特性 描述
处理器 AMD R7 8845HS,具备强大的计算能力,适合执行AI相关任务
架构 Zen 4,先进的架构设计,有助于提升AI处理效率
核心数 8核心,多核心设计有利于进行多任务AI计算
线程数 16线程,高线程数有助于提高并行处理能力
频率 最大加速时钟频率5.1GHz,高频率有助于快速处理AI数据
缓存 16MB L3缓存,大缓存有助于提高数据访问速度,对AI计算有益
集成显卡 Radeon 780M,具备一定的图形处理能力,可支持基础的AI视觉任务
内存支持 DDR5 5600 / SO-DIMM*2,高速内存支持,有助于提升AI计算性能
存储 PCIe 4.0*4 M.2 2280 SSD,高速存储,有利于AI模型的快速加载
连接性 WiFi 6 & 蓝牙5.2,快速的无线连接能力,便于远程AI数据交互
接口 丰富的接口支持,便于连接AI外设或高速数据传输
性能测试 在多线程跑分和综合性能测试中表现出色,证明其AI处理能力强
用户评价 用户普遍认为性价比高,性能强劲,适合包括AI在内的多种应用
适用场景 游戏电竞、商用办公、AI计算等

这主机在2024年非常适合家用及小公司使用。

家用

配合27寸2K显示器,又不占位置,给老人/小孩使用相当合适,用个3-5年不是问题。

公司

两个网口,安装PVE虚拟化系统,运行软防火墙,交换机等小型服务,妥妥的办公小能手。

个人使用

无论搞计算机编程还是一般的游戏,它完全可以驾驭。

有钱的朋友还可以加个显卡扩展坞,直接把性能拉满,作为养家糊口的工具。

一起学习,一起进步,一起飞!

? 记得点赞、分享,让更多的朋友一起探索这个IT世界的新奇!?

记得按时休息

? 推荐阅读

  • • llama3:

https://ollama.com/library/llama3

  • • lobe-chat

https://github.com/lobehub/lobe-chat

  • • lobe-chat集成ollama

https://lobehub.com/docs/usage/providers/ollama

https://lobehub.com/docs/self-hosting/examples/ollama

欢迎关注我的公众号“AC技术与生活”,原创技术文章第一时间推送。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询