我要投稿

使用LM Studio一键部署本地AI大语言模型

发布日期：2024-04-28 08:56:19 浏览次数： 3100 来源：火星AIGC

现在如此多的开源AI模型，像Gemma、Mistral 7B、Llama等，如果想部署到本地个人电脑上，一般需要懂点python等编程知识，而现在出现了一些软件和开源工具，已经可以一键部署AI模型到本地了，很多都是傻瓜化操作，不需要有相应的编程知识。下面介绍的这个LM Studio就是一个傻瓜化一键部署开源AI模型的桌面软件。

1.什么是LM Studio？

LM Studio 是一个桌面应用程序，支持Windows、苹果macOS和Linux操作系统，用于在电脑上运行本地大语言模型。它通过在本地主机上运行的类似 OpenAI 的 HTTP 服务器使用本地大语言模型，这样使你有更多的控制权和隐私保护。

LM Studio的主要功能：

搜索并下载各种AI大语言模型；

在具有GPU的本地计算机上运行AI模型；

与 AnythingLLM 集成以创建聊天机器人界面。

官方网站：lmstudio.ai

2.电脑最低配置要求是什么？

• 配备 macOS 13.6 或更高版本的苹果电脑(M1/M2/M3)

• 具有支持 AVX2 处理器的 Windows/Linux PC

• 支持 NVIDIA/AMD GPU显卡，建议16GB 以上的显存。

• 对于电脑，建议6GB+内存

一般Intel和AMD的比较新的CPU都支持AVX2指令集，如果不确定，可以用CPUZ软件查看一下自己电脑CPU支持的指令集。

3.在Windows上安装LM Studio

进入官网页面，点相应的操作系统，下载。

打开下载的安装文件，点击运行。

它会自动安装在C盘上。

3.运行LM Studio

直接打开LM Studio，可以直接在软件主页下载推荐的各种模型。

也可以在搜索页搜索Hugging Face上的模型。并在页面的右上角显示估计需要的内存和显存容量。

5. 与你的AI聊天

进入聊天页面，加载您下载的模型，并输入提示词，等它给出回答。

还可以一次加载多个模型，以对比不同AI模型的不同响应。

LM Studio可以让你轻松的部署自己的私有AI大语言模型，不用再考虑网络、费用问题，随时随地与AI交互，唯一不完美的就是全英文界面，没有汉化功能。官方后续版本还会增加文本嵌入（POST /v1/embeddings）支持，实现更多的自定义功能。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

可灵AI的网页版上线了

2024-07-07

千万别用可灵AI复活老照片！

2024-06-24

一个叫李星玮的上海交大博士火了！GPT4-o通过数据分析出他100%的渣男属性！

2024-06-06

万字长文：人人都能学会的提示词，揭秘18个prompt模版，8个秘诀，助你AIGC从入门到精通，从可用到好用

2024-04-02

苹果Mac用户的福音：本地运行Meta Llama 3的终极指南

2024-04-27

超全总结！大模型算法岗面试真题来了！

2024-04-02

xinference + dify + ollama 构建本地知识库

2024-05-08

国内20家公司大模型岗位面试经验汇总

2024-05-04

通义智文：引领智能写作新风尚，让创作更高效更精彩

2024-04-19

Agentic Workflow：AI重塑了我的工作流

2024-05-15

大家都在问

AI知识泛滥的年代，“脑图+AI”=“埃迪+毒液”：未来工作流的黄金组合，你掌握了吗？

2024-11-12

A16Z：导出"你的大脑"给AI,你将收获什么？

2024-10-15

AI简单提问就能实现学习弯道超车！如何使用AI加速学习？

2024-09-09

【人工智能】AI时代是失业的噩梦，还是效率的提升？

2024-09-06

普通人如何用 AI 提升效率？

2024-09-06

AI能让大学生摆脱“无意义学习”吗？

2024-09-05

普通人如何抓住AI这个风口?

2024-09-04

AI如何提升“知识付费”的创作和转化效率？

2024-07-31

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯