AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


本地化打造自己的AI Copilot 笔记系统
发布日期:2024-05-01 06:36:25 浏览次数: 2445 来源:腾哥聊产品


笔记软件应该是大家在工作中用到最多的软件之一。优秀的笔记软件也有很多,萝卜青菜各有所爱,这里做一个小投票,大家可以投一投你最喜欢的笔记软件。
           


AI copilot 笔记,现在比较火的产品是Notion。Notion确实是一个非常优秀的产品,它创新的数据库功能,为笔记软件带来了新的体验。它的AI辅助功能,可以辅助写作。

但是它也有一些缺点:
1、数据没有离线功能,存在数据泄露,数据丢失的风险
万一哪天被墙,或者数据泄露、数据丢失,或者公司倒闭跑路了。
2、网络不稳定,有时页面打开慢
3、AI功能挺贵的,每个月10美元。(这种订阅制的AI产品,单个价格还能接受,但以后每个软件都有AI功能,每个月都来一刀,钱包受不了啊)

今天我要介绍的是一个本地化的免费的AI copilot 笔记方案
Obsidian 是一款免费的笔记软件。主要功能特点有:
1、本地知识管理软件,数据完全保存在本地。
2、支持Markdown语法,可方便在不同笔记软件之间共享、迁移。

3、支持双向链接、关系图谱、标签等笔记索引功能。

4、开放的插件生态,高度可扩展

5、可跨平台同步

Obsidian 比较适合动手能力较强,喜欢折腾的用户。因为大量的高级功能,需要通过插件来实现。所以大家根据自己的情况选择。

接下来我们说如何给Obsidian 加上AI 功能。

前段时间我介绍了用ollama本地化运行llama3的方案。超简单在本地部署Llama3的方案。今天我们也要用到ollama。ollama本地部署后,通过服务提供API接口。(运行 ollama serve即可,默认开机自动启动)

我们通过Obsidian 插件就可以实现AI功能。在Obsidian设置->第三方插件->社区插件市场->浏览:

 搜索copilot:

安装并启用插件。

然后在设置->第三方插件(copilot)中设置以下项:


1、Default Model    ollama(local)

embedding models:本地文档embedding的模型可以选ollama-nomic-embed-text,(当然也可以用openai的)

ollama model:选择你用的大模型

推荐几个不错的:qwen:14b、wizardlm2:7b、llama3:8b

然后保存就可以生效。

注:这里用到的模型,需要先用“ollama pull 模型名称”命令下载


接下来我们来体验一下:点击左侧菜单的copilot chat按纽,右侧会显示copilot面板,在输入框就可以进行提问。

在Mode Selection里有三个选项:

chat是直接和AI对话,就是上面的这种交互方式。

Long note QA是对当前文档进行问答

Vault QA是知识库问答。也就是用前面的embedding对所有的笔记进行索引,然后进行RAG回答。

总体来说,使用下来,体验并不如Notion那么丝滑,但是它也确实是解决了几个Notion的痛点,可以作为平替。





53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询