AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Easy-RAG 不只是一个基于知识库搜索增强生成的RAG,还支持AI网络搜索增强生成
发布日期:2024-09-07 07:12:27 浏览次数: 1579


       Easy-RAG是一个检索增强生成(RAG)系统,旨在提供一种简便的方式来学习和使用RAG技术,并支持用户自主扩展系统功能,之前分享过这个博主自己开源的项目RAG搜索增强生成系统,一个精简的版本,适合学习、使用、自主扩展,感谢大家支持目前已有300+star,最近做了一些更新给大家汇报一下,整体开发还是本着简单,清晰和方便二次开发。


项目地址:https://github.com/yuntianhe2014/Easy-RAG


项目特点
   一个适合学习、使用、自主扩展的RAG【检索增强生成】系统,可以联网做AI搜索!



更新历史
    2024/9/04 增加 AI网络搜索 可以联网查询    2024/9/04 优化webui异步调用,提高响应速度    2024/8/21 增加对 Elasticsearch 支持,在config中设置    2024/7/23 参考 meet-libai 项目增加了一个知识图谱的时时提取工具,目前仅是提取,未存储 graph_demo_ui.py    2024/7/11 新增faiss向量数据库支持,目前支持(Chroma\FAISS)    2024/7/10 更新rerank搜索方式    2024/7/09 第一版发布

目前已有的功能
知识库(目前仅支持txt\csv\pdf\md\doc\docx\mp3\mp4\wav\excel\格式数据):
1、知识库的创建(目前仅支持Chroma\Faiss\Elasticsearch) 2、知识库的更新 3、删除知识库中某个文件 4、删除知识库 5、向量化知识库 6、支持音频视频的语音转文本然后向量化 语音转文本 使用的 funasr ,第一次启动时,会从魔塔下载模型,可能会慢一些,之后会自动加载模型
chat
1、支持纯大模型聊天多轮 2、支持知识库问答 ["复杂召回方式", "简单召回方式","rerank"] AI网络搜索 支持网络搜素,大家可以优化 prompt 增加不同 程度的 总结 llm基于ollama可以选择不同模型 注意:联网基于 searxng,需要先本地或者服务启动 这个项目,我用docker 启动的 参考 https://github.com/searxng/searxng-docker
通过使用rerank重新排序来提高检索效率
    本次rerank 使用了bge-reranker-large 模型,需要下载到本地,    然后再 rag/rerank.py中配置路径        模型地址:https://hf-mirror.com/BAAI/bge-reranker-large
后续更新计划
知识库:
    0、支持Milvus,MongoDB等向量数据

chat:
1、添加 语音回答输出 2、增加 问题路由知识库的 功能
安装使用
   Ollma安装,在如下网址选择适合你机器的ollama 安装包,傻瓜式安装即可      https://ollama.com/download  Ollama 安装模型,本次直接安装我们需要的两个 cmd中执行      ollama run qwen2:7b    ollama run mofanke/acge_text_embedding:latest     下载bge-reranker-large 模型然后在 rag/rerank.py中配置路径        https://hf-mirror.com/BAAI/bge-reranker-large      选择你想使用的向量数据库 目前仅支持(Chroma和Faiss)       Config/config.py中配置你想用的 向量数据库    如果选择 Elasticsearch 请先启动 Elasticsearch,我是使用docker 启动的       docker run -p 9200:9200 -e "discovery.type=single-node" -e "xpack.security.enabled=false" -e "xpack.security.http.ssl.enabled=false" docker.elastic.co/elasticsearch/elasticsearch:8.12.1    注意修改 es_url      构造python环境      conda create -n Easy-RAG python=3.10.9    conda activate Easy-RAG      项目开发使用的 python3.10.9  经测试 pyhon3.8以上皆可使用      git clone https://github.com/yuntianhe2014/Easy-RAG.git  安装依赖      pip3 install -r requirements.txt -i  https://mirrors.aliyun.com/pypi/simple     部署依赖联网项目searxng    参考 https://github.com/searxng/searxng-docker  项目启动      python webui.py      知识图谱时时提取工具    python graph_demo_ui.py

知识图谱

哈哈,汇报完毕,大家可以本地测试一下

如果项目对您有用请帮忙点个赞,也欢迎大家关注公众号、进群交流技术

技术咨询,商务合作可以加我

已在我其他群的就不要加这个新群了,我会清理幺^_^

历史回顾:


AI搜索,一个开源可本地部署的Ai搜索引擎,不需要gpu,免费用qwen2.5接口,也可以基于ollama

AI搜索第二弹,国产开源,可以参考【全网】或【学术】回答,拥有简洁、深入、研究三种模式,

VITA:腾讯开源交互式多模态大型语言模型,支持全模态、无障碍交流,可随时打断

llama3.1结合agent,实现大模型对工具的调用,【奥特曼】智能助手的核心调用组件就是他

GraphRAG+Ollama 本地部署,保姆教程,踩坑无数,闭坑大法










53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询