AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Docker仅需3步搭建免费私有化的AI搜索引擎-FreeAskInternet !
发布日期:2024-04-12 21:32:19 浏览次数: 2245 来源:AI研习所


简介

FreeAskInternet 是一个完全免费、私有且本地运行的搜索引擎,并使用 LLM 生成答案,无需 GPU。用户可以提出问题,系统会进行多引擎搜索,并将搜索结果合并到ChatGPT3.5 LLM中,并根据搜索结果生成答案。

什么是 FreeAskInternet

FreeAskInternet 是一个完全免费、私有且本地运行的搜索聚合器,并使用 LLM 生成答案,无需 GPU。用户可以提出问题,系统将使用searxng进行多引擎搜索,并将搜索结果合并到ChatGPT3.5 LLM中,并根据搜索结果生成答案。所有进程都在本地运行,不需要 GPU 或 OpenAI 或 Google API 密钥。

项目地址

https://github.com/nashsu/FreeAskInternet?tab=readme-ov-file

特点

  • ?️完全免费(不需要任何API密钥)
  • ? 完全本地化(无需GPU,任何计算机都可以运行)
  • ?完全私有(所有东西都在本地运行)
  • ? 无需 LLM 硬件即可运行(无需 GPU!)
  • ? 使用免费的 ChatGPT3.5 API(无需 API 密钥!感谢 OpenAI)
  • ? 使用 Docker Compose 快速轻松地部署
  • ? Web 和移动设备友好的界面,允许从任何设备轻松访问(Thx ChatGPT-Next-Web)

展示

我们可以看到,除了根据搜索内容配合AI总结返回内容外,还可以同时搜索图片,和视频,体验是非常不错的。

运行原理

  1. 系统在ChatGPT-Next-Web(本地运行)中获取用户输入的问题,并调用searxng(本地运行)在多个搜索引擎上进行搜索。
  2. 抓取搜索结果链接内容并传递给ChatGPT3.5(使用OpenAI ChatGPT3.5,通过本地运行的FreeGPT35),让ChatGPT3.5根据此内容作为参考回答用户问题。
  3. 将答案流式传输至 ChatGPT-Next-Web 聊天 UI。

安装

需要你的服务器有docker环境。
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
? 您现在应该能够在http://localhost:3000上打开 Web 界面。

更新

cd ./FreeAskInternet
git pull
docker compose rm backend
docker image rm nashsu/free_ask_internet
docker-compose up -d


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询