粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
• 完全免费(不需要任何API密钥)
• 完全本地(不需要GPU，任何计算机都可以运行)
• 完全私有(所有东西都在本地运行，使用自定义llm)
• 运行没有LLM硬件(不需要GPU)
• 使用免费的 ChatGPT3.5 / Qwen / Kimi / ZhipuAI（GLM） API
• 自定义LLM(ollama,llama.cpp)支持
• 快速和容易部署与Docker撰写
• Web和移动友好的界面，专为Web搜索增强AI聊天，允许从任何设备轻松访问。
1. 系统在FreeAskInternet UI界面(本地运行)中获取用户输入问题，调用SearXNG搜索(本地运行)在多个搜索引擎上进行搜索。
2. 抓取搜索结果链接内容并传递给ChatGPT3.5 / Kimi / Qwen /知乎ai / ollama(使用自定义llm)，让llm根据该内容作为参考回答用户问题。
3. 将答案流式传输到聊天UI。
4. 支持自定义LLM设置，所以理论上是无限的LLM支持。
官方推荐使用docker
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d 在浏览器输入以下地址：
http://localhost:3000
https://github.com/nashsu/FreeAskInternet
写在最后
此框架的关键在于SearXNG搜索引擎，通过搜索引擎抓取搜索结果，然后使用LLM进行回答响应，整体思路与使用SerpAPI是一样的。
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-03-30
2024-08-13
2024-05-10
2024-05-28
2024-04-26
2024-04-12
2024-04-25
2024-05-06
2024-07-25
2024-05-14
回到顶部