粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
• 完全免费(不需要任何API密钥)
• 完全本地(不需要GPU，任何计算机都可以运行)
• 完全私有(所有东西都在本地运行，使用自定义llm)
• 运行没有LLM硬件(不需要GPU)
• 使用免费的 ChatGPT3.5 / Qwen / Kimi / ZhipuAI（GLM） API
• 自定义LLM(ollama,llama.cpp)支持
• 快速和容易部署与Docker撰写
• Web和移动友好的界面，专为Web搜索增强AI聊天，允许从任何设备轻松访问。
1. 系统在FreeAskInternet UI界面(本地运行)中获取用户输入问题，调用SearXNG搜索(本地运行)在多个搜索引擎上进行搜索。
2. 抓取搜索结果链接内容并传递给ChatGPT3.5 / Kimi / Qwen /知乎ai / ollama(使用自定义llm)，让llm根据该内容作为参考回答用户问题。
3. 将答案流式传输到聊天UI。
4. 支持自定义LLM设置，所以理论上是无限的LLM支持。
官方推荐使用docker
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d 在浏览器输入以下地址：
http://localhost:3000
https://github.com/nashsu/FreeAskInternet
写在最后
此框架的关键在于SearXNG搜索引擎，通过搜索引擎抓取搜索结果，然后使用LLM进行回答响应，整体思路与使用SerpAPI是一样的。
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-08-18
当产品经理谈到用LLM Agent构建新一代智能体的时候，他们在说什么？
2024-08-15
对话AI教育从业者们：AI如何解决因材施教的难题？
2024-08-03
工业应用中的向量数据库与知识向量化存储方案
2024-07-25
两大深度学习框架TensorFlow与PyTorch对比
2024-07-17
让生成式 AI 触手可及：NVIDIA NIM on VKE 部署实践
2024-07-16
中文大模型基准测评2024上半年报告
2024-07-16
一文看懂人工智能的起源、发展、三次浪潮与未来趋势
2024-07-14
"自拍" 秒变 "证件照" 看Coze如何实现
2024-05-14
2024-04-26
2024-05-22
2024-04-12
2024-07-18
2024-03-30
2024-05-10
2024-08-13
2024-04-25
2024-04-26
回到顶部