微信扫码
与创始人交个朋友
我要投稿
Gradio github:https://github.com/gradio-app/gradio
1. curl -fsSL https://ollama.com/install.sh | sh
2. ollama pull llama3.1:8b
如果想了解详细的安装过程,请看此篇:
source ~/miniconda3/bin/activate
3.12 =
完成后继续以下指令,在虚拟环境中安装Gradio 。
conda activate charbot_1
pip install gradio
import requests
import json
import gradio as gr
url = "http://localhost:11434/api/generate"
headers = {
'Content-Type': 'application/json'
}
conversation_history = []
def generate_response(prompt):
conversation_history.append(prompt)
full_prompt = "\n".join(conversation_history)
data = {
"model": "llama3.1:8b",
"stream": False,
"prompt": full_prompt
}
response = requests.post(url, headers=headers, data=json.dumps(data))
if response.status_code == 200:
response_txt = response.text
data = json.loads(response_txt)
actual_response = data["response"]
conversation_history.append(actual_response)
return actual_response
else:
print("Error:", response.status_code, response.text)
iface = gr.Interface(
fn=generate_response,
inputs=["text"],
outputs=["text"]
)
if __name__ == "__main__":
iface.launch()
1. 先运行 ollama 把模型启动,在终端中运行
ollama run llama3.1:8B
2. 另开一个终端,进入python虚拟环境运行 charbot_1
python3 charbot_1
3. 在浏览器中打开
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-10-30
昨晚,小米在发布会上这样玩 AI
2024-10-30
苹果 AI 完全体好用吗?我们用一台港版 iPhone 体验到了
2024-10-30
一文记录Apple Intelligence从开始到设置全过程!
2024-10-30
树莓派GPU:开启无限可能的计算引擎
2024-10-30
Granola:重新定义AI会议笔记,硅谷VC们都爱用
2024-10-30
智谱 AutoGLM自主操控手机电脑,内附官方演示和申请通道!
2024-10-29
人工智能的未来:智谱的AutoGLM引领手机操作新潮流
2024-10-29
豆包大模型为OPPO Find X8注入新活力,用户体验更上一层楼
2024-03-30
2024-05-09
2024-07-07
2024-07-01
2024-06-24
2024-06-08
2024-07-23
2024-06-05
2024-07-11
2024-06-21
2024-10-29
2024-10-22
2024-10-18
2024-10-16
2024-10-15
2024-10-10
2024-10-06
2024-10-01