微信扫码
与创始人交个朋友
我要投稿
硅基流动SiliconCloud平台推出6款加速版DeepSeek-R1蒸馏模型,免费开放8B、7B、1.5B模型,API调用更高效易用。核心内容:1. SiliconCloud平台上线6款DeepSeek-R1蒸馏版模型,性能超越OpenAI o1-mini2. 8B、7B、1.5B模型免费使用,API定价友好3. 一站式大模型云服务平台,为开发者提供更高效易用的AI应用开发体验
docs.siliconflow.cn/api-reference/chat-completions
pip3 install -U openai
输入参数:max_tokens:回答的最大长度(包含思维链输出),最大为 16K。
返回参数:
reasoning_content:思维链内容,与 content 同级。
content:最终回答内容
from openai import OpenAI
url = 'https://api.siliconflow.cn/v1/'
api_key = 'your api_key'
client = OpenAI(
base_url=url,
api_key=api_key
)
# 发送带有流式输出的请求
content = ""
reasoning_content=""
messages = [
{"role": "user", "content": "奥运会的传奇名将有哪些?"}
]
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-R1",
messages=messages,
stream=True, # 启用流式输出
max_tokens=4096
)
# 逐步接收并处理响应
for chunk in response:
if chunk.choices[0].delta.content:
content += chunk.choices[0].delta.content
if chunk.choices[0].delta.reasoning_content:
reasoning_content += chunk.choices[0].delta.reasoning_content
# Round 2
messages.append({"role": "assistant", "content": content})
messages.append({'role': 'user', 'content': "继续"})
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-R1",
messages=messages,
stream=True
)
from openai import OpenAI
url = 'https://api.siliconflow.cn/v1/'
api_key = 'your api_key'
client = OpenAI(
base_url=url,
api_key=api_key
)
# 发送非流式输出的请求
messages = [
{"role": "user", "content": "奥运会的传奇名将有哪些?"}
]
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-R1",
messages=messages,
stream=False,
max_tokens=4096
)
content = response.choices[0].message.content
reasoning_content = response.choices[0].message.reasoning_content
# Round 2
messages.append({"role": "assistant", "content": content})
messages.append({'role': 'user', 'content': "继续"})
response = client.chat.completions.create(
model="deepseek-ai/DeepSeek-R1",
messages=messages,
stream=False
)
API 密钥:请确保使用正确的 API 密钥进行身份验证。
流式输出:流式输出适用于需要逐步接收响应的场景,而非流式输出则适用于一次性获取完整响应的场景。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-02-05
OpenAI发布了ChatGPT新功能Deep Research(深度研究),几分钟内完成人类需要数小时才能完成的工作
2025-02-05
独家:中国大模型中标项目监测与洞察报告(2025年1月)
2025-02-05
OpenAI智能体Operator背后CUA技术解析
2025-02-05
Google AI发布Gemini 2.0 Flash Thinking 模型
2025-02-05
万字长文详解DeepSeek-R1模型工作原理
2025-02-05
从0到1了解DeepSeek
2025-02-05
中国 AI 资产重估叙事
2025-02-04
Sam 和 Ilya 的深层矛盾:有效加速主义 vs. 超级"爱"对齐
2024-08-13
2024-09-23
2024-05-28
2024-06-13
2024-08-21
2024-04-26
2024-08-04
2024-07-09
2024-07-01
2024-09-17
2025-02-04
2025-02-01
2025-02-01
2025-02-01
2025-02-01
2025-01-29
2025-01-24
2025-01-24