微信扫码
与创始人交个朋友
更新接口 /chat/completions
新增接口 /completions
FIM 补全(Beta)
要使用 JSON Output 功能,需要:
设置response_format 参数为 {'type': 'json_object'}
用户需要在提示词中,指导模型输出 JSON 的格式,来确保输出格式符合预期
合理设置 max_tokens
,防止 JSON 字符串被中途截断
2. Function Calling,连接物理世界
要使用对话前缀续写功能,需要:
设置 base_url 为
https://api.deepseek.com/beta 来开启 Beta 功能
以下为对话前缀续写功能的使用样例。在这个例子里,设置了 assistant 消息开头为 '```python\n',以强制其以代码块开始,并设置 stop 参数为 '```',让模型不输出多余的内容。
要提高到 8K 最长输出,需要:
设置 base_url 为
https://api.deepseek.com/beta 来开启 Beta 功能
max_tokens 默认为 4096。开启 Beta 功能后,max_tokens 最大可设置为 8192
新增接口 /completions
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-09-16
o1模型的技术分析(2):内部实现的更多信息
2024-09-16
基于MinerU的PDF解析API,支持一键启动
2024-09-16
OpenAI o1: 合成数据与推理搜索
2024-09-16
OpenAI发布最强o1大模型!让大模型真正具备了复杂推理能力?
2024-09-16
o1模型的逆向工程:架构解析
2024-09-16
深挖 OpenAI o1 :独立思考,智商超群,思维隐藏,一石三鸟...
2024-09-15
不要沉迷大模型的技术与理论,学习大模型的方法——从做一个小应用开始
2024-09-15
甲骨文创始人Larry Ellison对大模型趋势的判断
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-05-09
2023-07-01
2024-07-07
2024-07-25
2024-09-16
2024-09-15
2024-09-14
2024-09-14
2024-09-14
2024-09-14
2024-09-14
2024-09-14