AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


腾讯云TI平台和HAI部署DeepSeek的步骤及其区别

发布日期:2025-02-15 12:05:43 浏览次数: 1535 来源:峰传庄泽峰
推荐语

掌握腾讯云TI和HAI平台的DeepSeek模型部署技巧,提升AI开发效率。

核心内容:
1. 腾讯云TI平台的DeepSeek模型部署全流程
2. HAI平台与TI平台在部署DeepSeek上的差异分析
3. DeepSeek模型选择及其参数配置要点

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家

腾讯云作为国内领先的云服务提供商,提供了TI平台和HAI平台两大工具,帮助开发者轻松部署和使用DeepSeek模型。本文将详细介绍在这两个平台上部署DeepSeek的步骤,并探讨它们的使用区别。



一、腾讯云TI平台部署DeepSeek


腾讯云TI平台是一个综合性的AI开发和管理平台,提供了从数据处理、模型训练到模型部署的全方位服务。以下是在TI平台上部署DeepSeek模型的详细步骤:


1. 注册并登录腾讯云账号。首先,确保你已经注册了腾讯云账号。如果没有,可以通过腾讯云官网进行注册。注册完成后,登录腾讯云控制台。


2. 访问TI平台。在腾讯云控制台中,找到并点击“TI”服务入口。这将带你进入TI平台的首页。


3. 创建项目。在TI平台上,项目是管理AI模型和资源的容器。点击“新建项目”,输入项目名称和描述,然后点击“创建”。


4. 选择模型。在TI平台上,找到并点击“DeepSeek系列模型”卡片。查看DeepSeek模型的详细介绍,包括参数量、激活参数量和上下文窗口等信息。选择适合你需求的模型,例如DeepSeek-r1-distill-qwen-1.5b。


5. 配置部署参数。在模型详情页面,点击“新建在线服务”,跳转至“模型服务 > 在线服务 > 创建服务”页面。按页面提示填写配置信息:


- 服务名称:输入自定义的服务名称,例如“demo-deepseek-r1-distill-qwen-1_5b”。

- 机器来源:支持“从cvm机器中选择”和“从tione平台购买”两种模式。本例采用“从tione平台购买-按量计费”。



- 部署方式:选择“标准部署”。

- 模型来源:选择“镜像”类型。

- 模型和运行环境:选择“内置大模型/deepseek系列模型/deepseek-r1-distill-qwen-1.5b”。

- 算力规格:选择单张中端GPU卡,推理资源配置建议详见大模型推理所需资源指南。


6. 授权并启动服务。配置完成后,授权并同意《腾讯云TI-one训练平台服务协议》,然后单击底部的“启动服务”按钮,正式发起服务部署。


7. 体验模型效果。服务部署完成后,在“模型服务 > 在线服务”页面的列表中,其状态将显示为“运行中”。单击列表中的在线体验,进入模型快速体验页面。通过前端页面直接提问,体验模型效果。


8. 调用API。在模型服务详情页面,找到并记录API的Endpoint(即API的URL)和Access Token(如果需要身份验证)。使用HTTP客户端(如curl、Postman或其他编程语言的HTTP库)来构建请求,发送请求到API Endpoint,等待服务器响应,并处理返回的结果。



二、腾讯云HAI平台部署DeepSeek


腾讯云HAI平台专注于简化AI模型的部署过程,提供一键部署和快速接入的功能。以下是在HAI平台上部署DeepSeek模型的详细步骤:


1. 注册并登录腾讯云账号。与TI平台相同,首先确保你已经注册了腾讯云账号并登录腾讯云控制台。


2. 访问HAI平台。在腾讯云控制台中,找到并点击“HAI”服务入口。这将带你进入HAI平台的首页。


3. 创建项目在HAI平台上,创建一个新的项目。项目是管理AI模型和资源的容器。输入项目名称和描述,然后点击“创建”。


4. 选择模型。在HAI平台上,浏览可用的模型列表,找到DeepSeek-R1模型。选择DeepSeek-R1模型并点击“部署”。



5. 配置部署参数。在部署页面,根据提示配置部署参数:

- 模型名称:输入自定义的模型名称

- 资源规格:选择合适的GPU数量和内存大小。

- 网络配置:选择合适的网络配置,确保模型能够正常通信。

- 计费模式:选择按量计费或包年包月。


6. 提交部署。完成配置后,提交部署请求。HAI平台会自动处理模型的部署过程。


7. 体验模型效果。部署完成后,可以在HAI平台上找到模型的API接口。使用API接口进行调用,进行推理或交互。调用API。在HAI平台上,找到并记录API的Endpoint和Access Token。使用HTTP客户端构建请求,发送请求到API Endpoint,等待服务器响应,并处理返回的结果。




三、TI平台和HAI平台的使用区别


- TI平台:TI是一个综合性的AI开发和管理平台,覆盖从数据处理、模型训练、模型部署到推理服务的整个AI开发生命周期。它提供了更多的自定义选项和高级功能,适合需要进行深度定制和优化的项目。


TI平台,部署时需要详细配置模型参数、资源规格、网络设置等。步骤较多,但提供了更高的灵活性和控制权。


TI平台,更适合有丰富经验和专业技能的开发者和企业,适用于需要深度定制和优化的大型项目。


- HAI平台:HAI专注于简化AI模型的部署过程,提供一键部署和快速接入的功能。它设计更加简单直观,适合快速开发和部署AI应用。


HAI平台,提供一键部署功能,简化了部署流程。大部分配置和部署过程由平台自动处理,适合快速上线和调用模型。


HAI平台,更适合初学者和中小型企业,提供了更简单的操作界面和更快的部署速度,适合需要快速开发和上线AI应用的项目。


总之,腾讯云TI和HAI平台各有优势,开发者可以根据项目的具体需求和团队的技术能力来选择合适的平台。TI平台适合需要深度定制和优化的大型项目,而HAI平台则适合需要快速开发和部署的中小型项目。无论选择哪个平台,腾讯云都提供了强大的支持和丰富的功能,帮助开发者轻松部署和使用DeepSeek模型,提升AI应用的开发效率和应用效果。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

 
扫码咨询