支持私有化部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


一文读懂英伟达世界模型平台 Cosmos

发布日期:2025-04-06 08:10:50 浏览次数: 1544 作者:科技词话
推荐语

英伟达Cosmos平台:AI领域的新突破,开启物理AI系统的新时代。

核心内容:
1. Cosmos平台的诞生背景与物理AI系统的挑战
2. Cosmos平台的核心组件:世界基础模型与高级标记器
3. 世界基础模型的两大类别:扩散模型与自回归模型的应用与优势

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家


在当今人工智能飞速发展的时代,新的技术和平台如雨后春笋般不断涌现。英伟达作为科技领域的巨头,于 2025 年1月份的CES上重磅推出了 Cosmos 世界基础模型平台,一经亮相便吸引了全球的目光,在人工智能领域掀起了新的波澜。

||  Cosmos 平台的诞生背景

随着人工智能从理论研究逐步走向实际应用,物理 AI 系统,如机器人和自动驾驶汽车等,面临着巨大的发展挑战。训练这些物理 AI 系统需要耗费大量的人力和资源,通常需要收集、标记和分类数百万小时的真实世界影像数据。例如,为了训练一辆能够在复杂路况下安全行驶的自动驾驶汽车,需要收集大量不同场景、不同天气条件下的驾驶视频数据,并对其中的各种元素进行精确标注,这个过程不仅成本高昂,而且耗时费力。

为了解决这些问题,英伟达精心打造了 Cosmos 平台,旨在通过创新的技术手段,降低物理 AI 系统的开发门槛,加速其发展进程,让更多的开发者能够投身于物理 AI 领域的创新与实践。

简单来讲,Cosmos是一个世界模型平台,平台上有一系列开源且开放权重的视频世界模型,参数量在4B至14B之间。这些模型的用途十分清晰,即针对机器人、自动驾驶汽车等在物理世界运作的AI系统,生成海量达到照片级真实效果且基于物理规则的合成数据,从而解决该领域数据极度匮乏的难题。

生成效果如下:

图片

图片

||  Cosmos 平台的核心组件

(一)世界基础模型(World Foundation Models)

这是 Cosmos 平台的核心引擎。这些模型基于先进的深度学习技术,如扩散模型和自回归模型,具备强大的生成能力。

第一类:扩散模型
能够依据文本提示和视频提示生成逼真的视觉仿真。例如,当开发者输入一段描述 “在一个阳光明媚的城市街道上,车辆和行人有序通行” 的文本,扩散模型就可以生成相应的逼真场景视频,适用于 Text2World 的应用场景。又或者输入一段包含部分场景的视频提示,模型能据此生成更完整、连贯的场景,即 Video2World 场景。
第二类:自回归模型
基于视频提示(也可选择配合文本提示)来生成未来的视觉世界。假设输入一段机器人在仓库中当前位置和动作的视频,自回归模型可以预测机器人接下来在该环境中的动作和位置变化,生成未来一段时间内的视觉世界模拟。

这些模型规模庞大,参数数量从 40 亿到 140 亿不等,分为 Nano、Super 和 Ultra 三个类别。Nano 适用于实时、低延迟推理和边缘部署,其参数相对较少,能够在资源有限的边缘设备上快速运行;Super 是 “高性能基线” 模型,可直接用于微调并部署;Ultra 则追求最大的准确性和高质量输出,为提炼定制模型提供最佳的保真知识转移。

(二)高级标记器(Tokenizer)

Cosmos 平台配备了先进的可视化标记器,如 Cosmos Tokenizer。它能够将图像和视频转换成 token,与当前领先的标记器相比,其总压缩率提高了 8 倍,处理速度提高了 12 倍。这一高效的转换过程,使得视频数据能够更快速、高效地被模型处理和理解,极大地提升了数据处理的效率和质量。

(三)护栏(Guardrail)

为了确保平台的安全、可靠运行,遵循道德和法律规范,Cosmos 平台设置了护栏模型。它能够保证模型的使用是 “负责任” 的,防止出现隐私泄露、偏见产生等不良后果,为平台的稳定运行和广泛应用提供了坚实的保障。

(四)加速视频处理管道

借助 NVIDIA NeMo™ Curator 驱动的 NVIDIA AI 和 CUDA® 加速数据处理管线,开发者能够使用 NVIDIA Blackwell 平台在 14 天内处理、整理和标记 2000 万小时的视频,而如果单纯使用 CPU 则需要 3 年以上。这一强大的加速能力,大大缩短了数据处理的时间,让开发者能够更快地从原始数据中提取有价值的信息,加速模型的训练和优化过程。


图片

无法进入请加我微信:TechRider2023

图片


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询