微信扫码
与创始人交个朋友
我要投稿
“英伟达版树莓派”这波良心了,性能涨70%,降价50%。
老黄召开厨房发布会,从烤箱里端出这台“掌心AI超算”。
△怎么不穿皮衣了
新版Jetson Orin Nano开发版套件,算力从40 TOPS涨到67 TOPS(INT8),内存带宽增加50%,达到102GB/s,功耗仅25瓦。
价格却降了50%,从$499降到$249(约人民币1800元)。
67 TOPS什么概念?
比目前英特尔、AMD或高通AI PC中的大部分NPU都快
能跑主流的7B、8B大模型量化版,如阿里Qwen,Llama等
最高支持4个摄像头,也能跑8B的视觉语言模型和ViT模型
英伟达称这是“最实惠的生成式AI超级计算机”。
无论是用来创建基于RAG的聊天机器人、视觉AI Agent,还是部署基于AI的机器人,都是理想的解决方案。
开发套件包括一个Jetson Orin Nano 8GB系统级模块(SoM)和一个参考载板,可用于边缘AI应用的原型设计,功耗最高25w。
采用6核Arm CPU和NVIDIA Ampere架构GPU,GPU配备1024个CUDA核心和32个张量核心,支持多个并发AI应用管道和高性能推理。它最多可以支持4个摄像头,提供比以前版本更高的分辨率和帧率。
The Register估计在运行4位量化版Llama 3.1 8B模型时,能达到约18-20 tokens/s的速度。
Jetson支持一系列英伟达AI软件,包括用于机器人的NVIDIA ISAAC、用于视觉AI的NVIDIA Metropolis 和用于传感器处理的NVIDIA Holoscan。
另外可以使用NVIDIA Omniverse Replicator生成合成数据,并使用NVIDIA TAO工具包微调预训练模型,可以缩短开发时间。
老黄称这个系列为一种全新的处理器——机器人处理器。
推出第一代产品时,没人理解英伟达在做什么
到现在,它已经支持了各种机器人,带轮子的、两条腿的、三条腿的。
额外的好消息是,新推出的软件更新,也将为买过旧版开发套件的用户带来生成式AI性能提升。
有网友表示,黄仁勋就是新的圣诞老人。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-12-21
台前调度是未来XR、AI工作流的重要交互方式
2024-12-21
NVIDIA全栈AI战略:从GPU到AI工作流的演进
2024-12-21
深度|AI 的下个十年,藏不住了!
2024-12-20
突破科技界限:OPPO 与 Azure 携手塑造智能手机新体验|智有可为
2024-12-20
Nvidia 的 CUDA 护城河到底有多深?
2024-12-20
9.3K Star 全能电脑AI助手!ScreenPipe:离线版 Rewind.ai,智能记录你的电脑活动
2024-12-20
火山引擎与FoloToy,乐鑫等企业联合发布 AI + 硬件智跃计划
2024-12-18
NVIDIA 推出高性价比的生成式 AI 超级计算机
2024-03-30
2024-05-09
2024-07-07
2024-07-23
2024-07-01
2024-06-24
2024-06-08
2024-06-05
2024-06-21
2024-07-11
2024-12-20
2024-12-15
2024-11-12
2024-11-11
2024-10-29
2024-10-22
2024-10-18
2024-10-16