AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


NVIDIA 与思科携手打造生成式 AI 基础设施
发布日期:2024-06-14 04:57:02 浏览次数: 1937 来源:NVIDIA英伟达企业解决方案


由 NVIDIA 加速计算平台、NVIDIA AI Enterprise 软件和 NVIDIA NIM 推理微服务加持的思科 Nexus HyperFabric AI 集群解决方案在 Cisco Live 上首次亮相。



大规模构建和部署 AI 应用程序需要一种新型计算基础设施,此基础设施能够提供生成式 AI 模型所需的海量数据、算力和网络带宽。


为了更好地确保这些模型以最佳、高效的方式运行,NVIDIA 正在与思科合作,打造企业级生成式 AI 基础设施。


思科与 NVIDIA 合作开发的全新 Nexus HyperFabric AI 集群解决方案为企业提供了实现生成式 AI 的途径。思科 HyperFabric 是一款企业级端到端基础设施解决方案,并可支持生成式 AI 工作负载。它将 NVIDIA 加速计算和 AI 软件与思科 AI 原生网络和强大的 VAST 数据平台相结合。


思科网络数据中心和提供商连接高级副总裁兼总经理 Kevin Wollenweber 表示:“企业应用程序正在向生成式 AI 应用程序转型,随之而来的是大幅增加的数据处理要求和整体基础设施的复杂性。思科与 NVIDIA 正在携手推进 HyperFabric,为全球企业带来生成式 AI,使其能够将自己的数据和领域专长转化为生产力和洞察。”


助力企业级 AI 集群解决方案


该解决方案的基础是 NVIDIA Tensor Core GPU,它提供了处理海量数据集所需的加速计算。该解决方案所采用的 NVIDIA AI Enterprise 云原生软件平台可作为企业 AI 操作系统。NVIDIA AI Enterprise 简化了生产级 AI copilot 和其他生成式 AI 应用程序的开发和部署,确保了优化的性能、安全性和应用编程接口的稳定性。


包含在 NVIDIA AI Enterprise 中的 NVIDIA NIM 推理微服务能够在加速基础模型部署的同时确保数据安全。NIM 微服务旨在弥合复杂的 AI 开发与企业运营需求之间的差距。随着各行各业的企业纷纷开始使用 AI,NVIDIA NIM 与思科 Nexus HyperFabric AI 集群的结合,将能够支持从构思到开发和部署生产级 AI 应用程序的全过程。


思科 Nexus HyperFabric AI 集群解决方案集成了 NVIDIA Tensor Core GPU 以及 NVIDIA BlueField-3 SuperNIC 和 DPU,以增强系统性能和安全性。SuperNIC 提供先进的网络功能,确保基础设施的无缝高速连接。BlueField-3 DPU 能够卸载、加速和隔离基础设施服务,从而创建更高效的 AI 解决方案。


BlueField-3 DPU 还可以运行思科 Hypershield 解决方案等安全服务,该解决方案支持 AI 原生、超分布式安全架构,让安全性更接近需要保护的工作负载。作为两家公司的又一项重要合作成果,思科 Hypershield 更侧重于创建由 AI 驱动的安全解决方案。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询