微信扫码
与创始人交个朋友
我要投稿
新一代 AI 基础设施 AIOS 平台
中国 AI 企业级市场则面临更多挑战。
算力层:与国外以英伟达为主的AI算力不同,中国市场呈现多架构多品牌的AI算力格局。企业不仅仍旧面临算力稀缺,如果各异构算力之间无法互通,还会形成硬件算力竖井。
运营层:“百模大战”迅速走向推理应用,亟待在解耦算力竖井和模型竖井的基础上,实现跨平台的计量计费,迅速提升企业 AI 普及率。
“AI 任务的多样性要求不同的模型处理,数据的多样性要求多模态能力,算力的异构性要求分布式多架构并行,模型的不断演进要求企业灵活更迭新的AI模型……面对企业AI的复杂与困境,亟待能够破局的新一代AI基础设施。”
云轴科技ZStack创始人兼CEO张鑫认为,“一个能够同时解耦算力竖井和模型竖井、全域感知动态调度、实现自服务运营的新一代AI基础设施AIOS平台,成为提升企业AI渗透率的关键一环。”
算力层:从运维视角,以AI为核心进行算力资源预测、精分、调度,降低AI应用成本;
模型层:从开发视角,以AI应用框架进行AI训推模型无缝集成与生命周期管理,优化AI应用性能;
运营层:从业务视角,提供多智算中心、多集群、多租户的按量计费运营,实现AI自服务化。
8 月 6 日,云轴科技 ZStack 正式发布首个 AIOS 平台“智塔“,期望通过同时解耦算力竖井和模型竖井,优化AI应用性能和成本,解锁千亿级企业AI市场。
算力层:ZStack AIOS 平台“智塔“的算力精分调度平台,支持 NVIDIA、AMD、Intel、海光、华为昇腾、寒武纪、燧原、天数智芯、太初元碁、壁仞、摩尔线程、沐曦等中国市场上的主流品牌和几十种 AI 芯片型号,实现异构算力协同不同AI 模型之间的优化路由。
模型层:ZStack AIOS 平台”智塔”的动态模型自适应平台,可以支持生成式AI(GenAI)、自然语言处理 (NLP)、计算机视觉、机器学习(ML)、深度学习(DL)以及多模态AI,并支持Llama、Gemma、通义千问Qwen、智谱ChatGLM、百川Baichuan、零一万物Yi、OLMo、GPT-NeoX等数百种开源大模型,实现模型压缩与性能优化,模型选型与生命周期管理,训推高效部署与自适应调度,达到跨软硬件的全面性能优化。
运营层:ZStack AIOS 平台”智塔”的全域感知自服务平台,可以进行多租户隔离和动态资源配额管理,实现跨智算中心、跨集群的全域感知统一调度,提供按量计费的动态训推服务,具备可视化统一门户,弹性跨域容错,实现精细化的自服务运营体系。
算力层:提升异构算力效率,破局算力稀缺难题
模型层:多模型框架集成,MaaS服务灵活高效
运营层:全域感知自服务化,提升企业 AI 渗透率
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-09-21
从 Data 到 Data + AI,必然之路还是盲目跟风?
2024-09-21
OpenAI 将 o1 AI 模型扩展到企业和教育领域,与 Anthropic 直接竞争
2024-09-20
超越传统仪表盘,对话式BI让数据洞察更智能
2024-09-20
GenAI赋能下的对话式BI:数据洞察的未来
2024-09-20
如何使用GPT创建AI Agents?
2024-09-20
AIGCDesign 开放式跨端 AI 组件解决方案
2024-09-20
专访瓴羊CEO朋新宇:AI时代做产品,要从场景解构开始|甲子光年
2024-09-20
周鸿祎的“慢思考”先见,领先OpenAI两个月,大模型联盟显威力
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-07-09
2024-05-09
2023-07-01
2024-07-25
2024-09-21
2024-09-20
2024-09-20
2024-09-20
2024-09-20
2024-09-20
2024-09-20
2024-09-20