我要投稿

百模大战中的网络：科大讯飞万卡级智算集群

发布日期：2024-11-11 20:08:22 浏览次数： 1797 来源：云深知网络

做 AI 加速芯片难

在中国做 AI 加速芯片更难

破床上台后做 AI 加速芯片难上加难

因此国产方案打底的 iflytek 大模型实属不易

科大讯飞在年初时提到

2024 年大模型目标1亿软件用户

智能涌现需要的

大模型参数规模越来越大

科大讯飞已经迈过第一道门槛

一万困难户，十万刚起步，百万才算富

Meta 超越 xAI 计划打造全球最大 GPU 集群

预训练阶段在大规模

未标注数据集上进行自监督学习

因此对于模型的训练效果有着重要的影响

张量平行和数据并行产生流量大对互联要求高

实战结论

模型预训练对延时不敏感

业界目前单轨与多轨都有应用

更重要取决于卡以及对网络的驾驭能力

静态路径绑定

似乎是前期不得已而为之

下一代一体化调度才能提高利用率

从万卡走向更大规模

从芯片到拓扑再到网络协议都需要优化

首先随着带宽的增加

网络接口从400G/800G到1.6T

网络耗电大户光模块实现需要重点关注

其实是网络架构的选择

Dragonfly 等组网模式叫好不叫座

究其原因还是本身的复杂度和管理问题

备查

Meta 依然沿用 CLOS 表明

经过长期考验的 DCN 架构值得信赖

Meta 公开基于 RoCE 技术的 24 K GPU 集群！

备查

关于智算系统与通信方法，某司申请重要专利

大模型训练是个系统工程

尤其是在一个特殊的加速卡平台上

因此愈发显得科大讯飞的经验弥足珍贵

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-03-09

大模型与智能体的探索与应用

2025-03-09

深度理解Manus AI Agent

2025-03-09

Claude3.7 的九阳神功:SVG 绘制

2025-03-09

程序员集体失业？Claude 3.7深夜突袭，AI编程的天花板又被捅破了！

2025-03-09

深入浅出理解MCP：从技术原理到实战落地

2025-03-09

前端开发“黑科技”：Cursor + MCP 联动Figma【附实操】

2025-03-08

大模型的未来，是 Agent 还是 App？

2025-03-08

通用Agent未来形态什么样？

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

16个具有“联网搜索”功能的AI：总有一个适合你！

2024-06-13

OpenAI o1与GPT4o的对比分析

2024-09-23

Cursor 一个真正让程序员产生危机感的 AI 编程工具

2024-08-21

一文带你了解大模型——智能体（Agent）

2024-05-28

大模型｜“上下文长度”和“上下文窗口”不再傻傻分不清楚！

2024-07-31

50+个AI大模型在不同领域的应用案例

2024-08-04

全面对比dify、coze、streamlit、chainlit

2024-04-26

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

一文读懂OpenAI新发布o1系列大模型

2024-09-17

大家都在问

大模型的未来，是 Agent 还是 App？

2025-03-08

通用Agent未来形态什么样？

2025-03-08

Manus引爆AI Agent热潮：企业如何在这场科技革命中不掉队？

2025-03-07

一夜刷爆全网的Manus，说是比DeepSeek还牛B？

2025-03-07

DeepSeek-R1后，大模型为何集体‘死磕’思维链？

2025-03-05

CIO 集体焦虑的“AI 信任危机”，DeepSeek 如何突破落地难题？

2025-03-05

大白话说清楚到底什么是DeepSeek MOE架构？

2025-03-05

Cursor 0.46 迎来开挂级更新！MCP 会让 AI 代码全流程自动化？

2025-03-04

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB