AI 应用开发不要在大模型迭代必经之路上

推荐语

AI创业的新思考：如何避免在大模型迭代中陷入高成本陷阱。

核心内容：
1. 大模型迭代的高成本与边际效益递减
2. 商业落地的现实挑战与悖论
3. 聚焦场景的轻量化开发与混合架构部署

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

昨天和投资人交流过程中，想到这了一个话题，大模型迭代速度太夸了，创业者是无法跟进速度的，这些太烧钱了，对于AI 领域创业者来说，就是要把大模型迭代的必经之路功能要过滤掉，要不然AI 创业者就会很痛苦，这点上我们从一开始就考虑的很清楚。

1、技术迭代的边际效益递减

在大模型的发展历程中，技术迭代的边际效益递减问题日益凸显。一方面，算力成本呈现出指数级增长的态势。据报道，GPT-4 的训练成本超过 1 亿美元，这一数字对于大多数中小开发者来说，无疑是天文数字，使得他们在大模型的赛道上望而却步。如此高昂的算力成本，不仅限制了大模型技术的普及，也使得企业在投入研发时面临着巨大的经济压力。

另一方面，数据污染风险加剧，成为大模型发展的又一阻碍。随着 AI 技术的广泛应用，互联网公开数据中 AI 生成内容的占比已达 32%。这些 AI 生成的数据，质量参差不齐，容易对大模型的训练数据造成污染，进而影响模型的准确性和可靠性。

想象一下，一个基于被污染数据训练的大模型，就如同在沙滩上建高楼，根基不稳，随时可能崩塌。

在衡量模型能力的 MMLU 基准测试中，模型准确率从 GPT-3 的 70.0% 提升到 GPT-4 的 86.4%，虽然有一定的进步，但增速明显放缓。

当然这表明，大模型在当前的技术框架下，想要实现质的飞跃变得愈发困难，技术发展似乎陷入了瓶颈。

2、商业落地的现实悖论

我看过一些头部云厂商数据显示，82% 的企业大模型项目停留在 PoC（概念验证）阶段，难以真正投入实际应用。企业在投入大量资源进行大模型项目研发后，却无法获得预期的商业回报，这无疑是对企业资源的巨大浪费。

以数字人直播为例，我们看过某品牌投入 200 万开发数字人主播，本期望能在直播领域取得突破，降低人力成本，提高直播效率。但是，实际转化率仅为真人直播的 15%，结果不尽如人意。

数字人主播虽然在理论上具有 24 小时不间断直播、成本相对较低等优势，但在实际应用中，却无法像真人主播那样与观众建立情感连接，缺乏真实感和亲和力，导致观众的购买意愿不高。

同时开源的数字人系统迭代的速度非常快，远比很多 AI 创业者自己开发的数字人要快得多。

针对这一领域，开发者调研结果显示，67% 的开发者认为数字人大模型更新速度已超出业务适配能力。

所以我们给一些新的 AI 领域创业者的建议是绕过 "大模型依赖症"

需要聚焦场景的轻量化应用开发，这种开发方式强调根据具体场景的需求，对模型进行针对性的优化和创新，以实现更高的效率和更好的性能。它摒弃了追求大而全的大模型模式，转而注重模型在特定场景下的精准应用，从而降低开发成本，提高应用的实用性。

除了场景聚焦的轻量化开发，混合架构的灵活部署也是 AI 应用开发的重要创新路径。这种部署方式结合了大模型和小模型的优势，根据不同的业务需求和场景，灵活选择模型的部署方式，从而实现资源的优化配置和应用性能的提升。

我们也有一些对技术选型的建议，这是一个 "三不原则"，以降低技术风险，提高应用的稳定性和可持续性。

这 "三不原则" 分别是：不盲目追求参数规模、不依赖单一云服务、不忽视传统技术。

不盲目追求参数规模：在大模型的发展浪潮中，很多人认为参数规模越大，模型的性能就越强。然而，事实并非总是如此。以某 10B 参数模型为例，在特定的数学推理场景中，其准确率达到了 93.03%，大幅超越了 GPT-4。

这表明，模型的性能不仅仅取决于参数规模，还与模型的架构、训练数据和算法等因素密切相关。开发者在选择模型时，应根据具体的应用场景和需求，综合考虑各种因素，选择最适合的模型，而不是盲目追求参数规模。盲目追求大参数模型，不仅会增加开发成本和计算资源的消耗，还可能导致模型的泛化能力下降，无法在实际应用中发挥出最佳性能。

回归应用本质的 AI 开发哲学

大模型的发展无疑推动了 AI 技术的进步，但当我们陷入 "更大参数、更多数据" 的军备竞赛时，往往容易忽略真正的创新源于对场景的深刻理解和技术的务实应用。

AI 应用开发的未来，属于那些既能把握技术趋势，又能扎根行业痛点的 "场景深耕者"。摆脱对大模型的过度依赖，回归应用本质，以创新为驱动，为 AI 技术的发展注入新的活力，才是根本！。