作者｜沙丘智库研究团队

来源｜沙丘社区（www.shaqiu.cn）

大模型正在从单一模态向多模态发展，多模态成为大模型落地发展的必经之路。

一方面多模态数据无处不在且加速增长，未来用于大模型训练的数据中多模态数据占比将越来越大；另一方面，文本大模型只能理解文本意思并进行文本类的表达，但人类并不是从单模态中进行学习的，恰恰相反，我们会同时结合来自不同类型数据的信息来理解这个世界。

越来越多的基础大模型正在遵循人类学习的路径，基于多种模态数据进行训练，这些额外的模态将有助于大模型更好地理解现实世界，并超越目前所能达到的水平。

当前，已有企业将多模态大模型应用于实际的业务场景，沙丘智库通过研究贝壳找房、喜马拉雅、平安、海尔等企业的多模态大模型实践，旨在为其他企业提供参考。

▎案例1：贝壳找房家装领域大模型实践

家装行业存在家装链条长、用户决策周期长、营销效果图成本高的问题。贝壳找房推出DreamHome大模型，通过AIGC技术，结合空间输入、装修需求描述和参考输入，利用文生图模型、空间控制模型和风格控制模型生成灵感图，重构了全链路流程。

基于DreamHome大模型，贝壳打造了面向B/C两端的家装AIGC产品“设牛”，主要功能包括“拍照生图”、“选户型生图”、“风格模板”、“传参考图生图”和“直连设计师”，成功提升了用户在家装过程中的体验。

完整内容：贝壳找房家装领域大模型实践

▎案例2：喜马拉雅音频创作AI Agent实践

传统音频内容创作的周期非常长，用户对有声内容的需求远大于供给。喜马拉雅建设音频大模型，并基于音频大模型打造音频创作AI Agent，可端到端完成音频创作工作，大幅缩短音频内容的创作周期。

▎案例3：平安基于多模态大模型的智能品控实践

面对医疗健康服务中的客户投诉问题，平安利用多模态大模型技术，自动收集多模态数据，通过统一流程和方案实现全方位、全旅程、高时效、准实时的质量品控。具体措施包括自动总结、语音品控、图文品控，以及覆盖事中提醒、事中服务预警和事后品控抽检的方案设计。

完整内容：海尔智家HomeGPT大模型实践

更多研究：

*更多生成式AI研究可前往“沙丘智库”小程序查阅

*有任何需求可咨询客服微信：zimu738