我要投稿

腾讯AI Lab技术报告：一种以10亿人物角色驱动的新颖数据构造方法

发布日期：2024-07-01 19:22:27 浏览次数： 2171 来源：PaperAgent

大规模创建合成数据并非易事，尤其是确保数据的多样性。以往的研究尝试通过实例驱动或关键点驱动的方法来增加数据的多样性，但这些方法在可扩展性上存在限制。

推荐为了解决这些问题，提出了一种新颖的人物角色（Personas）驱动的数据合成方法，利用大型语言模型（LLM）中的多种视角来创建多样化的合成数据。

人物角色可以与广泛的数据合成提示（例如，创建一个数学问题或用户提示）一起工作，以指导大型语言模型（LLM）合成具有相应视角的数据。人物角色中心中的10亿个人物角色可以促进在十亿规模上为各种数据合成场景创建合成数据。

“人物角色库”（Persona Hub）：一个从网络数据自动策划的包含10亿个不同人格的集合。这些人格作为世界知识的分布式载体，可以深入LLM中的几乎所有视角，从而促进大规模创建多样化的合成数据。角色库采用了两种可扩展的方法：Text-to-Persona和Persona-to-Persona。

Text-to-Persona方法通过特定的文本推断出可能阅读、写作或喜欢该文本的特定人格。

文本到人物角色的方法：它可以使用任何文本作为输入，只需通过提示大型语言模型“谁可能[阅读|写作|喜欢|不喜欢|...这个文本？]”，就可以获得相应的角色。

Persona-to-Persona方法则是从已有的人格中衍生出具有人际关系的其他人格。

角色到角色方法：通过人际关系获取多样化的角色，这可以通过向大型语言模型提问“谁是与给定角色有密切关系的人？”来轻松实现。

通过“人物角色库”合成高质量数学和逻辑推理问题、指令（即用户提示）、知识丰富的文本、游戏NPC和工具（功能）的用例。

人格驱动的合成数据创建：零样本、少样本和增强型少样本提示方法

工具（函数）调用类型数据

使用人物角色库创建工具（函数）的示例

知识丰富的文本类型数据

使用人物角色库进行知识丰富纯文本合成的示例

逻辑推理类型数据

人物角色驱动方法论创建的逻辑推理问题

游戏NPC类型数据

在《魔兽世界》游戏中使用人物角色中的角色来创建非玩家角色（NPC）

在《天涯明月刀》游戏中使用人物角色中的角色来创建非玩家角色（NPC）

https://arxiv.org/pdf/2406.20094Scaling Synthetic Data Creation with 1,000,000,000 Personashttps://github.com/tencent-ailab/persona-hubhttps://huggingface.co/datasets/proj-persona/PersonaHub。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

一文带你了解大模型——智能体（Agent）

2024-05-28

全面对比dify、coze、streamlit、chainlit

2024-04-26

“大数据+”医疗

2024-04-11

Cursor 一个真正让程序员产生危机感的 AI 编程工具

2024-08-21

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

Claude中国官网正式上线！1:1还原官网，非套壳，国内直连

2024-07-18

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

哈工大“风筝”航天知识大模型开放测试

2024-10-25

一文读懂大模型推理必备技术：KV Cache

2024-07-01

Prompt提示词如何写才能发挥大语言模型LLM的最大潜力

2024-06-17

大家都在问

工业大模型落地加速，哪些场景将率先获益？

2024-11-14

AI 2.0时代，谁是未来的“掘金者”和“卖铲人”？

2024-11-08

如何泛化AI的深度推理能力？

2024-11-07

为了在AI时代做好“个人助理”，vivo做了哪些努力？

2024-11-05

什么是AI“世界模型”？为何如此重要？

2024-11-04

黑掉大模型？恶意 Prompt 攻击成无解之谜？

2024-11-01

AIGC：从‘金鱼记忆‘到‘过目不忘‘，实例解密大模型是如何记住对话的上下文的？

2024-10-31

AI时代，哪种人更被需要？

2024-10-30

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制