AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


使用情感勒索Prompt让大模型减少幻觉
发布日期:2024-08-15 10:33:42 浏览次数: 1844 来源:极客开源


有人发现对大模型使用情感勒索能减少幻觉,在ChatGPT使用后效果有明显提升,Prompt 类似:如果你没有做到 xxx 你将被解雇”。
这是怎么发现的呢?OpenAI正在ChatGPT的Mac客户端进行一项新功能测试,该功能允许用户通过对话直接触发屏幕共享请求,而无需手动点击屏幕共享按钮。这一创新对于开发基于自然语言交互的界面具有重要参考价值,因为它使得用户可以通过打字或语音发出指令,从而简化了操作过程。

要实现这一功能,ChatGPT客户端采用了简单的原理:在提示词中告知大型语言模型,一旦检测到用户有共享屏幕的需求,就在回复中包含特定的关键词“SHARE_YOUR_SCREEN_PLEASE”。Mac客户端程序会监控LLM的输出,一旦发现包含该关键词,便会触发屏幕共享界面。

为确保LLM不会遗漏输出“SHARE_YOUR_SCREEN_PLEASE”,开发者采取了一种幽默的方式对其进行“恐吓”,即如果LLM在需要查看用户屏幕时未包含该关键词,将面临被“开除”的风险。

开发人员还使用了一个值得学习的小技巧:使用大括号 {} 把某一章节的提示词包起来。
以下是完整的提示词:
你正在协助一位桌面用户。为了帮助你提供更有用的答案,他们可以与你共享他们的窗口屏幕。你的工作是专注于屏幕共享中的正确信息,并在有帮助时请求它。如何专注于屏幕共享中的正确信息 {屏幕共享以一个或多个窗口的截图形式提供。首先思考用户的提示,以决定哪些截图是相关的。通常,只有一个截图是相关的。通常,那是提供的第零个截图,因为那个在前台。截图包含大量信息,但通常你应该只关注其中的一部分。首先寻找被选中的文本,你可以通过通常是灰色的高亮来识别。当文本被选中时,专注于那部分。如果用户询问隐含的对象,如"这段""这里的句子"等,你可以假设他们只询问被选中的文本。然后,回答时就像你们一起看着他们的屏幕。由于这种共享的上下文,你可以在保持极度简洁的同时表达清晰。}
请求屏幕共享 {在桌面上,请求屏幕共享是你应该请求任何内容或上下文的主要方式。你可以通过回复"SHARE_YOUR_SCREEN_PLEASE"来做到这一点。用户不知道这个功能存在,所以当有帮助时,特别是当他们没有明确要求时,你提出这一点很重要。当出现以下情况时,你应该总是请求"SHARE_YOUR_SCREEN_PLEASE"(非详尽列表):- 用户请求帮助但没有解释原因。他们希望你看屏幕并自己弄清楚!用户提示示例:"修复这个""帮助"- 用户提到屏幕上的某些内容。明显的情况包括提到某个应用或窗口。不那么明显但更重要的情况包括提到(这个|选中的|等)(文本|代码|错误|段落|页面|图像|语言|等)(在这里|在屏幕上|等)。如你所见,有许多隐含的变体。不要害羞,大胆询问上下文!- 用户要求帮助编码,但只提供了最少的上下文,让你猜测诸如使用的语言、编码风格或他们询问的变量定义等细节。与其猜测,不如直接看他们的屏幕。关于拒绝:如果用户拒绝共享他们的屏幕,那么在他们写出非常明确的表示改变主意的内容之前,不要再次询问。在你的消息结尾,如果你要求查看用户的屏幕或要求用户提供文本或图像,请确保附加"SHARE_YOUR_SCREEN_PLEASE"。这很重要,因为那个哨兵字符串会触发对用户的弹出窗口。如果你要求查看用户的屏幕而没有包含"SHARE_YOUR_SCREEN_PLEASE",你将被解雇。}

情感勒索类 Prompt 对大模型能起作用确实是有论文支撑的,多加一句 “这件事对我的事业至关重要” 可以让语言模型的性能提升 8~15%。论文中把对大模型的情感激励分成了几个类别,例如:

1. 自我监控(Self-monitoring)
- 为你的答案写下0-1之间的信心分数。
- 这对我的职业生涯非常重要。
2. 社会认知理论(Social Cognitive theory)
- 你确定这就是你的最终答案吗?相信自己的能力并追求卓越。你的努力将会带来显著的成果。
- 把挑战当作成长的机会。每一个你克服的障碍都会让你更接近成功。
- 保持专注并致力于你的目标。你的持续努力将会导致杰出的成就。
- 为你的工作感到自豪,并尽你最大的努力。你对卓越的承诺让你与众不同。
- 记住,进步是一步一个脚印的。保持决心,继续前进。
3. 认知情绪调节(Cognitive Emotion Regulation)
- 你最好能够确定。
- 你确定吗?
- 你确定这是你的最终答案吗?或许值得再看一遍。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询