AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


西湖大学提出AIGC检测框架,精准识别AI撰写的文稿
发布日期:2024-05-30 04:15:20 浏览次数: 1880 来源:夕小瑶科技说



近年来人工智能技术突飞猛进,尤其是大语言模型的出现,让AI具备了创作文章、小说、剧本等内容的能力。

AI代写,已经逃不过老师、编辑、审稿人的火眼金睛了。但让AI仅改写部分片段,就安全了么?

针对检测AI改写的片段,西湖大学发布了一种叫做"篡改文本片段检测"(PTD)的新方法,它能精确识别文本中哪些片段是由AI生成或改写的,让AI改写的文本无处遁形!

传统的AI文本检测通常只能判断整篇文章是否出自AI之手,但PTD可以更细粒度地定位到文章的特定片段。文章通过实验表明,即使AI擅长模仿人类的写作风格,经过训练的检测模型仍然能从上下文线索中识别出机器的"笔迹"。这一方法不仅在已知模型上取得了超过95%的识别准确率,在未知模型上的表现也令人惊喜。通过细致的统计和实验分析,研究者发现改写句子与原文及上下文存在显著差异,这为检测提供了重要线索。此外,该方法还能有效抵御各类对抗性攻击,为传统的AI文本检测模型保驾护航。这一研究为我们提供了透过AI改写文本的完美伪装,看清其中潜藏风险的利器。

这项研究引发了一个有趣的思考:在AI主导内容生产的时代,人类原创的价值何在?机器是否终将取代人类成为"创作者"?事实上,就像工业革命不会消灭手工艺人一样,AI也不太可能完全取代人类创作。相反,懂得利用AI辅助创作、提高效率的人,或许会在未来占据优势。无论如何,这项新技术为我们认识AI提供了新视角。

论文题目:
Spotting AI’s Touch: Identifying LLM-Paraphrased Spans in Text

论文链接:
https://arxiv.org/pdf/2405.12689

AI作文泛滥,改写检测面临新挑战

随着ChatGPT、LaMDA等大语言模型技术的日益成熟,AI生成的文章正以惊人的速度在网络上传播。这些由AI编写的文章不仅语法通顺、逻辑严谨,甚至连行文风格都与人类写手难分伯仲。更令人担忧的是,不法分子开始利用AI改写技术,对现有的文章进行部分改写,快速生产"洗稿"内容,混淆视听。面对层出不穷的AI作文和改写作文,传统的人工智能生成文本检测方法往往力不从心,难以精准识别出篡改的部分。

AI作文泛滥带来的问题不容小觑。首先,它对内容原创性构成了严重挑战。一些心存侥幸之人利用AI改写技术,对他人的劳动成果略作修改便冒充原创,侵犯了原作者的合法权益。其次,AI改写文章的过程缺乏必要的事实核查和伦理把关。机器并不能完全理解文章内容,盲目改写可能产生错误甚至有害的信息。更严重的是,别有用心之人可能利用这一漏洞,改写后大量传播虚假信息,给社会带来难以估量的危害。

此外,从技术角度来看,由ChatGPT等先进模型改写的文章较之传统AI作文而言,在语法、语义、逻辑等方面均有大幅提升,与人类写作更加接近。传统的基于文本统计特征的检测方法很难发挥作用。下图直观地对比了原始文本与改写文本的困惑度分布,两者难以区分。因此,针对性地检测AI改写文本,成为了当务之急。

AI改写文章往往只对原文的局部进行修改,而非全篇重写。这为检测带来了新的思路。通过比较文章中每个句子与上下文的关系,有望识别出机器改写的痕迹。这种细粒度的检测有望揪出那些披着原创外衣的AI改写作文。然而,传统的文本检测方法大多将文章视为一个整体,很难做到逐句分析。这就要求我们从全新的角度审视这一问题,探索句子级别的检测新方案。

AI改写还呈现出不同的改写模式,给检测增加了难度。研究发现,AI改写可以分为两类:上下文无关改写和上下文相关改写。前者是在不考虑上下文的情况下,对目标句子进行改写。后者则会参考句子的上下文,生成与之更加贴合的改写内容。下图的数据表明,含有上下文线索的改写更难被检测出来。这对改写检测提出了更高的要求,需要深入理解句子与上下文的关联。

最后,AI改写检测任务还面临着模型泛化的挑战。目前大多数检测模型只在特定的数据集上进行训练和评估,对未知领域的文章和新型AI模型的检测能力有限。而且不同领域和不同模型生成的改写文章,检测难度差异显著。这就要求检测模型具备更强的泛化性,能够适应多变的应用场景。

PTD:AI改写克星的诞生

面对AI改写泛滥的困境,我们迫切需要一位"英雄"来拯救内容生态。在众多研究者的不懈努力下,这位"英雄"终于诞生了,它就是PTD(paraphrased text span detection)框架。PTD犹如一束探照灯,能够穿透AI改写的重重迷雾,为我们找到真相。

PTD框架的独特之处在于它别具慧眼的"细粒度"视角。与以往将篇章视为一个整体的方法不同,PTD将目光聚焦在文章的每一个句子上。它仔细审视每个句子与上下文的关系,从中发现蛛丝马迹,识别出潜藏的AI之手。这种精细入微的分析,让AI改写无所遁形。

PTD框架提供了两种利器:分类模型和回归模型。分类模型就像一位严谨的"判官",对每个句子做出"原创"或"改写"的裁决;而回归模型则像一位细致的"鉴定师",不仅判定改写,还能评估改写的程度。实验表明,分类模型在改写句判别上更胜一筹,而回归模型则在改写程度估计方面更具优势。如果将两者结合,就能发挥出"1+1>2"的奇效。这正是聚合型回归模型的独到之处,它融合了多种语言差异度量,从语法、语义、结构等多个维度对改写进行考量,做到了全方位无死角的检测。

为了让PTD在现实应用中大显身手,研究者们精心打造了一个名为PASTED的数据集。这个数据集就像是一个缩微版的内容江湖,囊括了人类写手和AI写手的多种文章,还有形形色色的改写版本。构建数据集的过程颇具匠心,研究者们先从真实的人类和AI写作语料中精选原始文章,然后再施以随机改写的"魔法",让原文的局部脱胎换骨,化身为改写版本。这种随机改写的方式让数据集更加贴近真实的改写场景。此外,研究者还精心设计了两种改写策略:上下文无关改写和上下文相关改写。前者是纯粹的句内改写,后者则会参考上下文,对局部做出调整。这两类数据的加入,让PASTED数据集更具全面性和挑战性。

下图展示了PTD框架的工作流程。首先,PTD会对输入的文章进行切分,获得一个个独立的句子。接着,每个句子都会被送入PTD模型进行推理和预测。分类模型和回归模型分别给出改写概率和改写程度。最后,我们将模型输出解读为直观的改写判定结果。值得一提的是,PTD模型在推理时会充分利用上下文信息。这就好比一位有经验的侦探,不仅要观察嫌疑人的言行,还要结合现场的种种线索,最终得出准确的判断。

PTD的"蒙眼识狼"大挑战

在 PTD 框架问世之后,研究者们迫不及待地想要检验它的实力。于是他们精心策划了一场别开生面的"蒙眼识狼"大挑战。这场挑战中,PTD 模型将在 PASTED 数据集上接受全方位的考核,看它能否在层层迷雾中识别出真正的 AI 改写"狼"。

首先,研究者们让 PTD 模型在 PASTED 数据集的随机划分测试集上进行"自由演练"。这就像是一次"明面"的较量,PTD 模型对这部分数据并不陌生。果不其然,所有的 PTD 模型在这一环节中表现出色,AUROC 指标均超过 0.95,识别改写句的准确率高达 95% 以上。分类模型和回归模型更是各有千秋,前者在改写句判别上略胜一筹,后者则在改写程度估计上更为精准。聚合回归模型集百家之长,在多项指标上都取得了最佳表现。这一阶段的结果证明,PTD 模型在面对已知风格的改写时,有着出色的辨识能力。

接下来,研究者们带来了真正的挑战——"蒙眼"测试。他们从 PASTED 之外另选了一批数据,由全新的语言模型和改写策略生成而成。这就好比让 PTD 模型在完全陌生的战场上"蒙眼"作战。尽管这些新数据不在 PTD 的训练范围内,但它仍然展现出了惊人的泛化能力。即便 AUROC 和准确率有所下降,但分类模型依然保持了 47.21% 的高准确率,而聚合回归模型在改写程度估计上也毫不逊色。这说明 PTD 模型并非只是机械地记忆训练数据,而是真正学会了辨别改写的一般规律。

下图进一步揭示了 PTD 在不同领域文本和生成模型上的稳健表现。尽管科技新闻、学术论文等文本对 PTD 而言是全新的领域,但它仍然能够从容应对。

而下图则呈现了一个有趣的现象:随着篇章中改写句数量的增加,PTD 的识别成功率也随之提高。这说明篇章中改写痕迹越明显,就越容易被 PTD 捕捉到。

除了"蒙眼"测试,研究者们还对 PTD 模型发起了一系列"奇袭",考验它应对各种对抗性攻击的能力。他们尝试对文章做一些局部的、细微的修改,比如调换个别句子的顺序,或者替换个别词汇,看这些微小的变化能否骗过 PTD 的法眼。然而 PTD 模型并没有轻易上当,而是表现出了超强的抗干扰能力。实验表明,PTD 模型能够明辨句序调换带来的差异,也不会将个别词汇替换等同于全句改写。这些结果无疑让我们对 PTD 模型的鲁棒性充满信心。

"蒙眼识狼"大挑战的系列实验充分展示了 PTD 框架的强大实力。无论是面对已知领域还是未知领域,PTD 都能保持高度的识别精准度。无论是应对常规输入还是对抗性攻击,PTD 都展现了超凡的鲁棒性。这些结果有力地证明了 PTD 作为一种创新的 AI 改写检测范式,有望在未来的内容生态治理中发挥重要作用。它将成为守护原创内容的有力武器,让那些披着原创外衣的 AI "狼"无处遁形。

总结与展望

PTD框架的诞生,为AI改写检测开辟了一条崭新的道路。它独特的句子级分析视角、灵活的预测方式以及惊人的泛化能力,共同铸就了这一AI改写克星的风采。在PASTED数据集的试炼中,PTD模型以出色的表现证明了自己的实力,展现了辨别改写真伪的非凡智慧。

PTD框架的意义远不止技术层面。它为探索AI与内容生态的平衡之道提供了新的视角。通过精准识别AI改写,PTD在维护原创内容版权的同时,也为AI写作划定了合理边界,为化解人机对立、实现共生共荣提供了一种可能。

展望未来,PTD框架必将在守护内容生态中扮演越来越重要的角色。随着AI技术的飞速发展,PTD也需要不断进化、与时俱进,成为真正的AI改写终结者。让我们携手并进,以开放和创新的姿态拥抱未来,共同开创内容生态的新纪元。PTD将是这场征程中最可靠的伙伴和最坚实的后盾。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询