随着人工智能技术的飞速发展，大型语言模型（LLMs）已被广泛应用于自动化客户服务等复杂的自然语言处理任务中。然而，相应带来的安全性、合规性和用户隐私保护问题也日益严峻。各国已就AI安全问题展开了相关调研和立法准备，但完整的AI安全体系仍有待建立。

    在传统安全体系中，如在金融交易、医疗保健、边境安全等领域中所见到的，身份识别与授权往往是其中的第一环和最为重要的一环。身份识别主要解决三个核心问题——身份的可区分性、身份的不可伪造性和身份的可追溯性。然而，在人工智能领域中，如何解决这三个问题 仍未有足够成熟的技术方案。

    水印技术被普遍视为一种可能的解决方案。该技术能秘密地嵌入身份信息实现智能的可区分性，并通过集成加密技术来确保信息的不可伪造性，以及通过先进的检测技术实现信息的可追溯性。鉴于在复杂的LLM应用场景中保护知识产权和确保安全责任追溯的迫切需要，建立有效的水印嵌入和提取体系至关重要。

    为促进LLMs的安全、透明和公平使用的技术发展，本文从应用、理论和评估三个主要方面对现有LLM水印系统展开综述。我们探索了数据提供者、技术服务提供者、用户和第三方监管机构在多中心LLM应用框架中对身份识别的不同需求和偏好。此外，我们还构建了基于互信息理论的水印理论体系以优化各个环节，并对LLM水印的性能提出了评估标准。总之，我们对人工智能身份识别系统的既有成果进行了综述，显著扩展了LLMs水印应用的范围，为解决LLMs在安全性和透明度方面的挑战提供了坚实的技术支持。

    大语言模型（LLM）的全生命周期包括数据准备、训练、测试、部署和维护，涉及多个实体和利益相关方。随着计算能力和数据质量的提升，LLM迅速发展，但安全性和权益保护问题常被忽视。未来，社区将更重视合规监管和用户隐私，要求技术提供方确保操作透明性和安全性。这一转变过程如图1所示。

图 1 LLM应用体系从中心化到多中心化的转变

    在多中心体系中，各参与方需在保护自身权益和提高收益间找到平衡。用户对隐私的担忧、数据提供方对数据被非法转卖的担心等问题依然存在。解决这些问题的关键在于实现实体间的可信合作，确保LLM的身份可识别和行为可追溯。

    传统身份识别方法主要用于用户资质的认证，很难直接适用于LLM生成的内容。水印技术能在不损害数据质量的前提下嵌入标识，确保LLM合法使用并防止未授权篡改。不同利益相关方可利用水印技术保护自身权益，如数据提供方保护数据版权；技术服务商保护模型版权，并追踪模型使用；用户用其保护个人隐私；公共监管机构则通过验证水印确保模型的安全性，确保在发现问题时能进行追溯和解决。

    各方应根据自身在LLM应用体系中的地位和关系，使用水印技术建立身份识别和权益保护体系。表1总结了各方需要保护的权益对象、识别对象、使用水印技术时的限制和基本要求。各参与实体可根据表中描述，在不同阶段部署适合的水印方案。

表 1 LLM应用体系中各参与实体 

    我们通过构建一个基于互信息理论的水印理论体系，为当前的AI身份识别体系建立了初步的数理基础。所提出的理论不仅建立了公式化框架，还将LLM水印技术分为如图2所示的五个关键步骤，涉及生成、嵌入、提取和重建等，而在水印文本的传输过程中则涉及可能存在的水印攻击步骤。鉴于公众号篇幅问题，具体的理论公式请见综述文章的正文部分，此处不做展开。

图2 水印技术框架

    如图3所示，根据上述的理论体系，我们将目前现有的水印相关研究划分为五个主要部分，并从理论上进行了详细说明。目前所有的LLM水印研究其本质上都是围绕这五个步骤进行的优化目标、约束目标以及优化方法的改进。

图3 LLM水印技术分类体系

图4 水印攻击技术分类

    在LLMs中，构建一个全面和标准化的水印算法评价系统非常关键。本文从多个角度概述了评估LLM水印算法的关键指标，包括成功率、文本质量、水印置信度、透明度、不可伪造性、鲁棒性、信息密度、计算复杂性、跨语言一致性和放射性。这些指标的综合评估有助于全面了解水印算法的性能，从而指导未来的研究方向和LLM水印的实际应用。此外，这些指标构建的评价系统不仅指导研究人员选择或设计水印算法，而且在评估这些算法在现实场景中的可行性和有效性时发挥关键作用。同时，图5中的表格提供了LLM应用体系中四个实体对水印算法需求的不同侧重点，并根据他们的关注指标推荐适用的水印方法。

图 5 LLM实体与水印算法要求之间的关系，以及对相应水印算法的建议。星号代表基本要求，实心圆代表主要要求，空心圆代表次要要求。

    在本文中，我们全面探讨了LLM水印技术在LLM身份识别系统中的应用和影响。随着LLM在各行业的广泛应用，通过水印技术确保LLM身份识别的可区分性、不可伪造性和可追溯性变得尤为重要。当前的LLM应用系统主要围绕模型技术开发者，形成了技术壁垒和资源优势。我们认为未来将出现一个多中心的应用系统，涵盖数据提供者、模型开发者、可信第三方监管者和LLM用户。在这样一个多中心系统中，多个参与者可以通过基于水印的身份识别系统进行互利合作。

    除了对水印方法进行了全面分析，我们还建立了一个以信息理论为中心的LLM水印技术数理体系，为相关研究和优化提供了坚实的理论基础。通过详细分类、数学描述和综合评价指标，研究者可针对不同参与者的偏好研究水印技术，并使用本文中的分类方法对相关研究进行比较和评估。我们期待本综述将有助于领域进一步探索更高效、更安全的识别技术，如富信息水印、非对称水印加密验证、抵御水印攻击，等等，以满足AI智能体身份识别领域日益复杂的应用需求和安全挑战。