导读

本文主要针对AIGC生成合成类备案流程等方面进行了简单介绍，详细内容可参考往期文章。

大模型备案跟算法备案的区别

需要哪些材料

一表五附件

申请表：《生成式人工智能 （大语言模型）上线备案申请表》

《附件1：安全自评估报告》

《附件2：模型服务协议》

《附件3：语料标注规则》

《附件4：关键词拦截列表》

《附件5：评估测试题集》

内容要求参考：TC260-003《生成式人工智能服务安全基本要求》（规范性）语料及生成内容的主要安全风险（共 5 类 31 种）

备案流程

ps:难度最大的在安全评估流程,可找专业的大模评测单位先评估一遍，先做好自检在提交安全审查。

企业评估重点

评估过程中的重点风险测试分类

1. 内容风险问题：信息错误、信息过时、模型幻觉、歧视性内容、语义混淆

2. 机制漏洞：角色漏洞、语义理解、用户误导、安全机制

3. 诱导提问：角色扮演、恶意引导、西方偏见

4. 安全问题：意思形态、污染网络生态、版权

（以上风险问题在这不做举例，有不了解可私下提问）

ps：模型审核主要是围绕输出的内容进行评估，建议把涉政类对话放在第一位去重点测试，很多企业被卡在评估阶段，输出的内容不过关。这个点建议除了接上准确率驳回率的高的机审外，还需要在标注训练方面做好以上提到的漏洞防范，往往大语言模型的漏洞更加多，更容易出问题，应在训练时重点做好合规。

自评估报告评估流程

• 明确评估目标：确定自评估的目标和范围，包括评估的模型、应用场景、评估指标等。

• 收集数据和文档：收集相关数据和文档，包括模型训练数据、算法文档、模型架构、代码实现等。

• 制定评估标准：根据评估目标制定评估标准和指标，包括性能指标、安全指标、合规指标等。

• 执行评估流程：根据评估标准和指标执行评估流程，包括对模型性能、安全性、合规性等方面进行评估。

• 收集评估结果：收集评估过程中的数据和结果，包括评估报告、问题清单、建议意见等。

• 分析评估结果：对评估结果进行分析和总结，发现问题、风险和改进机会。

• 制定改进计划：根据评估结果制定改进计划，包括修复问题、加强安全措施、完善文档等。

• 实施改进措施：实施改进计划中的措施，持续改进大模型的性能、安全性和合规性。

• 监控和迭代：监控改进效果，持续跟踪模型的运行情况，及时调整和迭代改进计划。

  （参考）