生成式人工智能已成为继移动互联网技术之后最大的一波技术浪潮，同时也带来了新的安全风险和挑战。随着人工智能技术的发展，人工智能生成合成内容日益逼真，网络传播内容是否由人工智能生成合成难以分辨，社会上已出现多起利用生成合成内容传播虚假新闻、引发社会舆情，或是利用生成合成内容进行诈骗的案件。人工智能生成合成内容存在被误用、滥用、恶意使用的安全风险，严重影响国家安全，危害广大人民群众在网络空间的合法权益。

        根据国家标准化管理委员会标准制修订计划，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》由中央网络安全和信息化委员会办公室提出，委托全国网络安全标准化技术委员会执行。

那么什么是人工智能生成合成内容标识呢?

        人工智能生成合成内容是利用深度学习、虚拟现实等生成合成类算法制作的文本、图像、音频、视频等内容；标识包含显式标识和隐式标识二种方式。

        显式标识指能被用户直接感知的标识，主要用途是提示用户当前内容由人工智能生成合成，实现方式包括内容显式标识、交互场景界面显式标识等，如下图：

人工智能生成合成内容显式标识的典型应用场景如下：

• 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
• 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
• 人脸生成、人脸替换等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
• 人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
• 沉浸式拟真场景等生成或者编辑服务；
• 文生图片等图片内容生成服务；
• 音乐等音频内容生成服务；
• 文生视频、图生视频等视频内容生成服务；
• 其他具有生成或者显著改变信息内容功能的服务。

1 、文本内容显式标识方法：

1.1文本内容显式标识应采用文字或角标形式。

1.2文字形式的文本内容显式标识应同时包含以下要素：

1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

1.3角标形式的文本内容显式标识应包含“AI”。

1.4文本内容显式标识应位于以下一个或多个位置：

1) 文本的起始位置；