欧盟要求人工智能公司告知用户并标记由神经网络生成的内容

欧盟开始实施对开发或使用人工智能系统的公司的新要求。从8月2日起，当用户与人工智能互动、进行生物识别分析或查看由神经网络生成的材料时，他们必须收到明确的警告。

新规定的一个主要原则相当简单：人们必须明白，他们正在与程序而不是活生生的对话者交流。根据欧盟委员会关于实施欧盟人工智能法第50条要求的建议草案，开发者可以通过横幅、界面中的单独图标、文本消息或语音通知来实现这一点。

需要警告的情况并非所有。如果用户在没有额外说明的情况下显然知道面前是自动化系统，则可能不需要单独标记。欧盟委员会的文件中以视频游戏中的非游戏角色为例：大多数人都理解这些角色是由程序控制的。

关于由人工智能生成的图像、视频、音频记录和其他材料有单独的要求。公司必须为这些内容提供技术标记，以便其来源能够被自动识别。

这可以使用机器可读的元数据、数字水印、文件来源的加密信息和其他技术解决方案。一个著名的例子是SynthID技术，它允许在神经网络生成的材料中添加特殊的隐藏标签。

标记必须直接出现在系统工作的结果中，而不能由网站所有者或用户稍后添加。换句话说，预先考虑这种可能性的责任主要落在人工智能服务的开发者身上。

不过，并不需要标记每一个带有人工智能元素的工具的结果。对于那些仅略微改变原始材料且不影响其基本含义的服务，已有例外规定。

例如，这可能涉及语法错误的修正、从音频记录中去除噪音或提高图像的分辨率。如果工具仅提高文件的技术质量，但不创造新内容，则标记要求可能不适用。

对于处理生物识别数据的系统，规定了更严格的规则。如果程序识别用户的面部、声音或其他特征，分析面部表情和语调，或试图确定情感并将人归类于特定的人口类别，必须提前警告用户。

这样的警告必须显眼。在数字服务中，这可以是弹出窗口或在工作开始前的信息。如果系统在公共场所使用，信息可以放在实体标识上。

对于执法机构，规定了单独的例外。在某些情况下，在进行积极的刑事调查时，警方可以在没有事先通知人们的情况下使用监控人工智能系统。但这并不意味着这样的系统可以完全免受其他法律要求的约束。

如果生成或显著修改的材料看起来逼真，也必须告知使用人工智能的情况。如果神经网络描绘了一个真实的人、真实的地点、物体或事件，观众必须明白他们面前的是合成内容。

这一规则旨在降低传播深度伪造和其他可能被视为真实照片、视频或音频材料的材料的风险。尤其在人工创作的材料可能影响个人声誉或误导观众的情况下，标记显得尤为重要。

对于电影、音乐、讽刺和其他艺术作品，采取了更为宽松的方法。关于使用人工智能的通知不应妨碍观众观看或破坏艺术家的创作意图。

例如，如果演员通过数字方式被年轻化以完成角色，可以在片尾字幕或电影说明中提及这一信息，而不是在每一帧上放置显眼的标注。类似的原则也可以适用于搞笑音乐和其他观众能理解其虚构性质的作品。

违反这些要求的公司将面临严厉的罚款。最高金额可达1500万欧元或公司全球年营业额的3%——具体取决于哪个值更高。

这些新规则不仅会影响大型语言模型的开发者。包括将人工智能嵌入自己的网站、应用程序、监控系统、客户服务和内容创作工具的公司也将需要遵守这些要求。