ЕС обязал ИИ-компании предупреждать пользователей и маркировать созданный нейросетями контент

В Евросоюзе начинают действовать новые требования к компаниям, которые разрабатывают или используют системы искусственного интеллекта. С 2 августа пользователи должны получать понятное предупреждение, если они общаются с ИИ, подвергаются биометрическому анализу или просматривают материалы, созданные нейросетями.

Один из главных принципов новых правил довольно простой: человек должен понимать, что разговаривает не с живым собеседником, а с программой. Согласно проекту рекомендаций Еврокомиссии по выполнению требований статьи 50 Закона ЕС об искусственном интеллекте, разработчики смогут использовать для этого баннеры, отдельные значки в интерфейсе, текстовые сообщения или голосовые уведомления.

При этом предупреждение потребуется не во всех случаях. Если пользователю и без дополнительных пояснений очевидно, что перед ним автоматическая система, отдельная маркировка может не понадобиться. В документах Еврокомиссии в качестве примера приводятся неигровые персонажи в видеоиграх: большинство людей и так понимают, что ими управляет программа.

Отдельные требования касаются изображений, видео, аудиозаписей и других материалов, созданных искусственным интеллектом. Компании должны предусмотреть техническую маркировку такого контента, чтобы его происхождение можно было определить автоматически.

Для этого могут использоваться машиночитаемые метаданные, цифровые водяные знаки, криптографические сведения о происхождении файла и другие технические решения. Один из известных примеров — технология SynthID, позволяющая добавлять в созданный нейросетью материал специальную скрытую метку.

Маркировка должна появляться непосредственно в результате работы системы, а не добавляться позже владельцем сайта или пользователем. Иными словами, обязанность заранее предусмотреть такую возможность ложится прежде всего на разработчиков ИИ-сервисов.

Впрочем, помечать результат каждого инструмента с элементами искусственного интеллекта не придётся. Исключение предусмотрено для сервисов, которые лишь незначительно меняют исходный материал и не затрагивают его основной смысл.

Например, речь может идти об исправлении грамматических ошибок, удалении шума из аудиозаписи или увеличении разрешения изображения. Если инструмент только улучшает техническое качество файла, но не создаёт новое содержание, требования к маркировке могут не применяться.

Более строгие правила установлены для систем, работающих с биометрическими данными. Пользователя необходимо заранее предупредить, если программа распознаёт его по лицу, голосу или другим признакам, анализирует выражение лица и интонацию либо пытается определить эмоции и отнести человека к определённой демографической категории.

Такое предупреждение должно быть хорошо заметным. В цифровом сервисе это может быть всплывающее окно или сообщение перед началом работы. Если система используется в общественном месте, информацию можно разместить на физическом указателе.

Для правоохранительных органов предусмотрены отдельные исключения. Во время активного уголовного расследования полиция в некоторых случаях сможет применять ИИ-системы наблюдения без предварительного уведомления людей. Однако это не означает полного освобождения таких систем от остальных требований законодательства.

Сообщать о применении искусственного интеллекта придётся и в тех случаях, когда созданный или значительно изменённый материал выглядит реалистично. Если нейросеть изображает существующего человека, реальное место, объект или событие, зритель должен понимать, что перед ним синтетический контент.

Это правило должно снизить риск распространения дипфейков и других материалов, которые можно принять за настоящую фотографию, видеозапись или аудио. Особенно важна маркировка в ситуациях, когда искусственно созданный материал способен повлиять на репутацию человека или ввести аудиторию в заблуждение.

Для фильмов, музыки, сатиры и других художественных произведений предусмотрен более мягкий подход. Уведомление об использовании ИИ не должно мешать просмотру или разрушать авторский замысел.

Например, если актёра цифровым способом омолодили для роли, информацию об этом можно указать в титрах или описании фильма, а не размещать заметную надпись поверх каждого кадра. Похожий принцип может применяться к пародийной музыке и другим произведениям, вымышленный характер которых понятен аудитории.

За нарушение требований компаниям грозят серьёзные штрафы. Максимальная сумма может достигать 15 миллионов евро или 3% глобального годового оборота компании — в зависимости от того, какое значение окажется больше.

Новые правила затронут не только разработчиков крупных языковых моделей. Выполнять требования придётся и компаниям, которые встраивают ИИ в собственные сайты, приложения, системы наблюдения, службы поддержки и инструменты для создания контента.