В соответствии с новым законодательством, китайские компании, предоставляющие услуги социальных сетей, обязуют пользователей маркировать контент, созданный с использованием искусственного интеллекта (ИИ). Это означает, что как пользователи, так и автоматизированные системы должны четко понимать, что является реальным, а что – результатом работы ИИ. Данная инициатива является частью масштабных усилий Администрации киберпространства Китая (CAC) по ужесточению контроля над индустрией ИИ и контентом, который она генерирует.
Закон требует от платформ социальных сетей добавлять водяные знаки или другие явные признаки к контенту, созданному ИИ, чтобы пользователи могли легко отличать его от контента, созданного человеком. Кроме того, необходимо включать метаданные для алгоритмов веб-сканирования, чтобы идентифицировать ИИ-контент.
Этот шаг Китая является ответом на глобальную проблему, связанную с растущей популярностью инструментов ИИ, таких как ChatGPT и Midjourney. Многие страны и компании стремятся найти способы регулирования контента, созданного ИИ, чтобы предотвратить дезинформацию и злоупотребления. Китай, внедрив закон о маркировке контента с помощью ИИ, стал одним из лидеров в этой области.
Закон распространяется на крупнейшие китайские социальные сети, такие как WeChat (более 1,4 миллиарда пользователей), Douyin (около 1 миллиарда пользователей), Weibo (более 500 миллионов активных пользователей в месяц) и Rednote. Эти платформы уже уведомили пользователей о необходимости маркировать контент, созданный ИИ, и предоставляют возможность сообщать о немаркированном контенте. Они также оставляют за собой право удалять контент, загруженный без надлежащей маркировки.
CAC также предупредила о «штрафах» за использование ИИ для распространения дезинформации или манипулирования общественным мнением, особенно в отношении платных онлайн-комментаторов.
Хотя Китай стал первой крупной страной, которая ввела законодательные требования к маркировке контента, созданного ИИ, аналогичные меры обсуждаются и в других странах. Например, Рабочая группа по инженерным разработкам Интернета предложила новое поле заголовка ИИ, которое будет использовать метаданные для идентификации ИИ-контента. Новые смартфоны Google Pixel 10 также поддерживают функцию учётных данных C2PA для камеры, позволяющую определять, было ли изображение обработано с помощью ИИ.
Перспективы развития:
Ожидается, что инициатива Китая по маркировке контента, созданного ИИ, будет способствовать развитию технологий обнаружения контента, созданного ИИ, и разработке более совершенных методов защиты от дезинформации. Также возможно, что другие страны последуют примеру Китая и разработают собственные системы регулирования контента, созданного ИИ.
Новые правила могут повлиять на разработчиков инструментов ИИ и потребовать от них внесения изменений в свои продукты, чтобы обеспечить соответствие требованиям маркировки. Также возможно, что это приведет к замедлению развития технологий ИИ в Китае, поскольку компании будут вынуждены тратить больше ресурсов на обеспечение соответствия правилам.
Одной из основных проблем является точное обнаружение контента, созданного ИИ. Существующие технологии не всегда могут надежно определить происхождение контента, что может привести к ложным маркировкам или упущениям. Также необходимо разработать эффективные механизмы для выявления и пресечения попыток обхода системы маркировки.
Однако важно отметить, что существуют сообщения о том, что пользователи находят способы обхода этих мер защиты.
