Все материалы, созданные ИИ, должны быть маркированы в интернете, объявляет Китай
Совместно с рядом государственных министерств, китайская интернет-надзорная служба Администрация киберпространства Китая (АКК) объявила, что все созданные искусственным интеллектом материалы в интернете должны быть маркированы как таковые. Как сообщает Bloomberg, новое регулирование потребует, чтобы любой синтетический контент был распознан, либо явно в его описании, либо через кодирование метаданных.
Это значительный момент, так как правительства пытаются взять под контроль ситуацию, в то время как интернет заполняется низкокачественным продуктом, созданным ИИ. Регуляторы давно бьют тревогу по поводу злоупотребления технологиями для распространения дезинформации и материалов, намеренных нанести вред другим.
Бывший президент Джо Байден пытался решить эту проблему с помощью указа в 2023 году, который с тех пор был отменен его преемником Дональдом Трампом. Вместо того, чтобы обуздать проблемное использование генеративного ИИ, нынешняя администрация Трампа, напротив, открыла ворота, вплоть до того, что дала указание федеральным агентствам устранить руководящие принципы по ИИ и поощрять их использование технологий.
Это резко контрастирует и с Китаем, и с Европейским Союзом, которые усилили правила по маркировке созданного ИИ или измененного контента. В прошлом году Европейский Союз принял Закон о ИИ, «первую в мире правовую базу касающуюся ИИ, которая решает проблемы, связанные с рисками ИИ и позиционирует Европу как лидера на глобальной арене». Теперь Китай последовал этому примеру, объявив о новых правилах, которые требуют от интернет-провайдеров маркировать материалы, созданные ИИ.
«Закон о маркировке поможет пользователям идентифицировать дезинформацию и возлагать ответственность на поставщиков услуг за маркировку их контента,» написала АКК в заявлении, переведенном Bloomberg. «Это необходимо для сокращения злоупотребления контентом, созданным ИИ.»
Как часть новых правил, операторам магазинов приложений придется проверять механизмы маркировки, чтобы убедиться в соответствии с новыми регулированиями. Даже пользователи обязаны будут заявлять, когда они размещают контент, созданный ИИ, как сообщает South China Morning Post. Те, кто изменяет метки контента ИИ после факта, могут столкнуться с наказаниями.
Но как только созданный ИИ контент становится все более сложным для отличия от реального, вопросы остаются относительно эффективности правил новой маркировки ИИ и как они действительно поддаются исполнению. И ранние попытки решить проблемы не смогли увенчаться успехом. В прошлом году Meta пыталась внедрить метку «Создано с помощью ИИ» на Facebook, Instagram и Threads. Но инициатива провалилась с самого начала, поскольку пользователи сразу же заметили, что функция метила реальные фотографии как созданные ИИ.
Между тем волна созданного ИИ контента в интернете достигла апогея, подавляя целые платформы. В прошлом месяце Futurism обнаружил, что Pinterest было поглощено потоком странного контента, созданного ИИ, что вызывало неудовольствие у пользователей. Первые шесть результатов простого поиска по «идеям для здоровых рецептов» на этом сайте наглядно демонстрировали признаки того, что они были созданы ИИ. Только один явно был обозначен как синтетический.
