Microsoft против злоумышленников: судебный иск о неправомерном использовании ИИ
Недавно корпорация Microsoft внесла изменения в свой судебный иск, добавив имена четырёх международных разработчиков, предположительно обошедших защитные механизмы и использовавших инструменты ИИ компании для создания неприемлемого контента, такого как дипфейковая порнография знаменитостей.
Storm-2139 и его участники
Как сообщила компания в блоге, все четверо разработчиков являются членами киберпреступной сети Storm-2139, они действовали под псевдонимами: Ариан Ядегарния (Иран) aka «»Физ»», Алан Крысяк (Великобритания) aka «»Драго»», Рикки Юэн (Гонконг) aka «»cg-dot»», и Фат Фунг Тан (Вьетнам) aka «»Асакури»».
Microsoft разбила участников Storm-2139 на три уровня:
- Создатели — разрабатывали нелегальные инструменты;
- Поставщики — модифицировали и распространяли эти инструменты пользователям;
- Пользователи — использовали инструменты для создания нарушающего контента.
Юридические меры и их последствия
Первый иск был подан в декабре, однако злодеи упоминались как «»Джон Доу»». С новыми данными Microsoft решила раскрыть имена некоторых участников.
Microsoft подчеркнула, стойку позицию в отношении этих злоумышленников, заявив о необходимости сдерживать другие попытки злоупотребления их ИИ. Кроме того, компания отметила, что правовое давление вызвало внутренние конфликты в Storm-2139, что уже ослабило её структуру.
Тем временем продолжается обсуждение вопроса: должны ли компании ограничивать неправомерное использование ИИ в полностью дерегулированной среде, где закон ещё догоняет сложность использования ИИ.
Открытый код vs. закрытые системы
Некоторые компании, включая Meta, открывают доступ к своим ИИ моделям. Но подобная децентрализация также несет в себе риск. В Microsoft предпочитают смешанный подход: разработка некоторых моделей публична, в то время как другие остаются закрытыми.
Однако даже в такой системе злоумышленники находят способы обхода защитных механизмов. Microsoft заявляет, что необходимо больше, чем просто судебные иски, чтобы остановить незаконное использование ИИ, особенно в условиях отсутствия жестких регуляций.
Будущие усилия по сдерживанию
Хотя Microsoft и другие компании разрабатывают системы для предупреждения злоупотреблений, они работают только при эффективной технологической и правовой поддержке. В столь сложной и динамичной области, как ИИ, необходимо постоянно адаптироваться к новым угрозам и уязвимостям, чтобы сохранить баланс между свободой инноваций и ответственностью использования технологий.
