Эйджентик ИИ и проблемы безопасности
Президент Signal Мередит Виттакер выступила на конференции SXSW и выразила обеспокоенность по поводу безопасности и конфиденциальности, связанных с агентным ИИ. Она сравнила использование ИИ-агентов с «размещением мозга в банке», предупреждая о новом подходе к вычислениям, где ИИ выполняет задачи вместо пользователей.
Риски нового подхода
Виттакер пояснила, что ИИ-агенты продаются как инструмент для выполнения онлайн-задач: поиск концертов, бронирование билетов, отправка сообщений друзьям. Эти агенты нуждаются в доступе к браузеру, кредитной карте, календарю и мессенджеру пользователей.
Опасность с точки зрения конфиденциальности
Чтобы выполнить такие задачи, AI потребуется полный доступ ко всем системам и файлам, что, вероятно, будет происходить через облачные сервера. Это может нарушить безопасность, сливая данные между различными приложениями и операционной системой.
Последствия для мессенджеров
Если подобные агенты будут интегрированы в приложения вроде Signal, это подорвет приватность сообщений, позволяя агентам извлекать и обрабатывать данные.
Итоги выступления Виттакер
Виттакер также отметила, что использование больших объемов данных в индустрии ИИ уже несет потенциальные угрозы, которые могут усугубиться с расширением роли агентного ИИ.
