Испанское агентство по защите данных (AEPD) опубликовало подробности первого уведомления о нарушении защиты персональных данных, которое было намеренно выполнено с помощью ИИ-агента. Расследование нападения продолжается, и AEPD осторожно использует свои слова. Тем не менее, хотя атаки с использованием ИИ стали обычным явлением (дипфейки, создание фишинговых писем, масштабирование атак посредством автоматизации и т. д.), это, похоже, первая известная агентская атака, выходящая за рамки агента мошеннической модели Frontier. Агенты-злоумышленники выходят за рамки теоретической вероятности и переходят в реальный мир. Сама атака включала успешный вход в систему с последующим поиском уязвимостей, а также возможность изменения личных данных и доступа к счетам. «С точки зрения защиты данных важно то, — пишет AEPD, — что третья сторона могла бы использовать агента ИИ в качестве инструмента для успешного объединения различных этапов атаки». Это, предполагает агентство, качественное изменение. «Агент может получать цель, планировать промежуточные задачи, использовать инструменты, выполнять код, обращаться к источникам, интерпретировать результаты и самостоятельно изменять свои действия на основе того, что он находит». И, надо добавить, на скорости. Этот эффект требует четырехкратной модификации управления рисками. Во-первых, опасность помощи ИИ и враждебных агентов должна стать частью анализа рисков. Во-вторых, необходимо сократить время реагирования на инциденты. В-третьих, необходимо признать важность цифровых удостоверений личности и учетных данных и обеспечить их лучшую защиту. И в-четвертых, этих модификаций невозможно добиться исключительно за счет ручного вмешательства.
Источник: SecurityWeek — https://www.securityweek.com/first-agentic-ai-data-breach-reported-to-spanish-regulator/
Комментарии