Испанское агентство по защите данных (AEPD) было уведомлено об атаке, предположительно осуществленной с помощью ИИ-агента, работающего на основе известной модели большого языка (LLM). [...] Организация, сообщившая об инциденте, заявила, что агент ИИ искал уязвимости, входил в их системы, а затем проверял приложения на предмет дополнительных проблем безопасности. На заключительном этапе атаки агент модифицировал личные данные и получил доступ к финансовым документам. Хотя испанскому агентству еще предстоит расследовать инцидент и проверить информацию, AEPD заявляет, что уведомление показывает, что утечки данных, связанные с ИИ, больше не являются просто теоретическими. Атакующий агент начал поиск уязвимостей в общих файлах и успешно залогинился, описывает AEPD. Получив доступ к системе, он начал автономный поиск уязвимостей в приложении. Найдя их, он смог изменить личные данные и получить доступ к счетам. В AEPD подчеркнули, что ИИ не создает новых угроз, но может увеличить скорость, масштаб и адаптируемость кибератак, а также сократить запас времени реагирования защитников — сдвиг парадигмы, недавно подчеркнутый Национальным криптологическим центром страны. Уведомление сигнализирует об изменении в управлении рисками, которое должно четко учитывать атаки с помощью ИИ и атаки с использованием ИИ, поскольку автоматизация может повлиять на вероятность, скорость и масштаб инцидента. Процедуры времени реагирования также следует пересмотреть, поскольку действия, разработанные для ручных атак, могут оказаться недостаточными против агентов, которые одновременно анализируют активы, тестируют методы доступа и адаптируют свое поведение.
Источник: BleepingComputer — https://www.bleepingcomputer.com/news/security/spains-data-agency-gets-first-report-of-ai-powered-data-breach/
Комментарии