Испанская организация пострадала от утечки персональных данных со стороны агентной системы искусственного интеллекта (под контролем человека). Dark Reading связалась с AEPD для получения более подробной информации по этой истории и обновит эту статью, если агентство ее предоставит. Как отмечает CCN в своем отчете: «Объединив разведку с открытым исходным кодом с возможностями прямой разведки инфраструктуры, злоумышленники могут точно сопоставить цифровые активы, такие как веб-сайты, программные интерфейсы, облачные сервисы или среды «инфраструктура как услуга». Действительно, по данным AEPD, злоумышленник сначала поручил своему ИИ искать уязвимости в «общих» файлах, принадлежащих организации-жертве. Очевидно, в результате этой деятельности были обнаружены корпоративные учетные данные, поскольку ИИ затем смог обеспечить успешный вход во внутреннюю систему. «Коллизия «Это может!» и «Должен ли я?» делает подобные инциденты не столько аномалией, сколько ранним примером того, что станет обычной частью завтрашней реальности безопасности ИИ», — утверждает он. В этой новой реальности, когда автономные системы могут объединять знакомые этапы кибератаки без участия человека, вручную управляющего каждым этапом, «это меняет временной горизонт защитника», — говорит Авив Нахум, соучредитель и генеральный директор компании «Above Security». «Команды безопасности традиционно предполагали, что где-то в процессе принятия решений находится человек, который делает паузу между шагами и реагирует на то, что происходит», — говорит Нахум. «Агент может постоянно исследовать окружающую среду, адаптироваться и продолжать двигаться со скоростью машины. Процессы реагирования на инциденты, разработанные с учетом атак с участием человека, будут с этим бороться». По его словам, момент в истории AEPD, где ИИ скомпрометировал личность, особенно важен. «Как только злоумышленник или агент получит действительные учетные данные, традиционный элемент управления может просто увидеть аутентифицированного пользователя. Вопрос в том, имеет ли еще смысл поведение, лежащее в основе этой идентификации», — говорит Нахум. «К чему он получил доступ? Что изменилось? Какие действия последовали за этим? Это та же проблема, с которой организации уже сталкиваются в отношении инсайдеров-людей, за исключением того, что теперь инсайдер может быть синтетическим и действовать непрерывно».
Источник: Dark Reading — https://www.darkreading.com/cyberattacks-data-breaches/ai-agent-breaches-spanish-organization-personal-data
Комментарии