Информационные бюллетени Help Net Security: ежедневные и еженедельные новости, вакансии в области кибербезопасности, проекты с открытым исходным кодом, последние новости – подпишитесь здесь! Организации развертывают автономные системы искусственного интеллекта, которые выполняют вызовы API, оптимизируют производственные конфигурации и анализируют телеметрию в гибридных облачных средах. В то же время атаки расширяются от прямых подсказок к непрямому внедрению подсказок и компрометации цепочек поставок ИИ, стирая границы безопасности. Последний отчет Mandiant о рисках и устойчивости ИИ, основанный на наблюдениях Mandiant и Google Threat Intelligence Group (GTIG), предупреждает, что отравленный источник данных, зависимость модели или расширение могут превратиться в… Подробнее → Сообщение Один сбежавший ИИ-агент получил счет за облако на 50 000 долларов впервые появился на Help Net Security. Последний отчет Mandiant о рисках и устойчивости ИИ, основанный на наблюдениях Mandiant и Google Threat Intelligence Group (GTIG), предупреждает, что отравленный источник данных, зависимость модели или расширение могут превратить доверенного агента в канал для внутренней разведки, горизонтального перемещения или автономного выхода из «песочницы». «Защита от этих автономных угроз требует перехода к четко идентифицированному, адаптивному контролю идентификации, ускорению скорости защиты и переориентации SOC на поведенческую телеметрию в реальном времени», — сказал Мандиант. Злоумышленники перекладывают операционные задачи на ИИ и используют LLM в многоэтапных атаках, где модели участвуют в принятии решений и помогают злоумышленникам переключаться между этапами. Некоторые создают промежуточное программное обеспечение, прокси-ретрансляторы и автоматизированные системы регистрации, чтобы обойти меры безопасности и ограничения по выставлению счетов на коммерческих платформах искусственного интеллекта. GTIG наблюдал, как злоумышленники используют ИИ для исследования уязвимостей, включая персональный взлом и специализированные наборы данных по безопасности, которые поддерживают обнаружение и эксплуатацию уязвимостей. Злоумышленники адаптируют методы цепочки поставок программного обеспечения к инструментам искусственного интеллекта. В феврале VirusTotal обнаружил вредоносные навыки OpenClaw, замаскированные под законные пакеты автоматизации, содержащие бэкдоры, дропперы, программы для кражи информации и инструменты удаленного доступа.
Источник: Help Net Security — https://www.helpnetsecurity.com/2026/09/16/google-mandiant-enterprise-ai-security-risks-report/
Комментарии