Обнаружение аномалий агента Google — это уровень надзора и аудита на основе рассуждений для автономных агентов, развернутых в среде выполнения агента на платформе Gemini Enterprise Agent и созданный с помощью комплекта разработки агентов (ADK) для Python 1.2 или более поздней версии. Google рекомендует ADK 2.1.0 или более позднюю версию. Он доступен в режиме Private Preview. Что отслеживает Agent Anomaly Detection. Agent Anomaly Detection оценивает следы, излучаемые агентами, чтобы определить, выходят ли они за пределы заданных границ. Он отмечает поведенческое поведение… Подробнее → Сообщение «Новая система безопасности агента Google обнаруживает неправильное использование инструментов, циклы и мошенническое поведение» впервые появилось в Help Net Security. Функция обнаружения аномалий агентов оценивает следы, излучаемые агентами, чтобы определить, выходят ли они за пределы намеченных границ. Он сигнализирует о поведенческих аномалиях, подозрительных намерениях и нарушениях политики. Каждое обнаружение аномалии включает уровень серьезности, понятное объяснение того, что его вызвало, и рекомендуемые действия. Результаты публикуются в Центре управления безопасностью для сортировки наряду с другими выводами по безопасности. Обнаружение аномалий агентов включает в себя детекторы отдельных рисков из 10 лучших агентов OWASP: неправильное использование инструментов, злоупотребление идентификационными данными и привилегиями, сбои каскадного агентирования и мошеннические агенты. Неправильное использование инструмента включает в себя такие риски, как небезопасное связывание инструментов, манипулирование параметрами и непрямое внедрение подсказок. Злоупотребление идентификационными данными и привилегиями включает в себя несанкционированные действия, возникающие из-за таких проблем, как динамическое делегирование доверия, подделка личных данных, расширение памяти и уязвимости, связанные с запутанностью заместителя. Агентные каскадные сбои включают в себя бесконечные циклы выполнения, колеблющиеся повторные попытки, распространение ошибок и усиление петли обратной связи. Обнаружение несанкционированных агентов охватывает агентов, которые отказываются от своих заявленных ролей, обходят ограничения или отклоняются от инструкций системы.
Источник: Help Net Security — https://www.helpnetsecurity.com/2026/09/17/google-agent-anomaly-detection-audit-layer/
Комментарии