Информационные бюллетени Help Net Security: ежедневные и еженедельные новости, вакансии в области кибербезопасности, проекты с открытым исходным кодом, последние новости – подпишитесь здесь! В этом интервью Help Net Security Фредерик Булл, сотрудник службы безопасности Gremlin, рассказывает о том, что ИИ означает для команд безопасности. В разговоре обсуждается, почему вопрос о том, на каких данных была обучена модель, — это только часть картины и почему минимальный контроль привилегий и доступа по-прежнему имеет значение для агентов ИИ. В нем также рассматривается, как искусственный интеллект сократил разрыв в навыках между нападающими и защитниками, как команда справилась примерно в девять раз с большим количеством уязвимостей с тем же персоналом и почему сейчас при приеме на работу предпочтение отдается людям с опытом, позволяющим улавливать уверенные, но ошибочные результаты искусственного интеллекта. Чаще всего я слышу вопрос: «На каких данных обучалась эта модель?» Основной проблемой, определяющей это, является конфиденциальность. Компании хотят гарантировать, что их интеллектуальная собственность не станет частью общих знаний ИИ. Это обоснованная проблема, и было бы глупо предполагать обратное, но остановка на этом оставляет пробелы в истинном многоуровневом подходе к безопасности. Гораздо менее часто задаваемый вопрос: «Как вы поддерживаете авторитетность и целостность рассматриваемых данных». И у нас есть четкие ответы. На протяжении многих лет принцип наименьших привилегий, достигаемый посредством контроля аутентификации и доступа, оставался и продолжает оставаться первостепенным для обеспечения безопасной среды. Такие технологии, как RBAC на основе сеансов через OIDC/OBO и соответствующий объем разрешений для контекста, гарантируют, что ИИ не превысит ожидаемые от него возможности. Это было основой программ обеспечения безопасности предприятий на протяжении десятилетий, и сегодня это не менее актуально.
Источник: Help Net Security — https://www.helpnetsecurity.com/2026/09/17/frederic-bull-gremlin-ai-in-cybersecurity-gap/
Комментарии