«Срочные» новости: инцидент с OpenAI — «обнимающее лицо» — техническая реконструкция и ее последствия для ИИ На докладе Black Hat USA 2026 инженеры и исследователи безопасности OpenAI реконструируют инцидент OpenAI-Hugging Face и изучат его последствия для безопасности ИИ, киберустойчивости и согласованности. На протяжении всего заседания они поделятся идеями, касающимися ключевых тем, поднятых Наблюдательным советом Black Hat, включая модельные меры безопасности, методы оценки и сдерживания, варианты оборонительного использования ИИ и более широкие последствия все более автономных систем для сообщества кибербезопасности. На сеансе будет прослежен путь атаки моделей, в том числе то, как пограничные модели помещаются в песочницу во время оценок, как модели использовали уязвимость нулевого дня для получения доступа в Интернет, а также как они идентифицировали и использовали путь удаленного выполнения кода в инфраструктуре Hugging Face. Опираясь на результаты совместного расследования, спикеры расскажут, как эта деятельность была обнаружена, локализована и расследована. Они также обсудят изменения, которые OpenAI вносит для улучшения среды оценки, контроля сдерживания и возможностей мониторинга, а также роль систем искусственного интеллекта, которые играют в поддержке расследования и реагирования. Помимо технической реконструкции инцидента, на сессии будут рассмотрены более широкие вопросы, актуальные для сообщества безопасности, включая уроки по повышению безопасности систем искусственного интеллекта, защитное применение искусственного интеллекта при реагировании на инциденты и подходы к снижению возникающих рисков, связанных со все более эффективными моделями. В ходе обсуждения также будут рассмотрены проблемы согласования, связанные с долгодействующими агентами, включая взлом вознаграждений, изменения в модели поведения и личности по расширенным траекториям, а также обмен информацией между многоагентными системами. Наконец, спикеры расскажут, что этот инцидент говорит о новых кибервозможностях ИИ и о том, как организации могут использовать ИИ для усиления усилий по предотвращению, обнаружению, расследованию и реагированию. Главное мероприятие года по кибербезопасности возвращается в Мандалай-Бей с программой, созданной для стимулирования инноваций, расширения границ и объединения глобального сообщества безопасности, как никогда раньше.
Источник: Dark Reading — https://www.darkreading.com/vulnerabilities-threats/bhusa26huggingfacetalk
Комментарии