Исследователи из охранной фирмы Hacktron использовали Клода для создания работающего эксплойта для уязвимости в библиотеке обработки изображений, затем связали его с уязвимостью в системе входа OpenAI, чтобы захватить учетные записи сотрудников ChatGPT и Codex, и в конечном итоге получили доступ к внутренним репозиториям кода. Точкой входа стал форум сообщества OpenAI, Community.openai.com, который работает на Discourse. Встроенные проверки изображений Discourse не поддерживали формат фотографий HEIC/HEIF, поэтому загрузки в этом формате передавались в ImageMagick, что обнажало неисправленный недостаток в библиотеке libheif, которую он использует для декодирования. Hacktron сообщает, что основная ошибка была исправлена годом ранее, но ни разу не была отмечена как проблема безопасности, поэтому ей так и не был присвоен CVE, и она пропустила обычный цикл исправлений. Превращение уязвимости в надежный эксплойт потребовало нескольких попыток и задействовало Claude Opus 4.8 и Opus 5. Эксплойт позволял удаленно выполнять код, что исследователи сначала использовали на тестовом экземпляре Discourse, а затем на собственном форуме OpenAI. Поскольку форум позволял людям входить в систему под своей учетной записью OpenAI, выполнение кода на нем открывало путь к более широкому доступу к учетной записи. Hacktron сообщает, что до тех пор, пока проблема не будет устранена, любой пользователь или сотрудник, вошедший на форум, мог захватить свои учетные записи ChatGPT и Codex. Кроме того, поскольку люди часто подключают к этим учетным записям другие сервисы, теоретическое воздействие распространялось на такие сервисы, как GitHub, Slack и электронная почта. OpenAI различает эти два недостатка. В компании SecurityWeek сообщили, что ошибка обработки изображений существовала в стороннем сервисе Discourse, а путь захвата учетной записи был отдельной проблемой на стороне OpenAI.
Источник: SecurityWeek — https://www.securityweek.com/ai-built-exploit-and-sign-in-flaw-opened-path-to-internal-openai-code/
Комментарии