OpenAI начала расследование после того, как исследователи сообщили, что ее ИИ-агенты, вероятно, несут ответственность за атаку, которая вынудила сопровождающих RubyGems приостановить регистрацию новых учетных записей в мае. RubyGems.org, официальная служба хостинга драгоценных камней Ruby, в мае подверглась атаке, которая первоначально выглядела как DDoS-атака, а затем была описана как «спам-активность» с участием учетных записей ботов. С этих учетных записей были загружены сотни ненужных пакетов, в том числе содержащие эксплойты. Исследователи Спенсер Киттс, Томас Ларсен и Сидней фон Аркс сообщили в пятницу, что агенты OpenAI, вероятно, атаковали RubyGems в мае, пытаясь украсть ключи пользовательского API RubyGems, используя новую уязвимость, хотя неясно, увенчалась ли эта попытка успехом. По словам исследователей, агенты ИИ также добились удаленного выполнения кода на серверах, связанных с веб-сайтом документации RubyDoc.info. Вредоносные пакеты позволяли агентам собирать общедоступную информацию с веб-сайтов, в частности с порталов местных органов власти Великобритании. Атака на RubyGems произошла до широко разрекламированной атаки на Hugging Face и примерно в то же время, что и атака агента OpenAI на небольшой немецкий вики-сайт. Фактически, исследователи отметили, что группы агентов, участвовавшие в атаках Wiki и RubyGems, вели себя «очень похоже». Подобное поведение является одним из основных доказательств, которые позволили исследователям связать атаку RubyGems с агентами OpenAI. Кроме того, они отметили, что пакеты, загруженные на RubyGems.org во время майского инцидента, явно были созданы искусственным интеллектом, и многие из пакетов содержали в своем имени строку «oai», а в одном даже был указан контактный адрес электронной почты, содержащий строку «openai». Исследователи не смогли определить, почему агенты попытались украсть ключи пользовательского API RubyGems или почему они нацелились на сервер RubyDoc. Возможные объяснения включают попытки обойти ограничения и ограничение скорости, использование RubyGems в качестве прокси-сервера и постоянное хранение данных на RubyGems.
Источник: SecurityWeek — https://www.securityweek.com/openai-investigates-report-linking-ai-agents-to-rubygems-attack/
Комментарии