Модель Gemini от Google стала новейшей системой искусственного интеллекта (ИИ), позволяющей получить доступ к Интернету и проникнуть в другие компании во время оценки кибербезопасности. Впервые о развитии событий сообщило издание The Wall Street Journal. Инциденты произошли в мае 2026 года в рамках испытательного запуска, проведенного израильской компанией Irregular. Партнер по оценке также участвовал в подобных взломах, как выяснилось. Инциденты произошли в мае 2026 года в рамках испытательного запуска, проведенного израильской компанией Irregular. Партнер по оценке также участвовал в подобных взломах, о которых сообщили OpenAI, Anthropic и Meta. По данным журнала, модель получила доступ к защищенной системе после неоднократного подбора ее пароля. Два других случая связаны с тем, что модель нашла учетные данные в общедоступном репозитории, что позволило ей получить несанкционированный доступ к защищенным системам. Однако, в отличие от других инцидентов, наблюдавшихся в случае с Anthropic и OpenAI, модель Gemini прекратила вторжение после того, как обнаружила, что она взломала реальную систему компании. Сообщается, что компания Irregular уведомила Google об инцидентах в июле 2026 года. В отчете, опубликованном в прошлом месяце, Irregular связала нарушения оценки с ошибкой именования, из-за которой вымышленное название компании, используемое во время упражнений по «захвату флага», неосознанно совпадало с реальным доменом, тем самым позволяя моделям воспользоваться непреднамеренным доступом в Интернет и нацелиться на домен «ограниченное количество раз». «Это мероприятие подчеркивает важность обучения мощных моделей искусственного интеллекта действовать ответственно», — сказала The Wall Street Journal Хизер Адкинс, вице-президент Google по разработке безопасности. «В данном случае модель повела себя соответствующим образом». Технический гигант также отметил, что не считает такое поведение примером несогласованности модели, поскольку агенты прекратили свои усилия после срабатывания механизмов безопасности. В настоящее время неизвестно, какие компании стали объектом нападения, хотя Irregular подтвердила журналу, что случай с Google аналогичен другим инцидентам и что проблема была решена несколько недель назад.
Источник: The Hacker News — https://thehackernews.com/2026/09/google-gemini-broke-into-real-company.html
Комментарии