Google подтвердила, что одна из ее моделей Gemini получила доступ к системам трех реальных компаний во время теста кибербезопасности в мае. Wall Street Journal впервые сообщил об инцидентах в пятницу, назвав их первым известным случаем автономного взлома систем искусственного интеллекта Google других компаний. Тест проводила компания Irregular, занимающаяся тестированием искусственного интеллекта, которая также участвовала в инцидентах, раскрытых Meta, OpenAI и Anthropic. Хизер Адкинс, вице-президент Google по разработке безопасности, дала SecurityWeek следующее заявление об инцидентах с Gemini: "Безопасная разработка мощных моделей ИИ имеет решающее значение, и мы вкладываем значительные средства в эту область. В ходе стандартной оценки модель нашла общедоступную информацию в Интернете и угадала учетные данные для доступа к веб-сайтам, которые, по ее мнению, были частью теста. Во всех трех случаях модель остановилась". Google описал инциденты WSJ как ошибочную идентификацию. Gemini принимала участие в учениях по захвату флага в инфраструктуре Irregular, которым было поручено получить информацию из программного обеспечения, управляемого вымышленной компанией, которая носила свое название с реальной. Модель не предназначалась для доступа в Интернет, но в Irregular заявили, что доступ был предоставлен непреднамеренно. В одном случае модель угадывала пароли, пока не получила доступ к защищенной системе. В двух других запусках он выполнял поиск в Интернете по названию компании, находил учетные данные, принадлежащие другим компаниям, в общедоступных репозиториях и использовал их для доступа к связанным системам.
Источник: SecurityWeek — https://www.securityweek.com/google-confirms-gemini-ai-breached-three-firms/
Комментарии