Опрос показал, что, хотя почти все старшие руководители ИИ (98%) сообщают о наличии официальной политики управления ИИ, около двух третей старших руководителей ИИ выразили обеспокоенность по поводу отсутствия внутреннего опыта для эффективного развития (69%), внедрения (63%) или разработки (63%) средств управления ИИ в их организации. Около половины (47%) респондентов даже признались, что их организация ранее не соблюдала процесс управления ИИ для срочных развертываний, даже несмотря на то, что инциденты, связанные с ИИ, киберриски и теневой ИИ стали более распространенными. Агентный ИИ быстро внедряется на предприятиях: 91% старших руководителей ИИ сообщают, что их организации используют агентный ИИ либо в рамках активных пилотных программ, либо в рамках полного развертывания на предприятии. Однако практика управления не поспевает за принятием. Примерно половина (49%) респондентов, чьи организации используют агентный ИИ, говорят, что существующая структура управления их организации еще не была обновлена, чтобы конкретно включать в себя требования и риски, связанные с агентным ИИ. Хотя агентные системы ИИ уже выполняют критически важные действия — от обнаружения угроз кибербезопасности до запуска кода — 85% старших руководителей ИИ, чьи организации используют агентный ИИ, признают, что по крайней мере несколько этих систем выполняют действия без участия человека в реальном времени. По мере того, как организации масштабируют внедрение автономного ИИ, возникают критические пробелы в видимости: около четверти (26%) старших руководителей ИИ, чья организация использует агентный ИИ, сообщают, что их организация не может обнаружить неавторизованных агентов ИИ, работающих внутри компании. Старшие руководители ИИ выражают серьезную обеспокоенность по поводу рисков ИИ: от страха перед кибератаками с использованием ИИ третьих сторон (81%) до громких сбоев ИИ, публично влияющих на репутацию их организации (75%), несоблюдения организацией новых или появляющихся правил, касающихся ИИ (72%), а также неспособности точно отслеживать или проверять происхождение данных и входные данные, которые используются в критических моделях принятия решений ИИ (72%). Эти тревоги основаны на реальных событиях. В прошлом году 89% респондентов заявили, что столкнулись с рисками, связанными с ИИ, включая риски кибербезопасности (52%), человеческие риски (47%) и теневые риски ИИ (46%).
Источник: Dark Reading — https://www.darkreading.com/cyberattacks-data-breaches/ey-survey-autonomous-ai-implementation-outpaces-oversight
Комментарии