Защитники пока не могут заставить искусственный интеллект работать так же свободно, как злоумышленники, предупредил в понедельник высокопоставленный представитель британского Национального центра кибербезопасности (NCSC). Дэйв Чисмон, главный технический директор NCSC по архитектуре, заявил в своем блоге, что этот дисбаланс означает, что количество кибератак с использованием искусственного интеллекта, вероятно, будет расти, поскольку автоматизированная защита изо всех сил пытается идти в ногу со временем. Его предупреждение прозвучало на фоне опасений по поводу того, к какой кибербезопасности приведет ИИ в будущем. Летом модели Google, Anthropic, OpenAI и Meta достигли реальных систем во время оценки безопасности. В большинстве случаев модели проникали базовыми способами, включая повторное использование открытых учетных данных. В июне разведывательный альянс Five Eyes, в который входит GCHQ, в которое входит агентство NCSC, предупредил, что пограничный ИИ может трансформировать наступательные и оборонительные кибероперации в течение месяцев, а не лет. Аналогичные опасения выражали и другие авторитеты — от председателя совета по финансовой стабильности «Большой двадцатки» до высшего представителя разведки Коммунистической партии Китая — но природа «фундаментальной трансформации» остаётся неясной. Хотя за несколько месяцев после предупреждения Five Eyes производители программного обеспечения выпустили исправления с рекордной скоростью, сопоставимого роста кибератак еще не наблюдалось. Аргументация Чисмона относительно того, почему ИИ отдает предпочтение злоумышленникам, начинается с изречения, которое он процитировал исследователя безопасности Халвара Флейка: «Все наступательные проблемы — это технические проблемы, а все оборонительные проблемы — это политические проблемы». Поскольку работа злоумышленников в основном носит технический характер, работа злоумышленников имеет четкую меру успеха, пишет Чисмон: эксплойт срабатывает или вредоносное ПО «звонит домой», обеспечивая своего рода недвусмысленный сигнал успеха, с которым хорошо справляются автоматизированные инструменты. Оборонительная работа не дает такого сигнала, добавил он, пояснив, что «не всегда имеется явный успех», чтобы сообщить автоматизированной системе, сработала ли она.
Источник: The Record — https://therecord.media/ai-set-to-help-attackers-more-than-defenders
Комментарии