Исследователь безопасности Гэл Вайцман из Forever Security раскрыл новую технику атаки, которая позволяет перехватить помощников искусственного интеллекта, встроенных в популярные браузеры, с помощью одного вредоносного расширения браузера. Доказательство концепции, получившее название BragJack, было продемонстрировано на пяти браузерах или помощниках браузера на базе Chromium: Gemini Live от Google Chrome, Perplexity Comet, Microsoft Edge, Opera Neon и Claude от Anthropic в Chrome. В результате исследования пять поставщиков заработали более 20 000 долларов США в виде вознаграждений за обнаружение ошибок (от 600 до 7 000 долларов США) и создали два CVE. Для атаки требуется, чтобы вредоносное расширение уже было установлено в браузере жертвы. Как только это произойдет, исследователь показывает, что злоупотребление может происходить без взаимодействия с пользователем, позволяя расширению контролировать агент браузера с искусственным интеллектом и злоупотреблять его существующими привилегиями для доступа к конфиденциальной информации или действий от имени жертвы. И Google, и Microsoft с тех пор устранили указанные им недостатки. В атаках используется то, как ИИ-помощники все чаще подключаются к браузерам и передают им возможности на уровне браузера. В своей статье Вейцман описывает эти системы как имеющие «мозг» и «тело». Модель ИИ обрабатывает инструкции и решает, что должно произойти. Затем привилегированный компонент браузера выполняет такие действия, как доступ к вкладкам, чтение контента, создание снимков экрана или взаимодействие с веб-сайтами. Проблема, по мнению исследователя, заключается в том, что расширения браузера могут манипулировать веб-трафиком и страницами, которым доверяют эти привилегированные компоненты.
Источник: BleepingComputer — https://www.bleepingcomputer.com/news/security/bragjack-attacks-hijack-ai-browser-agents-through-malicious-extensions/
Комментарии