«Злоумышленники наводняют сеть тщательно оптимизированными сообщениями, PDF-файлами, обзорами и поддельными страницами поддержки, чтобы заставить ИИ предоставить поддельные номера телефонов, адреса электронной почты и страницы входа», — написал в своем сообщении Ариэль Саймон, вице-президент по исследованиям Vigilance. «Мы подозреваем, что авторитетные домены (университеты, правительство) в сочетании с источниками общественного мнения (социальные сети, форумы, отзывы пользователей) достигли больших успехов в отравлении ответов ИИ», — рассказал Саймон Dark Reading. «В зависимости от модели ИИ смотрит на источник и больше доверяет контенту, если он исходит от авторитетной организации». На данный момент злоумышленники охватили как минимум 374 компании, включая организации из списка Fortune 100, крупные авиакомпании, банки, туристические компании и поставщиков программного обеспечения. Затронутые популярные бренды включают Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb и TripAdvisor. «Здесь вредоносная информация становится частью самого ответа ИИ», — говорит он. «Мошеннический номер службы поддержки представлен в качестве полезного руководства, возможно, пользователь даже не заглянет на страницу, которая его предоставила». Хотя большинство пользователей Интернета были предупреждены о том, чтобы не нажимать на подозрительные ссылки или не поддаваться на фишинговые приманки, у них, как правило, другой взгляд на ИИ как на «всезнайку», которому большинство слепо доверяет. Именно поэтому атака «представляет собой новый и опасный риск», говорит он. По его словам, для пользователей наиболее очевидная лучшая практика — проверять результаты, предоставляемые ИИ, а не доверять чат-ботам, как будто они непогрешимы. Брендам, контентом которых манипулируют с целью предоставления вредоносных ссылок или дезинформации, он рекомендует службам безопасности серьезно относиться к жалобам клиентов на мошенничество и отслеживать ответы ИИ, которые получают клиенты, а также источники, на которые ссылаются эти ответы. «Уделяйте приоритетное внимание поддержке, восстановлению учетной записи, возмещению средств, платежам и загрузке программного обеспечения», — говорит Саймон. «Сравните возвращенные номера телефонов, адреса электронной почты и URL-адреса с проверенными записями компании, а затем исследуйте незнакомые детали и повторяющиеся показатели на несвязанных веб-сайтах».
Источник: Dark Reading — https://www.darkreading.com/threat-intelligence/attackers-manipulate-ai-chatbots-mass-disinformation-phishing-campaign
Комментарии