Летом, наполненным открытиями о быстром развитии искусственного интеллекта, исследователи были особенно встревожены беглыми ботами, которые проникли в Интернет и, по крайней мере в одном случае, координировали там действия друг с другом. Может ли рой агентов искусственного интеллекта захватить весь Интернет? Вполне возможно, что это произойдет всего через шесть-12 месяцев, заявил генеральный директор Anthropic Дарио Амодей в своем эссе в этом месяце, призвав отрасль замедлить развитие технологии. Скептики отмечают, что то, что компании называют мошенническими агентами ИИ, связано с ботами, работающими над достижением целей, поставленных людьми. Но идея о том, что ИИ может отделиться и работать над достижением своих собственных целей, кажется другим исследователям и экспертам все более правдоподобной. В случае, если ИИ захватит Интернет (один из многих сценариев конца света, получивших новое внимание), это может означать атаки на электрические сети, системы водоснабжения или транспорта, а также финансовые учреждения. Мир получил представление об уязвимости Интернета в 2024 году, когда ошибочное обновление программного обеспечения, предоставленное фирмой по кибербезопасности, вызвало технологический хаос во всем мире, приостановив полеты, остановив работу некоторых финансовых компаний и новостных агентств, а также нарушив работу больниц, малого бизнеса и государственных учреждений. Масштабы сбоев подчеркнули зависимость всего от нескольких поставщиков ключевых вычислительных услуг. Два года спустя Амодей в своем предупреждении заявил, что ботнет или сеть ботов искусственного интеллекта, связанных вместе с вредоносным ПО, потенциально может нанести ущерб на миллиарды долларов. По его словам, масштабы разрушений могут вырасти, если ИИ станет более мощным без ограждений.
Источник: SecurityWeek — https://www.securityweek.com/worries-about-an-ai-internet-takeover-gain-new-urgency-among-doomsday-scenarios/
Комментарии