Anthropic объявила , что выбрала Accenture партнёром для независимой оценки своих ИИ-систем. Специалисты Accenture будут непосредственно участвовать в рабочих процессах ИИ-лаборатории. Сотрудничество стало первым шагом к реализации инициативы главы Anthropic Дарио Амодеи (Dario Amodei) по замедлению развития ИИ. Согласно договорённости, в ближайшие пять лет две компании вложат не менее $1 млрд в «наращивание потенциала в этой сфере». Однако с учётом «важности и неотложности» задачи Anthropic обеспечит прямое финансирование работы Accenture. « В долгосрочной перспективе мы считаем, что финансирование должно осуществляться из совместных или государственных источников, к чему мы призывали в опубликованной в июне Концепции развития передового ИИ . Поскольку сейчас таких источников нет, мы планируем сотрудничать с различными организациями, проводящими оценку, на разных условиях финансирования », — заявили в Anthropic. На минувшей неделе Дарио Амодеи предложил план из трёх этапов, призванный замедлить совершенствование передовых моделей ИИ. Первый этап предполагает привлечение независимых экспертов к работе лабораторий для контроля за соблюдением требований безопасности, стресс-тестирования моделей и оценки их соответствия человеческим ценностям. Инициативу поддержали глава OpenAI Сэм Альтман (Sam Altman) и руководитель xAI Илон Маск (Elon Musk). Руководители других технологических компаний, в том числе глава Nvidia Дженсен Хуанг (Jensen Huang), отнеслись к предложению скептически, не увидев необходимости в дополнительном регулировании.
Источник: 3DNews — https://3dnews.ru/1148747
Комментарии