Microsoft опубликовала предварительную версию кодекса, устанавливающего ряд ограничений для будущих ИИ-моделей компании. Это произошло через несколько дней после того, как OpenAI и Anthropic признали необходимость замедлить разработку передовых алгоритмов. Софтверный гигант стремится к тому, чтобы его воспринимали как ответственного игрока в сфере ИИ, где Microsoft является одним из крупных поставщиков облачных услуг. «Мы получили отзывы от людей, которые хотели видеть ещё более явное обязательство того, что ИИ всегда работает на благо людей и не пытается заменить их. Мы увидели много отзывов о том, что ИИ не должен создавать зависимость, не должен льстить, что он всегда должен способствовать суждениям человека, автономии человека и свободе воли» , — заявил глава ИИ-подразделения Microsoft Мустафа Сулейман (Mustafa Suleyman). Он также добавил, что Microsoft решила опубликовать предварительную версию кодекса именно сейчас из-за обострения дискуссии по поводу безопасности ИИ, но на деле эти рекомендации готовились около пяти месяцев. Отраслевые специалисты и представители общественности стали более открыто выражать опасения по мере того, как ИИ-алгоритмы становятся всё более продвинутыми. Так на прошлой неделе исследователь из Anthropic Джейкоб Коксон (Jacob Coxon) ушёл в отставку , заявив, что его компания вместе с OpenAI «мчатся прямо к самосовершенствующемуся сверхразуму и играют с нашими жизнями» . Лидеры отрасли отреагировали на это. На выходных гендиректор Anthropic Дарио Амодеи (Dario Amodei) заявил , что недавний инцидент со взломом платформы Hugging Face вышедшими из-под контроля ИИ-агентами OpenAI отчасти убедил его в необходимости замедления темпов совершенствования нейросетей. Гендиректор OpenAI Сэм Альтман (Sam Altman) выразил поддержку в этом вопросе, а гендиректор SpaceX Илон Маск (Elon Musk) написал в соцсети X «Дарио прав». Позднее гендиректор Microsoft Сатья Наделла (Satya Nadella) заявил, что его компания поддерживает сосредоточенность и продуманный темп исследований. Американские законодатели также призвали к созданию более серьёзных гарантий безопасности в сфере ИИ.
Источник: 3DNews — https://3dnews.ru/1148460
Комментарии