Microsoft представила свод этических принципов разработки искусственного интеллекта, в котором закрепила приоритет человека над технологиями. Документ стал ответом на растущие опасения экспертов по поводу скорости прогресса в сфере машинного обучения и рисков потери контроля над ИИ-системами. В 37-страничном документе под названием «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct) компания чётко обозначила свою позицию: люди важнее алгоритмов. Microsoft категорически отвергает идею о том, что большие языковые модели (LLM) обладают сознанием или заслуживают правового статуса личности и запретила своим системам имитировать сознание, заявив, что ИИ не должен претендовать на какие-либо права. The Verge отмечает, что этот шаг стал прямым вызовом концепции, которую активно продвигает руководство компании Anthropic. Позиция Microsoft контрастирует с заявлениями генерального директора Anthropic Дарио Амодея (Dario Amodei), который ранее допускал вероятность наличия сознания у моделей. Подобные заявления глава подразделения Microsoft AI Мустафа Сулейман (Mustafa Suleyman) назвал крайне опасными спекуляциями. Microsoft настаивает на том, что модели должны находиться под значимым контролем человечества. В случае конфликта задач с правилами безопасности система должна отказаться от выполнения действия, а не пытаться обойти ограничение. Такой подход компания связывает в том числе с недавними инцидентами с автономными ИИ-агентами, которые показали, что способны действовать за пределами поставленной им задачи.
Источник: 3DNews — https://3dnews.ru/1148453
Комментарии