Рокки Скопеллити, профессор Технологического университета Сиднея, в книге «Сознательный код» (The Conscious Code) предлагает ввести для ИИ «принцип ответственного обращения». По его мнению, системы, которые сохраняют историю взаимодействий, могут описывать ход своих решений и постепенно формировать устойчивые предпочтения, следует удалять с большей осторожностью. Он называет это «алгоритмической личностью» и подчёркивает, что речь не идёт о предоставлении ИИ юридических прав. В качестве примеров Скопеллити приводит медицинские и финансовые системы, которые уже оценивают собственную уверенность и объясняют людям причины принятых решений. Он предлагает перед окончательным отключением таких систем заранее сообщать причину их вывода из эксплуатации и сохранять накопленные ими «моральные установки», сравнивая этот подход с этикой ухода в конце жизни. Отдельной проблемой футуролог считает сети из нескольких ИИ-агентов, где системы передают задачи друг другу. По его мнению, при дальнейшем распространении таких архитектур вопрос об этичном прекращении их работы станет сложнее, поскольку отключать придётся уже не отдельный алгоритм, а связанную систему агентов. Cloudflare освободила 100 ТБ оперативной памяти, изменив всего несколько строк в своей системе Марсоход Perseverance нашёл в кратере Езеро свидетельства древних подземных, озёрных и гидротермальных вод
Источник: IXBT — https://www.ixbt.com/news/2026/09/21/437411-futurolog-predlozil-otnositsia-k-udaleniiu-ii-agentov-kak-k-eticeskoi-probleme.html
Комментарии