OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта компании. Об инициативе под кодовым названием Project Lily сообщило издание 404 Media со ссылкой на внутренние документы и общение с участниками программы. Иногда разговоры с чат‑ботами содержат конфиденциальную информацию, к которой имеют доступ нанимаемые OpenAI подрядчики. Цель Project Lily заключается в улучшении ответов, которые ChatGPT предоставляет своим пользователям. Подрядчики оценивают и критикуют сгенерированные чат‑ботом результаты. Также они обучают чат‑бот не очеловечивать себя и быть менее склонным к « подхалимству » — это одна ключевых проблем OpenAI. Чрезвычайно угодливая модель GPT-4o отчасти стала причиной нескольких самоубийств . Использование подрядчиков для подобных целей представляет собой серьёзный риск для конфиденциальности пользователей ChatGPT, поскольку люди часто применяют чат‑бот в качестве терапевта, профессионального помощника или виртуального друга. Подрядчики не видят имена пользователей ChatGPT. В свою очередь OpenAI заявляет, что старается удалять личную информацию до того, как промпты попадут к проверяющим. Однако компания признаёт, что конфиденциальные данные всё же могут проходить через этот фильтр.
Источник: Habr — https://habr.com/ru/news/1082432/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1082432
Комментарии