OpenAI наняла сотни подрядчиков для проверки переписок в ChatGPT

Люди читают ваши беседы в ChatGPT — оригинал

Согласно новому расследованию 404 Media, OpenAI в рамках «Project Lily» наняла сотни контрактных сотрудников для проверки реальных бесед в ChatGPT.

Сообщается, что рецензенты читают промпты и весь диалог, затем оценивают и критикуют ответы ChatGPT, чтобы в будущем улучшать модели.

В этих беседах порой содержится крайне личная информация.

По данным издания, пользователи делились самым разным — от проблем в отношениях и вопросах психического здоровья до чувствительной рабочей информации и персональных данных.

OpenAI заявила, что старается удалять персональные данные из бесед до передачи рецензентам, но признала, что чувствительный контент всё же может не отфильтровываться.

Похоже, что контрактным рецензентам не показываются имена пользователей ChatGPT,

но один проверяющий промпты сказал 404 Media, что не считает, будто большинство пользователей знают о том, что «где‑то какой‑то контрактник» может анализировать их беседы.

Anthropic также подтвердила, что использует человеческую проверку для улучшения моделей.