Oleksandr Kuzmenko, РедакторОпубліковано 4 хв читанняЗа участі AI · перевірено редактором
TL;DR
- Сотні підрядників читають реальні діалоги ChatGPT для оцінки та вдосконалення відповідей.
- Оцінювачі зосереджені на усуненні антропоморфізму та зниженні догідливості моделі.
- OpenAI намагається видаляти ідентифікатори, проте чутливі особисті дані все одно доходять до рецензентів.
Ключові факти
- База користувачів ChatGPT
- Понад 900 мільйонів користувачів
- Підтвердження від конкурентів
- Anthropic підтвердила використання ручної оцінки для покращення моделей
- Фокус оцінювання
- Зменшення догідливості та антропоморфізму моделей
Ручна перевірка реальних діалогів
Розслідування 404 Media виявило, що OpenAI наймає сотні підрядників для аналізу потоку реальних промптів і повних діалогів користувачів ChatGPT, чия аудиторія перевищує 900 мільйонів осіб. Компанія Anthropic також підтвердила 404 Media, що використовує ручну оцінку для вдосконалення моделей.
Рецензенти оцінюють згенеровані відповіді для коригування поведінки систем:
- Зменшення догідливості: Навчання моделей бути менш догідливими, що стало предметом судових позовів через надмірну поступливість GPT-4o.
- Боротьба з антропоморфізмом: Усунення формулювань, де модель приписує собі людські якості або свідомість.
Обмеження автоматичної фільтрації
Підрядники не бачать імен користувачів ChatGPT, а OpenAI заявляє, що намагається видаляти особисті дані до передачі промптів рецензентам. Проте компанія визнає, що чутлива персональна інформація все одно може потрапляти до черг перевірки.
Оскільки люди нерідко використовують чатбот як психотерапевта, цифрового друга чи помічника, передаючи інтимні подробиці життя, ручна перевірка несе значні ризики для конфіденційності.