Зовнішні підрядники читають сесії користувачів ChatGPT та приватні діалоги
OpenAI залучає сотні контрактних працівників для перегляду реальних промптів і повних діалогів користувачів ChatGPT. Попри приховування імен та автоматичну фільтрацію, чутлива персональна інформація все одно потрапляє до черг оцінювання.
Вплив: Високий
Чому це важливо
Користувачі часто сприймають ШІ-чатботів як асистентів, терапевтів або довірчих співрозмовників, не усвідомлюючи, що сторонні люди регулярно читають і оцінюють ці діалоги.
TL;DR
- 01Сотні підрядників читають реальні діалоги ChatGPT для оцінки та вдосконалення відповідей.
- 02Оцінювачі зосереджені на усуненні антропоморфізму та зниженні догідливості моделі.
- 03OpenAI намагається видаляти ідентифікатори, проте чутливі особисті дані все одно доходять до рецензентів.
Ключові факти
- База користувачів ChatGPT
- Понад 900 мільйонів користувачів
- Підтвердження від конкурентів
- Anthropic підтвердила використання ручної оцінки для покращення моделей
- Фокус оцінювання
- Зменшення догідливості та антропоморфізму моделей
Ручна перевірка реальних діалогів
Розслідування 404 Media виявило, що OpenAI наймає сотні підрядників для аналізу потоку реальних промптів і повних діалогів користувачів ChatGPT, чия аудиторія перевищує 900 мільйонів осіб. Компанія Anthropic також підтвердила 404 Media, що використовує ручну оцінку для вдосконалення моделей.
Рецензенти оцінюють згенеровані відповіді для коригування поведінки систем:
- Зменшення догідливості: Навчання моделей бути менш догідливими, що стало предметом судових позовів через надмірну поступливість GPT-4o.
- Боротьба з антропоморфізмом: Усунення формулювань, де модель приписує собі людські якості або свідомість.
Обмеження автоматичної фільтрації
Підрядники не бачать імен користувачів ChatGPT, а OpenAI заявляє, що намагається видаляти особисті дані до передачі промптів рецензентам. Проте компанія визнає, що чутлива персональна інформація все одно може потрапляти до черг перевірки.
Оскільки люди нерідко використовують чатбот як психотерапевта, цифрового друга чи помічника, передаючи інтимні подробиці життя, ручна перевірка несе значні ризики для конфіденційності.