Ktoś mógł przeczytać waszą rozmowę z ChatGPT. Dostawał za to pieniądze.

Większość ludzi pisze do chatbota tak, jak mówi sama do siebie. W tym tygodniu to założenie dostało rysy.

404 Media poinformował w poniedziałek, że OpenAI zatrudnia setki zewnętrznych współpracowników do czytania prawdziwych rozmów prawdziwych ludzi z ChatGPT, pod wewnętrzną nazwą Project Lily. Recenzenci przechodzą przez całe wymiany zdań, streszczają, co użytkownik chciał osiągnąć, a następnie oceniają i krytykują odpowiedź chatbota; wszystko to zasila kolejne wersje. Rekrutację prowadzi firma Crossing Hurdles, płatności obsługuje Mercor, a jeden ze współpracowników podał stawkę powyżej 50 dolarów za godzinę. Nazwy użytkowników są usuwane, a system, który OpenAI nazywa Privacy Filter, ma wycinać dane identyfikujące, zanim cokolwiek trafi do człowieka. OpenAI przyznaje, że filtr może przeoczyć "nietypowe informacje identyfikujące lub treści mające osobiste znaczenie w danym kontekście", co jest ostrożnym sposobem powiedzenia, że najczęściej przechodzą przez niego wiadomości krótkie i konkretne.

To nie jest wyciek i OpenAI nie jest w tym odosobniona. Anthropic potwierdził 404 Media, że również korzysta z przeglądu przez ludzi. Warto zareagować na to, że ustawienie jest domyślnie włączone na kontach Free, Plus i Pro. W ChatGPT otwórzcie profil, potem Ustawienia, potem Kontrola danych, i wyłączcie "Ulepszaj model dla wszystkich". Claude trzyma to samo w Ustawieniach i Prywatności jako "Pomóż nam ulepszać nasze modele AI"; Perplexity umieszcza to w Ustawieniach i Preferencjach jako przechowywanie danych AI. Rezygnacja zatrzymuje wyłącznie użycie do trenowania. Dostawcy nadal sięgają po rozmowy ze względów bezpieczeństwa, nadużyć i przepisów prawa, więc stara zasada obowiązuje: nie wpisujcie tam niczego, czego nie wysłalibyście mailem do obcej osoby.

Kontrola prywatności i kont w Tendvane zadaje to samo pytanie waszemu komputerowi, sprawdzając, co maszyna jest ustawiona udostępniać i jakie konta są na niej zalogowane.