Teksty ChatGPT w Europie będą nosić niewidzialny podpis

OpenAI ogłosiło w niedzielę, że teksty tworzone przez ChatGPT i Codeksa na terenie Unii Europejskiej zaczną nosić ukryty znacznik. W samym piśmie nic się nie zmienia. System o nazwie textGrain delikatnie wpływa na to, które słowo model wybiera na każdym kroku, tak by gotowy tekst zawierał wzorzec statystyczny, który detektor z właściwym kluczem potrafi dostrzec.

Powodem jest artykuł 50 unijnego rozporządzenia o sztucznej inteligencji, który wymaga, aby treści wygenerowane maszynowo dało się rozpoznać w sposób czytelny dla maszyny, a obowiązek zaczyna obowiązywać od 2 grudnia. Wdrożenie obejmie w najbliższych tygodniach uprawnionych użytkowników wszystkich planów w UE. Deweloperzy spoza Europy mogą włączyć to samo przez API, jeśli chcą, bo domyślnie jest wyłączone. Samego detektora na razie nie udostępnia się publicznie, tylko zatwierdzonym badaczom i organizacjom.

OpenAI nietypowo szczerze mówi, jak kruche jest to rozwiązanie. Wystarczy wymienić co dziesiąte słowo na synonim, a wykrywalność spada z około 92 procent do 66. Przy co czwartym słowie zjeżdża do 17. Krótkie fragmenty są trudniejsze, matematyka jest niemal beznadziejna, a tłumaczenie albo mocna przeróbka tekstu potrafi zmyć znacznik zupełnie. Znak wodny nie mówi też nic o tym, kto napisał tekst, z jakiego konta powstał ani czego dotyczyła rozmowa.

W praktyce to rzecz raczej do zrozumienia niż do zrobienia. Nauczyciel, pracodawca czy redakcja nie machnie nad dokumentem różdżką i nie dostanie odpowiedzi, a komu mówią inaczej, temu coś sprzedają. Jeśli korzystacie z aplikacji ChatGPT na Windowsie, to sprawdzanie aktualizacji aplikacji w Tendvane po cichu trzyma ją na bieżącej wersji, gdy takie zmiany trafiają do użytkowników.