I testi di ChatGPT in Europa stanno per portare una firma invisibile

OpenAI ha annunciato domenica che i testi prodotti da ChatGPT e Codex all'interno dell'Unione europea inizieranno a portare un contrassegno nascosto. Alla lettura non cambia nulla. Il sistema, chiamato textGrain, orienta leggermente quale parola il modello sceglie a ogni passo, così che il testo finito contenga uno schema statistico che un rilevatore con la chiave giusta è in grado di riconoscere.

Il motivo è l'articolo 50 del regolamento europeo sull'IA, che impone che i contenuti generati da una macchina siano identificabili in modo leggibile da una macchina, con obbligo valido dal 2 dicembre. La distribuzione raggiungerà nelle prossime settimane gli utenti idonei di tutti i piani nell'UE. Gli sviluppatori fuori dall'Europa possono attivare la stessa cosa tramite API, se la vogliono, perché di base è spenta. Il rilevatore vero e proprio non viene ancora distribuito pubblicamente, solo a ricercatori e organizzazioni approvate.

OpenAI è insolitamente franca su quanto sia fragile il meccanismo. Sostituite una parola su dieci con un sinonimo e il rilevamento scende da circa il 92 per cento al 66. Una su quattro, e crolla al 17. I passaggi brevi sono più difficili, la matematica è quasi disperata, e tradurre o riscrivere pesantemente un brano può cancellare del tutto il contrassegno. La filigrana inoltre non dice nulla su chi abbia scritto il testo, su quale account lo abbia prodotto o su quale fosse l'argomento della conversazione.

In pratica è una cosa da capire più che da fare. Un insegnante, un datore di lavoro o un giornale non può passare una bacchetta magica su un documento e ottenere una risposta, e a chi viene detto il contrario stanno vendendo qualcosa. Se usate l'app ChatGPT su Windows, il controllo degli aggiornamenti delle app di Tendvane è ciò che la tiene silenziosamente alla versione corrente mentre cambiamenti come questo vengono distribuiti.