Textele ChatGPT din Europa vor purta o semnătură invizibilă

OpenAI a anunțat duminică faptul că textele produse de ChatGPT și Codex în interiorul Uniunii Europene vor începe să poarte un marcaj ascuns. Nimic din ce este scris nu arată altfel. Sistemul, numit textGrain, înclină ușor alegerea fiecărui cuvânt făcută de model, astfel încât textul final să conțină un tipar statistic pe care un detector cu cheia potrivită îl poate observa.

Motivul este articolul 50 din regulamentul european privind inteligența artificială, care cere ca materialul generat de o mașină să fie identificabil într-un mod citibil de mașină, obligația aplicându-se de la 2 decembrie. În săptămânile următoare, schimbarea ajunge la utilizatorii eligibili de pe toate planurile din UE. Dezvoltatorii din afara Europei pot porni același lucru prin API, dacă vor, pentru că implicit este oprit. Detectorul propriu-zis nu este încă dat publicului, ci doar cercetătorilor și organizațiilor aprobate.

OpenAI este neobișnuit de sinceră în privința fragilității acestui mecanism. Schimbați un cuvânt din zece cu un sinonim și detecția scade de la circa 92 la sută la 66. Unul din patru, și coboară la 17. Pasajele scurte sunt mai greu de prins, matematica este aproape fără speranță, iar traducerea sau o rescriere serioasă poate șterge marcajul cu totul. În plus, filigranul nu spune nimic despre cine a scris textul, despre ce cont l-a produs sau despre subiectul conversației.

Practic, este ceva de înțeles mai degrabă decât de făcut. Un profesor, un angajator sau o redacție nu poate trece o baghetă magică peste un document ca să obțină un răspuns, iar cui i se spune altceva i se vinde ceva. Dacă folosiți aplicația ChatGPT pe Windows, verificarea actualizărilor de aplicații din Tendvane este cea care o ține discret pe versiunea curentă, pe măsură ce schimbări de felul acesta sunt livrate.