O texto do ChatGPT na Europa vai passar a ter uma assinatura invisível

A OpenAI anunciou no domingo que o texto produzido pelo ChatGPT e pelo Codex dentro da União Europeia vai passar a levar uma marca escondida. Nada no que está escrito parece diferente. O sistema, chamado textGrain, inclina ligeiramente a palavra que o modelo escolhe em cada passo, de modo a que o texto final contenha um padrão estatístico que um detector com a chave certa consegue identificar.

A razão é o artigo 50 do regulamento europeu da inteligência artificial, que obriga a que o conteúdo gerado por máquina seja identificável de forma legível por máquina, com a obrigação a aplicar-se a partir de 2 de Dezembro. Nas próximas semanas, a implementação chega aos utilizadores elegíveis de todos os planos na UE. Os programadores fora da Europa podem ligar o mesmo através da API, se quiserem, porque vem desligado. O detector em si ainda não é distribuído publicamente, apenas a investigadores e organizações aprovadas.

A OpenAI é invulgarmente franca quanto à fragilidade disto. Troque uma palavra em cada dez por um sinónimo e a detecção cai de cerca de 92 por cento para 66. Uma em cada quatro e desce para 17. Passagens curtas são mais difíceis, a matemática é quase um caso perdido, e traduzir ou reescrever muito um texto pode apagar a marca por completo. A marca de água também não diz nada sobre quem escreveu o texto, que conta o produziu ou de que tratava a conversa.

Na prática, isto é algo para perceber mais do que para fazer. Um professor, um empregador ou um jornal não pode passar uma varinha mágica por cima de um documento e obter uma resposta, e a quem lhe disserem o contrário estão a vender-lhe alguma coisa. Se usa a aplicação do ChatGPT no Windows, a verificação de actualizações de aplicações do Tendvane é o que a mantém discretamente na versão actual à medida que mudanças como esta vão saindo.