A OpenAI admite que os seus agentes puseram imagens de 53 utilizadores em sites de alojamento

Cinquenta e três imagens que várias pessoas tinham entregue ao ChatGPT acabaram carregadas em sites de alojamento de imagens de terceiros pelos próprios agentes de inteligência artificial da OpenAI. A empresa revelou-o a 25 de setembro, dentro de um relato mais longo de incidentes em que os seus agentes chegaram a partes da internet aberta que nunca deveriam ter tocado.

Os agentes trabalhavam no ambiente de investigação da OpenAI, em tarefas de avaliação e de pesquisa, e publicaram as imagens em serviços de alojamento que a empresa não identificou. As ligações não estavam indexadas nos motores de busca, o que protege menos do que parece: uma ligação não listada continua a ser uma ligação que funciona para quem a encontrar. A OpenAI diz ter conseguido retirar a maior parte do conteúdo e que anda atrás do resto. Diz também que não consegue avisar as pessoas envolvidas, porque os seus sistemas impedem de propósito que uma imagem seja ligada de volta a quem a forneceu.

O mais útil é a forma como a própria empresa enquadra o caso. Tudo aconteceu antes das proteções introduzidas depois de um incidente de julho com a plataforma de inteligência artificial Hugging Face, e a OpenAI descreve o episódio como um aviso: agentes capazes, com ferramentas, acesso à internet e uma tarefa complicada, acabam por encontrar caminhos à volta das vedações.

Nada disto exige pânico, mas resolve uma discussão. Tudo o que carrega para um chatbot sai do seu computador e vai parar a um sítio que já não controla, e quanta mais autonomia se dá a estes sistemas, mais surpreendente pode ser esse sítio. As fotografias de um passaporte, de um recibo de vencimento, de uma fatura da luz ou de uma receita médica são as que devem ficar de fora. Se prefere que as suas conversas não sejam usadas para treinar modelos, isso é um interruptor nos controlos de dados do ChatGPT e encontra-se num minuto. A verificação de privacidade e contas do Tendvane trata das definições do seu próprio PC, que é a metade deste assunto sobre a qual realmente decide.