A OpenAI aplicará marcas-d’água invisíveis aos textos gerados pelo ChatGPT e pelo Codex na União Europeia (유럽연합; UE). Em uma publicação no blog na segunda-feira, a empresa informou que começará a implementá-las, nas próximas semanas, para usuários elegíveis na UE. A medida abrangerá usuários elegíveis de todos os planos, mas os critérios específicos de elegibilidade não foram divulgados nas informações disponíveis.

Contexto

As regras de transparência do Regulamento de IA da UE (EU AI Act) entraram em vigor em 2 de agosto e exigem que empresas de IA identifiquem conteúdos gerados por IA de uma forma que outros sistemas possam reconhecer. Em resposta a essas regras, a OpenAI afirmou que aplicará marcas-d’água na UE.

A marca-d’água não funciona inserindo um símbolo visível no texto. Em vez disso, ajusta sutilmente a maneira como o modelo escolhe as palavras, criando padrões que um detector pode reconhecer. Como o vestígio fica no próprio texto, ele também é mantido quando o conteúdo é copiado e colado. A OpenAI explicou, porém, que esse método não identifica a identidade do usuário.

Junto com o anúncio, a OpenAI divulgou um relatório técnico sobre a tecnologia textGrain. O relatório, elaborado em conjunto por pesquisadores da Universidade da Pensilvânia (펜실베이니아대학교) e da Universidade Yale (예일대학교), descreve como uma chave secreta pode ser usada para orientar a previsão da palavra seguinte. Segundo o relatório, quando esses ajustes se acumulam centenas de vezes, é possível detectar conteúdo gerado por IA usando o texto e a chave. A OpenAI afirmou que a ativação da marca-d’água não provocou mudanças significativas no desempenho do modelo.

A medida também contrasta com a abordagem de outras empresas. Dois meses antes, a Anthropic anunciou que aplicaria marcas-d’água globalmente aos textos gerados pelo Claude. Segundo relatos, alguns usuários reagiram dizendo que haviam fornecido as instruções, o contexto e as decisões. Em 2024, foi noticiado que a OpenAI havia desenvolvido uma marca-d’água de texto, mas adiou seu lançamento, em parte por receio de que os usuários migrassem para concorrentes sem marcas-d’água. Anthropic, Google, Meta, Microsoft e OpenAI estão entre as empresas que se comprometeram a seguir o código de práticas da UE sobre conteúdos gerados por IA.

O que esta notícia significa

Para usuários da UE, a marca-d’água pode oferecer uma pista para identificar textos criados por IA. No entanto, ela não é um sinal que permita sempre identificar todos os textos com certeza. Em um teste da OpenAI, a substituição de 10% das palavras por sinônimos reduziu a taxa de detecção de cerca de 92% para 66%. A empresa também informou que textos curtos, respostas matemáticas e textos traduzidos são difíceis de detectar.

Por isso, há limites para usar o resultado da detecção como única prova da autoria de um texto ou para determinar que houve fraude. A ausência de uma marca-d’água não prova que o texto foi escrito por uma pessoa. Ele pode ser curto demais, ter sido muito editado ou ter sido gerado pela IA de outra empresa. Da mesma forma, a presença da marca-d’água pode indicar apenas que um sistema da OpenAI gerou ou processou parte do texto; ela não revela quanto julgamento, edição ou criatividade humana foi envolvida.

Por exemplo, mesmo que um detector não encontre uma marca-d’água em determinado texto, é difícil concluir, com base apenas nesse resultado, que ele foi escrito por uma pessoa. Isso significa que também é preciso considerar o tamanho do texto, o grau de edição e a possibilidade de uso de outras ferramentas de IA.

À parte da implementação na UE, desenvolvedores que usam a API da OpenAI podem ativar marcas-d’água em alguns modelos, em qualquer lugar do mundo. A opção, porém, vem desativada por padrão, e a OpenAI informou que, no lançamento, não ativará marcas-d’água de texto por padrão em todo o mundo. Portanto, é preciso distinguir a aplicação para usuários da UE do uso opcional por desenvolvedores da API.

O que se sabe e o que ainda não se sabe

Fatos confirmados

  • A implementação na UE está prevista para as próximas semanas e abrangerá usuários elegíveis do ChatGPT e do Codex.
  • Na UE, a medida será aplicada a usuários elegíveis de todos os planos.
  • Desenvolvedores da API podem ativar marcas-d’água em alguns modelos no mundo todo, mas a opção vem desativada por padrão.
  • A marca-d’água deixa padrões invisíveis na escolha das palavras e não identifica a identidade do usuário.
  • O acesso inicial ao detector será concedido apenas a pesquisadores e organizações profissionais aprovados, para ajudar a avaliar sua confiabilidade e seu uso responsável.

O que ainda não se sabe

  • Quais são os critérios específicos para ser considerado um “usuário elegível” na UE?
  • Quando pesquisadores e organizações profissionais aprovados poderão começar a usar o detector?
  • Quais modelos receberão a marca-d’água e qual será o cronograma de lançamento?

O que os leitores devem verificar

  • Quem usa o ChatGPT ou o Codex na UE deve verificar se sua conta está incluída na implementação e quando o serviço informa que ela ocorrerá. As informações disponíveis não especificam os critérios de elegibilidade.
  • Se for necessário determinar quem escreveu um texto, é importante não tirar conclusões com base apenas no resultado de um detector de marcas-d’água. A OpenAI informou que o acesso inicial ao detector será limitado a pesquisadores e organizações profissionais aprovados.
  • Desenvolvedores que usam a API devem verificar que a marca-d’água vem desativada por padrão e que apenas alguns modelos foram indicados como compatíveis. As informações disponíveis não permitem saber quais são os modelos específicos nem o cronograma.