OpenAI anuncia marca d'água invisível em textos do ChatGPT na UE

A OpenAI anunciou a implementação de uma marca-d’água digital invisível em textos e códigos gerados pelo ChatGPT e pelo Codex na União Europeia (UE). A iniciativa busca atender às exigências de transparência da Lei de Inteligência Artificial (IA) do bloco e permitirá identificar, por meio de ferramentas específicas, conteúdos produzidos pelos modelos da empresa.

A tecnologia, chamada textGrain, será disponibilizada gradualmente nas próximas semanas para usuários elegíveis. Nesta etapa inicial, a implementação ficará restrita à região, sem adoção global como padrão.

Como funciona a marca-d’água invisível

O sistema textGrain incorpora um sinal estatístico às escolhas de palavras feitas pelo modelo durante a geração de um texto. Esse padrão não é perceptível na leitura convencional, mas pode ser identificado por um detector compatível.

A tecnologia não depende da inclusão de caracteres visíveis ou de elementos gráficos no conteúdo. Em vez disso, utiliza padrões estatísticos associados à maneira como o modelo seleciona palavras, permitindo que ferramentas específicas avaliem se o texto apresenta sinais de geração por modelos da OpenAI.

A empresa afirma que, em suas avaliações, o textGrain apresentou resultados semelhantes ou superiores aos de outras abordagens testadas, incluindo o SynthID para textos, tecnologia desenvolvida pelo Google DeepMind.

Apesar disso, a OpenAI reconhece que a detecção não é infalível. O sistema pode produzir falsos positivos, quando identifica uma marca-d’água inexistente, ou falsos negativos, quando deixa de reconhecer uma marca presente no conteúdo.

Detector não estará disponível para todos

A ferramenta de detecção não será aberta ao público em seu lançamento. O acesso inicial será concedido individualmente a pesquisadores aprovados e organizações especializadas.

De acordo com a OpenAI, o detector informará apenas se há sinais de uma marca-d’água da empresa. A ferramenta não identificará usuários nem revelará prompts ou conversas associados à geração do conteúdo.

Para clientes que utilizam a API da OpenAI, a marca-d’água será opcional e permanecerá desativada por padrão. Dessa forma, desenvolvedores e empresas poderão decidir se desejam ativar o recurso conforme suas necessidades e obrigações de transparência.

Legislação europeia impulsiona a iniciativa

A adoção da tecnologia está relacionada às exigências da Lei de Inteligência Artificial da União Europeia, que estabelece obrigações de transparência para conteúdos gerados por sistemas de IA.

A medida acompanha iniciativas de outras empresas do setor. Em agosto, a Anthropic, desenvolvedora do Claude, também anunciou mecanismos semelhantes para sinalizar textos produzidos por seus modelos.