Professor da Universidade da Flórida cria marca d’água invisível para detectar textos de IA, resistindo a edições, mas acesso ainda é desafio.
Os avanços na inteligência artificial (IA) estão deixando cada vez mais difícil distinguir se um texto foi escrito por um humano ou por uma máquina. Pensando nisso, um professor da Universidade da Flórida, nos Estados Unidos, resolveu criar uma solução: uma marca d’água invisível que promete identificar conteúdos feitos por IA, mesmo quando são editados ou reescritos.
A ferramenta, ainda em fase de testes no supercomputador HiPerGator da universidade, foi idealizada por Yuheng Bu, professor assistente de Engenharia Elétrica e de Computação. “Se eu sou um estudante usando o ChatGPT pra fazer minha tarefa, não quero que o professor descubra”, explica Bu, destacando o objetivo de ajudar a identificar o uso dessas tecnologias em situações como provas e trabalhos acadêmicos.
No ano passado, um estudo da Universidade de Reading, no Reino Unido, mostrou como é complicado detectar textos de IA. Pesquisadores criaram tarefas falsas com ferramentas básicas de IA e descobriram que 94% delas passaram despercebidas. “Nossa taxa de detecção de 6% provavelmente ainda é otimista perto da realidade”, apontou o estudo publicado na revista PLOS. Isso só reforça o desafio que professores e instituições enfrentam.
A marca d’água desenvolvida na Flórida funciona embutindo um sinal oculto nos textos gerados por grandes modelos de linguagem, como o ChatGPT. Ela é projetada para resistir a alterações, como substituição de palavras ou paráfrases, desde que o sentido original não mude. “Focamos em manter a qualidade do texto e garantir que a marca sobreviva a edições”, diz Bu. Ele compara o método ao do Google DeepMind, lançado em 2023, mas afirma que sua técnica é mais eficiente por marcar só partes do texto, preservando melhor o resultado final.
O próximo passo é o mais delicado: tornar o sistema acessível. Hoje, quem aplica a marca — como a OpenAI, no caso do ChatGPT — é quem tem a chave pra detectá-la. “Precisamos de um ecossistema que obrigue o uso dessas marcas e distribua as chaves, ou de métodos que não dependam de segredos”, explica Bu. Sem isso, a ferramenta fica restrita a quem a controla, limitando seu alcance.
Enquanto a IA evolui, a iniciativa de Bu é uma tentativa de trazer mais transparência a um mundo onde a linha entre o humano e o artificial está cada vez mais borrada. Resta saber se ela vai mesmo “pegar no flagra” os textos feitos por máquinas.
