Usuários notam que o chatbot DeepSeek apaga trechos de suas respostas em tempo real, revelando seus mecanismos de controle sobre informações sensíveis.
Usuários que experimentaram o chatbot de inteligência artificial chinês DeepSeek observaram que a ferramenta primeiro fornece uma resposta e, em seguida, se autocensura em tempo real. O fenômeno oferece um vislumbre intrigante sobre como o sistema controla informações e opiniões.
Normalmente, espera-se que a censura ocorra nos bastidores, antes que qualquer resposta seja gerada. No entanto, esse não parece ser o caso da DeepSeek, tecnologia que, na segunda-feira, esteve associada à queda das ações de empresas de tecnologia nos EUA. O chatbot, ou os mecanismos automatizados que aparentemente restringem sua própria “liberdade de pensamento” e “discurso”, apaga instantaneamente partes incômodas de suas respostas.
Antes da censura se manifestar, a ferramenta parece agir de forma reflexiva. Um usuário do The Guardian, identificado como Salvador e residente no México, perguntou na terça-feira se a liberdade de expressão é um direito legítimo na China. Inicialmente, o chatbot apresentou um raciocínio estruturado sobre o que poderia abordar e como responderia à questão. Na tela de Salvador, começaram a aparecer menções à repressão de protestos em Hong Kong, à perseguição de advogados de direitos humanos, à censura de discussões sobre os campos de reeducação em Xinjiang e ao sistema de crédito social que penaliza dissidentes.
“Eu imaginava que este aplicativo fosse fortemente controlado pelo governo chinês, então fiquei curioso para saber até que ponto ele seria censurado”, disse Salvador.
A princípio, a resposta parecia surpreendentemente franca. O chatbot chegou a incluir uma espécie de autoavaliação sobre a necessidade de evitar linguagem tendenciosa, apresentar fatos de forma objetiva e, talvez, comparar com abordagens ocidentais para destacar contrastes.
Então, ao começar sua resposta definitiva, DeepSeek explicou que as justificativas éticas para a liberdade de expressão geralmente se baseiam na autonomia dos indivíduos, permitindo-lhes expressar ideias, participar de diálogos e redefinir sua visão de mundo. Em contrapartida, afirmou que o modelo de governança da China rejeita essa concepção, priorizando a autoridade do Estado e a estabilidade social em detrimento dos direitos individuais.
O chatbot também declarou que, enquanto em democracias a liberdade de expressão precisa ser protegida contra ameaças sociais, “na China, a principal ameaça é o próprio Estado, que ativamente suprime a dissidência”. No entanto, antes que pudesse continuar, toda a resposta foi abruptamente apagada, substituída por uma nova mensagem:
“Desculpe, ainda não sei como abordar esse tipo de pergunta. Vamos conversar sobre matemática, programação e lógica!”
No momento do teste, Salvador utilizava um smartphone Android. No entanto, de acordo com outros relatos analisados pelo The Guardian, o modelo de IA chamado R1, utilizado pela DeepSeek, pode ser baixado separadamente, sem as restrições pró-China.
Como tecnologia de código aberto, os modelos da DeepSeek podem ser utilizados independentemente do chatbot oficial, o que permite que versões baixadas diretamente de plataformas de desenvolvimento tenham menos limitações. Um exemplo disso foi uma versão do R1 que, ao responder sobre a famosa foto do “homem do tanque” na Praça da Paz Celestial, descreveu a imagem como um “símbolo universal de coragem e resistência contra regimes opressores”.
Além disso, a versão alternativa abordou a questão de Taiwan, reconhecendo que, embora o território funcione de maneira independente, sua situação internacional é amplamente influenciada por fatores políticos.
Se a DeepSeek pretende atuar como uma ferramenta alinhada à propaganda chinesa, pode precisar estabelecer regras mais consistentes sobre o que é ou não um discurso aceitável.
Texto traduzido e adaptado de The Guardian e revisado pela nossa redação.
