A Caixa-Preta do Estado: Suprema Corte espanhola obriga governo a revelar algoritmo que concede benefícios sociais

Em uma decisão histórica pela transparência, o tribunal consagra o direito cidadão a conhecer o “código-fonte” de sistemas que tomam decisões automatizadas, criando um precedente crucial contra a falta de transparência da inteligência artificial no poder público.

Em uma batalha jurídica que promete ecoar por toda a Europa e América Latina, o Tribunal Supremo da Espanha emitiu uma sentença histórica: o Estado é obrigado a revelar o funcionamento interno de seus algoritmos. A decisão força o governo a entregar o código-fonte do “Bosco”, o programa de computador responsável por atribuir o “bono social”, um pacote de auxílios estatais para o pagamento da conta de luz de famílias vulneráveis. É a primeira vez que um tribunal desta hierarquia na Espanha ordena a abertura da “caixa-preta” de um sistema de decisão automatizado, um triunfo monumental para a transparência na era digital.

A luta começou em 2018, quando uma investigação da Fundação Cidadã Civio descobriu que o algoritmo estava falhando, negando o auxílio a pessoas que cumpriam todos os requisitos legais. Apesar de a Administração ter reconhecido o erro, ela se recusou repetidamente a mostrar as “entranhas” do programa, alegando desde a proteção da propriedade intelectual até riscos à segurança nacional. O Supremo, contudo, rejeitou esses argumentos e firmou o direito de acesso à informação pública como uma ferramenta essencial para fiscalizar o poder no século XXI.

“O direito de acesso à informação pública adquire especial relevância diante dos riscos que o uso das novas tecnologias acarreta no exercício dos poderes públicos”, diz a sentença, ressaltando que essa necessidade é ainda maior quando o objetivo é o reconhecimento de direitos sociais.

Para quem não é da área, podemos simplificar alguns termos…

Um algoritmo, neste contexto, é um conjunto de regras e passos lógicos que um programa de computador segue para tomar uma decisão, como determinar se alguém tem direito a um benefício social. O código-fonte é o texto escrito em uma linguagem de programação que contém todas essas regras; são as “instruções” detalhadas que compõem o algoritmo. Abrir o código-fonte é como permitir que especialistas independentes leiam a “receita” completa do programa para verificar se ela é justa, se não tem erros e se não discrimina certos grupos. A transparência algorítmica é, portanto, o princípio de que os cidadãos têm o direito de saber como funcionam esses sistemas que, cada vez mais, decidem sobre suas vidas.

Transparência como ferramenta de fortalecimento

Um dos argumentos mais inovadores do Tribunal Supremo foi rejeitar a ideia de que a transparência enfraquece a segurança do sistema. Pelo contrário, a sentença defende que abrir o código-fonte pode, de fato, fortalecê-lo. Segundo o tribunal, a análise por diferentes e independentes atores permite que venham à tona vulnerabilidades que não foram inicialmente percebidas, possibilitando sua correção precoce e obrigando a Administração a ser mais rigorosa no design de suas próprias ferramentas.

A decisão também esclarece que revelar o código-fonte não implica expor dados pessoais dos beneficiários, já que o algoritmo é apenas a receita, e não o banco de dados com as informações das pessoas. “Estamos felicíssimos. Não só porque hoje termina uma luta que iniciamos em 2018, mas também porque a sentença abre caminho e cria jurisprudência para todos os casos futuros”, celebrou Eva Belmonte, codiretora da Civio, a organização que levou o caso até a última instância.

Esta decisão ressoa com especial força no Brasil, onde os governos implementam cada vez mais sistemas automatizados para gerenciar desde benefícios sociais até a fiscalização de impostos. A decisão espanhola é um poderoso lembrete de que a eficiência tecnológica não pode ser uma desculpa para a falta de transparência. Sem a capacidade de uma auditoria independente, os algoritmos do Estado correm o risco de se tornarem ferramentas de arbitrariedade e vieses invisíveis. A sentença do Supremo espanhol não é apenas uma vitória para a transparência; é uma defesa fundamental do princípio de que, em uma democracia, o poder, mesmo quando é digital, nunca pode operar na escuridão.

Traduzido e adaptado de El País

Redação do Movimento PB [NMG-OGO-22092025-G2H8I1-15P]