Por Percival Henriques • 04 de março de 2025
Confesso que, ao me deparar com o relatório “Towards a Common Reporting Framework for AI Incidents” — publicado pela OCDE em colaboração com a GPAI —, minha primeira reação foi de curiosidade acompanhada de uma pitada de ceticismo. Afinal, a proposta de um arcabouço comum para relatar incidentes de inteligência artificial soa ambiciosa e, ao mesmo tempo, traz à tona desafios que muitos de nós, profissionais e entusiastas de tecnologia, já conhecemos bem. Nunca conseguimos isso, por exemplo, em segurança cibernética de forma plena. E recentemente, para esses casos as legislações de privacidade e proteção de dados, ao impor sanções muito rígidas sobre incidentes, passaram s desencorajar, na prática, qualquer relato voluntário.
Voltando ao texto da OCDE, em primeiro lugar, reconheço o valor de um esforço internacional para harmonizar as práticas de relato. Se, por um lado, os incidentes de IA podem abranger desde simples falhas de software até decisões enviesadas que impactam comunidades inteiras, por outro, a ausência de parâmetros universais inviabiliza análises consistentes e comparáveis. A sugestão da OCDE de criar uma espécie de “guia de melhores práticas” me parece uma ferramenta poderosa para impulsionar a transparência.
Imagino, por exemplo, como esse framework poderia auxiliar governos, empresas e a própria sociedade civil a monitorar e investigar incidentes que, até então, eram camuflados por termos técnicos ou enterrados em relatórios internos. A possibilidade de mapear tendências e causas comuns — de falhas algorítmicas a omissões em fases de teste — geraria dados suficientes para embasar políticas públicas e até para fomentar uma cultura de responsabilidade compartilhada.
Porém, não posso ignorar os contratempos que um arcabouço dessa natureza certamente acarretaria. Minha primeira preocupação é o risco de se criar mais um labirinto burocrático, com relatórios extensos, formulários padronizados e uma infinidade de métricas que, embora úteis no papel, acabam atrasando inovações importantes.
Além disso, a adoção de um framework comum pode representar um custo considerável para startups e pequenos laboratórios de pesquisa que, muitas vezes, não dispõem de equipes jurídicas e de compliance robustas. Ao se exigir que tais organizações cumpram à risca todas as etapas de documentação e reporte, corre-se o risco de sufocar a inovação ou aumentar o fosso entre grandes empresas de tecnologia e projetos emergentes.
Um ponto que me desperta interesse — e certa cautela — é a influência que esse documento pode exercer sobre futuros projetos de lei ou regulamentos nacionais. Acredito que, se bem utilizado, o relatório da OCDE tem o potencial de guiar autoridades na elaboração de normas equilibradas, promovendo clareza sobre as responsabilidades de cada agente do ecossistema de IA. Entretanto, há também o perigo de uma regulação excessivamente rígida, que tente traduzir todo esse framework em legislações inflexíveis, resultando em insegurança jurídica ou penalizações desproporcionais.
Nesse sentido, o texto acerta ao enfatizar a importância de processos colaborativos, envolvendo não apenas governos, mas também a indústria, a academia e a sociedade civil. A ideia de relatórios construídos a várias mãos me agrada por sugerir que ninguém ficará à margem ou será “pego de surpresa” por regras desenhadas a portas fechadas.
É deixada a impressão, após a leitura, de que um documento importante para o futuro da governança em IA está em mãos. Ainda assim, persiste o desafio de converter propostas como esta em práticas viáveis, capazes de harmonizar boa vontade internacional, responsabilidade corporativa e, por que não, uma pitada de ousadia para o avanço civilizatório. Que mesmo na delicada tarefa de governança e regulação não percamos de vista a liberdade de criação. Para o bem e a maturidade do avanço tecnológico.
🔻Clique aqui para baixar o documento original em PDF
—
Percival Henriques é conselheiro do Comitê Gestor da Internet no Brasil CGI.BR e vice presidente do Conselho de Administração do NIC.BR
