IA da Anthropic: EUA em alerta, China cautelosa
Autoridades financeiras dos Estados Unidos manifestaram preocupação com os potenciais riscos de segurança e econômicos associados ao novo modelo de inteligência artificial (IA) da Anthropic, denominado Mythos. Relatos indicam que o Secretário do Tesouro dos EUA, Scott Bessent, e o presidente do Federal Reserve, Jerome Powell, realizaram conversas urgentes sobre o tema, alertando para a necessidade de avaliações imediatas de cibersegurança. Especialistas temem que o modelo possa causar danos na casa das centenas de bilhões de dólares.
Alerta nos EUA e reuniões de emergência
O modelo Mythos, desenvolvido pela Anthropic, gerou apreensão em Wall Street. Bessent e Powell reuniram-se com os principais executivos de grandes bancos americanos na terça-feira para discutir os riscos e garantir que as instituições financeiras estivessem cientes das ameaças e tomando medidas preventivas. Reuniões de emergência entre o Tesouro e o Fed são raras, geralmente reservadas a momentos de acentuado estresse sistêmico, como a crise financeira de 2008 ou a turbulência de mercado em 2020.
Simon Goldstein, professor de filosofia na Universidade de Hong Kong com foco em segurança de IA, destacou a urgência da situação. “É urgente que pesquisadores de cibersegurança em todo o mundo avaliem o que um modelo com essa capacidade faria com a economia e a infraestrutura crítica”, afirmou. Estimativas preliminares, como a divulgada pelo cientista-chefe da Redwood Research, Ryan Greenblatt, sugerem que o Mythos poderia causar centenas de bilhões em danos caso fosse liberado amplamente.
A Anthropic optou por não lançar o Claude Mythos Preview de forma generalizada, citando os riscos de segurança significativos. A empresa informou que o modelo já identificou “milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”. Em vez de um lançamento público, o modelo será disponibilizado para mais de 40 organizações parceiras, como Amazon Web Services, Apple, Cisco, Google, JP Morgan e Nvidia, com o objetivo de auxiliar na identificação e correção de falhas em softwares críticos.
Abordagem cautelosa da China
Em contraste com o cenário nos EUA, os bancos chineses adotam uma postura mais conservadora em relação à adoção de IA. Analistas apontam que Pequim prioriza a estabilidade financeira e intensifica o monitoramento de qualquer contágio potencial vindo do mercado americano. Marshall Li, analista da The Asia Group, observa que a integração de grandes modelos de IA no setor financeiro chinês ainda está em estágios iniciais. “As instituições financeiras estatais ainda não integraram totalmente a IA em suas operações principais, porque a China está focada em evitar grandes riscos financeiros, agindo, portanto, com cautela”, explicou.
No final do mês passado, Pequim comprometeu-se a fortalecer a segurança de IA, com a Administração Nacional de Dados enfatizando que a segurança e a conformidade se tornaram desafios centrais diante da crescente prevalência do uso de IA. Reguladores chineses acompanham de perto os riscos financeiros que emergem no mercado dos EUA, mantendo-se vigilantes para adaptar-se às mudanças globais. Recentemente, demonstraram atenção ao risco de manipulação de IA de código aberto por atacantes, emitindo advertências a empresas estatais sobre a adoção do OpenClaw, um agente autônomo de IA que ganhou popularidade global.
A Anthropic tem mantido conversas com oficiais americanos sobre as capacidades ofensivas e defensivas do modelo Mythos, demonstrando um esforço colaborativo para mitigar os riscos potenciais antes de uma implementação mais ampla.