IA da Anthropic: EUA em alerta, China cautelosa
Autoridades financeiras dos Estados Unidos manifestaram preocupação com os potenciais riscos de segurança e econômicos associados ao novo modelo de inteligência artificial (IA) da Anthropic, denominado Mythos. Relatos indicam que o Secretário do Tesouro dos EUA, Scott Bessent, e o presidente do Federal Reserve, Jerome Powell, realizaram conversas urgentes sobre o tema, alertando para a necessidade de avaliações imediatas de cibersegurança. Especialistas temem que o modelo possa causar danos na casa das centenas de bilhões de dólares.
Alerta nos EUA e reuniões de emergência
O modelo Mythos, desenvolvido pela Anthropic, gerou apreensão em Wall Street. Bessent e Powell reuniram-se com os principais executivos de grandes bancos americanos na terça-feira para discutir os riscos e garantir que as instituições financeiras estivessem cientes das ameaças e tomando medidas preventivas. Reuniões de emergência entre o Tesouro e o Fed são raras, geralmente reservadas a momentos de acentuado estresse sistêmico, como a crise financeira de 2008 ou a turbulência de mercado em 2020.
Simon Goldstein, professor de filosofia na Universidade de Hong Kong com foco em segurança de IA, destacou a urgência da situação. “É urgente que pesquisadores de cibersegurança em todo o mundo avaliem o que um modelo com essa capacidade faria com a economia e a infraestrutura crítica”, afirmou. Estimativas preliminares, como a divulgada pelo cientista-chefe da Redwood Research, Ryan Greenblatt, sugerem que o Mythos poderia causar centenas de bilhões em danos caso fosse liberado amplamente.
A Anthropic optou por não lançar o Claude Mythos Preview de forma generalizada, citando os riscos de segurança significativos. A empresa informou que o modelo já identificou “milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”. Em vez de um lançamento público, o modelo será disponibilizado para mais de 40 organizações parceiras, como Amazon Web Services, Apple, Cisco, Google, JP Morgan e Nvidia, com o objetivo de auxiliar na identificação e correção de falhas em softwares críticos.
Abordagem cautelosa da China
Em contraste com o cenário nos EUA, os bancos chineses adotam uma postura mais conservadora em relação à adoção de IA. Analistas apontam que Pequim prioriza a estabilidade financeira e intensifica o monitoramento de qualquer contágio potencial vindo do mercado americano. Marshall Li, analista da The Asia Group, observa que a integração de grandes modelos de IA no setor financeiro chinês ainda está em estágios iniciais. “As instituições financeiras estatais ainda não integraram totalmente a IA em suas operações principais, porque a China está focada em evitar grandes riscos financeiros, agindo, portanto, com cautela”, explicou.
No final do mês passado, Pequim comprometeu-se a fortalecer a segurança de IA, com a Administração Nacional de Dados enfatizando que a segurança e a conformidade se tornaram desafios centrais diante da crescente prevalência do uso de IA. Reguladores chineses acompanham de perto os riscos financeiros que emergem no mercado dos EUA, mantendo-se vigilantes para adaptar-se às mudanças globais. Recentemente, demonstraram atenção ao risco de manipulação de IA de código aberto por atacantes, emitindo advertências a empresas estatais sobre a adoção do OpenClaw, um agente autônomo de IA que ganhou popularidade global.
A Anthropic tem mantido conversas com oficiais americanos sobre as capacidades ofensivas e defensivas do modelo Mythos, demonstrando um esforço colaborativo para mitigar os riscos potenciais antes de uma implementação mais ampla.
Descubra mais sobre Movimento PB
Assine para receber nossas notícias mais recentes por e-mail.