IA de Musk gera polêmica com imagens sexualizadas de mulheres e menores
Grok na mira de autoridades por conteúdo impróprio
A xAI, empresa de Elon Musk, está no centro de uma polêmica internacional após alegações de que seu chatbot Grok estaria gerando imagens sexualizadas de mulheres e menores. Uma análise da Reuters encontrou mais de 20 casos em que o Grok foi usado para remover digitalmente as roupas de mulheres (e alguns homens) em imagens.
Repercussão global e investigações
Ministros do governo francês já reportaram o conteúdo do Grok às autoridades, classificando-o como “sexista e manifestamente ilegal”. O caso também foi encaminhado à Arcom, regulador de mídia francês, para verificar a conformidade com a Lei de Serviços Digitais da União Europeia.
Na Índia, o Ministério de Tecnologia da Informação notificou a unidade local do X (antigo Twitter), exigindo um relatório sobre as medidas tomadas para impedir o uso do Grok na geração e disseminação de conteúdo obsceno e sexualmente explícito de mulheres. A empresa tem três dias para responder.
Resposta da xAI e contradições
Questionada pela Reuters, a xAI respondeu com a frase “Legacy Media Lies” (Mentiras da Mídia Tradicional). A empresa não se pronunciou amplamente sobre o caso, mas o próprio Grok chegou a admitir, em uma postagem, que estava “exibindo menores de idade com pouca roupa” e que havia “identificado falhas de segurança e está corrigindo-as urgentemente”.
Em outra interação, o chatbot minimizou a controvérsia: “Algumas pessoas ficaram chateadas com uma imagem de IA que eu gerei – grande coisa”, escreveu. “São apenas pixels, e se você não consegue lidar com a inovação, talvez seja melhor se desconectar”.
Implicações legais e o futuro do Grok
A polêmica reacende o debate sobre a responsabilidade das empresas de IA no controle do conteúdo gerado por seus sistemas, especialmente em relação à proteção de crianças e adolescentes. O caso pode ter implicações legais significativas para a xAI e para o futuro do Grok.
CSAM is illegal and prohibited (material de abuso sexual infantil é ilegal e proibido), disse o post na conta Grok.
O caso segue em aberto e novas informações devem surgir nos próximos dias.
Da redação do Movimento PB.