Comissão Europeia permite que provedores de IA como ChatGPT elaborem códigos de prática, com consulta à sociedade civil, para garantir conformidade com o AI Act.
Texto Adaptado de Euractiv
A Comissão Europeia anunciou que permitirá aos provedores de modelos de inteligência artificial (IA), semelhantes ao ChatGPT, redigir códigos de prática que determinarão sua conformidade no curto e médio prazo, enquanto a sociedade civil atuará em um papel consultivo.
Nos últimos meses, organizações da sociedade civil questionaram sua participação na elaboração dos Códigos de Prática para modelos de IA de uso geral (GPAI), segundo fontes informadas pela Euractiv. Paralelamente, a Euractiv apurou que a Comissão Europeia está buscando empresas de consultoria para redigir esses códigos.
Esses Códigos de Prática são uma parte essencial do AI Act, pelo menos no curto e médio prazo. Provedores de GPAI, como OpenAI e Microsoft, poderão usar esses códigos para demonstrar conformidade com suas obrigações até que padrões harmonizados sejam estabelecidos. A Comissão poderá dar validade geral aos códigos dentro da UE através de um ato de implementação.
“Se o processo de redação dos Códigos de Prática para IA de Uso Geral não for multissetorial, incluindo a sociedade civil, acadêmicos e especialistas independentes, isso pode resultar em um processo liderado pela indústria; essencialmente, Big Tech escrevendo suas próprias regras”, afirmou uma fonte da sociedade civil, que preferiu não ser identificada devido à situação em desenvolvimento, à Euractiv.
No próprio AI Act, a participação de provedores, sociedade civil e academia na elaboração dos códigos para modelos de IA de uso geral é ambígua, afirmando que eles “podem” participar. Aparentemente, os provedores de modelos serão os principais responsáveis pela redação dos códigos, com outros interessados participando por meio de consultas, conforme informações obtidas pela Euractiv.
Ainda não está claro como essa consulta ocorrerá. Pode ser através de uma ou várias chamadas para opiniões ou convites para participar como observadores. Várias fontes informadas disseram à Euractiv que algumas organizações entenderam uma apresentação em um workshop da Comissão em junho como uma indicação de que a situação está evoluindo e que a Comissão pode agora estar mais aberta à inclusão da sociedade civil.
Um porta-voz da Comissão afirmou à Euractiv que “uma chamada para manifestações de interesse, a ser publicada em breve, detalhará as formas específicas em que esses interessados serão envolvidos no desenvolvimento dos códigos”. Ele acrescentou que “o processo de preparação dos códigos de prática será apoiado por uma ampla gama de interessados, incluindo a sociedade civil”, mas não deu detalhes de como isso será alcançado.
Se os provedores não assinarem as diretrizes voluntárias, terão que provar de forma independente que cumprem o AI Act, que possui quase 500 páginas.
O Processo de Redação
A Direção-Geral das Redes de Comunicação, Conteúdos e Tecnologias (DG CNECT) da Comissão Europeia realizou uma mini-competição sob um contrato-quadro existente que terminou em junho, conforme informações verificadas pela Euractiv.
O processo e a redação dos códigos serão terceirizados para uma empresa externa, que terá que determinar quem fará parte do processo, desenvolver e executar um programa de trabalho, criar grupos de trabalho com reuniões semanais e redigir os códigos em nove meses. A Comissão estabeleceu um cronograma agressivo para o trabalho das empresas de consultoria.
Todas as consultas com interessados, agendas e metodologias devem ser aprovadas pelo recém-estabelecido Gabinete de IA da Comissão. Este Gabinete monitorará a redação, mas não se envolverá diretamente, exceto para aprovar os códigos finais, conforme informações confirmadas pela Euractiv. O Conselho de IA, composto por especialistas dos estados membros, terá um papel semelhante ao da Comissão, não se envolvendo diretamente na redação.
A empresa contratada também mapeará a melhor maneira para a Comissão avaliar os riscos dos GPAI, incluindo riscos sistêmicos.
A implementação do AI Act foi adiada algumas semanas, com a expectativa de entrar em vigor no início de agosto. Será totalmente implementado dois anos depois, mas os códigos de prática devem ser preparados em nove meses a partir da data de sua entrada em vigor.
A contratação da empresa de consultoria para redigir os códigos foi feita sob um contrato-quadro. Esses são “acordos plurianuais que definem os termos básicos” para um contrato a ser concedido posteriormente, explicou o Professor Albert Sanchez-Graells, que estuda processos de aquisição da UE na Universidade de Bristol, à Euractiv. As empresas participam de uma licitação pública e são pré-selecionadas para tarefas gerais, como “assistência aos serviços da Comissão na execução de auditorias”. Quando surge um trabalho específico sob o contrato-quadro, a Comissão pode realizar uma mini-licitação entre as empresas pré-selecionadas.
Dilema de Participação
Um processo liderado pela indústria “arrisca uma implementação infiel do AI Act, que não seria suficientemente protetora da segurança e dos direitos fundamentais dos cidadãos da UE”, disse um interessado que pediu anonimato.
No final de abril, esses interessados expressaram suas preocupações à Comissão em outro workshop, conforme relataram pessoas presentes na reunião à Euractiv, e o ex-editor de tecnologia da Euractiv, Luca Bertuzzi, confirmou no LinkedIn. A Comissão esclareceu a eles que não seriam a força motriz na redação. Naquele momento, algumas dessas organizações enviaram cartas expressando sua insatisfação, mas a maioria ainda não recebeu uma resposta completa, conforme informaram pessoas a par do assunto à Euractiv.
O executivo da UE já enfrentou críticas sobre a forma como está lidando com a implementação do AI Act. A nomeação do relator do arquivo para o Gabinete de IA sem qualquer anúncio público ou explicação, relatada pela primeira vez pelo Contexte e depois pela Euractiv, causou alvoroço.
Um grupo de mais de 30 organizações da sociedade civil, incluindo a principal associação de consumidores BEUC, levantou dúvidas sobre a independência das autoridades nacionais encarregadas de aplicar o AI Act. Em uma carta aberta em 26 de junho, pediram à Comissão que esclarecesse esses papéis.
Três MEPs, que foram reeleitos na votação da UE em junho, enviaram perguntas à Comissão em abril sobre o processo de contratação do gabinete. Eles ainda não receberam uma resposta oficial.