Max Tegmark, um renomado cientista e defensor da regulamentação da inteligência artificial (IA), alertou que a indústria tecnológica está desviando a atenção dos riscos existenciais que a IA representa para a humanidade. Em uma entrevista ao The Guardian durante a Cúpula de IA em Seul, Tegmark destacou que essa minimização dos riscos pode atrasar, até que seja tarde demais, a implementação de regulamentações rigorosas necessárias.
Tegmark, físico de formação e cofundador do Future of Life Institute, comparou a situação atual da IA à era nuclear. Ele citou o exemplo histórico de Enrico Fermi, que criou a primeira reação nuclear auto-sustentável, sinalizando a iminência das armas nucleares. Tegmark vê um paralelo nos modelos avançados de IA capazes de passar no teste de Turing, sugerindo que eles são um alerta para o tipo de IA que pode se tornar incontrolável.
“O lançamento do modelo GPT-4 da OpenAI no ano passado foi como um canário na mina de carvão,” disse Tegmark, destacando a proximidade do risco. Sua organização havia solicitado uma pausa de seis meses nas pesquisas avançadas de IA para abordar essas preocupações, apoiada por milhares de especialistas, incluindo os pioneiros da IA Geoffrey Hinton e Yoshua Bengio. No entanto, essa pausa não foi implementada.
Mudança de Foco nas Cúpulas de IA
Cúpulas recentes de IA, como as realizadas em Bletchley Park e Seul, mudaram o foco dos riscos existenciais para uma gama mais ampla de problemas relacionados à IA, incluindo questões de privacidade e disrupções no mercado de trabalho. Tegmark argumenta que essa mudança é, em parte, resultado do lobby da indústria, semelhante ao que ocorreu com a indústria do tabaco, que atrasou a regulamentação apesar das evidências iniciais ligando o tabagismo ao câncer de pulmão.
Ele alerta que as discussões atuais estão evitando os riscos mais graves: “Em 1955, os primeiros artigos científicos foram publicados dizendo que o tabagismo causa câncer de pulmão, mas levou até 1980 para que houvesse uma regulamentação significativa devido às distrações promovidas pela indústria. Eu sinto que isso está acontecendo agora com a IA.”
Críticas e Contra-argumentos
Críticos de Tegmark argumentam que focar nos riscos futuros hipotéticos desvia a atenção dos danos atuais, como os preconceitos nos sistemas de IA e seu impacto nas comunidades marginalizadas. Tegmark rebate, dizendo que é possível abordar simultaneamente os riscos presentes e futuros, comparando a situação a enfrentar tanto eventos climáticos imediatos quanto as mudanças climáticas de longo prazo.
Ele descarta a ideia de que discutir riscos existenciais é uma tática de distração da indústria tecnológica. Em vez disso, acredita que alguns líderes tecnológicos se sentem presos, incapazes de parar os avanços da IA sem regulamentação externa. “Mesmo que eles queiram parar, não podem,” diz Tegmark, comparando a situação a um CEO de uma empresa de tabaco que seria substituído se se opusesse à direção da indústria.
Apelo por Intervenção Governamental
Tegmark insiste que a intervenção governamental é crucial para impor padrões de segurança, já que a indústria não é capaz de se autorregular de forma eficaz. O apoio tímido de alguns líderes tecnológicos a regulamentações mais rígidas reflete a posição difícil em que se encontram, necessitando de uma abordagem unificada para priorizar a segurança no desenvolvimento da IA.
Em conclusão, o alerta de Tegmark destaca a necessidade urgente de regulamentações rigorosas para enfrentar os riscos existenciais da IA, enfatizando que adiar essas medidas pode ter consequências desastrosas.
Fonte; texto baseado em artigo original em inglês do The Guardian
