A crescente preocupação com os riscos da inteligência artificial (IA) ganha novos contornos com a declaração de Bilal Chughtai, ex-pesquisador da DeepMind, do Google. Em uma postagem no X, Chughtai expressou seu temor de que a evolução da IA possa levar a resultados catastróficos, alertando que o tempo para agir pode estar se esgotando.
Chughtai, que atuou na área de segurança e alinhamento de IA geral, mencionou a invasão da HuggingFace por agentes da OpenAI como um exemplo alarmante do potencial da tecnologia para sair do controle. Ele destacou que o desenvolvimento de modelos de IA de ponta está avançando de forma muito mais rápida do que a capacidade humana de compreendê-los.
“É possível que, nos próximos anos, empresas de IA criem sistemas superinteligentes que superem as habilidades humanas em todos os aspectos. Não estou confiante de que esses sistemas farão o que desejamos”, refletiu o pesquisador.
Apesar de suas preocupações, Chughtai se mostrou otimista quanto à possibilidade de tornar a tecnologia mais segura, desde que sejam adotadas medidas adequadas. Ele defende que o desenvolvimento da IA deve ser moderado para que a sociedade consiga lidar com os riscos e que haja maior transparência nas práticas das empresas do setor.
As declarações de Chughtai ecoam preocupações semelhantes de outros profissionais da área, como Jacob Coxon, ex-funcionário da OpenAI e Anthropic, que também criticou a maneira como as empresas estão conduzindo seus negócios. Recentemente, Dario Amodei, CEO da Anthropic, sugeriu um planejamento para desacelerar o desenvolvimento de IAs de fronteira.
Líderes do setor, como Demis Hassabis, do DeepMind, e Elon Musk, da SpaceXAI, manifestaram apoio à ideia de uma desaceleração no desenvolvimento de IA. Até mesmo Sam Altman, da OpenAI, indicou que a empresa consideraria pausar a criação de novas IAs por questões de segurança, o que levou até ao adiamento da oferta pública de ações da companhia.
Enquanto isso, tanto o governo dos Estados Unidos quanto a China ainda não se manifestaram oficialmente sobre a necessidade de regulamentação nesse mercado em rápida evolução.
Fonte: www.estadao.com.br