O alerta foi feito por Evan Hubinger, investigador da Anthropic especializado em alinhamento e segurança de inteligência artificial, numa publicação divulgada na rede social X.
Segundo Hubinger, os modelos actualmente disponíveis representam ainda um risco reduzido, mas a preocupação aumenta perante a possibilidade de surgirem sistemas capazes de melhorar autonomamente as suas próprias capacidades.
O especialista considera que esse desenvolvimento poderá permitir que sistemas de inteligência artificial ultrapassem significativamente as capacidades humanas, adquirindo maior autonomia e capacidade para interferir em sistemas informáticos, desenvolver novas tecnologias e executar tarefas complexas sem supervisão adequada.
“Acredito que a Anthropic está a fazer o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência”, afirmou Hubinger, citado pela BBC.
O investigador acrescentou que ainda não existe uma estratégia suficientemente sólida para garantir que sistemas de inteligência artificial extremamente avançados continuem alinhados com os interesses e valores humanos.
Hubinger, formado em Matemática e Ciência da Computação pelo Harvey Mudd College, trabalhou anteriormente no Machine Intelligence Research Institute e na OpenAI antes de integrar a Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude.
O alerta surge numa altura em que vários investigadores e dirigentes das principais empresas de inteligência artificial têm manifestado preocupação com a velocidade de desenvolvimento desta tecnologia.
Jacob Coxon, investigador que deixou recentemente a Anthropic e que também trabalhou na OpenAI, criticou igualmente a forma como as grandes empresas do sector estão a lidar com estes riscos.
Segundo Coxon, poderão surgir em breve sistemas superiores aos humanos em determinadas capacidades, com potencial para invadir sistemas informáticos, transformar rapidamente sectores económicos e adquirir influência e recursos no mundo real.
A própria Anthropic reconheceu recentemente que existem sinais iniciais de uma possível aceleração das capacidades dos seus modelos.
Num relatório de segurança divulgado em Agosto, a empresa indicou que continua a considerar baixo o risco de os seus modelos actuarem contra os interesses humanos, mas reconheceu estar menos confiante nessa avaliação do que anteriormente.
O debate sobre os riscos da inteligência artificial intensificou-se nos últimos anos, sobretudo com o desenvolvimento de agentes autónomos capazes de executar tarefas sem intervenção humana constante.
Executivos da OpenAI, Google DeepMind e Anthropic já tinham alertado, em 2023, que reduzir o risco de extinção provocado pela inteligência artificial deveria ser uma prioridade global, comparável a outros riscos de grande escala para a humanidade.
Mais recentemente, responsáveis do sector têm defendido maior prudência no desenvolvimento de sistemas cada vez mais avançados, incluindo mecanismos internacionais de supervisão, segurança e controlo.
O cientista-chefe da OpenAI, Jakub Pachocki, também apelou recentemente a “extrema cautela” no avanço da inteligência artificial, defendendo medidas que garantam que os seres humanos continuem a controlar o futuro da tecnologia.
O debate deverá continuar a intensificar-se à medida que as empresas tecnológicas avançam no desenvolvimento de sistemas de inteligência artificial mais autónomos, poderosos e capazes de executar tarefas anteriormente reservadas exclusivamente aos seres humanos.