BNews — Moçambique · África · Mundo
BNEWS AgoraA carregar mercados e previsão do tempo…

IA Pode Sair do Controlo na Próxima Década, Alerta Especialista

IA Pode Sair do Controlo na Próxima Década, Alerta Especialista
Por Jackson Hélder 3 min

Um dos principais investigadores de segurança da Anthropic alertou que o rápido avanço da inteligência artificial poderá representar um risco grave para a humanidade na próxima década, admitindo existir mais de 10% de probabilidade de a tecnologia evoluir ao ponto de ameaçar a própria existência humana.

O alerta foi feito por Evan Hubinger, investigador da Anthropic especializado em alinhamento e segurança de inteligência artificial, numa publicação divulgada na rede social X.

Segundo Hubinger, os modelos actualmente disponíveis representam ainda um risco reduzido, mas a preocupação aumenta perante a possibilidade de surgirem sistemas capazes de melhorar autonomamente as suas próprias capacidades.

O especialista considera que esse desenvolvimento poderá permitir que sistemas de inteligência artificial ultrapassem significativamente as capacidades humanas, adquirindo maior autonomia e capacidade para interferir em sistemas informáticos, desenvolver novas tecnologias e executar tarefas complexas sem supervisão adequada.

“Acredito que a Anthropic está a fazer o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência”, afirmou Hubinger, citado pela BBC.

O investigador acrescentou que ainda não existe uma estratégia suficientemente sólida para garantir que sistemas de inteligência artificial extremamente avançados continuem alinhados com os interesses e valores humanos.

Hubinger, formado em Matemática e Ciência da Computação pelo Harvey Mudd College, trabalhou anteriormente no Machine Intelligence Research Institute e na OpenAI antes de integrar a Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude.

O alerta surge numa altura em que vários investigadores e dirigentes das principais empresas de inteligência artificial têm manifestado preocupação com a velocidade de desenvolvimento desta tecnologia.

Jacob Coxon, investigador que deixou recentemente a Anthropic e que também trabalhou na OpenAI, criticou igualmente a forma como as grandes empresas do sector estão a lidar com estes riscos.

Segundo Coxon, poderão surgir em breve sistemas superiores aos humanos em determinadas capacidades, com potencial para invadir sistemas informáticos, transformar rapidamente sectores económicos e adquirir influência e recursos no mundo real.

A própria Anthropic reconheceu recentemente que existem sinais iniciais de uma possível aceleração das capacidades dos seus modelos.

Num relatório de segurança divulgado em Agosto, a empresa indicou que continua a considerar baixo o risco de os seus modelos actuarem contra os interesses humanos, mas reconheceu estar menos confiante nessa avaliação do que anteriormente.

O debate sobre os riscos da inteligência artificial intensificou-se nos últimos anos, sobretudo com o desenvolvimento de agentes autónomos capazes de executar tarefas sem intervenção humana constante.

Executivos da OpenAI, Google DeepMind e Anthropic já tinham alertado, em 2023, que reduzir o risco de extinção provocado pela inteligência artificial deveria ser uma prioridade global, comparável a outros riscos de grande escala para a humanidade.

Mais recentemente, responsáveis do sector têm defendido maior prudência no desenvolvimento de sistemas cada vez mais avançados, incluindo mecanismos internacionais de supervisão, segurança e controlo.

O cientista-chefe da OpenAI, Jakub Pachocki, também apelou recentemente a “extrema cautela” no avanço da inteligência artificial, defendendo medidas que garantam que os seres humanos continuem a controlar o futuro da tecnologia.

O debate deverá continuar a intensificar-se à medida que as empresas tecnológicas avançam no desenvolvimento de sistemas de inteligência artificial mais autónomos, poderosos e capazes de executar tarefas anteriormente reservadas exclusivamente aos seres humanos.

#Inteligência Artificial#IA Pode Sair do Controlo#Próxima Década#Alerta Especialista. Um#Evan Hubinger#Artificial#Inteligência#Anthropic
A seguir no seu feed