Entre os executivos que têm pedido regras mais rigorosas e mecanismos adicionais de segurança estão Dario Amodei, da Anthropic, Sam Altman, da OpenAI, Elon Musk, da xAI, e Demis Hassabis, da Google DeepMind.
Dario Amodei alertou que o rápido crescimento das capacidades da inteligência artificial poderá tornar os sistemas cada vez mais autónomos e difíceis de supervisionar.
O responsável defende que o desenvolvimento dos modelos mais avançados seja acompanhado por maior controlo e por auditorias independentes aos mecanismos de segurança adoptados pelas empresas.
Sam Altman manifestou igualmente apoio à existência de avaliações externas e defendeu maior acompanhamento dos sistemas mais poderosos antes da sua disponibilização em larga escala.
Elon Musk e Demis Hassabis também têm defendido maior cautela perante o crescimento acelerado da inteligência artificial.
As principais empresas do sector têm discutido formas de estabelecer padrões comuns de segurança, numa altura em que os novos modelos conseguem executar tarefas cada vez mais complexas e durante períodos mais longos com menor intervenção humana.
A preocupação aumentou com o crescimento dos chamados agentes de inteligência artificial, sistemas capazes de executar várias tarefas de forma autónoma e de tomar decisões ao longo de determinado processo.
Especialistas alertam que, quanto maior for a autonomia destes sistemas, maior será a necessidade de mecanismos que permitam perceber como actuam e impedir comportamentos inesperados.
O debate acontece também num contexto de forte competição entre empresas e países pelo domínio da inteligência artificial.
Enquanto alguns líderes tecnológicos defendem um desenvolvimento mais controlado, outros consideram que uma desaceleração poderá favorecer concorrentes e comprometer a liderança tecnológica dos países que decidirem avançar mais lentamente.
A discussão deverá continuar à medida que os sistemas de inteligência artificial se tornam mais poderosos e passam a ocupar um papel crescente no trabalho, na economia e em serviços utilizados diariamente por milhões de pessoas.