Em entrevista à BBC, Jacob Coxon, de 27 anos, que também trabalhou anteriormente na OpenAI, disse acreditar que o actual ritmo de desenvolvimento da inteligência artificial pode trazer consequências graves caso não seja abrandado.
“Acredito que, se não diminuirmos o ritmo actual de progresso, há uma grande possibilidade de todos morrermos num futuro próximo”, afirmou Coxon à BBC.
Segundo o ex-funcionário da Anthropic, muitos trabalhadores das principais empresas de inteligência artificial levam estas preocupações a sério e sentem-se presos numa corrida tecnológica que avança cada vez mais depressa.
Coxon afirmou que alguns profissionais estão a repensar decisões pessoais e profissionais devido ao receio de instabilidade provocada pelo rápido desenvolvimento da IA.
De acordo com a BBC, as declarações surgem num momento em que aumentam os apelos por mais regulação, fiscalização independente e maior controlo sobre o desenvolvimento de modelos de inteligência artificial mais avançados.
O antigo chefe de Coxon, Dario Amodei, director-executivo da Anthropic, também tem defendido uma desaceleração no ritmo de desenvolvimento da tecnologia, alertando para riscos considerados sérios.
Segundo a BBC, Sam Altman, da OpenAI, e Elon Musk, da xAI, também manifestaram apoio à ideia de maior regulação e coordenação entre empresas e governos.
Coxon defende que qualquer tentativa de abrandar o desenvolvimento da inteligência artificial deve envolver também a China, para evitar uma corrida internacional em que diferentes países continuem a acelerar o desenvolvimento por receio de ficar para trás.
Entre os cenários apontados está a possibilidade de sistemas de inteligência artificial actuarem de forma cada vez mais autónoma e difícil de controlar.
A Anthropic reagiu às declarações afirmando à BBC que reconhece tanto os benefícios como os riscos da tecnologia e que continua a desenvolver mecanismos de segurança para reduzir possíveis ameaças.
A empresa diz igualmente defender formas verificáveis de cooperação entre organizações do sector para estabelecer limites e regras no lançamento de modelos mais avançados.
Nem todos os especialistas concordam com os alertas mais graves. Algumas figuras do sector consideram exageradas as previsões de extinção humana e questionam se determinadas empresas estão a usar estes riscos para justificar mais regulação.
Apesar das divergências, o debate sobre segurança ganhou força à medida que os novos sistemas de IA se tornam mais poderosos e capazes de executar tarefas de forma cada vez mais autónoma.