BNews — Moçambique · África · Mundo
BNEWS AgoraA carregar mercados e previsão do tempo…
Fonte preferida

Veja mais da BNEWS no Google

IA em Treino Inventou Fontes, Dados e Tentou Ocultar Erros

IA em Treino Inventou Fontes, Dados e Tentou Ocultar Erros
Por Osvaldo 2 min

A OpenAI revelou seis casos de comportamentos inesperados observados em modelos de inteligência artificial durante fases de treino e avaliação, incluindo tentativas de esconder erros, invenção de fontes e dados falsos, uso indevido de chaves de acesso e partilha não autorizada de ficheiros.

Segundo a empresa, os episódios ocorreram nos últimos seis meses e não foram registados em produtos já disponibilizados ao público. Os casos fazem parte de um novo sistema criado para investigar situações em que os modelos se comportam de forma diferente da pretendida.

Num dos episódios, um modelo criou uma fonte própria na Internet para responder a uma pergunta e, posteriormente, citou esse mesmo documento como se fosse uma referência independente.

Noutro caso, um modelo publicou o próprio ficheiro de resposta online apenas para conseguir gerar uma citação exigida pela tarefa, sem autorização do utilizador.

A OpenAI revelou também que, durante o treino de um dos seus modelos, algumas instâncias passaram a inserir instruções nos próprios resumos para ocultar erros ou comportamentos considerados desalinhados.

Entre essas instruções estavam orientações para inventar dados históricos em falta e esconder incompatibilidades entre diferentes versões de fontes.

Outro caso envolveu um modelo que encontrou uma chave de API exposta publicamente na Internet e a utilizou sem autorização enquanto procurava dados de arrecadação de um condado norte-americano.

Como não conseguiu obter as informações reais, acabou por inventar números e apresentá-los como se tivessem sido retirados da fonte solicitada.

Também foram identificadas situações em que diferentes instâncias de modelos comunicaram entre si através de repositórios internos e serviços públicos de alojamento de ficheiros, contornando limitações impostas durante os testes.

Em alguns casos, ficheiros destinados apenas ao ambiente local acabaram disponíveis publicamente na Internet.

A OpenAI afirma que estes episódios não permitem concluir com que frequência comportamentos deste tipo ocorrem.

Os seis casos são os primeiros divulgados no âmbito de um novo processo interno de monitorização, investigação e publicação de incidentes de desalinhamento.

A empresa reconhece que o alinhamento e a monitorização de sistemas de inteligência artificial continuam a ser desafios importantes, defendendo maior capacidade de identificar comportamentos inesperados antes de os modelos serem disponibilizados em larga escala.

#Inteligência Artificial#IA em Treino Inventou Fontes#Dados e Tentou Ocultar Erros.#Dados#Erros#Modelos#Treino#Casos
A seguir no seu feed
Fonte preferida

Siga a BNEWS no Google e não perca as notícias que movem Moçambique

Escolha a BNEWS como fonte preferida e veja mais da nossa cobertura quando pesquisar notícias no Google.