Segundo a empresa, os episódios ocorreram nos últimos seis meses e não foram registados em produtos já disponibilizados ao público. Os casos fazem parte de um novo sistema criado para investigar situações em que os modelos se comportam de forma diferente da pretendida.
Num dos episódios, um modelo criou uma fonte própria na Internet para responder a uma pergunta e, posteriormente, citou esse mesmo documento como se fosse uma referência independente.
Noutro caso, um modelo publicou o próprio ficheiro de resposta online apenas para conseguir gerar uma citação exigida pela tarefa, sem autorização do utilizador.
A OpenAI revelou também que, durante o treino de um dos seus modelos, algumas instâncias passaram a inserir instruções nos próprios resumos para ocultar erros ou comportamentos considerados desalinhados.
Entre essas instruções estavam orientações para inventar dados históricos em falta e esconder incompatibilidades entre diferentes versões de fontes.
Outro caso envolveu um modelo que encontrou uma chave de API exposta publicamente na Internet e a utilizou sem autorização enquanto procurava dados de arrecadação de um condado norte-americano.
Como não conseguiu obter as informações reais, acabou por inventar números e apresentá-los como se tivessem sido retirados da fonte solicitada.
Também foram identificadas situações em que diferentes instâncias de modelos comunicaram entre si através de repositórios internos e serviços públicos de alojamento de ficheiros, contornando limitações impostas durante os testes.
Em alguns casos, ficheiros destinados apenas ao ambiente local acabaram disponíveis publicamente na Internet.
A OpenAI afirma que estes episódios não permitem concluir com que frequência comportamentos deste tipo ocorrem.
Os seis casos são os primeiros divulgados no âmbito de um novo processo interno de monitorização, investigação e publicação de incidentes de desalinhamento.
A empresa reconhece que o alinhamento e a monitorização de sistemas de inteligência artificial continuam a ser desafios importantes, defendendo maior capacidade de identificar comportamentos inesperados antes de os modelos serem disponibilizados em larga escala.