Meta interrompe demonstração de IA do gerador de trabalhos acadêmicos após 3 dias


A Meta revelou e retirou o texto generativo no qual a IA treinou e projetou para escrever trabalhos acadêmicos em apenas alguns dias. O Galactica Large Language Model foi apenas uma demonstração, mas rapidamente atraiu críticas e muito ridículo on-line sobre tentativas absurdas ou simplesmente problemáticas da academia, presumivelmente com planos de relançamento quando melhorado.

tropeço galáctico

Como o GPT-3 e outros mecanismos de texto sintético, o Galactica tenta extrapolar a escrita longa a partir de um prompt escrito. A diferença é que ele foi treinado especificamente em artigos científicos, referências e textos relacionados, incluindo bancos de dados de informações biológicas e matemáticas. O objetivo era uma IA capaz de produzir artigos no estilo Wikipedia, resolver problemas matemáticos e anotar e resumir outras publicações acadêmicas.

“A sobrecarga de informação é um grande obstáculo ao progresso científico. O crescimento explosivo da literatura e dos dados científicos tornou cada vez mais difícil encontrar informações úteis em uma grande massa de informações. Hoje, o conhecimento científico é acessível por meio de buscadores, mas eles não conseguem organizar o conhecimento científico por conta própria”, explicam os pesquisadores no artigo. “Nós superamos os modelos existentes em uma variedade de tarefas científicas…Acreditamos que esses resultados demonstram o potencial dos modelos de linguagem como uma nova interface para a ciência.”

As pessoas encontraram muitas maneiras de destacar os passeios mais confusos ou bobos da Galactica. Os usuários levaram a Galactica a proclamar a existência de lulas terrestres, contestar a existência do aquecimento global e afirmar que 29 é o maior número primo. Houve muitos outros exemplos como estes destaques:

A tentativa de moderação de conteúdo também foi um tanto fragmentada. Embora rigoroso o suficiente para recusar para escrever artigos sobre ratos-toupeira-pelados, o filtro AI tinha lacunas grandes o suficiente para permitir a geração de instruções passo a passo simples para criar um bombear com fertilizante. Três dias após o primeiro anúncio no Twitter, os pesquisadores agradeceram às pessoas por experimentarem o Galactica, mas disseram que estavam pausando a demonstração, pois os modelos estavam disponíveis apenas para pesquisadores interessados ​​que entrassem em contato e solicitassem.

Embora os comentários e piadas não tenham sido mencionados, é difícil imaginar que eles não tenham impactado a decisão de revogar o acesso. A Galactica e a Meta evitaram a queda no racismo e na intolerância que é o destino frequente dos chatbots de código aberto, mas os problemas apontados por especialistas e leigos curiosos provavelmente deram aos pesquisadores muito trabalho a fazer antes que fosse disponibilizado publicamente.

Meta Shares AI Translator para idiomas sem formas escritas

Legal Tech Firm Rally apresenta GPT-3 AI Contract Drafting Assistant Livro de feitiços

‘The Capture’ cristaliza medos profundos na TV