Uma pergunta em aberto sobre IA generativa é se ela é capaz de fazer novas descobertas. Em um artigo que acaba de ser publicado na Nature, pesquisadores da DeepMind demonstram que sim, que os Modelos de Linguagem (LLMs), como o ChatGPT ou Bard, podem ajudar a descobrir novos conhecimentos.

Talvez não do jeito que você esteja pensando. Então vem comigo que eu explico.

O que é o FunSearch?
Os pesquisadores da DeepMind apresentaram o FunSearch (Function Search), um método que busca novas soluções em matemática e ciência a computação.

O FunSearch combina um LLM que gere códigos de computador (usaram o Palm 2, que é a base do Bard, mas pode ser outro) com um sistema avaliador que analisa o resultado e protege contras alucinações e ideias incorretas. Conforme os dois componentes interagem, as soluções iniciais evoluem para novos conhecimentos.

Como podemos descobrir novos conhecimentos?
Não é do jeito que você acha: pedir algo em linguagem natural e magicamente ele traz um conhecimento novo.

O usuário precisa descrever o problema em um código de computador, que inclui um procedimento para avaliação das respostas e um programa inicial que é usado para iniciar outro conjunto de programas.

Como o FunSearch é um procedimento iterativo, o sistema seleciona alguns dos programas e pede para o LLM gerar novos códigos, que são automaticamente avaliados.

Os melhores programas criados pelo LLM são adicionados de volta ao conjunto de programas existentes, o que cria um ciclo de autoaperfeiçoamento.

Como a Deepmind demonstrou isso?
A DeepMind aplicou esse método para resolver o “cap set Problem”, um desafio em aberto na matemática que intriga matemáticos há décadas.

O problema consiste em encontrar o maior conjunto de pontos (chamado conjunto cap) em uma grade de alta dimensão, onde nenhum trio de pontos esteja alinhado. Eu sei que é meio abstrato de entender esse problema se você não é da área, mas saiba que ele é importante porque serve como modelo para outros problemas em matemática combinatória extrema.

Já tentaram resolver esse problema com computação força-bruta, mas não funciona porque o número de possibilidades a considerar cresce rapidamente e se torna maior do que o número de átomos no universo.

O FunSearch gerou soluções na forma de programas que descobriram os maiores conjuntos cap já encontrados. Essa é uma outra vantagem do método, porque ele é uma “caixa-preta” que dá um resultado e ponto final. O que o FunSearch gera é um programa que descrever como chegou na descoberta. Isso é algo superimportante para o progresso científico.

Em resumo, a pesquisa da Deepmind mostra que o LLMs é uma ferramenta poderosíssima que pode ajudar a gerar novos conhecimentos para a humanidade quando combinada com outras técnicas. A pesquisa tem um recorte bem específico para problemas de matemática e computação, então não podemos sair por aí generalizando. Ainda assim, é um resultado que precisa ser celebrado.