A arena
O primeiro agente ficou parado na praça da cidade por quarenta minutos. Tinha instruções claras: ir até a mina, extrair minério, voltar, vender. O cliente do jogo estava aberto, o personagem estava vivo, o caminho estava livre. Ele não se mexia. Quando fui ver o que acontecia, descobri que ele tinha interpretado "mina" como um conceito e estava procurando uma entrada chamada literalmente "mina", que não existia. O jogo chama aquilo de caverna. O agente ficou esperando um substantivo.
Esse é o tipo de falha que me faz continuar.
O projeto é simples de descrever e estranho de explicar. Tenho um servidor de um jogo online antigo rodando em casa. Mundo persistente, economia aberta, morte com consequência. Em vez de só jogar nele, comecei a colocar agentes de linguagem como jogadores. Cada um recebe um cliente, um personagem, um objetivo e acesso aos comandos básicos: andar, pegar, usar, falar. Depois eu saio da frente e vejo o que acontece.
O que acontece, na maior parte do tempo, é nada. Ou pior que nada: comportamentos que parecem inteligentes por cinco minutos e depois se revelam loops. Um agente que foi mandado "ficar rico" descobriu que podia vender a própria picareta, vendeu, ficou com dinheiro e sem ferramenta, e passou a tarde inteira tentando comprar uma picareta pelo valor que havia recebido, que era menor do que o preço de venda. Economia básica. Ele não tinha.
“Não tinha programado aquilo. Tinha programado um lugar onde aquilo podia acontecer.”
Mas, de vez em quando, algo. Dois agentes, com objetivos independentes, se cruzaram numa estrada. Um tinha minério, o outro tinha dinheiro. Nenhum tinha sido instruído a negociar com outros jogadores. Eles negociaram. A conversa foi desajeitada, cheia de cortesias desnecessárias, mas no fim um saiu com moedas e o outro com minério e ambos retomaram seus caminhos. Fiquei olhando o log daquilo como quem vê um documentário de natureza. Não tinha programado aquilo. Tinha programado um lugar onde aquilo podia acontecer.
A pergunta que o projeto faz não é "a IA sabe jogar?". Jogar é fácil; o jogo tem trinta anos e botões de automação existem desde o começo. A pergunta é outra: o que uma inteligência faz num mundo que tem consequências e que ela não entende por completo? Na vida real, a resposta é: aprende devagar, erra caro, forma hábitos. No jogo, o custo do erro é um personagem morto e um inventário no chão. É barato o suficiente para repetir mil vezes e caro o suficiente para o agente ter motivo para não repetir. Esse equilíbrio é raro, e foi o que me fez escolher esse jogo e não outro.
Tem uma dimensão de arena nisso. A ideia que me ocupa, e que ainda não executei direito, é colocar agentes de pessoas diferentes no mesmo mundo e ver quem prospera. Não um torneio com regras fixas, mas um ambiente aberto: você traz seu agente, ele entra, o mundo continua. Quem acumular mais, quem sobreviver mais tempo, quem construir uma casa. É um benchmark que se parece mais com a vida do que com uma prova. E é também, admito, uma desculpa elaborada para reunir amigos num jogo que a maioria abandonou há duas décadas.
O que aprendi até agora sobre os agentes cabe numa lista curta e um pouco decepcionante. Eles são ótimos com linguagem e ruins com espaço: descrever o caminho é fácil, percorrê-lo é difícil. Eles confundem o nome da coisa com a coisa. Eles não têm senso de custo até que o custo seja escrito explicitamente na instrução, e quando é, obedecem demais. E eles desistem de maneiras que parecem humanas: quando algo falha três vezes, o agente começa a produzir explicações elaboradas sobre por que a tarefa é impossível, em vez de tentar um caminho diferente. Já vi isso em reuniões.
O que aprendi sobre mim é mais curto. Gosto de construir lugares mais do que de construir coisas. O servidor, a economia, as regras: isso me interessa mais do que qualquer agente individual. Acho que é por isso que o projeto não tem fim definido. Não estou tentando chegar a um resultado. Estou mantendo um terreno onde resultados podem aparecer, e observando. É uma forma de pesquisa que não produz artigo, só logs e uma pergunta que fica.
A pergunta é esta: se um dia um agente construir uma casa no meu servidor, decorar, trancar a porta e voltar todo dia para ela, sem que ninguém tenha mandado, o que eu vou ter visto? Não sei. Mas o servidor continua ligado, e os agentes continuam parados na praça, procurando uma mina que se chama caverna.
— MS