IA treinada apenas com dados pré-1930 fala como um personagem de época: conheça o Talkie

Um modelo de linguagem com sotaque vintage

Cansado da linguagem robótica e cheia de jargões terapêuticos dos chatbots modernos? Uma alternativa inusitada está disponível: o Talkie, um modelo de linguagem treinado exclusivamente com livros, jornais e outros textos produzidos antes de 1930. Com 13 bilhões de parâmetros, os pesquisadores o classificam como o maior modelo "vintage" já criado.

O Talkie é capaz de manter conversas como se estivesse preso em uma época em que os filmes sonoros ainda eram novidade e os locutores de rádio anunciavam as notícias com o icônico sotaque Mid-Atlantic. Surpreendentemente, segundo David Duvenaud, professor associado de ciência da computação da Universidade de Toronto, a IA não tem consciência de suas próprias limitações temporais.

"O Talkie não possui um sistema de prompt e, até onde sabemos, ainda não é inteligente o suficiente para refletir sobre sua própria data de corte."

Como funciona o Talkie?

Desenvolvido em parceria com Alec Rad e status_effects, o modelo foi treinado com um conjunto de dados cuidadosamente selecionados, contendo apenas informações anteriores a 1930. A proposta é explorar até onde uma IA pode ir quando limitada a um contexto histórico específico.

No entanto, o Talkie não é perfeito. Os pesquisadores identificaram um fenômeno chamado "vazamento temporal", em que a IA produz respostas claramente anacrônicas. Um exemplo é quando o modelo afirmou que "Franklin D. Roosevelt foi presidente dos Estados Unidos entre 1933 e 1937", demonstrando a dificuldade em manter o conjunto de dados completamente puro.

Descobertas e limitações da IA retrô

As limitações do Talkie levantam questões fascinantes sobre o potencial das IAs. Será que um modelo treinado até 1911 poderia, por exemplo, descobrir a Teoria da Relatividade de Einstein de forma independente? Essa é uma das perguntas feitas pelos pesquisadores, inspirados em uma reflexão de Demis Hassabis, CEO da Google DeepMind.

Em testes iniciais, o Talkie conseguiu criar programas simples, mas ainda está longe de atingir um nível notável de capacidade. Além disso, a IA não é uma adivinha: quando exposta a eventos históricos resumidos na seção "On This Day" do New York Times, ela considerou os acontecimentos posteriores a 1930 mais surpreendentes, especialmente nas décadas de 1950 e 1960.

Previsões curiosas e erros anacrônicos

Apesar de suas limitações, o Talkie oferece previsões divertidas e reveladoras sobre como as pessoas do início do século XX imaginavam o futuro. Em um teste, a IA previu que:

• Uma nova guerra mundial começaria em 1936;
• As "máquinas voadoras" (aviões) seriam usadas no transporte cotidiano;
• Em 1999, o sol deixaria de brilhar, refletindo os medos da época em relação ao novo milênio.

Em outro teste, o Talkie declarou que os filmes sonoros eram "supervalorizados" e que jamais substituiriam os filmes mudos, embora pudessem ser exibidos em conjunto nos cinemas. "No momento, eles são interessantes principalmente como uma novidade", afirmou a IA em seu estilo prolixo e característico da época.

O futuro das IAs com recorte histórico

O Talkie representa um experimento inovador na área de modelos de linguagem, mostrando como a limitação de dados pode influenciar o comportamento e as capacidades de uma IA. Embora ainda esteja em fase inicial, o projeto abre portas para novas pesquisas sobre a capacidade de extrapolação, programação e descoberta científica em contextos históricos restritos.

Para os entusiastas de tecnologia e história, o Talkie oferece uma oportunidade única de interagir com uma IA que fala como se fosse do início do século XX. E quem sabe, no futuro, modelos como esse possam ajudar a entender melhor como o passado moldou nossas expectativas sobre o futuro.