Como funciona um assistente de IA: do texto à "próxima palavra", e por que ele às vezes inventa

Assistentes de inteligência artificial escrevem textos, resumem documentos, programam e conversam com um jeito surpreendentemente natural. Isso levou muita gente a achar que eles "pensam" como pessoas, ou, no extremo oposto, que são apenas um truque. A verdade está no meio, e entendê-la ajuda a tirar proveito dessas ferramentas sem cair em armadilhas.

A ideia central: prever o que vem a seguir

Os assistentes de hoje são baseados em modelos de linguagem. A tarefa básica deles é simples de enunciar: dado um trecho de texto, prever qual deve ser a próxima unidade. Essa unidade se chama token, que pode ser uma palavra inteira, um pedaço de palavra ou um sinal de pontuação. Para escrever uma resposta, o modelo prevê um token, acrescenta ao texto, prevê o seguinte, e assim por diante, milhares de vezes por resposta.

Parece pouco, mas, para prever bem o próximo token em textos de qualquer assunto, o modelo precisa captar gramática, fatos, estilos, relações entre ideias e até padrões de raciocínio. É daí que vem a aparência de compreensão.

Como o modelo aprende

O modelo é uma rede neural enorme, com bilhões de números ajustáveis, chamados parâmetros. No treinamento, ele lê quantidades gigantescas de texto, e, para cada trecho, tenta prever o token seguinte. Quando erra, os parâmetros são ajustados um pouquinho na direção que teria dado um palpite melhor. Repetido bilhões de vezes, esse processo faz o modelo absorver regularidades da linguagem e muito do conhecimento presente nos textos.

A arquitetura dominante hoje se chama transformer, apresentada em 2017. Sua marca é o mecanismo de "atenção", que permite ao modelo ponderar quais partes do texto são mais relevantes para prever cada novo token, mesmo que estejam distantes entre si.

De "completador de texto" a assistente

Um modelo treinado apenas para prever texto não é, por si só, um bom assistente: ele pode continuar uma pergunta com outra pergunta, por exemplo. Por isso há uma segunda etapa, em que o modelo é ajustado para seguir instruções e dar respostas úteis e seguras. Isso costuma envolver exemplos escritos por pessoas e avaliações humanas sobre quais respostas são melhores. É essa fase que dá ao assistente o "jeito" de conversar.

Por que ele às vezes inventa

As respostas erradas e ditas com segurança, chamadas de "alucinações", são uma consequência direta de como o modelo funciona. Ele foi treinado para produzir texto plausível, e não para garantir que cada afirmação seja verdadeira. Se a informação não está bem representada no que ele aprendeu, ainda assim ele tende a completar com algo que soa razoável. Alguns pontos ajudam a entender quando o risco é maior:

• Fatos específicos e raros. Nomes, datas, números, citações exatas e referências bibliográficas são terreno em que o erro é comum.
• Informação recente. O modelo aprende até uma data de corte. Sem acesso a busca ou a documentos fornecidos, ele não sabe o que aconteceu depois.
• Perguntas com premissa falsa. Se a pergunta já traz uma suposição errada, o modelo pode aceitá-la e seguir.
• Contas e raciocínios longos. Sem ferramentas de cálculo, pode errar passos intermediários.

O que ajuda a reduzir erros

Muitos assistentes combinam o modelo com ferramentas: busca na internet, execução de código, leitura de arquivos. Isso melhora a precisão em tarefas factuais e numéricas, porque o modelo passa a consultar fontes em vez de depender só da memória. Mesmo assim, o resultado ainda precisa ser conferido, e a qualidade da fonte consultada importa.

Boas práticas de uso

• Dê contexto. Quem pergunta melhor recebe resposta melhor: diga o objetivo, o público e o formato desejado.
• Forneça o material. Se quer um resumo ou uma análise, cole o texto ou anexe o documento, em vez de pedir que o modelo "lembre".
• Divida tarefas grandes em etapas menores e revise cada uma.
• Peça as fontes e confira. Links e citações geradas precisam ser verificados, porque podem não existir.
• Desconfie de respostas redondas demais em temas de saúde, direito e finanças, e consulte profissionais.
• Cuide da privacidade. Evite colar dados pessoais, senhas e informações confidenciais, e leia as configurações de privacidade do serviço.

Vale aplicar aqui o mesmo ceticismo que recomendamos no guia para ler notícias de ciência: perguntar de onde vem a informação, o que foi de fato verificado e quais são os limites.

O que eles são bons em fazer

• Reescrever, resumir e traduzir textos.
• Gerar ideias, rascunhos e variações.
• Explicar conceitos em diferentes níveis de dificuldade.
• Ajudar a programar, depurar e documentar código.
• Organizar informações em tabelas, listas e roteiros.

"Eles entendem?"

É uma pergunta em aberto e filosófica. Os modelos exibem comportamentos que, em muitos aspectos, se parecem com compreensão, e falham de maneiras que uma pessoa não falharia. O mais útil, na prática, é tratá-los como ferramentas poderosas e falíveis: ótimos para acelerar o trabalho, e que exigem revisão humana quando o resultado importa.

Na maioria dos casos, a melhor atitude é a de quem trabalha com um assistente muito rápido e muito lido, mas ocasionalmente desatento: aproveite a velocidade, confira o que é importante e mantenha a responsabilidade pelo resultado final.