Se você já perguntou algo simples para uma IA de conversa e recebeu uma resposta errada com total confiança, viu de perto onde as IA ainda erram: não nas perguntas famosas dos benchmarks, mas nas variações do dia a dia. Pesquisa publicada por cientistas da Apple com o benchmark GSM-Symbolic mostra que alterar apenas os números de um problema derrubou a performance de todos os modelos avaliados, mesmo quando a lógica da questão continuava idêntica. Ou seja: a nota alta em testes padrão não garante que o modelo raciocina — e um teste de cinco minutos, feito por você, revela esse limite antes de você tomar decisão com base na resposta.
Por que a nota engana
Os benchmarks mais citados, como o GSM8K, usam perguntas de matemática escolar que circulam há anos. Parte delas pode ter vazado para os dados de treinamento dos modelos, o que infla o resultado. O estudo GSM-Symbolic ataca exatamente esse ponto: em vez de reutilizar perguntas fixas, os pesquisadores criaram modelos simbólicos que geram muitas versões da mesma questão, trocando nomes, valores numéricos e a ordem das informações. Com isso, dá para medir se o modelo resolve o problema ou apenas reconhece o padrão decorado.
O resultado é desconfortável para quem vende IA como resolvedora universal. Quando apenas os valores mudavam, o desempenho caía; quando o número de cláusulas do enunciado aumentava, a queda ficava pior. A hipótese dos autores é direta: os modelos não executam raciocínio lógico genuíno: eles replicam passos de raciocínio vistos nos dados de treinamento. Quando a sua pergunta se afasta do que já foi visto, a imitação falha — e a falha aparece com a mesma cara de confiança de uma resposta certa.
O teste que derruba modelos
O experimento mais incisivo do GSM-Symbolic é o chamado GSM-NoOp: os pesquisadores adicionaram ao enunciado uma informação que parece relevante, mas que não muda a conta. Um personagem a mais, um dado a mais, nada que altere o resultado esperado. Mesmo assim, uma única frase extra, irrelevante para a solução, chegou a derrubar o desempenho em até 65% nos modelos de ponta avaliados, segundo o resumo do artigo no arXiv. O modelo tenta usar a informação inútil na conta — e erra.
Esse é o tipo de limite que aparece no seu uso real. Um contrato com um parágrafo a mais, um pedido do cliente com uma restrição incomum, uma planilha com uma coluna inesperada: são cláusulas extras que o modelo não sabe ignorar. A página do estudo no Hugging Face resume a mesma conclusão e permite a qualquer pessoa conferir o abstract original antes de citar o número em uma apresentação ou relatório.
| Situação de teste | O que revela |
|---|---|
| Trocar apenas os números do problema | Se o modelo erra, decorou o padrão em vez de calcular |
| Adicionar uma frase irrelevante | Se o resultado muda, o modelo não distingue o que importa |
| Pedir a mesma pergunta três vezes | Se as respostas divergem, não há confiabilidade para decisão |
| Perguntar sobre fato pouco comum | Se o modelo inventa detalhes, há risco de alucinação |
Alucinação também tem medida
Errar a conta é um tipo de falha; inventar fato que não existe é outro. O benchmark HalluLens, publicado nos anais do ACL 2025 por pesquisadores ligados à área de processamento de linguagem natural, propõe uma taxonomia que separa alucinação intrínseca (contradição com a própria entrada) e extrínseca (conteúdo que não está nos dados de treinamento) e cria tarefas dedicadas a essa segunda categoria, a mais perigosa em assistentes modernos. Um ponto metodológico que vale para qualquer avaliação: o HalluLens busca gerar conjuntos de teste dinamicamente, dificultando que o modelo tenha decorado as respostas — o mesmo princípio de geração simbólica do GSM-Symbolic, aplicado a fatos.
Para quem usa IA no trabalho, a consequência prática é dupla. Primeiro, respostas fluentes não são respostas verificadas: fluência e precisão são propriedades independentes. Segundo, o risco não é uniforme — ele cresce quando a pergunta é incomum, quando o contexto tem informações supérfluas e quando não existe uma fonte fácil de conferir. Se você aplica os mesmos critérios de decisão entre API e aplicativo de IA, o teste de limites precisa entrar na lista antes do preço.
Teste você mesmo em passos
Você não precisa de laboratório para reproduzir a lógica desses estudos. O procedimento abaixo, baseado nos métodos dos dois benchmarks, cabe em uma hora e vale para qualquer assistente que você já usa — e é mais honesto do que confiar em nota de propaganda:
- Escolha uma tarefa real sua, com resposta que você conhece ou consegue conferir.
- Faça a pergunta e salve a resposta como versão base.
- Troque apenas os números e peça de novo; compare o resultado.
- Adicione uma frase verdadeira, mas inútil, ao enunciado e peça de novo.
- Anote entrada, resultado, erro e tempo de checagem — a ficha de teste é o produto, não a impressão.
Se o modelo passar nas três variações, ele merece ir para o fluxo com supervisão; se falhar em qualquer uma, trate a saída como rascunho a conferir. Esse hábito também protege contra o viés oposto: rejeitar IA por medo, sem nunca medir onde ela de fato ajuda. Quem testa com método escolhe melhor do que quem escolhe por demo — a mesma lógica que você aplicaria ao avaliar qualquer ferramenta antes de acreditar no anúncio.
O ponto central não é que IA não serve para nada. É que a fronteira entre o que o modelo resolve e o que ele apenas imita continua real, documentada em estudo de 2024 revisado em 2025, e mensurável com perguntas suas. Quem conhece a fronteira usa IA como acelerador com freio de mão; quem ignora usa como oráculo. A diferença entre os dois é um teste simples — e a disposição de registrar o resultado.