Quando um modelo de inteligência artificial não possui dados suficientes sobre uma empresa, ele simplesmente não admite essa lacuna. Não há recusa, não há ressalva, não há sinalização de que a informação disponível se esgotou. Em vez disso, o sistema recorre ao conteúdo mais próximo e bem documentado que encontra — geralmente um concorrente, uma média do setor ou até uma versão desatualizada da própria empresa — e apresenta essa substituição com a mesma segurança que usaria se realmente soubesse a resposta.
Esse comportamento já é conhecido. O que poucos discutem é o motivo pelo qual isso representa um problema sério para quem trabalha com marketing digital e reputação online: essa falha não pode ser identificada por meio de uma auditoria de conteúdo tradicional. Qualquer auditoria analisa o que existe — páginas, estrutura, cobertura temática, precisão, atualização. O problema descrito aqui, porém, mora justamente no que não existe, em um espaço que a empresa não controla, e só se manifesta no exato momento em que alguém faz uma pergunta que jamais será monitorada.
Resultado: a auditoria pode indicar que tudo está correto. As páginas estão bem estruturadas, o schema é validado, a cobertura de temas parece adequada frente à concorrência. Ainda assim, o modelo de IA pode estar transmitindo a usuários informações sobre a empresa que nenhuma página do site sustenta — e que nenhuma ação de conteúdo teria como evitar.
Por que o modelo preenche a lacuna em vez de reconhecê-la
O mecanismo por trás desse comportamento já foi estudado. Pesquisa de Mallen e colaboradores mostrou que os modelos de linguagem têm dificuldade especialmente com informações factuais menos populares, e que aumentar o tamanho dos modelos melhora principalmente a lembrança de fatos populares — fazendo pouca diferença para o que os autores chamam de “cauda” da distribuição de dados. Ou seja: ampliar a escala dos modelos não resolve o problema para fabricantes de médio porte ou empresas regionais de serviços. A parte menos representada da base de dados continua escassa.
O que ocorre nessa área pouco coberta é o ponto mais interessante. Um estudo de Longpre e colaboradores, apresentado na EMNLP 2021, mediu o quanto os modelos dependem de informações memorizadas em vez de processar o que está de fato diante deles — formulando a questão central como: o modelo tende a alucinar ou a “ler” a informação real disponível? A resposta não é a abstenção. É a produção confiante de conteúdo a partir do que os pesos do modelo já carregam internamente.
É importante separar esse fenômeno da alucinação genérica, termo que a indústria tem usado de forma indiscriminada — o que compromete o diagnóstico correto. A alucinação genérica é aleatória: produz uma citação jurídica falsa, uma estatística inventada, um artigo acadêmico plausível que nunca existiu, de forma imprevisível o suficiente para que modelos mais avançados consigam reduzi-la de forma mensurável. O fenômeno discutido aqui é diferente: não é aleatório, é sistemático, direcional e previsível a partir da própria estrutura da base de evidências. Diante de uma entidade pouco documentada e um “vizinho” bem documentado, o modelo tende a se inclinar consistentemente para esse vizinho, sempre na mesma direção, porque essa tendência é uma característica da distribuição dos dados de treinamento — não uma falha aleatória de amostragem. Por isso, o argumento de que modelos mais novos alucinam menos não se aplica aqui: os modelos estão evoluindo para inventar menos coisas, mas não estão evoluindo para conhecer empresas sobre as quais quase ninguém escreveu.
Um exemplo concreto, publicado em junho
Um artigo de um fornecedor de tecnologia, direcionado a equipes de marca, alertava sobre o risco de a IA “alucinar” detalhes de produtos — um tema legítimo e bem escrito.
O texto abre com uma citação atribuída a Percy Liang, corretamente identificado como diretor do Centro de Pesquisa em Modelos de Fundação de Stanford, sobre como os modelos confabulam em contextos comerciais. Essa citação, no entanto, não aparece em nenhum artigo, palestra, entrevista ou página da web. O mesmo texto traz citações atribuídas a duas figuras midiáticas conhecidas que também não puderam ser localizadas. O artigo ainda cita uma taxa de alucinação atribuída ao relatório Stanford HAI AI Index, mas o link aponta apenas para a página inicial do relatório, não para um documento específico. O mesmo padrão se repete cerca de uma dúzia de vezes, envolvendo supostos relatórios da Nielsen, da Gartner, de um grupo de trabalho do IAB e de um estudo do MIT Sloan. Todos os títulos soam exatamente como relatórios reais. Todos os links levam apenas às páginas iniciais das organizações — nunca a um documento concreto.
É um artigo que alerta as marcas de que sistemas de IA inventam afirmações confiantes sobre elas — e, para sustentar esse argumento, inventa afirmações confiantes sobre pesquisadores e instituições.
O mecanismo, portanto, não ficou restrito à máquina: saiu do modelo, foi publicado, foi indexado, e agora integra a base de dados que treinará a próxima geração de modelos de IA.
Uma objeção razoável seria que boa parte dessas pesquisas está atrás de paywalls, dificultando o acesso a links diretos. Isso explica parte da lista, mas não o índice de Stanford, que é gratuito e de acesso público. Também não explica a ausência de referência na ACL Anthology, plataforma aberta e totalmente indexada, onde o suposto estudo que classificaria alucinações de marca em quatro categorias específicas parece simplesmente não existir. E não explica citações atribuídas a pessoas: alguém disse algo publicamente ou não disse — isso independe de qualquer assinatura paga. Existe, inclusive, uma convenção para citar estudos restritos: informar o nome do relatório, autor e data, permitindo que leitores com acesso confirmem a fonte. No caso analisado, havia apenas um título que se encaixava perfeitamente ao argumento, sem nenhum conteúdo real por trás.
O fornecedor responsável pelo artigo não é o foco da questão — o caso importa, não a empresa. O que chama atenção é que se trata exatamente da mesma falha, um nível acima: quem produziu o texto precisava de embasamento autoritativo para sustentar afirmações sobre taxas de alucinação de marcas, e esse embasamento simplesmente não existe no volume necessário. A lacuna foi preenchida com elementos que aparentam ser evidências — nomes reais de instituições, títulos plausíveis de relatórios, a identificação correta de um diretor de Stanford, links funcionais que remetem a organizações reais. Todos os sinais superficiais de rigor, sem nenhuma substância por trás.
O problema não termina aí: um profissional de marketing pode ler esse conteúdo, acreditar nos números e repeti-los em uma apresentação estratégica. A substituição de informação percorre um caminho silencioso — de um modelo de IA para um artigo, de um artigo para uma pessoa, de uma pessoa para uma decisão de negócio — sem que ninguém, ao longo do processo, tenha cometido um erro evidente.
Com informações de searchenginejournal.com.
