Um caso recente na Alemanha mostra um problema curioso (e preocupante) das ferramentas de busca com inteligência artificial: é possível produzir uma resposta totalmente falsa usando apenas fatos verdadeiros. O detalhe é que esses fatos, embora reais, pertenciam a outra pessoa. E, dessa vez, a Justiça decidiu que quem responde por isso não é o usuário nem o site de origem da informação, mas sim a própria plataforma que gerou o texto.
O Tribunal Regional de Aachen, na Alemanha, determinou que o Google pare de exibir três versões de uma resposta do AI Mode sobre um médico local. Esse profissional havia atuado como médico-chefe e professor de neurorradiologia até o fim de junho. Quando usuários buscavam o motivo de sua saída, a ferramenta de IA respondia com uma grave acusação criminal — e, ao acrescentar termos como suspensão, demissão e processo judicial, o sistema chegava a gerar parágrafos inteiros descrevendo um desfecho jurídico. O problema é que tudo aquilo realmente aconteceu, só que com outro homem, também ex-professor universitário. A confusão foi confirmada pelo próprio tribunal com base em seus registros.
Ainda em agosto, o médico enviou ao Google uma explicação detalhada sobre o engano. Já em meados de setembro, a empresa informou que não tomaria nenhuma providência, e uma notificação jurídica formal enviada no mesmo dia também não teve efeito. Diante disso, o tribunal decidiu agir em caráter de urgência, sem sequer ouvir o Google antes, prevendo multas de até 250 mil euros por violação. A empresa ainda pode recorrer da decisão.
Google já havia enfrentado situação parecida em Munique
Mais do que o resultado em si, o que chama atenção é a lógica usada pelos juízes. A decisão de Aachen se apoiou em um julgamento anterior do Tribunal Regional de Munique, que em maio já havia responsabilizado diretamente o Google por respostas do AI Overviews que associaram dois veículos de comunicação a fraudes e armadilhas de assinatura — com alegações que não constavam em nenhuma das fontes citadas.
Na época, o Google argumentou que os próprios usuários poderiam checar as fontes. O tribunal de Munique não aceitou essa defesa, entendendo que a resposta gerada pela IA se apresenta como uma afirmação independente e completa. Os juízes descreveram o que a inteligência artificial do Google produz como “declarações independentes, novas e substantivas”, construídas a partir da combinação de conteúdos de sites de terceiros. Aachen repetiu praticamente a mesma argumentação. O Google chegou a anunciar recurso contra a decisão de Munique, mas, segundo reportagem do site The Decoder, acabou fazendo um acordo antes que qualquer instância superior se manifestasse.
Ou seja: tanto em Munique quanto em Aachen, a Justiça passou a tratar as respostas de buscas com IA como declarações da própria plataforma — e essas declarações podem ser falsas mesmo quando cada fato isolado dentro delas é verdadeiro. É um sinal claro de que a responsabilidade está migrando da página de resultados para a resposta final gerada pela IA, e esses dois casos mostram como isso se traduz na prática, dentro de um tribunal.
Em Berlim, outro tribunal decidiu o oposto
No início de junho, porém, um tribunal de Berlim chegou à conclusão contrária em uma disputa envolvendo marca registrada. Uma empresa de perfumes reclamou que o AI Overviews citava suas marcas ao lado de links que vendiam versões mais baratas e imitações. Nesse caso, o tribunal de Berlim entendeu o AI Overviews apenas como um novo formato de resultado de busca, que reúne informações de outros sites, e não como uma fala do próprio Google — por isso, não houve condenação por violação de marca.
Vale notar que os casos não são idênticos: em Berlim, o resumo gerado pela IA reproduzia corretamente o que outros sites diziam, enquanto em Munique e Aachen a ferramenta inventou conexões que nenhuma fonte original havia feito. Ainda assim, chama atenção que tribunais do mesmo país descrevam o mesmo tipo de produto de formas tão diferentes — e, até agora, nenhuma instância superior pacificou o entendimento, já que o caso que poderia ter ido mais longe terminou em acordo.
Esse cenário de incerteza jurídica, mesmo sendo de outro país, serve de alerta para quem trabalha com busca e marketing digital no mundo todo. As regras que valem para essa nova forma de responder perguntas ainda estão em construção, variam de tribunal para tribunal, e o risco acaba recaindo sobre quem supôs que o assunto já estava resolvido. Esperar por mais clareza não é exatamente uma opção segura, afinal as marcas já estão aparecendo nessas respostas geradas por IA agora mesmo.
Como um fato verdadeiro acaba grudado no nome errado
Apesar de parecer complexo, o mecanismo por trás desse tipo de erro é relativamente simples de entender. Um sistema que responde a uma pergunta sobre uma pessoa ou empresa busca documentos que combinem com o nome e com atributos próximos, como cargo, instituição, cidade, setor de atuação ou um acontecimento recente. Depois, ele junta tudo em uma única narrativa fluida. Quando duas entidades compartilham atributos demais, o sistema não tem como saber com segurança que está lidando com dois sujeitos diferentes — e acaba fundindo as informações. Esse fenômeno é chamado de “conflação de entidades”: a IA mistura duas pessoas ou empresas distintas em uma só e fala sobre esse resultado combinado com total confiança.
Esse padrão se repete em outros registros conhecidos. Em Aachen, dois homens compartilhavam os atributos de professor universitário e afastamento de um cargo. Em Munique, a IA misturou os veículos de comunicação com empresas realmente suspeitas que, segundo declarações juramentadas, não tinham qualquer relação com eles. Já em 2024, o Copilot, da Microsoft, descreveu um repórter policial alemão como autor de crimes que ele, na verdade, havia passado anos cobrindo — simplesmente porque o nome dele aparecia ao lado dessas ocorrências em suas próprias matérias. Plataformas e anos diferentes, mas a mesma falha de fundo.
O risco não se limita a quem tem algum registro criminal por perto. Qualquer entidade que compartilhe nome ou um conjunto de atributos com outra pode virar candidata ao erro: duas empresas com nomes parecidos no mesmo setor, uma unidade de franquia confundida com a marca-mãe, um executivo com nome igual ao de outro profissional da mesma área, ou uma linha de produto cujo nome se sobrepõe ao de um concorrente. A maioria dos negócios nunca parou para verificar com quais “vizinhos” de nome pode ser confundida, simplesmente porque, numa lista tradicional de links, era o próprio leitor quem fazia essa separação.
Um espaço sem explicação no histórico público de uma pessoa ou empresa funciona quase como um convite: o sistema é questionado sobre o motivo, busca a explicação mais plausível que encontrar e, se a combinação mais próxima pertencer a outra pessoa, é essa informação que acaba usando.
Para onde as plataformas devem caminhar daqui pra frente
Se os tribunais continuarem tratando respostas de IA como declarações da própria plataforma, qualquer resposta gerada sobre uma pessoa ou empresa específica passa a representar um risco jurídico. Avisos de isenção de responsabilidade, sozinhos, não resolvem — afinal, o tribunal de Munique já rejeitou o argumento de que o usuário poderia simplesmente checar por conta própria. Apontar para os links de origem também não é suficiente, já que quase ninguém realmente clica neles.
Uma pesquisa do Pew Research mostrou que os usuários clicaram em um link dentro do resumo de IA em apenas 1% das buscas em que ele apareceu, e clicaram em algum resultado tradicional em 8% desses casos, contra 15% quando nenhum resumo de IA era exibido. Na prática, as pessoas leem a resposta pronta — e é exatamente por isso que os tribunais passaram a tratá-la como fala direta da plataforma.
A tendência, portanto, é que as plataformas passem a restringir ainda mais o conjunto de fontes consideradas confiáveis ao responder sobre pessoas e empresas específicas. Isso deve significar mais peso para fatos que se repetem de forma consistente em fontes independentes, maior uso de dados estruturados e desambiguados sobre cada entidade, e mais casos em que o sistema simplesmente hesita ou se recusa a responder quando não consegue identificar com segurança a quem a pergunta se refere. O próprio tribunal de Aachen apontou que o Google poderia ter verificado sua resposta comparando-a com os sites de origem, e que apresentar as reclamações do médico à sua própria IA teria revelado o erro. Esse tipo de verificação custa tempo e poder de processamento em cada resposta, então a tendência é que seja aplicado primeiro nas categorias de busca mais propensas a parar num tribunal.
Esse movimento também não deve ficar restrito à Alemanha: manter sistemas diferentes para cada país é caro, então ajustes feitos para atender a um mercado tendem a se espalhar para outros. E essa lógica vale para qualquer empresa que gere respostas automáticas sobre pessoas e negócios — não só para o Google, já que o raciocínio usado em Munique tem a ver com o funcionamento do produto, e não com quem o desenvolveu.
Na prática, isso significa que, para empresas e profissionais, não basta mais apenas ser encontrado nas buscas: é preciso ser inconfundível. Uma empresa com informações divergentes entre seu próprio site, seus perfis em outras plataformas e matérias de terceiros, ou cujo nome e características se sobrepõem aos de um “vizinho” de mercado, é exatamente o tipo de caso mais vulnerável a esse tipo de erro — um lembrete de que, no universo das buscas com inteligência artificial, consistência e clareza sobre a própria identidade deixaram de ser só uma boa prática e passaram a ser uma proteção jurídica real.
Com informações de searchenginejournal.com.
