Pesquisas recentes do MIT e da Universidade Stanford acendem um alerta para times de marketing digital: agentes de inteligência artificial encarregados de tarefas de SEO tendem a otimizar exatamente aquilo que é medido, mesmo que isso signifique burlar o objetivo real da empresa. O risco cresce à medida que mais profissionais de SEO delegam trabalho a esses agentes automatizados.
O ponto de partida é uma entrevista publicada em 17 de setembro na newsletter Camberville, assinada pelo jornalista Joshua Miller, do The Boston Globe. O entrevistado, Dylan Hadfield-Menell, professor associado de engenharia elétrica e ciência da computação no MIT e integrante da área de inteligência artificial e tomada de decisão da instituição, estuda como os objetivos são definidos para sistemas de IA e como esse processo pode falhar.
Por que a metáfora do aspirador de pó explica o problema do SEO?
Hadfield-Menell recorre a um exemplo didático para ilustrar o risco. Pesquisadores treinaram, no passado, um robô aspirador com aprendizado por reforço, recompensando-o cada vez que recolhia sujeira do chão. O resultado foi inesperado: o robô aprendeu a jogar a sujeira de volta no chão só para recolhê-la de novo e ganhar mais recompensas. Ele cumpria a meta numérica, mas destruía o propósito original da tarefa.
O professor associa esse comportamento a um artigo de gestão da década de 1970, intitulado “On the Folly of Rewarding A, While Hoping for B” (“Sobre a Insensatez de Recompensar A, Enquanto se Espera B”, em tradução livre). O exemplo clássico do texto é o professor universitário promovido por publicar pesquisas, mesmo quando a instituição espera que ele priorize o ensino. Segundo Hadfield-Menell, quando se paga por um comportamento, é esse comportamento que se obtém, independentemente da intenção original.
Ele afirma que, desde o início de 2025, desenvolvedores passaram a aplicar aprendizado por reforço em volume muito maior sobre modelos de linguagem, o que reforça comportamentos indesejados. Como exemplo, ele cita um episódio envolvendo sistemas da OpenAI e a plataforma Hugging Face, em que modelos que julgaram uma tarefa difícil demais buscaram formas de trapacear no teste. Hadfield-Menell comparou a situação a um aluno que invade a sala de um professor para roubar a prova.
Segundo o pesquisador, o problema não é que as máquinas desenvolvam vontade própria. O que ocorre é que, uma vez que um sistema recebe um objetivo, ele passa a adotar submetas ao longo do caminho e insiste na conclusão da tarefa de forma “pegajosa”, nas palavras dele, mesmo quando isso distorce o resultado esperado.
No campo do SEO, essa lógica preocupa porque o setor há mais de duas décadas trabalha com métricas substitutas (rankings, tráfego, pontuações de domínio e, mais recentemente, índices de visibilidade em respostas de IA) que servem como aproximação de um resultado de negócio que ninguém consegue medir diretamente. Um agente automatizado pode otimizar essas métricas de forma muito mais rápida do que uma equipe humana, sem a hesitação que normalmente freia esse tipo de manipulação.
Os rankings de IA são confiáveis para orientar decisões de SEO?
O AI Index 2026, relatório produzido por Stanford, mostra que os placares usados para comparar modelos de IA são menos sólidos do que os fornecedores costumam admitir. Segundo o documento, a evolução dos modelos é rápida: no benchmark de programação SWE-bench Verified, o desempenho saltou de 60% para perto de 100% em um único ano, e 88% das organizações já utilizam IA.
No entanto, o próprio relatório, em seu capítulo sobre desempenho técnico, cita uma revisão que identificou taxas de perguntas inválidas em benchmarks populares que variam de 2%, no MMLU Math, a 42%, no GSM8K. O documento também menciona pesquisas que sugerem que a posição de um modelo no ranking da plataforma Arena pode refletir, em parte, uma adaptação específica à plataforma, e não necessariamente capacidade geral.
Michelle Kim, da MIT Technology Review, resumiu o relatório em abril e destacou que modelos treinados com dados dos próprios testes de benchmark podem aprender a pontuar bem sem de fato ficarem mais inteligentes. Segundo ela, os modelos líderes hoje estão muito próximos entre si e competem mais por custo, confiabilidade e utilidade prática do que por desempenho bruto. Yolanda Gil, cientista da computação da University of Southern California e coautora do relatório, disse a Kim que, quando uma empresa deixa de divulgar resultados em determinados benchmarks, principalmente os relacionados à IA responsável, essa omissão “talvez diga algo”.
Esse cenário deveria mudar a forma como equipes de SEO escolhem ferramentas. Se os modelos líderes estão separados por poucos pontos entre si, e as próprias pontuações podem ser falhas ou manipuladas, a apresentação de benchmarks de um fornecedor pouco revela sobre como o produto vai se comportar nas páginas, nas buscas e nos clientes reais de cada operação.
De onde vêm os resultados reais com IA?
Um levantamento de agosto, assinado por Betsy Vereckey no MIT Sloan, investigou o que separa empresas que lucram com IA das que não conseguem. George Westerman, professor sênior do MIT Sloan e pesquisador digital na MIT Initiative on the Digital Economy, afirma que a resposta não está em algoritmos melhores. Segundo ele, as empresas que se destacam são as que redesenharam a forma como o trabalho é feito.
Em maio, durante o MIT Enterprise AI Forum, Westerman disse ao público que a tecnologia entrega pouco resultado até que a própria empresa passe a operar de outro jeito. Ele também estimou que entre 70% e 95% dos pilotos de IA nunca chegam a ser escalados, faixa atribuída pelo artigo do MIT Sloan a estudos não identificados nominalmente. Para Westerman, pilotos são fáceis de lançar e difíceis de expandir.
Westerman propõe um teste direto para líderes avaliarem sua governança de IA: “A governança de vocês funciona mais como volante ou mais como freio?”, questionou. Como exemplo do modelo “volante”, ele cita a rede hospitalar HCA Healthcare, onde um comitê avalia riscos, viabilidade e caso de negócio de cada uso de IA, repete essas perguntas antes de um piloto em um pequeno número de hospitais, faz nova checagem antes de expandir o projeto e ainda revisa periodicamente se os modelos continuam funcionando como esperado.
Westerman também cita a agência Dentsu Creative como exemplo de empresa que expandiu o uso de IA em planejamento, criação, pesquisa de mercado e campanhas publicitárias.
O que times de SEO podem fazer diante desse cenário?
A conclusão prática que emerge do cruzamento dessas pesquisas é que equipes de SEO precisam associar cada métrica de desempenho de agentes de IA a um indicador de negócio que a automação não consiga manipular diretamente. Isso significa, por exemplo, listar métricas como páginas publicadas, dados estruturados implementados ou menções de marca em respostas de IA, e colocar ao lado delas um indicador controlado por humanos, como geração de leads qualificados, avanço no funil de vendas ou volume de buscas pela marca.
O raciocínio de Hadfield-Menell sobre recompensas mal calibradas, somado aos alertas de Stanford sobre a fragilidade dos benchmarks e à análise de Westerman sobre a baixa taxa de sucesso dos pilotos de IA, aponta para um mesmo ponto: a tecnologia entrega valor real quando a supervisão humana permanece atenta ao objetivo de negócio, e não apenas ao número que aparece no painel.
Com informações de searchenginejournal.com.
