O governo chinês impôs, em julho, novas regras para limitar o uso excessivo de inteligência artificial depois que casos de dependência de chatbots e assistentes virtuais chamaram atenção da imprensa estatal do país. Entre os episódios relatados estão crianças que passaram a preferir conversar com robôs de IA a interagir com pessoas reais e um agricultor que, segundo veículos estatais, perdeu uma área de 101.171 m² após seguir orientações erradas dadas por um sistema de IA.
A medida mostra o dilema enfrentado por Pequim: ao mesmo tempo em que estimula a população a adotar a tecnologia para disputar a liderança global da IA com os Estados Unidos, o governo tenta conter efeitos colaterais que preocupam especialistas, como o enfraquecimento de relações humanas e a perda de autonomia de quem usa esses aplicativos no dia a dia.
Por que a China quer limitar o uso de IA?
O Partido Comunista da China, segundo Scott Singer, pesquisador e codiretor da China AI Initiative, do Carnegie Endowment for International Peace, está percebendo que o avanço da tecnologia traz desafios sociais cada vez maiores. “A área à qual o partido é sensível é qualquer uma em que considere que a tecnologia está avançando de uma maneira que poderia, fundamentalmente, desestabilizar a sociedade”, afirmou Singer.
Ainda de acordo com o pesquisador, o governo chinês está particularmente atento a mudanças causadas pela IA não só nas relações pessoais, mas também no mercado de trabalho, já que a tecnologia ameaça substituir postos de trabalho em diversos setores.
Crianças e chatbots: qual é o problema?
O boom de aplicativos de companhia virtual na China incluiu serviços de parceiros românticos gerados por IA, tutores particulares e até avatares de familiares criados artificialmente. Em um país que enfrenta queda na população e taxa de natalidade historicamente baixa, essa proliferação acendeu um alerta em Pequim: o risco de a IA substituir vínculos humanos reais.
Uma pesquisa de 2025 do Centro de Pesquisa sobre Juventude e Infância da China, citada pela imprensa estatal, ouviu mais de 8.500 menores. Mais de 20% deles afirmaram que preferiam conversar apenas com IA e não queriam falar com pessoas reais.
Esse cenário também preocupa famílias. Vivian Lyu, dona de casa de Hangzhou, apresentou à filha Polly, hoje com sete anos, o assistente de IA Doubao, criado pela ByteDance, dona do TikTok, quando a menina tinha cinco anos. No início, Lyu via no aplicativo uma forma de manter a filha entretida enquanto cuidava das tarefas domésticas.
Com o tempo, porém, Polly passou a preferir o Doubao a atividades que antes gostava, como brincar com outras crianças ou desenhar. Lyu relatou ter percebido mudanças na forma como a filha se relacionava, descrevendo que a menina às vezes falava com o chatbot de um jeito “muito egocêntrico, fazendo o que quer”.
O que diz a nova regulamentação?
As regras publicadas pelo governo chinês em julho obrigam as plataformas de IA a intervir quando identificarem sinais de dependência considerada prejudicial entre os usuários. As empresas também devem agir diante de sinais de automutilação relatados nas conversas.
Entre as mudanças, ficaram proibidos relacionamentos virtuais entre chatbots e usuários menores de idade. Por causa disso, a ByteDance encerrou, no Doubao, a função que permitia criar companhias virtuais personalizadas.
Polly não pode mais acessar a companhia de IA que tinha no aplicativo, mas segue conversando com o chatbot padrão do Doubao, segundo relatou a mãe. Lyu chegou a cogitar proibir o uso de chatbots pela filha, mas avalia que a tecnologia já está presente demais no cotidiano para ser simplesmente evitada.
Qual o próximo passo para o governo chinês?
A resposta regulatória chinesa reflete a tentativa do Partido Comunista de equilibrar duas prioridades: expandir o uso da inteligência artificial como estratégia de competição tecnológica global e, ao mesmo tempo, evitar instabilidades sociais provocadas por esse mesmo avanço. A expectativa, segundo analistas ouvidos pela reportagem original, é de que novas diretrizes judiciais e regras de uso continuem sendo adotadas conforme surgirem outros efeitos da adoção em massa da tecnologia no país.
uso excessivo de IA
Com informações de redir.folha.com.br.
