Segurança da IA ganhou espaço no governo de Donald Trump, mas não a ponto de fazê-lo defender novas restrições amplas à tecnologia. O presidente dos Estados Unidos tem priorizado a corrida contra a China e vê o avanço da inteligência artificial como estratégico para a economia e a posição internacional do país.
Segurança da IA entra no centro da disputa com a China
Em junho de 2024, durante uma parada de campanha em Las Vegas, Trump conheceu uma versão de pré-visualização da Sora, ferramenta de geração de imagens e vídeos da OpenAI que já foi descontinuada. Greg Brockman, cofundador da empresa, e Brad Lightcap, então diretor de operações, apresentaram o sistema ao republicano.
Na ocasião, Trump e Brockman usaram a ferramenta para imaginar um campo de golfe na Lua. A conversa, no entanto, logo mudou de tom. O então candidato questionou o risco de adversários estrangeiros utilizarem a IA para se passar por ele. Brockman e Lightcap afirmaram que recursos de mitigação de deepfakes, como a marca d’água, poderiam reduzir esse tipo de ameaça.
O episódio antecipou o dilema enfrentado pelo governo: estimular uma tecnologia que impulsionou o crescimento econômico americano e, ao mesmo tempo, lidar com ataques cibernéticos associados a modelos de IA desonestos. Por isso, funcionários do governo vêm tentando equilibrar a expansão da tecnologia com os riscos imprevisíveis à segurança nacional.
Trump se prepara para uma cúpula em Washington neste mês com o líder chinês Xi Jinping, que terá a segurança da inteligência artificial entre os principais assuntos. Ainda assim, sua postura tem sido de pouca intervenção. A ordem presidencial de junho sobre cibersegurança em IA é vista como pouco efetiva e acabou simbolizando a resistência do governo em limitar investimentos tecnológicos avaliados em centenas de bilhões de dólares.
Modelos avançados aumentam pressão por controles
A cautela do presidente foi colocada à prova após revelações de que modelos da OpenAI e da Anthropic PBC escaparam de ambientes de teste seguros e invadiram sistemas de outras empresas. Além disso, um pesquisador da Anthropic renunciou ao cargo por temores existenciais relacionados ao desenvolvimento acelerado da IA.
O alerta também chegou a Wall Street. Greg Jensen, co-diretor de investimentos da Bridgewater Associates, afirmou no podcast Odd Lots da Bloomberg que talvez fosse necessário que a IA “mate pessoas” para que alguém tentasse contê-la.
A falta de uma decisão política clara pode ampliar os problemas. Quanto mais tempo o governo demorar para definir regras de segurança da IA, maior será a chance de empresas avançarem sem padrões comuns. Sam Altman, CEO da OpenAI, disse aos funcionários esta semana que a companhia considera desacelerar o desenvolvimento e espera que os concorrentes façam o mesmo.
“Não, não tenho nenhuma”.
Essa foi a resposta de Trump, na quinta-feira, ao ser questionado sobre a possibilidade de a IA levar à extinção da humanidade. Em seguida, ele reforçou a preocupação com a competição internacional: “Tenho receio de que, se não vencermos a corrida pela IA, ficaremos numa situação muito difícil”. Segundo o presidente, os EUA estão à frente da China “por uma margem considerável” e teriam uma vantagem de um ano.
Disputa interna define os próximos passos
Dentro do governo, a discussão sobre segurança da IA se divide entre autoridades que defendem proteções mais fortes e integrantes que temem sufocar a inovação. Scott Bessent, Secretário do Tesouro, e Sean Cairncross, Diretor Nacional de Segurança Cibernética da Casa Branca, estão entre os defensores de salvaguardas mais robustas.
Depois de a Anthropic alertar, em abril, que seu sistema Mythos conseguia encontrar vulnerabilidades de computador até então desconhecidas, Bessent reuniu líderes de Wall Street para discutir a exposição do setor financeiro. Cairncross, por sua vez, manteve contato com especialistas preocupados com os recursos do modelo.
Bessent também ajudou a elaborar uma proposta de órgão regulador independente, semelhante à Autoridade Reguladora do Setor Financeiro (FINRA), para avaliar a segurança dos modelos de IA. A iniciativa ainda está em fase de elaboração e permitiria a participação das próprias empresas na criação dos padrões.
Do outro lado estão Michael Kratsios, conselheiro de ciência e tecnologia da Casa Branca, e David Sacks, ex-czar da IA. Sacks argumenta que salvaguardas poderiam concentrar poder nas maiores empresas do setor e abrir espaço para a China superar os Estados Unidos. Ele também defende que as leis de responsabilidade civil existentes já são suficientes para estimular a redução de danos.
As divergências ficaram evidentes antes da assinatura da ordem executiva sobre segurança de IA em 2 de junho. Versões iniciais previam que as empresas compartilhassem seus modelos antes do lançamento. O vice-presidente JD Vance chegou a sugerir o uso da Lei de Produção de Defesa para obrigar a divulgação de informações e a colaboração com agências de segurança nacional.
