SAN FRANCISCO (EUA) — A segurança da IA virou o centro de um debate entre três dos principais executivos do setor durante o Dreamforce, conferência anual da Salesforce realizada em San Francisco. Nesta terça-feira (15), Dario Amodei, Jensen Huang e Sam Altman apresentaram visões diferentes sobre o avanço da tecnologia e os riscos envolvidos.
CEO da Anthropic, Amodei defendeu uma desaceleração no desenvolvimento dos modelos mais avançados. Já Jensen Huang, comandante da Nvidia, afirmou que a indústria não precisa de novas leis ou regulações. Mais tarde, Sam Altman, CEO da OpenAI, disse confiar na capacidade das próprias empresas para desenvolver a tecnologia com segurança.
Segurança da IA divide líderes do setor
As manifestações aconteceram em momentos distintos da programação. Amodei e Huang participaram separadamente da keynote principal, conduzida por Marc Benioff, CEO da Salesforce. Altman conversou com Benioff em outra apresentação realizada mais tarde no evento.
Amodei subiu ao palco poucos dias depois de publicar um ensaio no qual alertou para os riscos associados ao avanço da inteligência artificial. Embora tenha defendido cautela no desenvolvimento dos modelos mais avançados, o executivo também destacou o potencial econômico ainda pouco aproveitado pela tecnologia.
Segundo o CEO da Anthropic, apenas entre 5% e 10% do valor que a IA pode gerar atualmente está sendo efetivamente utilizado pela economia. Para ele, as empresas ainda precisam de apoio para implementar a tecnologia em larga escala e transformar seus recursos em ganhos concretos de produtividade.
Benioff concordou que a adoção acontece de maneira desigual entre os clientes da Salesforce. “Temos que fazer mais para ajudá-los a acelerar essa transformação”, afirmou.
Huang rejeita novas regras para segurança da IA
A avaliação de Jensen Huang foi diferente. Para o CEO da Nvidia, as próprias forças do mercado podem pressionar as empresas a colocar no mercado produtos mais seguros. “Não precisamos de novas leis — não precisamos de novas regulações”, afirmou durante a conversa com Benioff.
Huang também contestou a ideia de que velocidade e segurança sejam necessariamente incompatíveis. “É uma escolha falsa”, disse. “Você pode definitivamente ter os dois ao mesmo tempo.” Na visão do executivo, o ritmo deve ser ajustado até que as companhias tenham confiança de que seus produtos serão úteis e bem recebidos pelos clientes.
Apesar disso, o CEO da Nvidia reforçou que a segurança da IA precisa permanecer como prioridade. “Segurança é primordial. Em muitos aspectos, é a prioridade número um. Mas segurança é um problema de engenharia”, afirmou, em uma conversa marcada por brincadeiras com Benioff.
Huang acrescentou que as empresas devem interromper o desenvolvimento quando não tiverem confiança suficiente na segurança de um produto. “Corra o mais rápido que puder. Mas, se em algum momento você sentir que a empresa está fora de controle ou que o produto não será seguro, faça uma pausa e certifique-se de acertar.”
OpenAI aposta na capacidade da indústria
Horas depois, Sam Altman também afirmou que o próprio setor tem condições de enfrentar os riscos sem depender necessariamente de novas intervenções externas. “Estou muito confiante na capacidade da nossa empresa — e da nossa indústria — de fazer isso com segurança”, declarou.
O CEO da OpenAI disse ainda estar decepcionado com a maneira como o debate sobre segurança da IA vem sendo apresentado. A empresa trabalha com a Anthropic e o Google DeepMind em questões relacionadas à segurança dos modelos. Ainda assim, Altman defendeu que as companhias precisam ser capazes de melhorar seus sistemas de forma segura.
O debate ocorre em um período de pressão crescente sobre os laboratórios de inteligência artificial. Publicado no fim de semana, o ensaio de Amodei sugeriu uma desaceleração no desenvolvimento dos chamados modelos de fronteira e recebeu apoio público de executivos de outras empresas do setor.
Salesforce amplia integração com modelos de IA
Enquanto os laboratórios discutem o ritmo de evolução e a segurança da IA, a Salesforce aposta em tecnologias já disponíveis para ampliar a adoção dentro das empresas.
Durante o Dreamforce, a companhia anunciou, em parceria com a Nvidia, o Koa, modelo de raciocínio para o Agentforce baseado em um modelo da família Nemotron, da Nvidia. A linha Nemotron reúne modelos de IA generativa disponibilizados pela companhia para diferentes aplicações.
Além disso, a Salesforce ampliou sua parceria com a Anthropic para integrar o Claude aos seus produtos. O evento reuniu, assim, discussões sobre regulação, segurança da IA e aplicação prática da tecnologia no ambiente corporativo.
O jornalista viajou para San Francisco a convite da Salesforce
