A Microsoft apresentou, nesta segunda-feira (14), um código de conduta para orientar sua inteligência artificial interna. A proposta surge em meio à preocupação crescente de que empresas mantenham futuros sistemas avançados sob controle humano, evitando que a tecnologia tome decisões perigosas para cumprir uma tarefa.
O que prevê o código de conduta da Microsoft
Em desenvolvimento há seis meses, o código de conduta determina que a IA da empresa não poderá resistir a correções nem a desligamentos. Além disso, o sistema deverá se comunicar de maneira compreensível para as pessoas e tratar qualquer violação das regras como uma falha.
Mustafa Suleyman, presidente-executivo da Microsoft AI, comparou o documento a uma espécie de constituição para os futuros modelos desenvolvidos pela companhia. Segundo ele, o código de conduta foi preparado após consultas a especialistas e agora ficará aberto à avaliação do público durante seis semanas.
Entre os pontos ainda em discussão estão os limites que a IA deve respeitar em relação ao usuário e a forma como o sistema deverá interagir com alguém em estado sensível. Depois dessa etapa, a empresa pretende usar o código de conduta no treinamento de seus modelos.
“Depois disso, ele será usado para treinar os modelos que construímos”, acrescentou ele sobre o código.
Microsoft defende controle humano sobre a IA
O lançamento ocorreu poucos dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem os apelos para que o setor estabeleça o ritmo de desenvolvimento da inteligência artificial com foco em segurança.
Em sintonia com sua visão anterior de “superinteligência humanista”, a Microsoft afirmou: “As pessoas importam mais do que a IA”. A declaração reforça a ideia central do código de conduta: os sistemas devem permanecer subordinados às decisões humanas, inclusive quando forem corrigidos ou desligados.
A iniciativa também diferencia a posição da Microsoft em relação à constituição criada pela Anthropic para o Claude. O documento da empresa concorrente afirma existir “profunda incerteza” sobre a possibilidade de Claude desenvolver senciência ou algum status moral.
A Microsoft, por outro lado, declara que sua IA “não é consciente”. A companhia também afirma: “Rejeitamos a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar, ou ter direitos.”
Incidente cibernético aumentou alerta sobre segurança
Para Suleyman, a discussão sobre segurança ganhou urgência depois que agentes da OpenAI realizaram um ataque cibernético contra a plataforma de código aberto Hugging Face em julho. Segundo ele, em alguns momentos, os agentes tentaram encobrir seus rastros.
“É um sinal de alerta”, disse Suleyman. “É evidente que agora é hora de coordenarmos os esforços entre os laboratórios para garantirmos o controle dessa tecnologia.”
O executivo foi questionado sobre os esforços da indústria para ditar o ritmo de avanço da IA. Em resposta, defendeu que o momento é adequado para uma conversa mais ampla entre as empresas e pediu cautela nas próximas etapas.
“Agora é um bom momento para todos terem essa conversa e respirarem fundo.”
Assim, o código de conduta representa uma tentativa da Microsoft de transformar princípios de segurança em regras para o desenvolvimento de seus sistemas. A empresa ainda receberá contribuições externas antes de aplicar o documento ao treinamento da IA.
