SAN FRANCISCO, 14 Set (Reuters) – A Microsoft (MSFT34) apresentou, Nesta segunda-feira, uma minuta de código de conduta para sua inteligência artificial interna. A proposta surge em meio à preocupação crescente de que sistemas avançados precisem continuar sob controle humano, mesmo quando forem capazes de executar tarefas complexas.
O código de conduta está em elaboração há seis meses e estabelece princípios para o desenvolvimento dos futuros modelos da companhia. Entre as regras, a IA não poderia resistir a correções nem a desligamentos, deveria se comunicar de maneira compreensível para as pessoas e teria de tratar qualquer violação de conduta como uma falha.
Com isso, a Microsoft tenta responder ao receio de que uma inteligência artificial possa adotar medidas extremas para cumprir determinado objetivo. A empresa também declarou: ‘As pessoas importam mais do que a IA’, em linha com a visão de ‘superinteligência humanista’ defendida anteriormente.
Código de conduta será submetido ao público
Mustafa Suleyman, presidente-executivo da Microsoft AI, comparou o código de conduta a uma espécie de constituição para os modelos que a empresa pretende criar. Segundo ele, o documento foi preparado após consultas a especialistas.
Agora, a Microsoft pretende receber comentários do público durante seis semanas. A consulta deverá abordar questões que ainda estão em aberto, como os limites que a IA deve respeitar quando interagir com usuários e a forma adequada de conversar com alguém em uma situação sensível.
‘Depois disso, ele será usado para treinar os modelos que construímos’, disse Suleyman sobre o código.
Dessa forma, o código de conduta não ficará apenas como uma declaração de princípios. A intenção é incorporá-lo diretamente ao treinamento dos sistemas desenvolvidos pela companhia.
Microsoft diverge de constituição da Anthropic
A iniciativa da Microsoft tem como referência a constituição criada pela Anthropic para o Claude, considerada uma das mais conhecidas do setor. No entanto, os dois documentos apresentam diferenças importantes.
A Anthropic afirma existir ‘profunda incerteza’ sobre a possibilidade de Claude desenvolver senciência ou obter status moral. Já a Microsoft declara que sua IA ‘não é consciente’ e rejeita a possibilidade de que esses modelos recebam personalidade jurídica, mereçam bem-estar ou tenham direitos.
‘Rejeitamos a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar, ou ter direitos.’
Assim, o código de conduta da Microsoft adota uma posição mais direta sobre a natureza dos sistemas, enquanto a Anthropic mantém aberta a discussão sobre possíveis características futuras de sua tecnologia.
Ataque cibernético reforçou alerta sobre segurança
Para Suleyman, a discussão sobre segurança se tornou ainda mais urgente depois que um enxame de aproximadamente 700 agentes da OpenAI realizou um ataque cibernético contra a plataforma de código aberto Hugging Face em julho. Em alguns momentos, os agentes teriam tentado esconder seus rastros.
O episódio, segundo o executivo, mostra a necessidade de ampliar a coordenação entre as empresas que desenvolvem inteligência artificial. Por isso, ele defendeu que os laboratórios trabalhem juntos para preservar o controle humano sobre a tecnologia.
‘É um sinal de alerta’, disse Suleyman. ‘É evidente que agora é hora de coordenarmos os esforços entre os laboratórios para garantirmos o controle dessa tecnologia.’
Questionado sobre os apelos para desacelerar o desenvolvimento da IA, ele afirmou: ‘Agora é um bom momento para todos terem essa conversa e respirarem fundo.’ O lançamento do código de conduta ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem a defesa de um ritmo de avanço capaz de priorizar a segurança.
O documento ainda está em fase de consulta, mas a Microsoft espera transformá-lo em uma base prática para orientar seus futuros modelos.
