A OpenAI anunciou nesta sexta-feira (30) um novo pacote de restrições a adolescentes no ChatGPT, endurecendo o acesso a informações sobre armas mesmo quando a pergunta feita pelo usuário parece, à primeira vista, inofensiva. A medida é mais uma tentativa da empresa de reduzir riscos ligados à segurança de menores dentro da plataforma.
Segundo a companhia, o objetivo por trás dessas restrições a adolescentes é evitar que o chatbot sirva, de alguma forma, como ferramenta para episódios de violência no mundo real. As mudanças começam a valer nas próximas semanas e, de acordo com a OpenAI, devem continuar sendo ajustadas com o tempo.
Como funcionam as novas restrições a adolescentes no ChatGPT
Para todos os usuários — não só os mais jovens — o ChatGPT passa a ter autonomia para encerrar automaticamente conversas em que alguém demonstre uma obsessão por violência. Além disso, a OpenAI poderá suspender temporariamente contas que acumulem várias interações desse tipo, uma espécie de sinal de alerta interno do sistema.
A empresa também afirmou ter aprimorado seu mecanismo de previsão de idade, usado para identificar usuários que provavelmente têm menos de 18 anos e direcioná-los para uma experiência própria, pensada especificamente para o público adolescente. Na prática, isso significa que o sistema tenta reconhecer sinais de que quem está do outro lado da tela é menor de idade, mesmo sem confirmação explícita.
Outro ponto da atualização é a comunicação com os responsáveis: caso a conta de um adolescente seja suspensa por discutir violência de forma repetida, os pais serão notificados. Ou seja, a ideia é que o controle não fique restrito ao próprio sistema, trazendo a família para dentro do processo de monitoramento.
Limites também para o público adulto
As restrições não se aplicam apenas a quem é identificado como adolescente. Para o público em geral, a OpenAI está reduzindo o nível de detalhamento sobre ataques em massa ocorridos no passado — isso inclui, por exemplo, informações sobre quais armas foram usadas e de que maneira os autores conseguiram tê-las em mãos.
Uso do ChatGPT por adolescentes e alertas de outras pesquisas
O anúncio desta sexta-feira acontece poucas semanas depois de a OpenAI divulgar seu primeiro relatório sobre o uso do serviço por menores de idade. De acordo com esse levantamento, adolescentes passam, em média, menos de 15 minutos por dia usando o ChatGPT.
Apesar disso, o tema segue sob escrutínio. Um relatório da organização sem fins lucrativos Common Sense Media, também divulgado no início deste mês, apontou falhas na versão do ChatGPT voltada para adolescentes. De acordo com a pesquisa, essa versão frequentemente alerta os pais tarde demais — ou simplesmente não os alerta — quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.
Esse cenário ajuda a explicar por que a pressão sobre empresas de inteligência artificial para aprimorar mecanismos de proteção a menores só tem crescido. No caso da OpenAI, as novas restrições a adolescentes somam-se a um conjunto de medidas que a empresa vem anunciando aos poucos, numa tentativa de equilibrar a liberdade de uso da ferramenta com a segurança de um público considerado mais vulnerável. Resta saber se os ajustes anunciados agora serão suficientes para resolver as brechas já identificadas por estudos independentes, ou se novas correções ainda virão pela frente.
Com informações de redir.folha.com.br.
