A OpenAI adotou uma série de medidas dentro da plataforma do ChatGPT para se tornar um ambiente melhor para menores de 18 anos. A partir de agora, o assistente virtual vai identificar menores de idade e vai restringir algumas ferramentas para eles.
Essas alterações estão sendo preparadas há quase um ano. Elas foram motivadas por um processo movido contra a OpenAI, por ela ter supostamente facilitado o suicídio de um adolescente nos Estados Unidos. De acordo com as informações em torno do caso, o jovem de 16 anos conversou por meses com o bate-papo do ChatGPT e recebeu dicas de como realizar o autoflagelo.
Assim, a empresa se movimentou para transformar o ambiente da plataforma. Menores de idade serão identificados e o ChatGPT deixará de sugerir uma relação de proximidade, deixando de ser confundido com um ser humano por trás da tela do celular ou computador.
De acordo com a chefe da área de jovens e famílias da OpenAI, Lauren Jonas, não será necessário criar uma nova conta ou alterar qualquer dado dentro da plataforma para que ela identifique os menores. A partir do momento em que o sistema identificar que o usuário tem menos de 18 anos, as modificações serão atualizadas.
“Não há necessidade de um adolescente criar uma nova conta ou alterar qualquer coisa; se previrmos que você tem menos de 18 anos, ou se você nos informar isso, essa se tornará sua experiência padrão”, afirmou.
A partir dessas modificações, o ChatGPT vai funcionar sobre dois pilares: aprendizado e segurança. No primeiro caso, foi desenvolvido o “Modo de Estudo”, em que o assistente virtual não responde às perguntas diretamente. Ele vai incentivando o usuário a acessar conteúdos que façam com que ele chegue ao raciocínio que está construindo.
Segundo Lauren, a empresa tem testado o novo recurso em testes controlados e os ganhos de desempenho têm sido satisfatórios, tendo em vista que a ideia é transformar o ChatGPT em uma ferramenta mais útil.
No aspecto de segurança, a OpenAI está intensificando ações para desencorajar que os usuários enxerguem a ferramenta como uma pessoa. Lauren afirmou que, entre as restrições que foram adicionadas, o ChatGPT não vai mais “se autodenominar amigo, sugerir que possui sentimentos pessoais ou insinuar senciência”.
