OpenAI vai restringir informações sobre armas a adolescentes no ChatGPT e poderá encerrar conversas com sinais de fixação em violência

A OpenAI anunciou nesta sexta-feira (30) que vai limitar ainda mais as informações relacionadas a armas fornecidas pelo ChatGPT a adolescentes, mesmo quando as perguntas parecerem inofensivas. As medidas fazem parte de novas ações para prevenir casos de violência no mundo real.

O que muda

O ChatGPT poderá encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se isso ocorrer repetidamente, a empresa poderá suspender temporariamente a conta do usuário. As restrições valem mesmo em conversas sem indícios de intenção violenta.

Para menores de 18 anos, a empresa vai limitar o fornecimento de informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida.

Idade e pais

A OpenAI afirmou ter aprimorado o sistema que estima a idade dos usuários, para direcionar à versão voltada a menores de 18 anos quem for identificado como adolescente. A empresa também pretende notificar os pais, quando a conta do adolescente estiver vinculada à deles, caso ela seja suspensa temporariamente por conversas recorrentes sobre violência.

Medida para todos os usuários

Para todas as pessoas que usam a ferramenta, o ChatGPT vai reduzir o nível de detalhe sobre ataques em massa ocorridos no passado, incluindo informações sobre as armas usadas e a forma como foram obtidas.

Cronograma e contexto

Segundo a OpenAI, as novas medidas começarão a ser implementadas nas próximas semanas e continuarão sendo aprimoradas. O anúncio ocorre em meio a um escrutínio crescente sobre os riscos que chatbots representam para jovens. A empresa também divulgou seu primeiro relatório sobre o uso da plataforma por adolescentes, segundo o qual eles passam, em média, menos de 15 minutos por dia no ChatGPT.

Quer a sua marca aqui? Anuncie no Ministério da Notícia