OpenAI vai limitar acesso de adolescentes a informações sobre armas no ChatGPT

ChatGPT

ANDREJ IVANOV / AFP via Getty Images

A OpenAI anunciou nesta sexta-feira (30) que vai restringir ainda mais as informações sobre armas fornecidas pelo ChatGPT a adolescentes, mesmo quando as perguntas parecerem inofensivas. A medida faz parte de novas ações de segurança para prevenir casos de violência no mundo real.

As novas regras também preveem que o ChatGPT possa encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se isso ocorrer repetidas vezes, a OpenAI poderá suspender temporariamente a conta do usuário.

🗒️Tem alguma sugestão de reportagem? Mande para o g1

Entre as mudanças específicas para adolescentes, a empresa vai limitar o fornecimento de informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida, mesmo quando não houver sinais de intenção violenta.

Outra mudança envolve o sistema usado pela OpenAI para estimar a idade dos usuários. A empresa afirmou que aprimorou a tecnologia para direcionar à versão voltada a menores de 18 anos aqueles que o sistema identificar como adolescentes.

Agora no g1

OpenAI também pretende notificar os pais que tenham suas contas vinculadas às dos filhos caso a conta do adolescente seja temporariamente suspensa por conversas recorrentes sobre violência.

Para todos os usuários, a empresa ainda vai reduzir o nível de detalhe fornecido sobre ataques em massa ocorridos no passado, incluindo informações sobre as armas utilizadas e como elas foram obtidas.

Segundo a OpenAI, as novas medidas de segurança começarão a ser implementadas nas próximas semanas e continuarão sendo aprimoradas.

Segurança dos adolescentes

As mudanças foram anunciadas em meio a discussões sobre a segurança de adolescentes que usam ferramentas de inteligência artificial.

No início deste mês, a OpenAI informou que esse público passa, em média, menos de 15 minutos por dia usando o ChatGPT. O dado consta do primeiro relatório da empresa sobre o uso do serviço por adolescentes.

Também neste mês, um relatório da organização sem fins lucrativos Common Sense Media apontou falhas nos alertas enviados aos pais pela versão do ChatGPT voltada a adolescentes.

Segundo a entidade, esses avisos frequentemente chegam tarde demais ou sequer são enviados quando adolescentes mantêm conversas sobre suicídio, automutilação ou transtornos alimentares.