30 Out (Reuters) - A OpenAI anunciou nesta sexta-feira que está tornando mais restritivos os limites às informações relacionadas a armas que o ChatGPT fornece a adolescentes, mesmo quando uma pergunta parece inofensiva, como parte de novas medidas de segurança destinadas a prevenir a violência no mundo real.
Veja mais detalhes:
• A OpenAI restringirá informações práticas sobre armas e sistemas de segurança que possam ser utilizadas indevidamente, com as restrições se aplicando a adolescentes mesmo quando não houver indícios de intenção violenta.
• Para todos os usuários, o ChatGPT poderá encerrar automaticamente conversas nas quais alguém pareça estar obcecado por violência, e a OpenAI poderá suspender temporariamente contas após várias conversas desse tipo.
• A empresa também afirmou que aprimorou seu sistema de previsão de idade para direcionar usuários que estima terem menos de 18 anos para a experiência voltada a adolescentes, e planeja notificar os pais caso a conta de seus filhos adolescentes seja suspensa por discutir violência repetidamente.
• Para todos os usuários, a OpenAI está limitando os detalhes sobre ataques em massa ocorridos no passado, incluindo as armas utilizadas e como foram obtidas.
• A empresa informou que as novas medidas de segurança começarão a ser implementadas nas próximas semanas e que continuará a aprimorá-las.
• A OpenAI informou no início deste mês que os adolescentes passam, em média, menos de 15 minutos por dia no ChatGPT, em seu primeiro relatório sobre o uso do serviço por adolescentes.
• Um relatório da organização sem fins lucrativos Common Sense Media, divulgado no início deste mês, constatou que a versão para adolescentes do ChatGPT frequentemente alerta os pais tarde demais ou nem sequer os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares.
(Por Anzar Mehraj)
Aviso