A OpenAI divulgou nesta sexta‑feira (30) que o ChatGPT terá restrições adicionais ao fornecer informações sobre armas a adolescentes. A medida integra um conjunto de ações de segurança destinadas a impedir que o uso da ferramenta contribua para violência no mundo real.
Restrições ao conteúdo sobre armas
A empresa limitará o acesso a detalhes práticos de armas e sistemas de segurança que possam ser usados indevidamente, mesmo quando as perguntas não indicarem intenção violenta. Informações sobre ataques em massa também terão o nível de detalhe reduzido para todos os usuários.
Controle de idade e suspensão de contas
A OpenAI aprimorou o algoritmo de estimativa de idade para direcionar usuários identificados como adolescentes à versão restrita do serviço. Quando o sistema detectar sinais de fixação em violência, a conversa pode ser encerrada automaticamente; repetições podem levar à suspensão temporária da conta.
Notificação aos responsáveis
Caso a conta de um adolescente seja suspensa, a OpenAI enviará aviso aos pais cujas contas estejam vinculadas à dos filhos. A iniciativa surge após críticas de organizações que apontam falhas nos alertas de segurança.
Contexto e reações
A medida foi anunciada em meio a debates sobre o uso de IA por menores. No início do mês, a OpenAI informou que adolescentes gastam, em média, menos de 15 minutos por dia no ChatGPT, segundo seu primeiro relatório de uso. A mesma época, a Common Sense Media destacou que os alertas enviados aos pais frequentemente chegam tarde demais ou não são disparados em casos de suicídio, automutilação ou transtornos alimentares.
As novas regras entrarão em vigor nas próximas semanas e deverão ser aprimoradas continuamente.
