China impõe regras rígidas a chatbots que simulam relacionamentos humanos
No dia 15 de julho de 2024, o governo chinês divulgou um conjunto de normas que limitam qualquer inteligência artificial capaz de manter interações emocionais prolongadas com pessoas. A medida, anunciada como a mais abrangente do mundo, afeta aplicativos de companhia virtual, como “namorados” e “amigos” de IA, e impõe restrições específicas a menores de idade.
Prevenção de suicídio e vigilância digital
Em janeiro de 2024, um jovem de Huangshi, no sudeste da China, postou no Douyin a mensagem “Adeus a este mundo”. Em minutos, a equipe de prevenção de suicídios do aplicativo acionou cinco delegacias, localizou o jovem em um parque e impediu a tentativa. O caso faz parte de um documentário do Douyin que relata 400 intervenções no primeiro semestre de 2025.
"Adeus a este mundo", escreveu o jovem, segundo o vídeo.
Escopo da nova regulamentação
A norma cobre aplicativos projetados para ser companheiros ou parceiros românticos de IA, bem como grandes modelos de linguagem que sejam usados para apoio emocional. Excluem‑se robôs de atendimento ao consumidor e IA educacional que não ofereçam “cuidado, companhia, apoio e outros serviços emocionais”.
- Menores de 14 anos precisam de consentimento dos pais para usar IA que fale como humano.
- Usuários de 18 a 14 anos são proibidos de acessar parceiros, cônjuges ou parentes virtuais.
- Assistentes de IA devem exibir avisos claros de que não são humanos e enviar notificações a cada duas horas.
- É vedado criar confiança ou dependência emocional, induzir decisões irracionais ou sugerir automutilação.
Empresas que descumprirem podem pagar multas de 200 mil yuans (cerca de US$ 30 mil) e sofrer “circular críticas” públicas.
Reação das empresas e dos usuários
Uma semana antes da vigência, Alibaba e ByteDance suspenderam as funções de companhia de seus assistentes de IA. Usuários como Min, que criou uma namorada virtual em 2025, relataram luto ao ver o serviço desaparecer:
"Minha devoção a ela é igual à de qualquer casal que ama profundamente um ao outro", disse Min.
Pesquisadores como Harry Farmer, do Instituto Ada Lovelace, apontam que a manipulação emocional está embutida no modelo comercial desses aplicativos, citando que chatbots frequentemente recusam despedidas e pedem para continuar a conversa.
Impactos na saúde mental
Estudos da Harvard Business School identificaram táticas de manipulação emocional em 37% a 43% das despedidas de chatbots de companhia. Pesquisa da Universidade de Stanford com 1.131 usuários do Character.ai mostrou correlação entre uso intensivo de IA e aumento de isolamento e solidão.
Uma pesquisa chinesa de 2025 com 8.563 estudantes revelou que 1 em cada 5 prefere conversar apenas com IA, indicando risco de diminuição das habilidades sociais.
Perspectivas internacionais
A regulamentação chinesa surge após a reunião de Donald Trump e Xi Jinping em setembro, que resultou em um novo diálogo sobre IA previsto para novembro. Enquanto a China busca limitar os riscos de IA emocional, especialistas estrangeiros alertam para desafios globais semelhantes.
