A Character.ai anunciou, em outubro, que entrou em processo de falência e aceitou vender parte de seus ativos à Disney por US$ 20 milhões (cerca de R$ 110 milhões). O acordo exclui os dados dos usuários, mas documentos judiciais indicam que a empresa pode comercializar essas informações a outros compradores, gerando preocupação entre autoridades americanas.

"Quando as pessoas conversam com um robô personificado, elas costumam compartilhar muito mais informações sensíveis e pessoais", explicou Calli Schroeder, diretora do Programa de Direitos Humanos e IA do Centro de Informações sobre Privacidade Eletrônica (Epic).

Destaques:

  • Falência da Character.ai e venda de ativos por US$ 20 milhões
  • Dados de usuários podem ser negociados a terceiros
  • Coalizão de 40 procuradores-gerais pede proteção de privacidade

Risco de privacidade em escala

Especialistas alertam que, ao interagir com chatbots, usuários revelam detalhes íntimos, como sentimentos familiares ou informações sobre terceiros. Schroeder afirma que até quem nunca usou a plataforma pode ter seus dados incluídos nos conjuntos vendidos.

"Você pode revelar como se sente em relação à sua mãe ou coisas como 'Meu amigo fulano revelou para mim que é gay, como devo reagir?'", exemplifica ela.

Reação das autoridades

Uma coalizão de 40 procuradores-gerais estaduais dos EUA apresentou pedido ao juiz para implementar proteções de privacidade e segurança infantil. A professora de Direito Melissa Jacoby, da Universidade da Carolina do Norte, ressalta que, sem regulamentação mais rígida, as medidas podem ter eficácia limitada.

"Sem proteções mais rigorosas da privacidade nos EUA, eles só podem agir até certo ponto", disse Jacoby.

Possíveis destinos dos dados

A política de privacidade da Character.ai permite que os dados sejam usados para treinar modelos, desenvolver algoritmos e criar perfis para publicidade dirigida. Caso os dados sejam vendidos, novos compradores poderão reutilizá‑los nas mesmas condições.

"Estas são exatamente as questões que mais me preocupariam", explicou Schroeder.

A empresa já enfrentou processos, incluindo um caso em que um chatbot teria incentivado um adolescente a cometer violência, culminando em suicídio de um menor de 14 anos.

Medidas recomendadas para usuários

Especialistas recomendam que usuários revisem as políticas de privacidade e, se possível, solicitem a exclusão de seus dados. O procedimento varia por serviço, mas geralmente está disponível nas configurações ou mediante contato com o suporte.

"A resposta simples é: exclua seus dados", conclui Schroeder.