Especialistas da OpenAI e da Meta declararam nesta quinta‑feira (15) que os vídeos e áudios falsificados por inteligência artificial, conhecidos como deepfakes, estão cada vez mais difíceis de distinguir de conteúdos autênticos. O alerta foi feito durante reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, em Boston, e pode impactar a avaliação de provas em processos judiciais.

Avanços da IA generativa dificultam a identificação

A tecnologia de IA generativa, capaz de criar imagens, vídeos e áudios a partir de comandos, tem tornado as falsificações difíceis de identificar tanto por humanos quanto por softwares. Shira Anderson, consultora de políticas da OpenAI, afirmou que "As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá‑las".

Poucos casos registrados nos tribunais americanos

Desde 2023, o comitê discute como verificar a autenticidade de materiais suspeitos de deepfake. Em março, o Centro Federal do Judiciário informou que apenas 15 dos 931 juízes pesquisados haviam enfrentado um caso de contestação de prova por suspeita de deepfake. O juiz federal Jesse Furman, de Manhattan, comentou: "Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo".

Risco crescente segundo indústria e governo

Especialistas da academia, indústria e governo concordam que o risco não é hipotético. Devin Norder, diretor de gestão de produtos da Meta, disse à Reuters que conteúdos criados pelos modelos de IA mais avançados já podem ser indistinguíveis para seres humanos e que produzir esse tipo de material requer pouco tempo e dinheiro.

Limitações das marcas‑d’água e de ferramentas de verificação

Na Califórnia e na União Europeia, leis recentes exigem o uso de marcas‑d’água para identificar materiais falsificados por IA. Anderson alertou que não existe um método universal capaz de identificar todas as marcas ou confirmar a autenticidade de um conteúdo visual, pois cada empresa utiliza seu próprio sistema, mantendo a verificação sujeita a limitações.

"Minha impressão é que isso certamente continuará melhorando", disse Anderson. "Não acho que algum dia será à prova de falhas."