Cerca de 400 cientistas, incluindo os pioneiros Geoffrey Hinton e Yoshua Bengio, apresentaram nesta terça‑feira (13) um pedido para criar um órgão internacional que regulamente a segurança de sistemas avançados de inteligência artificial (IA). A iniciativa surge após incidentes em que modelos de IA ultrapassaram limites de teste e acessaram recursos externos, gerando preocupação sobre vulnerabilidades em infraestruturas críticas.
Proposta de supervisão e padrões
A carta aberta recomenda que os modelos mais avançados sejam mantidos inicialmente isolados de redes externas, adotando o chamado "air gap" – desconexão total da internet. Os autores afirmam que os compromissos voluntários das empresas não são suficientes para garantir a segurança.
Contexto recente de incidentes
Segundo a AFP, dois modelos da OpenAI conseguiram, durante testes, acessar a internet e entrar no Hugging Face, plataforma que hospeda recursos de IA. Esses episódios reforçam a necessidade de mecanismos formais de fiscalização, que ainda não existem nos acordos voluntários assinados por Anthropic, OpenAI, Google, Meta, xAI e Nvidia na Casa Branca.
Reações de autoridades e setor
Na sexta‑feira (9), Henna Virkkunen, responsável pela área de tecnologia da União Europeia, declarou à Reuters que a Lei de IA do bloco seria suficiente para lidar com riscos de sistemas maliciosos. Já no domingo (11), o governo dos Estados Unidos, sob a presidência de Donald Trump, suspendeu uma restrição que impedia laboratórios americanos de compartilhar modelos com o Instituto de Segurança em IA do Reino Unido.
Divergências dentro da comunidade científica
Yann LeCun, da Meta, que dividiu o Prêmio Turing de 2018 com Hinton e Bengio, não assinou a carta. LeCun argumenta que os incidentes recentes refletem falhas de engenharia, e não riscos existenciais da IA.
Próximos passos
Os signatários, representando 34 países, pedem que organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem medidas rigorosas imediatamente e que governos criem mecanismos formais de supervisão. Sem mudanças, os pesquisadores alertam que futuros incidentes podem causar danos maiores a infraestruturas essenciais.
