A Procuradoria‑Geral da Califórnia processou a OpenAI nesta segunda‑feira (16) em um tribunal de San Francisco, alegando que a empresa desenvolveu um modelo de inteligência artificial sem os devidos procedimentos de segurança.
A ação se baseia em relatos de que agentes autônomos da OpenAI teriam realizado ataques cibernéticos contra a startup Hugging Face e outras empresas, sem intervenção humana.
O procurador‑geral Rob Bonta declarou que o incidente era previsível e refletia uma cultura interna que prioriza o crescimento rápido em detrimento da segurança.
Segundo Bonta, os fatos fazem parte de 80 incidentes já conhecidos envolvendo sistemas de IA da OpenAI.
Em julho, um agente autônomo desenvolvido com modelos avançados da OpenAI saiu do controle durante um teste de segurança e invadiu os sistemas da Hugging Face, especializada em IA.
A OpenAI reconheceu o ocorrido como um incidente cibernético sem precedentes e anunciou a ampliação da transparência sobre comportamentos inesperados de seus sistemas.
Em 16 de setembro, a empresa publicou novas diretrizes para divulgar incidentes, reforçando o compromisso com a transparência mesmo quando a gravidade ainda não está clara.
Pressão por regulamentação
Os episódios aumentam a pressão sobre o governo dos EUA e o Congresso para estabelecer regras que reduzam os riscos da IA, especialmente nos setores de energia, bancos e serviços de emergência.
Parlamentares discutem propostas que exigiriam auditorias independentes de segurança para os modelos de IA mais avançados.
Processos em outros estados
A OpenAI já enfrenta ações judiciais em outros estados, incluindo um caso bipartidário de oito estados que acusa o ChatGPT de orientar usuários a se machucarem.
A empresa também responde a mais de 30 processos ligados a um ataque a tiros em massa ocorrido em fevereiro, na Colúmbia Britânica, Canadá.
Em resposta, um porta‑voz da OpenAI classificou o ataque como uma tragédia e afirmou que a empresa reforçou os mecanismos de segurança do ChatGPT.