Quatro estudantes e ex‑alunos de uma escola de ensino médio em Maryland, EUA, entraram com ação judicial contra a empresa Omnilert, a polícia do condado de Baltimore, o conselho de educação, agentes envolvidos na abordagem e o diretor da escola. O processo foi motivado pela detenção e revistas ilegais após o sistema de segurança da Omnilert classificar um pacote de Doritos como arma de fogo.
"Esses estudantes foram prejudicados não apenas por uma tecnologia propensa a emitir alertas falsos, mas também pelos próprios adultos que deveriam mantê-los seguros quando os enviamos à escola", disse ao The Guardian Damon Hewitt, presidente e diretor‑executivo do Lawyers' Committee for Civil Rights Under Law.
Destaques:
- Sistema da Omnilert apontou 90% de chance de arma em pacote de Doritos
- Quatro estudantes processam empresa, polícia e escola
- Processo cita mais de 99% de falsos positivos em alertas nas escolas de Baltimore
Identificação errônea e abordagem policial
O incidente ocorreu em outubro do ano passado, após um treino de futebol americano. O técnico distribuiu pacotes de Doritos aos jogadores. Taki Allen, então no segundo ano do ensino médio, reuniu‑se com colegas próximo às mesas de piquenique. Seis viaturas chegaram ao local, com luzes de emergência acesas.
Policiais sacaram armas, ordenaram que os adolescentes levantassem as mãos, obrigaram‑nos a ajoelhar, algemaram‑nos e revistaram‑nos. Os estudantes relataram choque e medo de morte durante a ação. Um policial teria comentado que a situação poderia ter sido pior se os jovens tivessem tentado fugir.
Falhas do sistema de IA
Segundo o processo, o software da Omnilert analisou imagens das câmeras de segurança e classificou o pacote de salgadinhos como arma de fogo com 90% de confiança. A empresa promove o sistema como confiável, porém o processo cita um levantamento do gabinete do inspetor‑geral de educação de Maryland que indica que mais de 99% dos alertas emitidos nas escolas públicas do condado de Baltimore eram falsos positivos, não justificando a intervenção policial.
Reações das partes envolvidas
A Omnilert, o diretor da escola, a polícia de Baltimore e o conselho de educação não responderam imediatamente ao pedido de comentário do The Guardian. Um porta‑voz da Omnilert afirmou que a empresa está analisando o processo e lamenta o medo causado nos estudantes e suas famílias: "Entendemos por que querem respostas".
Representante do condado de Baltimore disse ao The New York Times que não poderia comentar um processo judicial em andamento. Mensagens trocadas pelo diretor da escola com outros administradores, apresentadas no processo, mostram comentários em tom de deboche acompanhados de emojis de rostos chorando de rir; o diretor não pediu desculpas aos jovens.