A cidade de Paris está usando um algoritmo de IA para identificar potenciais ameaças durante as Olimpíadas de 2024 — e talvez a tecnologia seja adotada definitivamente pelo governo. A inteligência artificial analisará milhares de imagens de câmeras de segurança para encontrar pessoas em atitudes suspeitas. O uso desse algoritmo divide a opinião dos franceses.
Os primeiros testes com a tecnologia foram realizados em março, durante dois shows do Depeche Mode. A IA avalia apenas as imagens de câmeras instaladas nas estações de transporte público da cidade (como metrô e ônibus). O algoritmo foi desenvolvido pela Wintics, empresa francesa que desenvolve soluções para análises de vídeo.
Algoritmo treinado por dados abertos e sintéticos
A empresa afirma que os algoritmo foi treinado usando dados abertos e dados sintéticos (criados usando simulações). Críticos da adoção do sistema de segurança destacam que a tecnologia pode repetir comportamentos discriminatórios. Um dos problemas no uso de algoritmos de vigilância é o alto índice de erros no reconhecimento de rostos de pessoas pretas, além dos receios sobre privacidade.
Porém, a Wintics afirma que seu algoritmo não trabalha com o reconhecimento facial ou de características físicas. A empresa explicou em nota à revista Wired que a tecnologia avalia as ações das pessoas. Por exemplo, a IA avisa operadoras caso surja a imagem de uma pessoa caindo, seguida de outros transeuntes também em queda, o que poderia indicar um ataque contra um grande público.
O grupo ativista La Quadrature du Net, que defende a privacidade digital, não compra essa ideia. A porta-voz Noémie Levain disse que não há como realizar essas análises sem ter acesso aos dados pessoais e biométricos das pessoas filmadas.
A Wintics tem contrato com a prefeitura de Paris desde 2020, quando usou o seu sistema de análise de imagens para coletar dados sobre ciclistas da cidade. As informações foram usadas no planejamento de novas ciclovias. Pessoas contrárias ao uso dessa tecnologia destacam que existe a possibilidade do serviço continuar mesmo após as Olimpíadas.
Com informações: Wired
Paris 2024: IA vê câmeras ao vivo e detecta atitudes suspeitas
