Público deve ser alertado quando os sistemas de reconhecimento facial estão sendo usados para rastreá-los, defende relatório do AI Now Institute
A Inteligência Artificial (AI, na sigla em inglês) evoluiu e trouxe vários benefícios nos últimos anos, mas seu crescimento trouxe, também, alguns questionamentos. O principal deles é a forma como o aprendizado de máquina pode identificar os rostos de pessoas em fotos e vídeos com precisão.
A tecnologia ajuda a desbloquear telefones com certas expressões faciais, mas também pode significar que governos e grandes corporações usem a ferramenta com uma poderosa maneira de vigilância.
Uma pesquisa realizada pelo AI Now Institute ressalta que o reconhecimento facial é um desafio-chave para a sociedade e os formuladores de políticas. A velocidade em que a tecnologia cresceu foi impulsionada pelo rápido desenvolvimento de um tipo de aprendizado de máquina chamado de Deep Learning, que utiliza grandes emaranhados de cálculos para reconhecer padrões em dados.
Em um momento que muito se discute sobre privacidade, o relatório pede que o governo dos Estados Unidos tome medidas gerais para melhorar a regulamentação da tecnologia. “A implementação de sistemas de inteligência artificial está se expandindo rapidamente, sem regimes adequados de governança, supervisão ou responsabilidade”, diz o documento.
O estudo sugere aumentar o poder dos órgãos governamentais existentes, visando regulamentar questões referentes à AI. “Domínios como saúde, educação, justiça criminal e bem-estar têm seus próprios históricos, estruturas regulatórias e perigos”, alerta.
São citadas também proteções mais fortes ao consumidor contra alegações enganosas sobre a tecnologia; fala sobre as empresas renunciarem a reivindicações secretas de mercado quando a responsabilidade dos sistemas de inteligência artificial está em jogo (quando algoritmos estão sendo usados para tomar decisões críticas, por exemplo); e pede que eles se governem de maneira mais responsável quando se trata do uso da IA.
Para o relatório, o público deve ser alertado quando os sistemas de reconhecimento facial estão sendo usados para rastreá-los e que eles devem ter o direito de recusar a utilização da tecnologia.
Apesar da implementação de recomendações parecer um desafio, o reconhecimento facial está sendo adotado rapidamente. Ele é usado para desbloquear smartphones e permitir pagamentos, enquanto o Facebook verifica milhões de fotos todos os dias para identificar usuários específicos.
Além disso, a Delta Airlines anunciou um novo sistema de check-in de varredura de rosto no aeroporto de Atlanta. O Serviço Secreto dos EUA também está desenvolvendo um sistema de segurança de reconhecimento facial para a Casa Branca, de acordo com um documento destacado pela UCLA. “O papel da IA na vigilância generalizada expandiu-se imensamente nos EUA, na China e em muitos outros países do mundo”, diz o relatório.
Na China, a tecnologia geralmente envolve colaborações entre empresas privadas de IA e agências governamentais. As forças policiais usaram a tecnologia para identificar criminosos e vários relatórios que ela está sendo usada para rastrear dissidentes.
Ainda que a tecnologia não esteja sendo usada de maneira eticamente duvidosa, ela ainda tem alguns problemas. Por exemplo, alguns sistemas de reconhecimento facial mostraram codificar viés. Os pesquisadores da ACLU (União Americana pelas Liberdades Civis) demonstraram que uma ferramenta oferecida pelo programa em nuvem da Amazon tem maior probabilidade de identificar erroneamente minorias como criminosos.
O documento também diz que a utilização do rastreamento de emoções em sistemas de varredura de rosto e detecção de voz. Esse rastreamento é relativamente não comprovado, mas está sendo usado de maneiras potencialmente discriminatórias, como rastrear a atenção de alunos.
Fonte: Portal IDG Now
