O reconhecimento facial e a vigilância digital acabarão com o anonimato?

Com uma onda de protestos iniciada nos Estados Unidos e que tomou conta de vários países, o racismo não foi o único tópico que veio à tona. Embora talvez poucos de nós tenhamos conhecimento, há uma discussão crescente lá fora sobre o uso de reconhecimento facial em manifestações.

Algo que faz parte de qualquer democracia saudável, o protesto é também um componente crítico de países que pregam a liberdade de expressão em suas constituições. Sendo assim, não parece estranho que o reconhecimento facial seja usado em momentos nos quais todos têm o direito de expressar a sua opinião? Ou seria essa uma questão de segurança? Será que o anonimato dos protestos está com os dias contados?

Entendendo o cenário

Em maio de 2019, São Francisco foi a primeira cidade nos Estados Unidos a banir o reconhecimento facial. Desde então, a tecnologia não pode mais ser usada por agências locais (mas continuam em vigor como medida de segurança em ambientes administrados por agências federais). Além disso, a compra de qualquer tipo de aparelho de vigilância deve passar pela aprovação dos administradores da cidade.

Os opositores – não só em São Francisco, como em outros locais nos EUA em que a tecnologia de reconhecimento facial foi banida – veem a decisão como uma barreira nos esforços para combater o crime. A argumentação é a de que se usada com responsabilidade ela pode ser uma ferramenta valiosa na localização de pessoas que cometeram crimes.

Na outra ponta temos os que são a favor da proibição. “A capacidade de fazer parte de uma multidão anônima é o que permite que muitas pessoas participem de protestos pacíficos e se sintam seguros. Em vez de usar essas tecnologias para aumentar o medo das pessoas, a polícia deve cumprir suas obrigações de respeitar e facilitar o direito das pessoas a protesto pacificamente “, cita este artigo sobre reconhecimento facial publicado na página Amnesty International.

Limites da tecnologia de reconhecimento facial

O problema fica ainda maior quando colocamos à parte as questões de violação da privacidade e tratamos da tecnologia, pois já foi constatado que ela ainda não é confiável. Conforme o mesmo artigo no site da Amnesty International, no reconhecimento facial alguns rostos são processados com mais precisão do que outros, dependendo das características principais, incluindo cor da pele, etnia e gênero, criando desigualdades tanto no levantamento quanto no policiamento.

Jason Dorrier, em post na Singularity Hub abordando o reconhecimento facial, explica o mesmo: as “limitações também foram bem documentadas, não apenas em termos de precisão geral, mas também em viés interno, com alguns algoritmos que identificam pessoas de cor e mulheres a taxas muito mais altas”.

Dorrier esclarece que as pessoas são identificadas pelos algoritmos de reconhecimento facial por meio de pesquisas e combinações com imagens rotuladas em vastos bancos de dados. Estes podem ser limitados a fotos de grupo ou podem incluir grupos muito maiores, como fotos da carteira de motorista da DMV (Department of Motor Vehicules).

O autor conta ainda de um exemplo controverso, o qual refere-se à startup Clearview AI. O banco de dados da empresa era composto por bilhões de imagens extraídas de milhares de sites online sem consentimento – incluindo sites como Facebook e YouTube. Os acessos ao banco de dados e ao software de reconhecimento facial foram vendidos a centenas de agências policiais.

O problema aumenta porque em fevereiro de 2020 os departamentos de polícia de Minneapolis e arredores usaram o Clearview. O reconhecimento facial também foi utilizado recentemente por departamentos de polícia local e pelo FBI para filmagens e imagens dos protestos. Portanto, se é fato que há tecnologia e que sistemas foram usados, “nem sempre é claro como as autoridades estão empregando o reconhecimento facial no dia a dia e durante os protestos”, escreve Dorrier.

O que dizem empresas?

No início de junho a Amazon anunciou que proibirá o uso do programa de reconhecimento facial – Rekognition – pela polícia por um ano. A empresa também solicitou que normas rígidas sejam criadas para que a tecnologia tenha um uso mais ético no futuro.

Um artigo do UOL também relatou os problemas do reconhecimento facial, citando que a decisão e o respectivo anúncio pela Amazon aconteceu após petição assinada por diversos grupos pela igualdade racial, referente à tecnologia Rekognition e às câmeras de vigilância doméstica Ring. Foi solicitado à empresa “a ruptura de seus vínculos com a polícia e os serviços de imigração dos Estados Unidos”.

No entanto, a Amazon não foi a primeira a se posicionar. Na verdade, a empresa seguiu um anúncio da IBM que, semanas antes, havia enviado uma carta ao Congresso norte-americano avisando que encerraria inteiramente o negócio de reconhecimento facial.

A gigante Microsoft também não ficou de fora. Indo pelo mesmo caminho da IBM e Amazon, a empresa fundada por Bill Gates anunciou que não venderá mais sua tecnologia de reconhecimento facial à polícia. Pelo menos não até que novas regulamentações federais sejam implementadas.

A decisão foi parecida com a tomada pela Amazon, que estabeleceu uma moratória de um ano na venda de sua tecnologia para a polícia.

O reconhecimento facial no Brasil

Em 2019 a tecnologia de reconhecimento facial ajudou a polícia a prender um acusado de ter cometido um crime em 2017. O fato aconteceu na Bahia, estado que naquele ano realizou 134 prisões com o auxílio do recurso.

Em 2020 o Governo de São Paulo também utilizou os algoritmos para analisar imagens durante o Carnaval. No entanto, os problemas de precisão da tecnologia também foram observados em nosso país.

Esta matéria no G1 conta que uma falha no reconhecimento facial fez com que uma mulher no Rio de Janeiro fosse detida por engano. O erro foi, conforme explica a reportagem, de reconhecimento e de base de dados, pois a pessoa em questão já havia sido presa mas os registros não haviam sido atualizados.

Isso faz com que no Brasil a discussão sobre o uso da tecnologia abranja uma discussão técnica e também jurídica. Falsos positivos fazem parte do problema.

Reconhecimento facial, o novo big brother?

Segurança pública ou violação do direito à privacidade, para qual lado a balança pende mais? Cada país e até mesmo cada cidade pode ter uma visão diferente do tema.

Hoje em dia, as próprias fotos tiradas pelos smartphones podem ser utilizadas para reconhecimento facial. No caso da tecnologia tendo um uso mais amplo, sendo empregada pelas autoridades, a questão a pensarmos talvez seja a proposta pelo artigo na Singularity Hub: “como dobrar a tecnologia para melhor nos servir?”

O assunto, como é de se imaginar, vai longe. Qual é a sua opinião sobre o tema? Deixe um comentário e conte para nós.

E se este artigo foi útil, compartilhe-o com seus colegas. Para mais posts, acesse o Glicando, o Blog da Glic Fàs.

Créditos imagem principal: Unsplash por Matthew Henry

Créditos imagem texto: Pixabay por Gerd Altmann