Reconhecimento facial: Como funciona e como pará-lo.

Reconhecimento facial

Desde o escândalo Clearview, todos sabem dos perigos do reconhecimento facial. Mas os sistemas de reconhecimento facial podem fazer muito mais do que identificar indivíduos através de câmaras de vigilância. Esses sistemas de IA são usados em muitas aplicações hoje em dia, algumas para fins de vigilância, mas outras para proteger smartphones ou fechaduras de portas. Portanto, vamos dar uma olhada em

1. O que é o reconhecimento facial?

2. Como funciona o reconhecimento de rostos?

3. Qual é a precisão do reconhecimento de face?

4. O reconhecimento de rostos é uma ferramenta de vigilância?

5. Como parar o reconhecimento de rostos?

1. O que é o reconhecimento de rostos?

O reconhecimento de rostos é uma tecnologia que pode identificar um indivíduo usando o seu rosto. O reconhecimento facial pode ser feito comparando a pessoa com uma única foto desta pessoa ou com um banco de dados de fotos de um número de pessoas.

Tecnicamente, o sistema de reconhecimento facial aponta e compara características faciais para identificar uma pessoa com base em uma imagem. Como o reconhecimento facial computadorizado envolve a medição das características fisiológicas de um ser humano, os sistemas de reconhecimento facial são categorizados como biométricos, semelhantes à íris ou ao reconhecimento de impressões digitais. Embora a precisão dos sistemas de reconhecimento facial como tecnologia biométrica seja menor do que as outras duas, ela é amplamente adotada devido à sua facilidade de uso, em parte através da vigilância por câmera.

Os sistemas de reconhecimento facial tornaram-se habituais num período de tempo muito curto, por exemplo, para desbloquear smartphones, aplicações ou mesmo portas. Os sistemas de reconhecimento facial também são usados pelas autoridades policiais para rastrear pessoas em uma lista de vigilância. Na China, o reconhecimento facial já é usado para vigilância e também nos EUA tem sido usado para rastrear pessoas ativas na fala protegida.

2. Como funciona o reconhecimento facial?

O reconhecimento facial automatizado está sendo processado por um computador que compara as características de um rosto com uma ou muitas imagens de rosto armazenadas em um banco de dados.

O sistema usa algoritmos de computador para escolher detalhes distintos sobre o rosto de uma pessoa, como a distância entre os olhos ou a forma do queixo. Estes são então convertidos em uma representação matemática e comparados com dados sobre outros rostos coletados em uma base de dados de reconhecimento facial. Os dados sobre um determinado rosto são chamados de modelo de rosto e são distintos de uma fotografia porque são concebidos para incluir apenas certos detalhes que podem ser usados para distinguir um rosto de outro.

Para encontrar uma correspondência, o sistema

1. detecta o rosto numa fotografia,
2. analisa o rosto detectado,
3. converte a imagem em uma representação matemática,
4. e, finalmente, faz corresponder esta representação a outras numa base de dados.

Desta forma, o sistema de reconhecimento facial pode identificá-lo como o verdadeiro proprietário do seu iPhone ou destrancar a porta de entrada da sua casa para si. Para estes casos de uso, o reconhecimento facial não depende de um banco de dados maciço de fotos - ele simplesmente identifica e reconhece uma pessoa como o proprietário do dispositivo, enquanto limita o acesso aos outros.

Alternativamente, e é assim que o escândalo Clearview mostra os perigos potenciais do reconhecimento facial, o sistema de reconhecimento facial pode usar um banco de dados de imagens, mesmo de imagens carregadas nas mídias sociais, para compará-lo com imagens tiradas de uma câmera de vigilância especial para encontrar pessoas em uma lista de vigilância. Estas pessoas não têm de ser criminosos, as autoridades ou empresas que gerem as listas de vigilância podem definir quem deve constar desta lista e quem deve ser visado.

Em vez de identificar uma pessoa, alguns sistemas de reconhecimento facial são concebidos para calcular uma pontuação de probabilidade, o que significa a probabilidade de uma pessoa desconhecida corresponder a um rosto específico armazenado na base de dados. Tais sistemas normalmente listam várias possíveis correspondências, classificadas por ordem de probabilidade.

3. Qual a precisão do reconhecimento de rostos?

Os defensores do reconhecimento facial frequentemente argumentam que essa tecnologia de IA é necessária para proteger contra os maiores riscos, tais como ataques terroristas e tráfico humano. Independentemente de tais afirmações, o reconhecimento facial hoje em dia é usado principalmente para pequenos crimes como furtos em lojas ou venda de drogas no valor de 50 dólares.

O uso do reconhecimento facial - particularmente para processos criminais - tem sido altamente criticado, uma vez que o método é propenso a erros.

Os erros no reconhecimento facial podem ser "falsos negativos" ou "falsos positivos", como explicado pelo EFF.

"Um 'falso negativo' é quando o sistema de reconhecimento de rosto não consegue fazer corresponder o rosto de uma pessoa a uma imagem que, de facto, está contida numa base de dados. Em outras palavras, o sistema retornará erroneamente zero resultados em resposta a uma consulta".

"Um 'falso positivo' é quando o sistema de reconhecimento de rosto faz a correspondência do rosto de uma pessoa com uma imagem em um banco de dados, mas essa correspondência é na verdade incorreta. Isto é quando um policial submete uma imagem de 'Joe', mas o sistema diz erroneamente ao policial que a foto é de 'Jack'".

Por exemplo, em 2018, ao testar o software de reconhecimento facial da Amazon, a ferramenta identificou incorretamente 28 membros do Congresso como pessoas que tinham sido presas por cometerem um crime.

Enquanto os sistemas de IA melhoram com o tempo, o uso do reconhecimento facial permanece problemático como tal.

4. O reconhecimento facial é uma ferramenta de vigilância?

O reconhecimento facial não é apenas uma ferramenta de vigilância, ele permite a vigilância total e completa de qualquer pessoa em qualquer lugar.

Enquanto os defensores da tecnologia argumentam que ela depende de como as empresas e autoridades usam a tecnologia, as formas potenciais de abuso são ilimitadas.

Não é preciso muita imaginação para imaginar um mundo onde as câmeras são colocadas em cada esquina, rastreando cada movimento nosso e combinando nossas faces com um banco de dados em tempo real para saber quem está onde em todos os momentos. Em tal mundo, o direito à privacidade desaparece e a vigilância em massa na esfera pública é total.

A China é um dos melhores - ou devo dizer pior - exemplos quando se trata de reconhecimento facial e vigilância em massa. Um vazamento de banco de dados por uma empresa chinesa de reconhecimento facial mostra a enorme extensão da vigilância: "Só nas últimas 24 horas, havia mais de 6,8 milhões de locais registrados" para acompanhar os movimentos das pessoas com base no reconhecimento facial em tempo real.

Na China, a imagem de todos os 1,4 bilhões de cidadãos foi parar no banco de dados de reconhecimento facial. Existem centenas de milhões de câmaras de vigilância na China, e o número continua a aumentar - para realizar o sonho díspio da China.

5. Como parar o reconhecimento facial

O reconhecimento facial é uma das tecnologias de vigilância mais perigosas. Consequentemente, devemos proibir o reconhecimento facial para defender a privacidade.

Felizmente, hoje você tem várias opções para se defender contra o reconhecimento facial.

Você pode ter certeza de não enviar fotos pessoais para a web. Se não houver fotos sobre você que possam ser raspadas, não existe nenhum banco de dados com o qual as câmeras de vigilância possam corresponder ao seu rosto. O problema, no entanto, que o escândalo Clearview nos mostrou é: Fotos de bilhões de pessoas já estão postadas online em sites de mídia social, e empresas podem raspar essas fotos junto com etiquetas de nome para criar uma base de dados.

Além disso, algumas pessoas vão querer carregar fotos em sites ou redes sociais porque faz parte da sua vida social. Os pesquisadores agora encontraram uma ótima maneira de fazer isso e ainda enganar os algoritmos de reconhecimento facial.

Fawkes

Fawkes é uma ferramenta que treina um sistema de reconhecimento facial para aprender algo errado sobre você, alterando ligeiramente suas fotos antes de carregá-las para a web. Desta forma a IA não pode mais combinar as imagens carregadas com o seu rosto real. No entanto, ao testar novamente o software Fawkes, os pesquisadores reconheceram que o serviço de reconhecimento facial do Microsoft Azure não era mais falsificado por algumas de suas imagens. Ficar à frente do software de reconhecimento facial é um jogo de gato e rato e vai continuar assim à medida que ambas as tecnologias melhorarem.

Você pode fazer o download do Fawkes aqui

LowKey

Outro projecto de pesquisa promissor é o LowKey. Este software transforma imagens em exemplos desaprendidos. Assim, quando uma IA realiza uma pesquisa de reconhecimento facial, a LowKey faz com que o software de reconhecimento facial ignore as suas imagens ou se auto-aprenda por completo. A ferramenta assegura que o software de IA não aprende nada sobre si para que não tenha uma base de dados à qual possa corresponder o seu rosto.

Pode fazer o download da LowKey aqui.

Tome medidas

Lutar contra a tecnologia é uma boa forma de proteger a nossa privacidade. Por exemplo, nós da Tutanota lutamos contra a vigilância em massa com criptografia de ponta a ponta, e com sucesso.

No entanto, como cidadãos de países democráticos, devemos sempre garantir que o nosso direito à privacidade também seja defendido na política.

Você pode juntar-se à luta política para recuperar o seu rosto e assinar esta petição da UE.