A Comissão da UE está a planear o que a Apple parou depois de um contra-ataque de grupos de privacidade: Digitalização automática CSAM da sua comunicação privada.
Agir agora para parar a vigilância!
Vigilância CSAM semelhante à da maçã na Europa
Quais são os planos da Comissão da UE?
O plano apresentado pela Comissão da UE implica a digitalização baseada na IA de todas as mensagens e imagens directamente nos dispositivos dos cidadãos. Esta chamada digitalização do lado do cliente seria um ataque a qualquer comunicação confidencial.
Os planos de digitalização CSAM da Apple
O plano da UE é muito semelhante ao que a Apple pretendia introduzir em 2021: Scanner CSAM do lado do cliente directamente no seu dispositivo Apple, por exemplo, o seu iPhone.
"É uma ideia absolutamente terrível, porque vai levar à vigilância distribuída em massa dos nossos telefones e computadores portáteis", disse Ross Anderson, professor de engenharia de segurança na Universidade de Cambridge aoFinancial Times em 2021. O professor de criptografia Matthew Green diz: "Isto vai quebrar a barragem - os governos vão exigi-la de todos".
**O imenso clamor**público de activistas da privacidade em todo o mundo fez com que a Apple parasse o seu plano de digitalização CSAM nos telefones das próprias pessoas.
Novos planos de vigilância
Agora a Comissão Europeia introduz os mesmos planos, tentando transformar os fornecedores de comunicações em vice-xerifes das autoridades e permitindo a vigilância geral em massa de todas as nossas mensagens de correio electrónico e chat.
A procura de pornografia infantil nos dispositivos das pessoas é nada mais nada menos que bugs - ou deficiências de segurança - incorporados no sistema que procuram permanentemente conteúdos específicos. O que eles procuram exactamente ainda não está definido. Mas o que poderá correr mal?
Vamos explorar este pensamento um pouco mais!
O que poderia correr mal?
Antes de mais, estamos todos a ser monitorizados em segredo - a toda a hora. A lista de imagens e conteúdos que estão a ser procurados pode ser adaptada. Uma vez que uma lei obriga os fornecedores de comunicação a implementar a digitalização do lado do cliente, a ferramenta para o fazer poderia teoricamente procurar qualquer coisa. A lista pode, portanto, ser alargada mediante pedido. Inicialmente, é pornografia infantil - como sempre quando se precisa do mais amplo consenso possível para novas capacidades de vigilância. Depois procuram terroristas, traficantes de seres humanos, traficantes de droga, etc., etc.
Com base no projecto da Comissão Europeia, não é claro quem define a lista e obtém acesso ao conteúdo procurado. Contudo, podemos estimar que serão pelo menos todos os governos europeus, o que inclui também países como a Polónia (que acabou de tornar o aborto ilegal) e a Hungria (que é conhecida pela sua supressão dos meios de comunicação social).
Uma questão importante que é completamente negligenciada pela Comissão Europeia: A ciber-segurança. Serão encontradas formas de hackear o processo de scan do lado do cliente. Por exemplo, os atacantes maliciosos poderiam injectar imagens ou documentos nos dispositivos das pessoas, a fim de os desacreditar. Ou os atacantes maliciosos poderiam encontrar uma forma de se desviar dos dados que estão a ser digitalizados nos nossos dispositivos e utilizá-los para ciberataques.
Afinal, todos sabemos que uma "porta traseira apenas para os bons da fita" não é possível.
A CSAM prejudica a segurança cibernética
Equipar toda a nossa comunicação com uma função de monitorização permanente que informe o fornecedor de qualquer tipo de comportamento incorrecto é uma ideia terrível. É uma ruptura da barragem que levará a uma vigilância total sem precedentes. Qualquer pessoa, mesmo considerando tal coisa, deve enfrentar um enorme vento de proa.
E a oposição já está a formar-se.
A "Digitale Gesellschaft" alemã organizou um protesto a muito curto prazo que coincidiu com a publicação pela Comissão da UE do projecto de lei que exige o scanning CSAM nos telefones e computadores das pessoas - tal como a Apple propôs uma vez sem sucesso.
A organização europeia de direitos digitais EDRi diz que "a proposta CSAM online da Comissão Europeia não consegue encontrar soluções correctas para combater o abuso sexual de crianças".
Ella Jakubowska, Conselheira Política, no EDRi diz:
"A Comissão Europeia está a abrir a porta a uma vasta gama de tácticas de vigilância autoritária. Hoje em dia, as empresas vão analisar as nossas mensagens privadas em busca de conteúdo CSAM. Mas uma vez que estes métodos estejam por aí, o que impede os governos de forçar as empresas a procurar provas de dissidência ou oposição política amanhã?"
Até a Associação Alemã de Protecção da Criança considera "desnecessária a intervenção na comunicação codificada na luta contra a pornografia infantil". O membro da direcção da Türk descreveu a digitalização planeada pela Comissão Europeia de comunicações privadas via mensageiro ou e-mail sem qualquer razão como "desproporcionada e não eficaz".
O que está em jogo é claro: a privacidade de todos na Internet, bem como boas protecções de segurança cibernética.
Comparação com os planos CSAM da Apple
É de esperar que o clamor internacional que está prestes a acontecer espelhe o que foi dito quando a Apple anunciou que iria procurar imagens CSAM nos iPhones das pessoas no ano passado (e depois não deu seguimento ao plano).
Portanto, vejamos como os especialistas em segurança avaliaram a digitalização CSAM do lado do cliente após a Apple ter anunciado os seus planos:
Por exemplo, o perito em segurança Bruce Schneier chamou ao plano de scanear cada iMessage como "porta traseira do iPhone da Apple"; Edward Snowden disse que a Apple declarou guerra à sua privacidade e acrescentou: "Não importa quão bem intencionada, a Apple está a lançar a vigilância em massa para o mundo inteiro com isto. Não se enganem: se hoje podem procurar pornografia infantil, amanhã podem procurar qualquer coisa".
Agora, em relação à proposta da Comissão Europeia, o professor de criptografia Matthew Green acrescenta:
"Falando de questões reais de liberdade de expressão, a UE propõe um regulamento que poderia obrigar à digitalização de mensagens encriptadas para material CSAM. Isto é de novo a Apple".
A vigilância em massa não vai resolver o problema
O enfoque da Comissão da UE numa solução técnica para um problema social complexo de abuso de crianças é mal orientado na sua abordagem.
Transferir a responsabilidade para os fornecedores de comunicações, colocando todos os cidadãos sob suspeita geral e minando o segredo da nossa comunicação, não pode ser a alternativa a um trabalho policial responsável e direccionado num Estado de direito.
O Clube Alemão de Informática do Caos adverte numa declaração:
"Até agora, não é claro quem deve definir e controlar os algoritmos de detecção e as bases de dados. Um sistema tão pouco transparente pode e será facilmente expandido após a sua introdução. É já previsível que a indústria de exploração de direitos estará tão interessada no sistema como os governos anti-democráticos. Por conseguinte, é ainda mais assustador ver a falta de engano com que será agora introduzido".
Tomar medidas agora para acabar com a lei
Os peritos em segurança concordam que as medidas de vigilância propostas no actual projecto da Comissão da UE destruiriam a privacidade em linha e violariam o nosso direito ao sigilo da comunicação.
A vigilância geral em massa - mesmo que feita por uma AI - é contra a Carta dos Direitos Fundamentais da União Europeia e deve ser travada.
Temos de agir agora para evitar que este projecto se torne uma lei!
**Se vive na Alemanha, assine a petição de Camapct**para combater o projecto da Comissão Europeia que levaria a uma vigilância em massa sem precedentes na Europa.
**Se vive na Áustria, assine a petição de #aufstehn**para combater o projecto da Comissão da UE que levaria a uma vigilância em massa sem precedentes na Europa.
**Envie os seus comentários**à Comissão Europeia e partilhe as suas preocupações com este projecto de lei.
**Verifique aqui**como pode juntar-se ao protesto, bem como telefonar e enviar um e-mail aos seus representantes.
Juntos devemos combater a vigilância de massas!
O que há de novo com a proposta CSAM da UE em comparação com a abordagem da Apple?
A proposta da Comissão da UE é nova, uma vez que tornaria obrigatória a digitalização CSAM, incluiria a digitalização de "grooming" (que só pode ser feita através da digitalização de mensagens de chat privadas), e incluiria comunicação encriptada de ponta a ponta. Os fornecedores encriptados de ponta a ponta não podem digitalizar CSAM, uma vez que isso prejudicaria a encriptação de ponta a ponta.
