O pai envia uma fotografia nua do seu filho através do Gmail e a sua conta Google fica definitivamente bloqueada.

O incidente acima descrito aconteceu durante a pandemia da COVID, tendo muitos consultórios médicos sido encerrados. ONew York Times relatou-o pela primeira vez.

O pai notou anomalias na área genital do seu filho, enviou fotografias para diagnóstico remoto a pedido do consultório do pediatra, conforme relatado pelo "New York Times". Desde que enviou estas fotografias através do Gmail, a Google teve acesso a elas e digitalizou-as para detectar potenciais actividades criminosas.

Os algoritmos da Google detectaram as imagens nuas, que imediatamente bloquearam a conta. O caso foi então encaminhado para as autoridades que iniciaram uma investigação, mas logo a encerraram, uma vez que o pai não tinha cometido qualquer crime. A polícia teve acesso a toda a informação que a Google tinha sobre ele e decidiu que não constituía abuso ou exploração de crianças.

Independentemente desta decisão, a conta do pai no Google permaneceu bloqueada devido à partilha destas imagens nuas.

Mesmo quando o pai recorreu novamente à Google, fornecendo o relatório policial que o declarou inocente, a Google recusou. Então a sua conta estava a ser permanentemente apagada devido à inactividade.

A conta Google foi definitivamente encerrada.

O que significa isto para cada utilizador do Gmail?

TL;DR: Cuidado: se enviar fotografias nuas através do Gmail, toda a sua conta pode ser bloqueada.

O Google tem uma ferramenta automatizada para detectar imagens abusivas de crianças: A IA procura material abusivo em todas as mensagens do Gmail, tais como imagens de crianças nuas. O sistema é muito amplo, portanto mesmo que partilhe imagens de crianças nuas na praia ou na banheira com um membro da família, o sistema pode sinalizar a sua conta Google para partilhar pornografia infantil.

Mas quando o sistema se engana, as consequências são graves.

A sua conta pode ficar definitivamente bloqueada; o que significa que não haverá possibilidade de desbloquear novamente a conta.

Dado que a sua conta Google, e em particular a sua conta de correio electrónico, é muito valiosa, este é um risco grave. Afinal, a sua conta de correio electrónico é a porta para a sua identidade online: Conecta muitos serviços para efeitos de redefinição de senha à sua conta de e-mail, tais como Amazon, Twitter, PayPal e muito mais.

É por isso que é crucial escolher um fornecedor de correio electrónico seguro, um que proteja os seus dados e a sua privacidade. Na Tutanota trabalhamos arduamente para garantir que ninguém o possa espiar, encriptando todos os seus dados por defeito. Verifique os benefícios que obtém com o correio electrónico encriptado.

Como é que o Gmail detecta imagens nuas de crianças

O Google gere um sistema automatizado para digitalizar cada mensagem que envia em busca de potencial material sobre abuso sexual de crianças (CSAM).

Até à data, este sistema é voluntário, mas a UE quer tornar obrigatória a digitalização do material CSA pelo lado do cliente, o que constituiria uma intromissão devastadora na privacidade de todos.

Este processo de scanning permite à Google assinalar uma potencial actividade criminosa na sua plataforma. No entanto, o sistema é bastante amplo para que qualquer imagem de uma criança nua possa ser sinalizada.

O que acontece se o Google o assinalar como um criminoso

Quando o Google detecta actividade criminosa na sua conta (tal como partilhar uma fotografia de uma criança nua), bloqueia imediatamente toda a sua conta Google. Isto inclui tudo no Google: Gmail, Google Drive, contactos Google, tudo.

Perderá imediatamente o acesso a todos os seus dados, aos seus contactos, às suas fotografias, e muito mais - sem opção de voltar a ter acesso.

O Google comunicará então o seu perfil às autoridades e, se lhe for apresentado um mandato de busca, entregará todos os dados solicitados a seu respeito.

Isto pode mesmo acontecer-lhe se estiver completamente inocente, como o caso relatado pelo New York Times demonstra.

O Google irá desbloqueá-lo depois de ter sido assinalado?

Não. Enquanto as autoridades chegaram rapidamente à conclusão de que o pai era inocente, o Google recusou-se a desbloquear a sua conta. Foi-se de vez.

Enquanto o pai foi capaz de esclarecer o mal-entendido com a polícia que parou a sua investigação, o Google não fez nada.

Uma vez que o processo demorou muito tempo, a conta do pai deficiente foi entretanto apagada porque tinha estado inactiva durante demasiado tempo. Como resultado, o pai perdeu muitos dados importantes, incluindo anos de fotografias de família.

O principal problema aqui é óbvio: devido à prática da varredura de comportamento criminoso por IA que automaticamente sinaliza e desactiva contas abusivas, as contas de inocentes são bloqueadas. E não há opção para eles recuperarem o acesso às suas contas Google.

No artigo do New York Times, a professora de direito Hessick especula: "Da perspectiva do Google, é mais fácil negar a estas pessoas o uso dos seus serviços. Caso contrário, a empresa teria de resolver questões mais difíceis sobre "o que é um comportamento apropriado com crianças e depois o que é apropriado fotografar ou não".

Mantenha os seus dados locais e pague pelos serviços

Muitos utilizadores do Google relatam como é difícil - ou impossível - desbloquear novamente uma conta bloqueada(1, 2, 3). Aparentemente, o apoio ao cliente não é fácil de alcançar, especialmente porque eles só podem informar e não prestar assistência activa de qualquer forma.

Mesmo que o pai estivesse de facto no direito neste caso, o seu exemplo mostra como é "fácil" perder o acesso ao Google. Por conseguinte, é aconselhável não utilizar o Google como seu único apoio ou armazenamento original.