Pai tem conta banida pelo Google após enviar foto do filho ao pediatra

O Google baniu a conta de um homem dos EUA após ele ter compartilhado fotos do filho com pediatras. Em busca de ajuda médica em fevereiro de 2021 e seguindo a recomendação de não sair de casa devido a pandemia, o engenheiro Mark registrou uma infecção na virilha da criança a pedido da enfermeira para fazer o devido diagnóstico e, de repente, teve sua conta banida por “violação grave das políticas do Google”.

• WhatsApp começa a permitir que admins excluam mensagens em grupos no iOS
• Quais apps têm ícones adaptativos no Android 13?

Segundo o The New York Times, que conta a história da família, um mecanismo de análise com inteligência artificial identificou arquivos com “conteúdo prejudicial” guardados na conta de Mark. Espantado pelo alerta e em busca de maiores detalhes, Mark entrou numa página de suporte do Google que, dentre os possíveis motivos passíveis de banimento, listava “abuso e exploração sexual infantil”.

A ferramenta implementada pelo Google não só avalia o conteúdo da conta para avaliar eventuais banimentos, como também contacta autoridades locais para perícia. A polícia de São Francisco, então, recebeu o conteúdo e concluiu após investigação que não havia crime, mas mesmo assim a companhia manteve as contas de Mark inacessíveis, perdendo fotos, vídeos, e-mails (incluindo endereço de e-mail) e até número de telefone.

De olho em tudo

Em comunicado enviado ao New York Post, o Google sugeriu que o motivo do banimento foram, de fato, as fotos da criança. "O material de abuso infantil é abominável e estamos comprometidos em impedir a propagação em nossas plataformas", disse a empresa.

Os mecanismos de vigilância e combate à circulação de pornografia infantil do Google operam há anos — e, como a situação de Mark ressalta, são implacáveis. Segundo um levantamento feito pela própria empresa, em 2021 foram denunciados mais de 3,2 milhões de conteúdos ao Centro Nacional para Crianças Desaparecidas e Exploradas dos Estados Unidos.

Enganos como o que aconteceu com Mark devem ser vários, mas o Google parece ser irredutível quanto às penalidades. "Isso seria problemático se fosse apenas um caso de moderação e censura de conteúdo, mas é duplamente perigoso, pois também resulta em alguém sendo denunciado às autoridades", disse o professor de direito Kate Klonick em entrevista para o New York Times.

Apple foi criticada por isso

No ano passado, a Apple foi centro de uma polêmica graças ao anunciar um mecanismo semelhante que chegaria ao iMessage. Na época, a empresa justificava a adição para conter a disseminação de conteúdo sexual infantil, um problema recorrente em aplicativos de mensagens com criptografia de ponta a ponta habilitada por padrão.

De forma semelhante, o "vigilante" da Apple avaliava o conteúdo de fotos subidas na nuvem para conferir a presença de conteúdo sexual infantil. Se confirmada, a empresa enviaria o material para autoridades locais para dar início às investigações.

Dada a uma forte reação de especialistas no segmento, a Apple suspendeu a implementação da funcionalidade.

Fonte: New York Post, New York Times