Artista descobre fotos do próprio tratamento médico em sistema de IA

Uma artista americana encontrou um conjunto de fotos próprias, tiradas durante um tratamento médico, em um conjunto de fotografias usado para treinamento de inteligência artificial (IA). As imagens, segundo ela, teriam sido produzidas em 2013 como parte de um procedimento de restauração facial após cirurgias na boca e mandíbula; mesmo tendo assinado, na época, uma negativa do uso destas imagens fora do procedimento, elas acabaram sendo compartilhadas e usadas em sistemas de IA.

• Crítica | Coded Bias usa didatismo para explicar terror por trás dos algoritmos
• Ferramenta do Zoom que analisa emoções é criticada por ferir privacidade

A mulher, que mora no estado americano da Califórnia e usa o pseudônimo Lapine, preferindo manter o próprio nome em sigilo, encontrou as próprias fotos no banco LAION-5B, que utiliza imagens públicas encontradas na internet como mecanismo de treinamento para inteligência artificial. A análise de imagens é o que permite, por exemplo, o avanço de projetos relacionados a visão computadorizada, biometria facial e síntese de imagens.

O problema, entretanto, é o uso de imagens sensíveis durante esse processo, com as fotos encontradas por Lapine não sendo as únicas. Pelo contrário, dezenas de registros semelhantes, com pessoas acamadas em hospitais, usando aparelhos de tratamento médico ou passando por procedimentos estéticos ou de saúde podem ser encontradas no LAION-5B, cujos responsáveis se isentam da responsabilidade.

"Meu rosto está no banco de dados LAION. Em 2013, um médico fotografou meu rosto como parte de documentação clínica. Ele morreu em 2018 e, de algum jeito, essa imagem acabou online e chegou ao banco de dados — a foto pela qual assinei um consentimento ao meu médico — não a um banco de dados."

A LAION, que gerencia o banco de dados, é uma organização não governamental focada no desenvolvimento da inteligência artificial. Ela usa um processo de raspagem de imagens da web para compor sua biblioteca de fotos de seres humanos, que podem ser usadas por pesquisadores em diferentes tarefas e estudos; essa é uma possibilidade legal, com a instituição afirmando não ter relação com os responsáveis por subir as fotos para a internet.

Como a artista descobriu as fotos do próprio tratamento médico?

Lapine descobriu isso tudo quando pediu para que um amigo solicitasse a remoção de suas fotos do banco. De acordo com o engenheiro Romain Beaumont, da LAION, a organização não faz a hospedagem das imagens, com a melhor maneira de fazer isso sendo o contato com os responsáveis pela postagem pública delas. A artista diz não saber como os registros foram parar na internet, uma vez que seu médico faleceu em 2018, conforme explicou ao site Ars Technica.

Aos usuários da Europa, há um formulário para remoção de imagens encontradas no LAION-5B, em concordância com a Regulação Geral de Proteção de Dados (GDPR, em inglês), a equivalente de lá à nossa LGPD (Lei Geral de Proteção de Dados). Entretanto, isso só pode ser feito caso a foto esteja associada a um nome em seus metadados, ainda que outros meios de associação possam ser usados — mas não aceitos.

Lapine compara a situação à receptação de mercadoria roubada, uma vez que suas fotos privadas podem ter sido desviadas da clínica onde fez os procedimentos originalmente. Enquanto suas imagens seguem no ar, a artista, que usava inteligência artificial para criar arte envolvendo objetos e animais, disse não ter tocado novamente nos sistemas, devido ao estresse que toda a situação causou.

Fonte: Ars Technica