Algoritmo misógino? Apple Card é acusado de oferecer crédito menor a mulheres

A Apple está sob investigação dos órgãos regulatórios dos Estados Unidos após ser acusada por diversos clientes de práticas sexistas em relação ao seu cartão de crédito Apple Card. Segundo os reclamantes, os algoritmos da empresa estão automaticamente oferecendo linhas inferiores de crédito para as mulheres, mesmo quando o nome dos homens está “mais sujo” na praça.

O caso todo começou com o desenvolvedor de software David Heinemeier Hansson, que reclamou em sua conta no Twitter que o Apple Card lhe ofereceu uma linha de crédito 20 vezes maior que à sua esposa. Hansson ressaltou que o casal entrega suas declarações de imposto de renda em conjunto e o nome dele tem uma pontuação inferior junto aos serviços de proteção financeira que o dela.

Pouco depois do relato, diversos outros clientes contaram que situações parecidas lhe ocorreram. Eis que o próprio cofundador da Apple, Steve Wozniak, juntou-se aos reclamantes, informando que o mesmo havia ocorrido com sua esposa, urgindo para que órgãos regulatórios investigassem a prática, que é comumente atrelada a práticas de discriminação de gênero.

“Nós não temos nenhuma transparência sobre como essas empresas começam esses negócios e os operam”, disse Wozniak em entrevista à agência Bloomberg. “Algoritmos obviamente possuem falhas… um número enorme de pessoas diriam ‘Nós amamos nossa tecnologia, mas já não temos mais o controle [dela]’, acho que esse é um caso desse tipo”.

O Departamento de Serviços Financeiros do Estado de Nova York (DFS) respondeu ao caso dizendo que abriria o processo investigativo. Atualmente, o Apple Card é emitido pela firma de investimentos bancários Goldman Sachs, que é sediada no estado.

“Qualquer algoritmo que, intencionalmente ou não, resulte em tratamento discriminatório contra mulheres ou qualquer outra classe econômica protegida está em violação da lei de Nova York”, disse um porta-voz do órgão ao jornal New York Times. “O DFS enxerga como problemática a potencial discriminação no que tange às decisões de limite de crédito supostamente feitas por um algoritmo do Apple Card, emitido pela Goldman Sachs, e a agência vai conduzir uma investigação para determinar se houve violação à lei, assegurando que todos os consumidores sejam tratados igualmente, independente de seu sexo”.

A Apple não comentou o assunto, apesar de ter sido buscada por diversos canais da imprensa americana. Já a Goldman Sachs negou que houvesse qualquer divergência na tratativa de crédito entre homens e mulheres: “Em todos os casos, nós não tomamos e não tomaremos decisões baseadas em fatores como o gênero”, disse o porta-voz da empresa, Andrew Williams.

Fonte: The Verge; Bloomberg; New York Times