Facebook mudará algoritmo que discriminava pessoas em anúncios de casas

Facebook mudará algoritmo que discriminava pessoas em anúncios de casas

Por Márcio Padrão | Editado por Claudio Yuge | 22 de Junho de 2022 às 15h20
Szabo Viktor/Unsplash. Montagem: Canaltech

O Facebook afirmou que mudará seus algoritmos para evitar publicidade discriminatória do setor imobiliário norte-americano. A decisão vem de um acordo de sua empresa-mãe, a Meta, com o Departamento de Justiça dos EUA, anunciado na terça-feira (21) em resposta a um processo apresentado no tribunal federal de Manhattan no mesmo dia.

Segundo o governo americano, o algoritmo da rede social discriminava parte do público da plataforma ao localizar pessoas e entender que elas se pareciam com outras pessoas protegidas pela Lei da Habitação Justa. Esta é uma norma de 1968 dos EUA que proíbe que donos de moradias pratiquem discriminação de raça, sexo, religião e outros elementos ao tratar com seus clientes.

Pelo acordo, até 31 de dezembro o Facebook deve parar de usar a ferramenta "Audiência Sósia" (Lookalike Audience), que promovia a segmentação de anúncios de moradias com base em características pessoais, o que levava à discriminação. Por exemplo, se você é negro e acessa o Facebook, veria dentro da rede social anúncios de casas diferentes dos vistos por um colega branco na plataforma.

O Facebook também desenvolverá um novo sistema ao longo do segundo semestre para lidar com disparidades raciais e outras causadas pela entrega personalizada de publicidade habitacional.

Facebook empregava algoritmos que discriminavam características de pessoas na publicidade de moradias (Imagem: Brett Jordan/Pexels)

O Facebook já havia concordado em março de 2019 em revisar seu direcionamento de anúncios para evitar a discriminação em anúncios de moradia, crédito e emprego como parte de um acordo legal com entidades como a União Americana das Liberdades Civis, a National Fair Housing Alliance e outros.

Para Justiça, foi "histórico"; Meta diz se comprometer

De acordo com o comunicado do Departamento de Justiça, este foi o primeiro caso dos EUA que desafia a discriminação dos algoritmos de empresas de tecnologia sob a Lei de Moradia Justa. O procurador Damian Williams chamou o processo de "inovador", e a procuradora-geral assistente Kristen Clarke, de "histórico".

"Se a Meta não demonstrar que mudou suficientemente seu sistema de entrega para se proteger contra viés algorítmico, este escritório prosseguirá com o litígio", disse Williams. "O Departamento de Justiça está comprometido em responsabilizar a Meta e outras empresas de tecnologia quando abusam de algoritmos de maneiras que prejudicam ilegalmente comunidades marginalizadas", falou Clarke.

"A discriminação em habitação, emprego e crédito é um problema profundamente enraizado com uma longa história nos EUA, e estamos comprometidos em ampliar as oportunidades para comunidades marginalizadas nesses espaços e outros", disse Roy L. Austin Jr, vice-presidente de direitos civis e vice-conselheiro geral da Meta. No entanto, ele reconhece que "dada a complexidade e os desafios técnicos envolvidos, levará algum tempo para testar e implementar" as mudanças.

Fonte: The Guardian, Meta, Departamento de Justiça dos EUA

Gostou dessa matéria?

Inscreva seu email no Canaltech para receber atualizações diárias com as últimas notícias do mundo da tecnologia.