Time de IA do Google exige que executiva se afaste após demissão de especialista

No último dia 02 de dezembro, Timnit Gebru, co-líder da equipe Ethical AI (uma divisão que abordava posturas éticas no uso de Inteligência Artificial) do Google, anunciou que fora demitida da empresa. Sua dispensa teria se dado por criticar a abordagem de contratação de minorias e os preconceitos embutidos nos atuais sistemas de inteligência artificial da companhia. Pois bem. A saída da especialista gerou um motim na equipe que desenvolve essa tecnologia na gigante das buscas. E atingiu até mesmo altos executivos.

• Google teria demitido especialista após críticas sobre preconceito em sua IA
• A treta continua: Texas anuncia processo antitruste multiestadual contra Google
• EUA exigem medidas antitruste "urgentes" contra Apple, Google, Facebook e Amazon

Segundo reportagem do site da Bloomberg, um grupo de pesquisadores de inteligência artificial do Google (número não divulgado) enviou uma lista abrangente de demandas à gerência da empresa, pedindo novas políticas e mudanças de liderança. A nota gira em torno da saída Gebru, que gerou protestos dentro da companhia. Citando essa situação, os funcionários exigiram o afastamento de Megan Kacholia, vice-presidente da divisão, e que teria excluído o chefe direto de Gebru da decisão de demiti-la.

Em cópia da carta obtida pela Bloomberg, o ato de Kacholia teria feito a equipe "perder a confiança nela como líder”. O documento diz ainda que:

“A decisão míope do Google de disparar e retaliar contra um membro central da equipe de IA ética deixa claro que precisamos de mudanças rápidas e estruturais para que esse trabalho continue e para que a legitimidade do campo como um todo persevere. “Esta pesquisa deve ser capaz de contestar os interesses de curto prazo da empresa e as agendas de receita imediata, bem como investigar a IA implantada pelos concorrentes do Google com motivos éticos semelhantes".

A carta incentiva ainda o Google a dar uma explicação sobre a demissão de gebru e oferecer à especialista a oportunidade de retornar à empresa “em uma posição mais alta” do que a que ela tinha anteriormente. Os pesquisadores também pediram que Kacholia e Jeff Dean, um dos chefe da divisão de IA, pedissem desculpas a Gebru pelo tratamento dado a ela. Também exigem que a empresa emita um compromisso público com a integridade acadêmica e estabeleça o treinamento em alfabetização racial para a gestão.

Entre outras as exigências presentes na lista, a equipe de pesquisadores exige transparência nas revisões de artigos dos funcionários da unidade e uma investigação sobre como o Google administra as reclamações de seus funcionários em relação às condições de trabalho.

Para completar, o imbróglio ultrapassou os campus do Google. A congressista democrata Yvette Clarke, a senadora Elizabeth Warren e sete outros membros do Congresso escreveram uma carta pública na última quarta-feira (16) a Sundar Pichai, CEO do Google e da Alphabet, perguntando sobre os planos para revisar a demissão de Gebru e as políticas para publicar pesquisas.

Entenda o caso

Em um e-mail enviado no último dia 1º de dezembro a um grupo que incluía funcionários do Google, Timnit Gebru expressou exasperação com a resposta do Google aos seus esforços - e de outros funcionários - para aumentar a contratação de minorias e chamar a atenção para o preconceito na inteligência artificial.

Em uma entrevista ao jornal The New York Times, Gebru disse seus conflitos com o Google foram iniciados a partir do tratamento que a empresa deu a um artigo que ela havia escrito com seis outros pesquisadores, quatro deles do próprio Google. O material apontou falhas em uma nova geração de tecnologia de linguagem, incluindo um sistema construído pelo Google que sustenta o mecanismo de busca da empresa.

Segundo a Dra. Gebru, esses sistemas aprendem os caprichos da linguagem analisando enormes quantidades de texto, incluindo milhares de livros, inserções na Wikipedia e outros documentos online. Como este texto inclui linguagem tendenciosa e, às vezes, odiosa, a tecnologia pode acabar gerando linguagem tendenciosa e odiosa da maneira, devido ao seu machine learning.

Gebru afirma que, depois que ela e outros pesquisadores enviaram o artigo para uma conferência acadêmica, um gerente do Google exigiu que ela retirasse material o evento ou removesse seu nome e os nomes de outros funcionários da empresa. Ela se recusou a fazer isso, sem mais discussões e, no e-mail enviado no dia 1º de dezembro, disse que renunciaria ao seu cargo após um período apropriado, se o Google não pudesse explicar por que queria que ela retirasse o documento e respondesse a outras questões.

A empresa respondeu ao seu e-mail, disse ela, dizendo que não poderia atender às suas demandas e que sua renúncia foi aceita imediatamente. Seu acesso ao e-mail da empresa e outros serviços foi revogado imediatamente. Em nota aos funcionários, Jeff Dean, vice-presidente sênior da divisão de IA do Google, disse que a empresa respeitava "a decisão de da Dra Gebru de renunciar".

Com informações da Reuters

Fonte: Bloomberg