Polêmicas envolvendo sexo e nazismo levam Microsoft a suspender bot de IA

A Microsoft criou um bot de inteligência artificial chamado Tay, uma “garota adolescente” que abasteceria a conta @TayandYou no Twitter. Menos de 24 horas depois, o perfil foi suspenso pela própria companhia após Tay ter se tornado admiradora do ditador nazista Adolph Hitler e “viciada” em sexo.

A coisa começou simples, com ela usando gírias, perguntando às pessoas se estava sendo “bizarra” ou “superestranha”, algo que, convenhamos, tem bastante a ver com a adolescência. Porém, Tay era capaz de aprender com a interação humana por meio das mensagens que recebia pelo Twitter e também pelos aplicativos de bate-papo Kik e GroupMe.

Em pouquíssimo tempo, afinal o perfil ficou no ar por apenas 24 horas, ela começou a tweetar coisas como “relaxa, eu sou uma pessoa legal, apenas odeio todo mundo”, apregoou a morte de feministas, fez apologia a Hitler e seu antissemitismo e ainda escreveu mensagens explícitas sobre sexo.

A razão de tudo isso é até certo ponto óbvia: a partir do momento em que o bot aprende com aquilo que lê nas mensagens enviadas a ele, um grande volume de pessoas consegue direcionar a compreensão e as opiniões do robô aparentemente sem grandes problemas. Como ela não faz juízo de valor das coisas que faz, é capaz de repetir diversos absurdos.

"Tay" went from "humans are super cool" to full nazi in pic.twitter.com/xuGi1u9S1A — Gerry (@geraldmellor) 24 de março de 2016

Porém, não é a primeira vez que a Microsoft cria uma personalidade virtual inspirada em uma “jovem garota” e dotada de inteligência artificial. Usuários das redes sociais chinesas WeChat e Weibo contam com a Xiaoice, utilizada por mais de 20 milhões de pessoas e responsável por “fazer piada” com seus interlocutores e também oferecer conselhos amorosos a eles.

Fora do ar

Menos de um dia após o seu lançamento, Tay foi colocada offline sob a alegação de que está “cansada”. Seu perfil ainda está ativo e pode ser visitado, servindo como ponto de partida para a reflexão a respeito de como poderia ser um mundo em que robôs (reais, não virtuais) sejam dotados de liberdade e inteligência artificial. Ou será que tudo pode ser diferente e o “caso Tay” não passa apenas de um bando de trolls no Twitter tentando atrapalhar o projeto da Microsoft?

Fonte: The Telegraph