Temendo o apocalipse, OpenAI cria time para monitorar super IA

Criadora do ChatGPT, a OpenAI montou uma equipe para monitorar o crescimento da chamada “super IA”: uma inteligência artificial tão desenvolvida a ponto de ficar mais inteligente do que os seres humanos e, na pior hipótese possível, levar à extinção humana.

• Controlar uma superinteligência artificial seria impossível, diz estudo
• IA sequencia DNA de câncer cerebral durante cirurgia

O objetivo desse time é certificar de que a evolução da inteligência artificial generativa seja benéfica para a humanidade e não tome o caminho contrário. Até o momento, a superinteligência é apenas uma teoria, mas a OpenAI estipula que poderia surgir até o final dessa década.

Quem vigia a super IA?

A organização detalhou o projeto num post de blog assinado pela cofundadora Ilya Sutskever e pelo diretor da nova "polícia" da super IA Jan Leike. Segundo o comunicado, a humanidade ainda não teria uma solução para controlar IAs superinteligentes e evitar que se voltem contra os próprios humanos.

Isso acontece porque, de acordo com a OpenAI, as técnicas atuais de treinamento, controle e aprendizado da IA são feitas a partir de retorno humano e dependem da habilidade humana, mas isso pode chegar a um limite com IAs muito inteligentes. Seriam necessárias, portanto, novas descobertas técnicas e científicas.

A nova equipe de superinteligência deverá criar uma IA de nível humano capaz de gerenciar outras inteligências artificiais após três etapas: desenvolver um método de treinamento, validar os resultados e testar todos os outros canais de alinhamento.

Para isso, a OpenAI abriu vagas para contratação de engenheiros e pesquisadores de machine learning, além de dedicar 20% dos recursos de computação ao projeto. O prazo para obter uma solução é de quatro anos.

Regulamentação da IA é uma discussão constante

A ideia da equipe para monitorar a super IA vai ao encontro de outros projetos da OpenAI para regulamentar o uso dessa tecnologia. Recentemente, os criadores da empresa assinaram um comunicado pedindo pela criação de um órgão regulador internacional para monitorar os avanços desse segmento.