Temendo o apocalipse, OpenAI cria time para monitorar super IA
Por André Lourenti Magalhães • Editado por Douglas Ciriaco |
![Reprodução/Warner Bros. Pictures](https://t.ctcdn.com.br/wDwBIyMnRtfYNIDX22gcD7qALR8=/640x360/smart/i765686.png)
Criadora do ChatGPT, a OpenAI montou uma equipe para monitorar o crescimento da chamada “super IA”: uma inteligência artificial tão desenvolvida a ponto de ficar mais inteligente do que os seres humanos e, na pior hipótese possível, levar à extinção humana.
- Controlar uma superinteligência artificial seria impossível, diz estudo
- IA sequencia DNA de câncer cerebral durante cirurgia
O objetivo desse time é certificar de que a evolução da inteligência artificial generativa seja benéfica para a humanidade e não tome o caminho contrário. Até o momento, a superinteligência é apenas uma teoria, mas a OpenAI estipula que poderia surgir até o final dessa década.
Quem vigia a super IA?
![Canaltech](/logo-canaltech.png)
A organização detalhou o projeto num post de blog assinado pela cofundadora Ilya Sutskever e pelo diretor da nova "polícia" da super IA Jan Leike. Segundo o comunicado, a humanidade ainda não teria uma solução para controlar IAs superinteligentes e evitar que se voltem contra os próprios humanos.
Isso acontece porque, de acordo com a OpenAI, as técnicas atuais de treinamento, controle e aprendizado da IA são feitas a partir de retorno humano e dependem da habilidade humana, mas isso pode chegar a um limite com IAs muito inteligentes. Seriam necessárias, portanto, novas descobertas técnicas e científicas.
A nova equipe de superinteligência deverá criar uma IA de nível humano capaz de gerenciar outras inteligências artificiais após três etapas: desenvolver um método de treinamento, validar os resultados e testar todos os outros canais de alinhamento.
Para isso, a OpenAI abriu vagas para contratação de engenheiros e pesquisadores de machine learning, além de dedicar 20% dos recursos de computação ao projeto. O prazo para obter uma solução é de quatro anos.
Regulamentação da IA é uma discussão constante
A ideia da equipe para monitorar a super IA vai ao encontro de outros projetos da OpenAI para regulamentar o uso dessa tecnologia. Recentemente, os criadores da empresa assinaram um comunicado pedindo pela criação de um órgão regulador internacional para monitorar os avanços desse segmento.