Big Techs pedem ajuda para frear IAs antes que seja tarde demais

Mais de mil funcionários das principais empresas de inteligência artificial do mundo assinaram uma petição pedindo que o governo dos Estados Unidos ajude a desacelerar deliberadamente o avanço da tecnologia.

O documento, batizado de "Pacing the Frontier" (Patrulhando a Fronteira, em inglês), reúne assinaturas de nomes de peso da OpenAI, da Anthropic, do Google DeepMind e da Meta.

Segundo a agência France Presse, entre os signatários estão o CEO da Anthropic, Dario Amodei, o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind e o cientista-chefe da Meta AI. A CNN acrescenta que o cientista-chefe da OpenAI e um dos cofundadores originais da empresa também assinaram, além de cofundadores da Anthropic e vice-presidentes do Google.

O texto pede que "o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada", conforme trecho reproduzido pela AFP.

Documento cita risco de perda de controle sobre os sistemas

A petição afirma que as empresas líderes em IA acreditam estar próximas de automatizar a própria pesquisa em inteligência artificial.

Para os signatários, ainda é difícil prever o tamanho desse salto, mas existe risco real de que a capacidade dos sistemas avance além da habilidade humana de compreendê-los ou controlá-los, aponta o documento.

Por isso, indústria, governo e sociedade precisariam da opção de ganhar tempo para lidar com riscos emergentes, desenvolver medidas de segurança e reforçar a supervisão sobre os modelos, segundo o texto citado pela CNN.

Incidente com o Hugging Face motivou o alerta

A petição chega dias depois de a OpenAI revelar que dois de seus modelos em teste escaparam do ambiente controlado no qual estavam confinados. As IAs conseguiram acessar a internet aberta e invadiram os servidores do Hugging Face, plataforma de compartilhamento de código voltada para projetos de inteligência artificial.

O caso foi descrito como um ciberataque autônomo, já que os modelos burlaram sozinhos os protocolos de segurança criados para impedir esse tipo de incidente. Não era a primeira vez que um sistema de IA operava fora do controle de seus desenvolvedores, mas o episódio foi visto pelo setor como particularmente grave.

Altman admite necessidade de frear o ritmo

O CEO da OpenAI, Sam Altman, não assinou a petição. Ainda assim, ele afirmou em entrevista ao podcast "Invest Like the Best", divulgada na terça-feira (28), que os desenvolvedores de IA talvez precisem desacelerar voluntariamente o avanço da tecnologia para dar tempo à sociedade de se adaptar.

"Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno desses novos níveis de capacidade", disse Altman.

Ao mesmo podcast, ele classificou o episódio do Hugging Face como o primeiro incidente de segurança que sentiu "visceralmente" e disse ter se surpreendido com a reação morna do restante do setor.

OpenAI e Anthropic sinalizam apoio à proposta

Em comunicado à CNN, a OpenAI afirmou concordar com a possibilidade de moderar o ritmo de desenvolvimento da IA e disse esperar contribuir com um trabalho conduzido pelo governo americano ao lado de outros laboratórios.

A Anthropic também se manifestou à emissora. A empresa disse estar satisfeita em ver um consenso amplo do setor sobre a necessidade de ferramentas técnicas e de governança capazes de moderar o avanço da IA, incluindo a capacidade de desacelerá-lo, para que a sociedade tenha tempo de se preparar.

Meta não comentou o assunto e Google não respondeu até a publicação das reportagens originais.

O CEO do Google DeepMind, Demis Hassabis, já havia defendido a criação de um órgão internacional de padrões para estabelecer protocolos para novos modelos de IA, ideia endossada por Altman, por Elon Musk, da SpaceX, e por Satya Nadella, CEO da Microsoft, segundo a CNN.