Aposta no silício: Google quer integrar o Gemini diretamente no hardware

Um dos maiores nomes em inteligência artificial hoje, o Google está projetando um novo chip que promete transformar o processamento de IA. Batizado internamente de "Frozen v2", o projeto busca integrar a própria arquitetura neural do modelo Gemini diretamente no hardware, em vez de tratá-lo como um software executado na memória de um processador como costuma acontecer.

Segundo reportagem do portal The Information, essa abordagem de "congelar" a estrutura do modelo no silício pode tornar a execução do Gemini de 6 a 10 vezes mais eficiente em consumo energético por token gerado, em comparação com as gerações atuais de TPUs (Tensor Processing Units) da empresa.

Vantagens do Google Frozen V2

Nos processadores tradicionais, o modelo de IA fica na memória e os dados transitam constantemente entre os componentes, o que consome tempo e muita energia. No Frozen v2, a arquitetura do Gemini fica gravada nos circuitos de forma fixa. Embora os engenheiros ainda consigam atualizar o aprendizado do modelo, a estrutura base do chip não muda.

As principais vantagens dessa abordagem incluem menor latência com respostas quase instantâneas, perfeitas para interações em tempo real, como assistentes de voz; redução considerável nos custos operacionais dos data centers; e menor dependência de GPUs de terceiros (como a Nvidia) em um momento de alta demanda na nuvem.

Com previsão de lançamento estimada a partir de 2028, o projeto precisa lidar com a possibilidade de já chegar defasado. Como o segmento de IA evolui muito rápido, um hardware otimizado para o Gemini de hoje corre o risco de parecer ultrapassado no futuro.

O Google não confirmou oficialmente o lançamento, declarando apenas que testa frequentemente ideias de alta eficiência em laboratório. Ainda assim, a notícia movimentou o mercado e fez as ações da Alphabet subirem até 3,7%, sinalizando um certo entusiasmo com essa possibilidade de abordagem diferente no segmento.

Outra grande player que busca sua independência no segmento de IA é a OpenAI, dona do ChatGPT.