Inovações em IA pela Intel: democratização e segurança para o consumidor

No evento CloudOps Summit by RealCloud, que aconteceu nesta quinta-feira (07), o Canaltech conversou com Marcio Paulino, Líder de Tecnologia da Intel Brasil, sobre as soluções de inteligência artificial que estão por vir para o consumidor final, além dos aspectos de segurança da tecnologia empresarial que estão vindo para o público consumidor.

• Como a NPU da Intel e a IA podem te ajudar no dia a dia
• Intel anuncia novidades para "democratizar" o uso de IA

Perguntamos sobre a perspectiva da Intel para o mercado de inteligência artificial (IA) e as melhorias que isso trará ao consumidor comum, pensando nas melhorias já existentes do mercado empresarial. Além de destacar a democratização da IA, Marcio citou que a estimativa global para o mercado de IA é de US$ 7 bilhões apenas para CPU, sem levar em consideração chips gráficos.

“A Intel está colocando componentes para acelerar o desempenho da CPU para workloads de IA. Um exemplo é que colocamos no Sapphire Rapids, Xeon de 4ª Geração, um acelerador chamado Intel AMX, que dá capacidade ao processador de executar cálculos matriciais, multiplicação de matriz, que é o que uma rede neural faz. É isso que estamos trazendo para democratizar o uso de IA e o usuário gastar menos, porque o hardware específico custa muito e a ideia da Intel é que, para cada CPU lançada, vamos colocar uma capacidade de executar a IA”, destacou o Líder de Tecnologia.

🛒Compre o Intel Core i9-13900KF no melhor preço!

🛒Compre a Intel Arc A750 no melhor preço!

IA segura com as tecnologias Intel

Durante o CloudOps Summit, muitas propostas de segurança para empresas foram mostradas, enquanto o consumidor, que começará a ter cada vez mais acesso à IA, não pode contar com seguranças com preço de nível empresarial. Então como a IA ajudará o consumidor final em segurança? O executivo da Intel Brasil destacou que a empresa segue com diversas tecnologias para sempre proteger o usuário:

“Temos nos processadores uma tecnologia chamada Intel TDX e Intel SGX. Quando a gente vai treinar uma rede neural, precisamos de dados. Esses dados vêm limpos quando estão em execução na CPU e essa é a 'melhor hora’ para um hacker atacar, porque o dado está limpo em execução. Se veio encriptado no momento da execução, ele não pode estar criptografado. A Intel trouxe esses recursos exatamente para proteger e os clientes terem compliance no treinamento de IA e se preocupar com os dados usados para treinar".

O Intel TDX e Intel SGX são Intel Trust Domain Extensions e Intel Software Guard Extensions, respectivamente. Enquanto o Intel TDX cria um espaço seguro para a execução sem acesso externo, o Intel SGX executa criptografia a nível granular em hardware. O Paulino ainda destacou que "a Intel está trazendo de maneira econômica e o usuário já poderá ter essas tecnologias integradas".

O especialista do Time Azul foi também destacou a performance e segurança como pilares desse movimento. Por isso, a engine neural será usada para otimizar o processamento e também melhorar a segurança, destacando que a NPU do Core Ultra terá o mesmo nível de proteção do Xeon.

“Vamos lançar o Core Ultra e ele tem uma engine neural para ajudar, aprendendo o comportamento do usuário e antecipando usando o processamento neural. [...] Essa NPU vai ajudar exatamente nesse ponto, ter um assistente personalizado e, na questão de segurança, a Intel coloca essa mesma proteção de execução que tem no Xeon no Core Ultra, para proteger esse seu modelo que está aprendendo o seu dia-a-dia”, destacou o chefe de tecnologia da Intel Brasil.

Arc e a IA generativa

Como último tema, perguntamos a Marcio Paulino sobre IA generativa, que se tornou muito popular com o ChatGPT, e como a tecnologia da Intel auxiliará as pessoas. Ele destacou como a grande maioria dos modelos de IA começam em um notebook e, por isso, ter uma rede capaz de suportar uma boa quantidade de parâmetros pode auxiliar no desenvolvimento de tecnologias mais avançadas.

“A IA generativa, ou a IA em geral, precisa de uma boa plataforma, uma boa CPU, uma boa GPU, no caso a ARC, e uma boa NPU também, principalmente para inferência a NPU e para criação a GPU. [...] Um cientista de dados, quando está montando uma rede neural, ele monta em um notebook. Quando ele tem uma CPU eficiente, uma GPU eficiente e uma NPU, ele poderá estender um pouco mais a rede neural na criação, antes de migrar para um servidor – que gasta mais. Então ele é muito mais assertivo quando está escalando, pois pôs em prova no notebook com essas características", disse o Marcio.

Por fim, ele destacou como a nova tecnologia Intel está preparada para começar a trabalhar com IA generativa e levar isso ao público, independentemente do nível de conhecimento sobre o assunto.

"Falando de IA generativa, um bom modelo está na faixa de 7 bilhões a 12 bilhões de parâmetros – são como as conexões dos neurônios. O ChatGPT tem 175 bilhões de parâmetros, mas com 2 e 13 bilhões de parâmetros, o nosso assistente vai ‘voar’, e aí esse hardware com essa capacidade poderá atender a essa demanda que os usuários vão começar a ter na resposta da IA generativa", finalizou o Líder de Tecnologia da Intel Brasil.