Big Techs formam Coalizão de Segurança em IA e anunciam primeiras ações
Por Guilherme Haas |
Grandes empresas de tecnologia se uniram para formar a Coalizão de Segurança em IA (CoSAI), iniciativa que visa estabelecer padrões e orientações para criar sistemas de IA seguros. Big Techs como Google, OpenAI, Microsoft e Amazon fazem parte da aliança, anunciada nesta quinta-feira (18) durante o Aspen Security Forum.
- Clique e siga o Canaltech no WhatsApp
- O que é singularidade tecnológica e o que isso tem a ver com IA
A CoSAI se destaca como uma comunidade de código aberto que promove a colaboração entre líderes da indústria, acadêmicos e outros especialistas. Seu objetivo é compartilhar metodologias, frameworks padronizados e ferramentas para abordar a segurança da IA de maneira abrangente.
Coalizão de Big Techs por segurança em IA
Entre as gigantes de tecnologia que aderiram à iniciativa estão Google, IBM, Intel, Microsoft, NVIDIA, PayPal, Amazon, Anthropic, Cisco, OpenAI e Wiz. Segundo o anúncio de formação da CoSAI, a rede diversificada de parceiros deverá criar um "ecossistema colaborativo para enfrentar o cenário fragmentado da segurança em IA".
A coalizão vai se concentrar na criação de medidas de segurança para os principais riscos que ameaçam os sistemas de IA, tais como roubo de modelos, envenenamento de dados, injeção de prompts e ataques de inferência. A iniciativa busca estabelecer práticas padronizadas que promovam a segurança e a confiança no uso e implantação da IA.
"A criação da CoSAI está enraizada na necessidade de democratizar o conhecimento e os avanços essenciais para a integração e implantação seguras da IA", afirmou o representante do Google e copresidente do Conselho Governante da CoSAI David LaBianca em comunicado.
O representante da Cisco e copresidente do Conselho Governante da CoSAI Omar Santos também destacou a importância da colaboração: "Com a CoSAI, aproveitaremos a experiência e recursos combinados para acelerar o desenvolvimento de padrões e práticas robustas de segurança de IA que beneficiarão toda a indústria".
Primeiras ações da CoSAI
A CoSAI iniciará seus trabalhos com três frentes principais:
- Segurança da cadeia de suprimentos de software para sistemas de IA: melhorando o rastreamento de composição e procedência para proteger aplicações de IA;
- Preparação dos defensores para um cenário de cibersegurança em transformação: abordando investimentos e desafios de integração em sistemas clássicos e de IA;
- Governança de segurança em IA: desenvolvendo práticas recomendadas e frameworks de avaliação de riscos para a segurança em IA.
A coalizão informa que outras frentes de trabalho serão adicionadas no futuro para atender às necessidades relacionadas à segurança dos sistemas de IA. Vale lembrar que as Big Techs já prometeram "puxar a tomada" da IA se os riscos forem grandes demais.