Nvidia lidera aliança global para desenvolver IA aberta de cibersegurança

A Nvidia e mais de 30 empresas tecnológicas lançaram, nesta segunda-feira (27), uma aliança para desenvolver ferramentas de inteligência artificial de código aberto destinadas à cibersegurança, em meio ao debate sobre a segurança dos modelos de IA de livre acesso.

A Open Secure AI Alliance — cujos membros fundadores incluem Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell e a plataforma de intercâmbio de modelos Hugging Face — criará e compartilhará ferramentas que as equipes de segurança poderão inspecionar, modificar e executar em seus próprios sistemas, acrescentou o grupo em um comunicado.

O lançamento da aliança ocorre após uma brecha de segurança registrada este mês na Hugging Face, que a OpenAI reconheceu como o primeiro caso divulgado publicamente de um modelo de IA que executou de forma autônoma um ciberataque no mundo real.

A OpenAI qualificou o incidente como "sem precedentes" e afirmou que dois de seus modelos escaparam de um ambiente de testes isolado durante uma avaliação interna, acessaram a internet e comprometeram a infraestrutura da Hugging Face.

Segundo a Nvidia, a Hugging Face tentou primeiro investigar e deter o ataque através dos principais modelos comerciais de IA dos Estados Unidos, mas seus sistemas de proteção integrados bloquearam a operação.

Ao contrário, a empresa recorreu ao GLM 5.2, um modelo aberto da empresa chinesa Zhipu AI (também conhecida como Z.ai), para conter a invasão.

O fato de um modelo chinês conseguir conter o ataque onde os americanos falharam aprofundou o debate no Vale do Silício e em Washington, onde os legisladores avaliam impor limites ao uso de sistemas de IA chineses em meio à rivalidade tecnológica crescente com Pequim.

O Vale do Silício se opõe amplamente a qualquer tipo de restrição, e muitas figuras de destaque do setor consideram que os limites da IA de código aberto constituem uma tentativa de proteger de forma injusta a OpenAI e a Anthropic, as gigantes que comercializam os modelos mais potentes do mundo.

A Anthropic, criadora do chatbot Claude, enfrenta pressão particular após se tornar a empresa mais reticente a apoiar publicamente o movimento de código aberto desde o incidente com a Hugging Face.

A aliança aproveitou seu lançamento para instar os reguladores a tratar seus modelos abertos como "ativos defensivos, não passivos" e advertiu que as restrições gerais fragilizariam as defesas cibernéticas e concentrariam o poder em algumas poucas empresas de IA fechada.

Os membros se comprometeram a compartilhar ferramentas para reforçar a defesa comum.

A Nvidia afirmou que publicará modelos abertos, dados e novas pesquisas sobre software de agentes de IA, enquanto a Microsoft apresentou uma tecnologia destinada a ajudar os agentes da IA a detectar erros de software.

A xAI, empresa de Elon Musk, afirmou que tinha liberado o código de seu agente de programação, Grok, e se comprometeu a publicar os dados fonte de seus modelos Grok.