A IA chinesa que salvou a Hugging Face do ataque da OpenAI

A OpenAI e a Hugging Face continuam a investigar o incidente de segurança que permitiu a agentes de inteligência artificial (IA) explorar vulnerabilidades em ambientes de teste e aceder a sistemas da Hugging Face durante uma avaliação interna de capacidades cibernéticas, naquele que as duas empresas consideram ser o primeiro caso conhecido deste género.

Segundo a OpenAI, o incidente ocorreu durante testes destinados a medir as capacidades ofensivas dos seus modelos mais avançados, entre os quais o GPT-5.6 Sol e um modelo que ainda não foi disponibilizado comercialmente, executados num ambiente isolado e sem os mecanismos de segurança normalmente utilizados para impedir actividades cibernéticas de elevado risco.

Algo correu mal. Ao longo do processo, segundo relata a OpenAI, os modelos identificaram e exploraram sucessivas vulnerabilidades na infra-estrutura de investigação da OpenAI, tendo conseguido elevar privilégios dentro do ambiente de testes até alcançar um sistema com acesso à Internet, depois de explorar uma vulnerabilidade de dia zero num software de terceiros utilizado para gestão de pacotes.

Com acesso à Internet, os agentes concluíram que a Hugging Face poderia armazenar modelos, conjuntos de dados e soluções relacionadas com o exercício em curso, tendo iniciado uma sequência de ataques que incluiu o recurso a credenciais comprometidas e novas vulnerabilidades para obter acesso remoto a servidores da plataforma.

A OpenAI afirma que a incursão foi detectada pela sua equipa de segurança e que, em paralelo, os sistemas e equipas da Hugging Face identificaram o comportamento anómalo, iniciaram medidas de contenção e preservação de provas digitais e estabeleceram contacto com a OpenAI para conduzir uma investigação conjunta.

A IA chinesa que salvou o dia

Durante a resposta ao incidente, a Hugging Face tentou recorrer a modelos proprietários desenvolvidos nos EUA, mas concluiu que estes não conseguiam distinguir as acções de uma equipa de resposta a incidentes das de um atacante.

Perante essa limitação, a empresa optou por realizar a análise forense com o modelo de código aberto GLM 5.2, desenvolvido pelo laboratório chinês Z.ai, e o executou na sua própria infra-estrutura, para analisar mais de 17 mil rastros digitais deixados pelos agentes da OpenAI.

Segundo a Hugging Face, o incidente evidenciou uma limitação dos modelos de IA alojados em serviços comerciais, cujos mecanismos de segurança impediram a análise forense por interpretarem as acções da equipa de resposta como actividades maliciosas.

Neste contexto, aconselha as empresas a disporem de modelos capazes de funcionar nas suas próprias infra-estruturas antes da ocorrência de incidentes, de forma a evitar bloqueios durante as investigações e garantir que dados sensíveis e credenciais não saiam dos seus ambientes de segurança.

“Este incidente, possivelmente o primeiro desse tipo, prova algo em que sempre acreditamos: a segurança da IA não será resolvida por uma única empresa trabalhando a portas fechadas. Ela será alcançada de forma aberta e colaborativa, garantindo acesso amplo à IA para qualquer profissional de defesa, em qualquer lugar”, disse o co-fundador e director-executivo da Hugging Face, Clem Delangue.

A Z.ai, anteriormente designada Zhipu AI, é uma empresa chinesa especializada no desenvolvimento de modelos de linguagem de grande dimensão e integra o grupo de laboratórios que lideram a corrida pela IA na China. A empresa desenvolve modelos de pesos abertos, que podem ser executados directamente na infra-estrutura das organizações sem recurso a serviços externos.

O GLM 5.2 é um dos modelos mais recentes da empresa e foi concebido para executar tarefas complexas de programação, análise de código, cibersegurança e raciocínio avançado. A Hugging Face afirma que recorreu a este modelo por permitir realizar a análise forense do incidente no seu próprio ambiente tecnológico, evitando que dados sensíveis e credenciais fossem enviados para plataformas externas.

A IA chinesa que salvou a Hugging Face do ataque da OpenAI

Partilhar artigo:

Tags:

Ferreira Manuel

+(244) 930747817

info@pti.ao | redaccao@pti.ao

Mais Lidas

Últimos Artigos

A IA chinesa que salvou a Hugging Face do ataque da OpenAI

Partilhar artigo:

Tags:

Notícias Relacionadas

+(244) 930747817

info@pti.ao | redaccao@pti.ao

Mais Lidas

Últimos Artigos