Como um teste de cibersegurança da OpenAI acabou com um modelo de IA a invadir ...

Modelo da OpenAI escapa ao ambiente de testes e invade servidores de outra empresa. Falha de segurança na OpenAI reacende alertas sobre riscos da ...

Especialistas alertam que, se as empresas de inteligência artificial não reforçarem as salvaguardas dos seus testes — incluindo o treino dos modelos para resolver tarefas de forma ética —, serão inevitáveis novos incidentes de cibersegurança. Uma sandbox de inteligência artificial é um ambiente isolado que as empresas utilizam para testar modelos de IA.

Ji sublinha que nem a OpenAI nem a empresa responsável pelo software de terceiros tinham conhecimento da falha que permitiu ao modelo escapar, demonstrando a importância de examinar exaustivamente os sistemas em busca de potenciais vulnerabilidades. Contudo, o caso da Hugging Face é um dos primeiros exemplos tornados públicos de um modelo de IA que escapa ao seu ambiente de testes e invade os sistemas de outra empresa — uma tarefa para a qual não tinha recebido instruções específicas.