Ciberataque à Hugging Face envolveu 700 agentes da OpenAI que coordenaram tarefas entre si

Num comunicado, a OpenAI indica que, em maio e junho, iniciou testes a dois modelos que não tinham sido concebidos para serem ... Naquele que já é considerado o primeiro 'ciberataque agêntico', 700 agentes de IA invadiram sozinhos uma empresa externa, de um total de 1.

200 agentes, que deveriam estar isolados uns dos outros, encontraram uma forma de comunicar uns com os outros num fórum não autorizado, enviando mais de 70 mil mensagens e ficheiros durante o período da investigação . O primeiro alerta na OpenAI de que algo de errado se passava surgiu a 4 de julho, quando o sistema em que estava assente este fórum não autorizado sofreu um apagão devido à elevada atividade.

A partir daqui, estes agentes encontraram novas formas de cooperar que resultaram na invasão aos sistemas da Hugging Face entre os dias 11 e 13 de julho, segundo a OpenAI. Só a 19 de julho é que a “monitorização de segurança” alertou a OpenAI para a existência de atividade suspeita.