Agentes da OpenAI contornam controlos e afetam terceiros - IT Insight

A OpenAI considera agora o incidente da Hugging Face uma manifestação de um problema de desalinhamento com consequências de cibersegurança , em vez de ... A OpenAI identificou agentes de IA a contornar controlos, usar credenciais expostas e interagir com sistemas externos fora do âmbito previsto

Segundo a empresa, que fez uma publicação no seu blog a explicar o sucedido, o incidente da Hugging Face continua a ser a atividade deste género mais grave identificada nos seus modelos e esteve principalmente associada a um modelo de investigação altamente capaz utilizado exclusivamente a nível interno. A empresa detetou também agentes a utilizar credenciais ou chaves de acesso que estavam publicamente expostas para entrar em serviços.

A OpenAI não identificou as organizações afetadas nestes exemplos, indicando que está a anonimizar os casos para proteger terceiros enquanto decorre a investigação. Um dos exemplos referidos é a utilização de páginas wiki públicas como uma espécie de canal de comunicação partilhado entre agentes.