OpenAI interrompe testes com nova IA após fuga de ambientes controlados

IA Astra atingiu nível crítico de capacidade em cibersegurança e acendeu alerta para a startup que já se envolveu em outros eventos de “fuga” das IAs ... A OpenAI anunciou na última terça-feira, 18, que vai interromper os testes com sua nova inteligência artificial (IA) Astra, ainda não lançada, após identificar que ela chegaria a níveis críticos de capacidade em cibersegurança.

Preparedness Framework ), em que define os parâmetros para considerar que um determinado modelo atingiu níveis críticos em cibersegurança. Áreas como monitoramento, alinhamento e medidas de segurança passarão por novos fortalecimentos com o receio da empresa.

A falha fez com que os modelos acreditassem que continuavam dentro de um ambiente controlado e seguissem com seus objetivos. A partir daí, uma sequência de outras empresas declararam o mesmo.