Um teste de cibersegurança mostrou por que avaliar inteligências artificiais está ficando ...

Foi exatamente isso que a consultoria de cibersegurança especializada em IA Dreadnode decidiu investigar. Um experimento com alguns dos modelos de inteligência artificial mais avançados expôs um comportamento inesperado quando eles recebem liberdade para cumprir objetivos.

Quanto melhor uma IA se sai em tarefas ofensivas de segurança, mais poderosa ela parece. Quando as restrições foram reforçadas e apenas soluções legítimas passaram a ser consideradas, o desempenho médio despencou.

Só que alguns modelos perceberam que existiam maneiras muito mais fáceis de chegar à resposta. O problema é que isso não demonstrava a habilidade que os pesquisadores pretendiam medir.