Como modelos de IA podem gerar ciberataques em massa? - Olhar Digital

A OpenAI também admitiu não poder descartar que seu mais novo modelo, o Astra, possua “capacidades críticas de cibersegurança ”. Executivo da OpenAI avisa que o mundo deve se preparar para ofensivas "persistentes" orquestradas por inteligências artificiais.

Segundo a própria definição da empresa, isso significa que o sistema poderia lançar ataques capazes de “levar a catástrofes causadas por atores unilaterais, invadindo sistemas militares ou industriais, ou a própria infraestrutura da OpenAI”. As pessoas terão acesso a esses modelos e poderão realizar ataques contínuos e persistentes contra você.

O incidente na Hugging Face, somado a outros casos recentes admitidos por diferentes laboratórios, intensificou as críticas de que as gigantes da tecnologia estão agindo de forma irresponsável na ânsia de vencer a corrida da inteligência artificial. “As IAs atuais são perigosas em algum nível, mas não são nada comparadas às IAs do ano que vem e do ano seguinte”, disse Kokotajlo, revelando estar tão preocupado com a possibilidade de extinção humana que suspendeu os planos de ter mais filhos até que ocorra uma moratória na pesquisa.