OpenAI vai testar modelos de IA durante o treino - MaisTecnologia

Desde agosto de 2025, estas empresas devem realizar testes adversariais, avaliar riscos sistémicos, reforçar a cibersegurança e comunicar incidentes ... A OpenAI vai permitir avaliações externas de segurança durante o treino dos seus modelos de IA, numa mudança com impacto no setor.

Lama Ahmad, responsável pelo trabalho da OpenAI com especialistas externos, afirmou que a empresa está a conversar tanto com organizações com as quais já colaborou como com novos grupos. Na prática, avaliadores externos poderão acompanhar versões ainda não públicas e procurar formas de explorar as suas limitações.

Esse tipo de teste procura perceber não só se um modelo responde de forma inadequada, mas também se consegue encontrar maneiras de escapar às regras impostas pelos seus criadores. A Anthropic defendeu que este tipo de avaliação deveria ser financiado por recursos públicos ou por um fundo comum, já que nenhuma dessas opções existe atualmente em escala suficiente.