Guardrails de IA dificultam trabalho de pesquisadores de cibersegurança e ampliam debate ...
Resumo completo da matéria
Desde então, pesquisadores relatam aumento no número de recusas dos modelos para executar tarefas relacionadas à análise de ... Especialistas afirmam que limitações impostas por OpenAI e Anthropic reduzem a eficiência de pesquisas de segurança.
Especialistas entrevistados pela publicação afirmam que as barreiras nem sempre conseguem distinguir atividades maliciosas de pesquisas conduzidas por profissionais autorizados. Os mecanismos de segurança incorporados aos modelos mais avançados de inteligência artificial, criados para impedir que criminosos utilizem a tecnologia em ataques cibernéticos, passaram a gerar críticas entre pesquisadores especializados em segurança ofensiva.
A discussão ocorre em um momento em que cresce a preocupação com o equilíbrio entre segurança e inovação em inteligência artificial. O tema ganhou ainda mais visibilidade após o incidente envolvendo a Hugging Face , que relatou dificuldades para utilizar modelos comerciais durante a análise forense de um ataque cibernético porque os sistemas de segurança interpretavam as solicitações como potencialmente ofensivas.
O ciber.seg.br apresenta um resumo amplo e informativo. Consulte a fonte para acessar documentos, declarações e demais detalhes publicados.
Acessar publicação em IT Forum