Inteligência Artificial
Em resumo
Padrão em consulta pública, criado por Anthropic, Google, Microsoft e OpenAI, avalia jailbreaks por ganho de capacidade, escopo, facilidade de uso e de descoberta.
1
O Frontier Model Forum (FMF) publicou a versão 1.0 de um framework para classificar jailbreaks de modelos de linguagem, batizado de Jailbreak Rating Framework.
2
A lógica do modelo é separar a nota em duas categorias. A severidade mede o quão grave é a técnica de jailbreak.
3
Para o FMF, o ganho de capacidade é a dimensão mais importante, e funciona como piso e teto para as demais notas.
Continue lendo
A matéria completa, com fontes e contexto.