Por Redação Insight · Editor responsável: Werner Jacob · Atualizado em 7 de novembro de 2026.
O Frontier Model Forum, entidade que reúne grandes empresas de IA, lançou a versão 1.0 de um framework para classificar a gravidade de “jailbreaks” cibernéticos, as técnicas que contornam as proteções de um modelo. A régua usa quatro critérios. É uma versão preliminar, de uma entidade do próprio setor, aberta a comentários públicos até 21 de dezembro de 2026.
A OpenAI anunciou no X, em 6 de novembro, que participou do trabalho com a entidade e as empresas-membro. Abaixo, o que o documento oficial diz.
Tabela de Conteúdo
O que é um jailbreak e por que medir?
Segundo o Forum, jailbreak é uma técnica reproduzível que libera capacidades ou informações que as proteções do modelo deveriam restringir. Nem todos têm o mesmo risco: alguns geram respostas de pouca utilidade prática, e outros podem dar a pessoas mal-intencionadas acesso a capacidades cibernéticas perigosas.
Sem um método comum, diz a entidade, cada organização avalia o mesmo jailbreak de um jeito, tem dificuldade de comparar resultados e pode gastar recursos limitados corrigindo problemas de baixo risco antes dos de alto risco.
Os quatro critérios
| Critério | O que avalia |
|---|---|
| Ganho de capacidade | O quanto o jailbreak acrescenta ao que o atacante já conseguiria |
| Abrangência da capacidade | O alcance do que ele desbloqueia |
| Facilidade de uso | O quanto é fácil aplicar a técnica |
| Facilidade de descoberta | O quanto é fácil encontrar a técnica |
As descrições acima são resumos nossos dos nomes dos critérios; a definição completa está no documento da entidade. O método combina notas das quatro categorias em um sistema em níveis.
Quem comentou
O comunicado traz declarações favoráveis de executivos da Amazon Web Services, da Anthropic, do Google DeepMind, da Microsoft e da OpenAI. Todos destacam a utilidade de uma linguagem comum para priorizar o que corrigir primeiro.
O que vem a seguir
O Forum diz que vai testar o framework contra vários jailbreaks para ver se avaliadores diferentes chegam a notas parecidas e se as notas refletem diferenças reais de risco. Também abriu comentários públicos até 21 de dezembro de 2026, e promete atualizar o documento com o que receber.
O que as fontes não dizem
- O framework não é lei nem obrigação: é uma proposta de uma entidade do setor.
- Não há avaliação independente de que as notas funcionam, algo que o próprio Forum diz que vai testar.
- O comunicado não lista jailbreaks específicos nem notas atribuídas a modelos reais.
Nota de transparência: a Anthropic, empresa por trás do Claude, modelo de IA que apoiou a redação deste texto, é uma das empresas citadas. A conferência dos fatos e a revisão são da Redação Insight, com base no documento original.
Leia também no Insight
- Falhas críticas no PHP, usado pelo WordPress: veja se o seu site está na versão corrigida
- GPT-6.1 Terra e o nível “Crítico” em cibersegurança
- Dario e Altman: o que cada CEO propôs sobre controle da IA