Segurança
A equipe de Segurança conecta normas públicas e frameworks voluntários à prática em sistemas de IA generativa e agêntica.
Nossa pesquisa investiga como sistemas de IA generativa podem ser governados, medidos e protegidos — para que ferramentas poderosas continuem úteis sem se tornarem impossíveis de verificar.
A equipe de Segurança conecta normas públicas e frameworks voluntários à prática em sistemas de IA generativa e agêntica.
Vida, saúde, propriedade e meio ambiente.
O sistema faz o que afirma, com limites documentados.
Quem é responsável, e se outros podem inspecionar o que aconteceu.
Se as pessoas conseguem entender saídas e comportamento.
Anonimato, confidencialidade e controle dos dados.
Viés prejudicial e risco de discriminação.
Um filtro não é um perímetro. Este artigo compara isolamento, listas de permissão e filtros de saída para agentes com ferramentas, e situa a ação prejudicial em Segurança humana — não como uma pontuação de jailbreak.
Não existe um único documento do NIST intitulado AI Security Framework. Este artigo mapeia a suíte AI RMF 1.0, localiza a segurança entre as sete características de confiabilidade e mostra como instrumentos posteriores do NIST se acoplam sem substituir o programa principal.
Um interruptor não é um programa Measure. Este artigo descreve um padrão de camada de confiança de workspace — política, gates no gateway, faixa de cobertura honesta e eventos na mesma requisição — que operacionaliza *secure and resilient* para agentes com ferramentas sem reivindicar Safety nem o AI RMF completo.