Sécurité
L’équipe Sécurité relie les normes publiques et les cadres volontaires à la pratique pour les systèmes d’IA générative et agentique.
Nos recherches examinent comment gouverner, mesurer et sécuriser les systèmes d’IA générative — pour que des outils puissants restent utiles sans devenir invérifiables.
L’équipe Sécurité relie les normes publiques et les cadres volontaires à la pratique pour les systèmes d’IA générative et agentique.
Vie, santé, biens et environnement.
Le système fait-il ce qu’il affirme, avec des limites documentées.
Qui est responsable, et d’autres peuvent-ils inspecter ce qui s’est passé.
Les gens peuvent-ils comprendre les sorties et le comportement.
Anonymat, confidentialité et maîtrise des données.
Biais nuisibles et risque de discrimination.
Un filtre n’est pas une frontière. Cet article compare isolation, listes d’autorisation et filtres de sortie pour les agents à outils, et classe l’action nuisible sous la Sûreté plutôt que comme un score de jailbreak.
Il n’existe pas de document unique du NIST intitulé AI Security Framework. Cet article cartographie la suite AI RMF 1.0, situe la sécurité parmi les sept caractéristiques de fiabilité et montre comment les instruments ultérieurs du NIST s’y rattachent sans se substituer au programme parent.
Un interrupteur n’est pas un programme Measure. Cet article décrit un motif de couche de confiance d’espace de travail — politique, portes passerelle, bandeau de couverture honnête et événements dans la même requête — qui opérationnalise *secure and resilient* pour les agents à outils sans prétendre couvrir la Safety ni l’ensemble de l’AI RMF.