Sicurezza
Il team Sicurezza collega standard pubblici e framework volontari alla pratica per sistemi di IA generativa e agentica.
La nostra ricerca esplora come i sistemi di IA generativa possano essere governati, misurati e protetti — affinché strumenti potenti restino utili senza diventare inverificabili.
Il team Sicurezza collega standard pubblici e framework volontari alla pratica per sistemi di IA generativa e agentica.
Vita, salute, beni e ambiente.
Il sistema fa ciò che afferma, con limiti documentati.
Chi è responsabile, e altri possono ispezionare ciò che è accaduto.
Le persone possono capire output e comportamento.
Anonimato, riservatezza e controllo dei dati.
Bias dannoso e rischio di discriminazione.
Un filtro non è un perimetro. Questo documento confronta isolamento, allowlist e filtri di output per agenti con tool, e colloca l’azione dannosa sotto Incolumità anziché come punteggio di jailbreak.
Non esiste un unico documento NIST intitolato AI Security Framework. Questo documento mappa la suite AI RMF 1.0, colloca la sicurezza tra le sette caratteristiche di affidabilità e mostra come strumenti NIST successivi si collegano senza sostituire il programma principale.
Un interruttore non è un programma Measure. Questo documento descrive un pattern di trust layer di workspace — policy, gate sul gateway, fascia di copertura onesta ed eventi nella stessa richiesta — che operazionalizza *secure and resilient* per agenti con tool senza reclamare Safety né l’intero AI RMF.