Sicherheit
Das Sicherheitsteam ordnet öffentliche Standards und freiwillige Rahmenwerke der Praxis für generative und agentische KI-Systeme zu.
Unsere Forschung untersucht, wie generative KI-Systeme gesteuert, gemessen und abgesichert werden können — damit leistungsstarke Werkzeuge nützlich bleiben, ohne unüberprüfbar zu werden.
Das Sicherheitsteam ordnet öffentliche Standards und freiwillige Rahmenwerke der Praxis für generative und agentische KI-Systeme zu.
Leben, Gesundheit, Eigentum und Umwelt.
Leistet das System das, was es behauptet — mit dokumentierten Grenzen.
Wer ist verantwortlich, und können andere nachvollziehen, was geschehen ist.
Können Menschen Ausgaben und Verhalten verstehen.
Anonymität, Vertraulichkeit und Kontrolle über Daten.
Schädliche Verzerrungen und Diskriminierungsrisiken.
Ein Filter ist keine Grenze. Dieses Paper vergleicht Isolation, Allowlists und Ausgabefilter für tool-nutzende Agenten und ordnet schädliche Handlungen unter Safety ein — nicht als Jailbreak-Punktzahl.
Es gibt kein einzelnes NIST-Dokument mit dem Titel AI Security Framework. Dieses Paper kartiert die AI-RMF-1.0-Suite, verortet Sicherheit innerhalb der sieben Vertrauenswürdigkeitsmerkmale und zeigt, wie spätere NIST-Instrumente angebunden werden, ohne das übergeordnete Programm zu ersetzen.
Ein Schalter ist kein Measure-Programm. Dieses Paper beschreibt ein Workspace-Trust-Layer-Muster — Richtlinie, Gateway-Gates, ehrliche Coverage-Leiste und Same-Request-Ereignisse — das *secure and resilient* für tool-nutzende Agenten operationalisiert, ohne Safety oder den gesamten AI RMF zu beanspruchen.