Seguridad
El equipo de Seguridad conecta normas públicas y marcos voluntarios con la práctica en sistemas de IA generativa y agéntica.
Nuestra investigación explora cómo gobernar, medir y asegurar los sistemas de IA generativa — para que herramientas poderosas sigan siendo útiles sin volverse imposibles de verificar.
El equipo de Seguridad conecta normas públicas y marcos voluntarios con la práctica en sistemas de IA generativa y agéntica.
Vida, salud, bienes y medio ambiente.
¿Hace el sistema lo que afirma, con límites documentados?
Quién es responsable, y si otros pueden inspeccionar lo ocurrido.
Si las personas pueden entender las salidas y el comportamiento.
Anonimato, confidencialidad y control de los datos.
Sesgo dañino y riesgo de discriminación.
Un filtro no es un perímetro. Este artículo compara aislamiento, listas de permitidos y filtros de salida para agentes con herramientas, y ubica la acción dañina bajo Safety en lugar de como una puntuación de jailbreak.
No existe un único documento del NIST titulado AI Security Framework. Este artículo mapea la suite AI RMF 1.0, ubica la seguridad dentro de las siete características de confianza y muestra cómo los instrumentos posteriores del NIST se acoplan sin sustituir al programa principal.
Un interruptor no es un programa Measure. Este artículo describe un patrón de capa de confianza de workspace — política, puertas en la pasarela, franja de cobertura honesta y eventos en la misma petición — que operacionaliza *secure and resilient* para agentes con herramientas sin reclamar Safety ni el AI RMF completo.