보안
보안 팀은 공개 표준과 자발적 프레임워크를 생성형·에이전트형 AI 시스템 실무에 대응합니다.
당사 리서치는 생성형 AI 시스템을 어떻게 거버넌스·측정·보호할 수 있는지 탐구합니다. 강력한 도구가 검증 불가능해지지 않고 유용함을 유지하도록 하는 것이 목표입니다.
보안 팀은 공개 표준과 자발적 프레임워크를 생성형·에이전트형 AI 시스템 실무에 대응합니다.
생명, 건강, 재산, 환경.
시스템이 주장한 대로 동작하며 한계가 문서화되어 있는가.
누가 책임지며, 다른 사람이 무슨 일이 있었는지 확인할 수 있는가.
사람들이 출력과 행동을 이해할 수 있는가.
익명성, 기밀성, 데이터 통제.
유해 편향과 차별 위험.
필터는 경계가 아닙니다. 본 논문은 도구 사용 에이전트에 대해 격리·허용 목록·출력 필터를 비교하고, 유해 행위를 탈옥 점수가 아니라 안전 문제로 둡니다.
「AI Security Framework」라는 단일 NIST 문서는 없습니다. 본 논문은 AI RMF 1.0 스위트를 정리하고, 일곱 가지 신뢰성 특성 가운데 보안의 위치를 밝히며, 이후 NIST 문서가 상위 프로그램을 대체하지 않고 어떻게 연결되는지 보여 줍니다.
토글은 Measure 프로그램이 아닙니다. 본 논문은 워크스페이스 신뢰 계층 패턴 — 정책, 게이트웨이 게이트, 정직한 커버리지 표시, 동일 요청 이벤트 — 을 설명하며, 도구 사용 에이전트에 대해 *secure and resilient* 를 운영화하되 Safety 나 전체 AI RMF 를 주장하지 않습니다.