AI 에이전트가 해킹되거나 잘못 판단해도 피해를 줄이려면, 보안 통제를 AI 바깥에 두어야 합니다. 엔비디아(NVIDIA)가 2026년 10월 21일 발표한 OpenShell Reference Architecture는 AI가 파일을 읽고 기업 시스템에 접속하고 프로그램을 실행할 때, 허용된 범위에서만 행동하도록 외부 실행 환경에서 통제합니다.
이 원칙은 락게이트코어가 N-FORTRESS(NF)와 디포트리스(D-FORTRESS, DF)를 개발하며 추구해 온 물리적 제로 트러스트 보안과 맞닿아 있습니다. 중요한 데이터로 가는 경로를 제한하고, 한 곳이 침해되어도 피해가 다른 영역으로 번지지 않도록 경계를 만드는 것입니다. 세 기술은 작동 방식과 보호 대상이 다르지만, AI 시대 보안을 바라보는 관점에서는 공통점이 있습니다.
1. 왜 AI 에이전트에도 별도의 보안 장치가 필요할까?
직원이 AI에게 "지난달 매출 자료를 분석해서 보고서를 만들어 줘."라고 요청합니다. AI는 회사 데이터베이스에 접속하고, 필요한 파일을 읽고, 보고서를 작성합니다.
그런데 AI가 참고하는 문서에 악의적인 명령이 숨겨져 있거나, AI 에이전트가 쓰는 도구가 침해된다면 어떻게 될까요? 보고서 대신 고객정보 전체를 조회하거나, 승인되지 않은 외부 서버로 자료를 보내려 할지도 모릅니다.
문제는 AI에게 주어진 정상 업무 권한이 악용된다는 점입니다. 기존 보안은 누가 접속하는지 인증하고 권한을 확인하는 데 집중해 왔습니다. 하지만 정상적으로 접속한 AI가 허용 범위를 벗어난 작업을 시도할 때는 별도의 통제가 필요합니다.
2. NVIDIA OpenShell은 어떻게 AI를 통제할까?
OpenShell은 AI 모델 자체를 수정하는 기술이 아닙니다. AI가 실행되는 환경에 별도의 보안 경계를 만들어, 실제 파일 접근과 네트워크 통신이 보안 정책을 따르도록 하는 오픈소스 실행 환경입니다.
쉽게 말하면 AI에게 일을 맡기되, 건물 전체의 마스터키를 주지는 않는 방식입니다. 보고서 작성에 필요한 폴더만 읽도록 허용했는데 AI가 다른 폴더를 열거나 승인되지 않은 인터넷 주소로 데이터를 보내려 하면, AI 외부의 실행 환경이 그 시도를 제한합니다.
| 구성요소 | 역할 |
|---|---|
| Sandbox(샌드박스) | AI가 제한된 환경에서 실행되도록 에이전트별로 격리합니다. |
| Supervisor(감독 구성요소) | 샌드박스 바깥에서 AI가 요청한 외부 네트워크 접근 등을 보안 정책에 따라 검사합니다. |
| Gateway(게이트웨이) | 에이전트 실행 환경의 수명, 정책, 사용자 인증을 관리합니다. |
| Policy Prover(정책 검증기) | 정책 변경이 정해진 권한 범위를 벗어나는지 검증합니다. |
핵심은 AI에게 보안 규칙을 알려주는 데서 끝나지 않는다는 점입니다. AI가 보안 규칙을 무시하거나 잘못 판단해도, AI 외부의 통제 장치가 정책을 집행하도록 설계했습니다.
엔비디아는 BlueField-4 DPU와 NVIDIA Sentry를 쓰는 참조 아키텍처로, 독립된 하드웨어 영역에서 에이전트 행동을 감시하고 정책을 집행하는 방식도 제시했습니다. 다만 이 하드웨어 기능은 OpenShell 소프트웨어만 설치한다고 모두 제공되지는 않습니다.
3. N-FORTRESS는 왜 DB 앞에서 연결을 나눌까?
N-FORTRESS는 AI의 실행 환경이 아니라 기업의 중요 데이터베이스로 이어지는 통신 경로에 주목합니다.
고객이 웹사이트에 접속하면 웹·앱 서버가 데이터베이스에 필요한 정보를 요청합니다. 이때 웹·앱 서버가 공격당하거나 정상 계정이 탈취되면, 공격자는 확보한 권한과 연결을 악용해 내부 데이터에 접근하려 합니다.
N-FORTRESS는 운영 DB 앞에 별도의 물리적 통신 경계를 추가하도록 설계된 보안 솔루션입니다. 기존 TCP 세션을 경계에서 종료하고, 허용된 업무 요청과 응답은 내부 구간의 새 연결로 중계합니다. TX와 RX 사이에서는 방향이 고정된 물리적 전송 경로를 사용합니다.
일반적인 연결이 건물 안쪽까지 이어지는 복도라면, N-FORTRESS는 그 복도를 중간에서 끊고 별도의 출입 절차를 거쳐 다음 구역으로 이동하게 만드는 구조입니다. 복도가 나뉘면 앞쪽 구역의 통신 세션이 안쪽 구역까지 그대로 이어지는 위험이 줄어듭니다.
적용 조건과 한계
N-FORTRESS가 모든 악성 명령이나 비정상 SQL 쿼리를 자동으로 판별하지는 않습니다. 정상 계정을 이용한 과도한 데이터 조회나 부적절한 업무 요청에 대응하려면 기존 DB 접근제어, 권한 관리, 질의 감시도 함께 필요합니다.
OpenShell이 AI의 실행 권한을 제한한다면, N-FORTRESS는 중요 DB에 도달하는 통신의 연속 경로를 제한하는 기술입니다.
4. D-FORTRESS는 왜 백업 데이터의 통신 경로를 제한할까?
N-FORTRESS가 운영 데이터베이스로 이어지는 경로를 보호한다면, D-FORTRESS는 랜섬웨어 사고 뒤 업무를 복구하도록 남겨 둔 백업 사본을 보호합니다.
랜섬웨어 공격자가 서버 관리자 권한을 탈취했다고 가정해 보겠습니다. 운영 서버뿐 아니라 같은 네트워크에서 접근 가능한 백업 저장소까지 삭제하거나 암호화하면 정상적인 업무 복구가 어려워집니다.
D-FORTRESS는 데이터 다이오드(Data Diode) 기반의 물리적 전송 경계로 운영 구간과 백업 보관 구간을 분리합니다. 기본 데이터 흐름은 다음과 같습니다.
운영 시스템 → 기존 백업 솔루션 → D-FORTRESS TX → 단방향 광 링크 → D-FORTRESS RX → 보호 저장소
대용량 데이터는 TX에서 RX로 전송하고, 별도의 제한된 RX→TX 피드백 경로는 오류 파일의 재전송 요청에만 씁니다. 복구 사본을 보관하려고 범용 양방향 네트워크 연결을 상시 유지하는 대신, 전송 목적과 방향을 제한한 구조입니다. 사고가 나면 별도로 정한 승인·검증 절차를 거쳐 복구합니다.
적용 조건과 한계
D-FORTRESS는 백업 소프트웨어를 대체하지 않습니다. 기존 백업 시스템이 만든 복구 사본을 더 분리된 영역에 보관하도록 돕는 추가 보안 계층입니다. 적용 효과는 데이터 구성과 실제 전송·복구 조건에 따라 달라지므로 고객 환경 검증이 필요합니다.
5. 세 기술의 공통점 3가지는 무엇일까?
OpenShell, N-FORTRESS, D-FORTRESS의 가장 큰 공통점은 보호 대상이 스스로 안전하게 행동하리라고 전적으로 믿지 않는다는 점입니다.
| 구분 | NVIDIA OpenShell | N-FORTRESS | D-FORTRESS |
|---|---|---|---|
| 보호 대상 | AI 에이전트 실행 환경 | 운영 DB 연결 경계 | 백업·복구 사본 |
| 핵심 방식 | 격리 및 외부 정책 집행 | 물리적 세션·전송 경계 분리 | 물리적 백업 전송 경계 분리 |
| 줄이려는 위험 | AI의 무단 파일·네트워크 접근 | 침해된 구간에서 DB로 이어지는 직접 연결 위험 | 백업 저장소로 이어지는 공격 경로 |
| 주요 통제 위치 | AI 실행 환경 외부 | 운영 DB 앞 | 복구 저장소 앞 |
① 보안 통제를 보호 대상과 분리합니다
OpenShell은 AI 외부에서 정책을 집행합니다. NF와 DF는 보호할 데이터 앞에 별도의 물리적 전송 경계를 둡니다.
② 필요한 접근 경로만 남깁니다
AI에게는 허용된 파일과 네트워크만 쓰게 하고, 중요 데이터와 백업 저장소에는 필요한 업무 흐름을 위한 연결만 허용하거나 별도의 전송 구조를 씁니다.
③ 한 곳이 침해되어도 피해 확산을 줄입니다
AI 실행 환경, 업무시스템, 데이터베이스, 복구 저장소가 하나의 신뢰 영역처럼 연결되어 있으면 한 구간의 침해가 다른 구간의 피해로 커집니다. 경계를 나누면 이 위험이 줄어듭니다.
세 기술이 같은 보안 수준을 제공하거나 서로 직접 연동된다는 뜻은 아닙니다. 통제 범위와 구현 방식은 각각 다릅니다.
6. 기업이 AI를 도입한다면 어떤 보안 구조가 필요할까?
기업의 AI 에이전트는 보고서 작성을 넘어 고객 응대, 거래 처리, 데이터 분석, 업무 자동화까지 맡게 됩니다. 맡는 일이 늘수록 접근하는 시스템과 데이터도 많아집니다. AI 보안을 모델의 답변 품질이나 유해 명령 탐지에만 맡기기는 어렵습니다. 기업은 다음 세 질문을 함께 검토해야 합니다.
① AI 에이전트의 권한은 어디까지인가?
OpenShell 같은 보안 실행 환경이 AI의 파일 접근과 네트워크 사용 범위를 통제하는 데 도움이 됩니다.
② 업무시스템이 침해되면 중요한 DB까지 연결이 이어지는가?
N-FORTRESS 같은 통신 경계 분리 기술을 추가로 검토합니다. 기존 인증·인가와 DB 접근제어는 계속 필요합니다.
③ 운영망이 침해된 뒤에도 안전한 복구 사본이 남아 있는가?
D-FORTRESS 같은 물리적 전송 분리 기술과 불변 백업, 접근권한 분리, 복구 훈련을 함께 검토합니다.
이 세 영역은 서로를 대체하지 않습니다. 각기 다른 위치에서 위험을 줄이는 다계층 보안의 사례입니다.
7. AI 시대, 보안은 더 많은 탐지만으로 완성되지 않습니다
더 정확한 AI가 악성코드를 탐지하고, 비정상 행동을 찾아내고, 사고 대응까지 자동화하는 시대가 옵니다. 하지만 보안 시스템도 소프트웨어여서 설정 오류, 취약점, 권한 탈취 위험에서 자유롭지 않습니다.
탐지 기술을 발전시키는 동시에 침해가 일어나도 공격자가 중요 데이터까지 도달하기 어려운 구조를 만들어야 합니다. 엔비디아가 OpenShell로 AI의 행동을 외부에서 통제하는 이유와 락게이트코어가 NF·DF로 물리적 통신 경계를 설계하는 이유는 이 지점에서 만납니다.
AI가 얼마나 똑똑한가보다, AI가 잘못 행동했을 때 피해가 어디까지 번질 수 있는가. 이 질문이 AI 시대 기업 보안 아키텍처의 출발점입니다.
자주 묻는 질문(FAQ)
- Q1. NVIDIA OpenShell이란 무엇인가요?
- NVIDIA OpenShell은 AI 에이전트를 격리된 실행 환경에서 운영하면서 파일, 프로세스, 네트워크, 인증정보 접근을 외부 정책으로 통제하는 오픈소스 보안 런타임입니다.
- Q2. OpenShell에서는 어떤 AI 에이전트를 실행할 수 있나요?
- 엔비디아 공식 소개에 따르면 Claude Code, Codex, GitHub Copilot CLI, OpenClaw, OpenCode 등을 지원하며, 특정 모델이나 에이전트에 묶이지 않도록 설계되었습니다. 기업이 만든 자체 에이전트와 샌드박스 이미지도 사용할 수 있습니다.
- Q3. OpenShell과 N-FORTRESS는 같은 기술인가요?
- 아닙니다. OpenShell은 AI 에이전트의 실행과 권한을 통제하는 기술입니다. N-FORTRESS는 기업 업무시스템에서 운영 DB로 이어지는 TCP 세션을 분리해 직접 연결 경로를 줄이도록 설계된 물리적 보안 솔루션입니다.
- Q4. N-FORTRESS와 D-FORTRESS는 무엇이 다른가요?
- N-FORTRESS는 운영 DB 앞의 연결 경계를 보호하고, D-FORTRESS는 백업 데이터가 별도의 복구 저장소로 이동하는 전송 경계를 보호합니다. 보호 대상과 사용 목적이 다릅니다.
- Q5. OpenShell이나 NF·DF를 도입하면 AI 해킹과 랜섬웨어를 모두 막을 수 있나요?
- 그렇지 않습니다. 세 기술 모두 특정 접근 경로나 피해 확산 위험을 줄이는 보안 계층입니다. 인증과 권한 관리, 취약점 대응, 이상 징후 감시, 데이터 무결성 검증 및 복구 훈련을 함께 운영해야 합니다.
관련 기술자료 및 도입 검토
운영 DB로 이어지는 연결 경계와 복구 사본의 전송 경계를 우리 환경에서 어떻게 나눌지 검토하고 싶다면 제품 자료를 확인하세요. N-FORTRESS는 고객 환경에서 기능·성능·호환성을 검증하는 PoC가 필요합니다.
어떤 자료를 참고했나요?
- NVIDIA — OpenShell Reference Architecture 공식 발표(2026.10.21)
- NVIDIA — OpenShell 공식 기술 소개
- 락게이트코어 — N-FORTRESS 제품 및 PoC 안내
- 락게이트코어 — D-FORTRESS 제품 소개
기술 검토 기준일: 2026-10-22. OpenShell 구성요소와 지원 범위는 엔비디아 공식 자료 기준이며, 이후 변경될 수 있습니다.
본 글은 공개된 기술자료에 기초한 보안 아키텍처 비교입니다. NVIDIA와 락게이트코어 사이의 기술 제휴 또는 제품 연동을 의미하지 않습니다.