기업이 AI 에이전트에 업무를 맡기기 시작하면서 사이버 보안의 관리 범위도 넓어졌다. AI가 질문에 답하는 수준을 넘어 내부 파일에 접근하고 외부 서비스를 호출하며 업무를 직접 수행하게 되자, 정상적인 계정과 권한을 사용하더라도 의도하지 않은 명령을 실행하거나 민감한 정보를 유출할 위험이 커졌다. 기존의 악성코드 탐지나 비정상 접속 차단만으로는 이러한 행동을 충분히 통제하기 어려운 만큼 AI 모델의 출처와 취약점, 에이전트의 실행 권한, 데이터 활용 과정까지 함께 살펴야 한다는 목소리가 높아지고 있다.
융합 보안 전문기업 쿤텍(대표 방혁준)은 27일 서울 양재동 엘타워에서 개최한 ‘AX 시대의 AI 보안과 안전한 사용’ 세미나에서 이러한 문제에 대응할 AI 전주기 통합 보안 전략을 공개했다. AI 모델을 업무에 적용하기 전에 위험 요소를 확인하고, 운영 중인 에이전트의 행동을 통제하며, 민감 데이터를 보호하면서도 AI 분석에 활용할 수 있도록 세 가지 보안 기술을 연결했다.
이날 쿤텍이 특히 강조한 것은 위협에 대응하는 속도였다. 기업의 IT·OT 환경에서 위험 요소를 얼마나 빨리 파악하고 탐지해 조치할 수 있는지가 AI 시대 보안 경쟁력을 좌우한다는 관점에서 평균 가시화 시간(MTTV), 평균 탐지 시간(MTTD), 평균 대응 시간(MTTR)을 핵심 지표로 제시했다. 고객 환경에서 각 지표를 측정하고 보안 기술 간 연계를 통해 대응 시간을 지속적으로 단축하겠다는 전략으로, ‘세계 최단’이라는 목표 역시 현재 달성한 성과가 아닌 중장기적으로 추진할 과제라고 선을 그었다.
쿤텍 방혁준 대표가 ‘AX 시대의 AI 보안과 안전한 사용’ 세미나에서 AI 전주기 통합 보안 전략과 주요 솔루션을 소개했다. (사진 제공: 쿤텍)
AI 모델의 출처부터 에이전트 행동까지…보안 범위 확장
전주기 보안 전략은 기업이 사용하는 AI 모델과 에이전트의 구성 요소를 파악하는 것에서 출발한다. 소프트웨어 공급망 보안 솔루션 ‘이지즈(AEZIZ)’는 기존 소프트웨어 자재 명세서(SBOM) 관리 기능을 AI 모델 자재 명세서(AI-BOM)와 에이전트 자산 점검으로 확대했다. 외부 AI 모델이나 여러 도구를 연결한 에이전트의 출처와 공급자, 라이선스, 파일 형식, 취약점 등을 확인해 운영 환경에 적용하기 전에 위험을 식별하고, 새로운 취약점이 공개됐을 때 영향을 받는 모델과 서비스를 추적할 수 있도록 지원한다.
쿤텍이 개발을 완료한 AI 에이전트 자산 기반 점검 도구도 이 과정에 활용된다. 소스코드 정적 분석으로 에이전트와 연결된 모델, 도구, 외부 서비스를 식별하고 파일 접근과 명령 실행, 외부 호출 등에 부여된 권한의 위험도를 점검한다. 기업은 분석 결과를 바탕으로 불필요한 권한을 제거하거나 위험 모델을 교체해 운영 과정에서 발생할 수 있는 보안 문제를 사전에 줄일 수 있다.
모델과 에이전트의 위험을 확인한 다음에는 실제 업무 수행 과정에서 어떤 행동이 이뤄지는지 통제해야 한다. AI 에이전트 보안 플랫폼 ‘애쉬(ASH, Agentic Security Harness)’는 AI의 판단과 실행 사이에서 요청된 행동을 실시간으로 검토하고, 보안 정책에 위배되는 명령을 실행 전에 차단한다. 정상적인 계정과 API를 이용하더라도 업무 목적과 무관한 파일에 접근하거나 외부로 데이터를 전송하려는 행동을 관리한다는 점에서 기존 보안 제품의 역할을 보완한다.
애쉬는 모델 검증을 담당하는 ‘모델게이트(ModelGate)’, 에이전트의 판단과 행동을 살펴보는 ‘런워치(RunWatch)’, 정책 위반 행동을 실행 직전에 통제하는 ‘엔드포스(EndForce)’, 기업 내 AI 자산과 실행 기록을 통합 관리하는 ‘엔터프라이즈(Enterprise)’로 구성된다. 실행 요청의 위험 수준에 따라 허용하거나 사람의 추가 승인을 요구하고, 필요하면 차단하는 방식으로 보안 정책을 적용한다.
공격 시나리오를 활용해 취약점을 찾고 방어 정책을 개선하는 자가 진화 보안 기술도 개발 중이다. 현재는 레드팀 테스트로 도출한 정책을 섀도 모드에서 검증한 뒤 담당자의 승인을 거쳐 적용하며, 검증된 정책을 자동으로 반영하는 기능은 추가 개발을 진행 중이다.
세 번째 솔루션인 ‘넥사(NEXA)’는 AI 분석에 필요한 데이터를 안전하게 활용하도록 지원한다. 기업과 기관이 보유한 제조 데이터, 보안 로그, 고객 정보에는 개인정보와 영업기밀이 포함돼 있어 외부 제공이 어렵지만, 데이터를 과도하게 가공하면 분석에 필요한 세부 정보가 손실될 수 있다. 넥사는 원본 데이터를 보유 기관의 관리 범위 안에 유지하면서 사전에 승인한 연산만 수행하도록 해 데이터 보호와 활용을 함께 고려했다.
다중 신뢰실행환경(TEE)을 기반으로 데이터와 AI 모델·알고리즘을 보호하고, 원격 증명과 격리된 실행 환경을 통해 연산 과정의 무결성을 확인한다. 연산이 끝나면 검증된 결과만 교환하고 실행 기록을 남겨 감사와 검증에 활용할 수 있으며, 기업 간 공동 분석뿐 아니라 내부 업무 환경에서 민감 정보에 대한 AI 애플리케이션의 접근을 제한하는 용도로도 사용할 수 있다. 쿤텍에 따르면 넥사는 프리비웍스가 서울대학교에서 이전받은 기술을 사업화한 프리비브리지(PrivyBridge)를 서비스화한 플랫폼이다.
쿤텍은 이지즈가 파악한 AI 자산과 위험 정보를 애쉬의 운영 정책에 반영하고, 넥사를 통해 데이터 활용 과정까지 보호하는 방식으로 세 가지 솔루션을 연결한다. 이를 바탕으로 공공·국방·금융·제조 등 보안 수요가 높은 산업으로 사업을 넓히고, 인공지능 보안 진화 엔진(AIS)을 활용해 새로운 공격 유형에 대응하는 방어 기술도 고도화할 예정이다.
방혁준 쿤텍 대표는 “AI 시대에는 완벽하게 막겠다는 약속만큼이나 공격자보다 빠르게 위협을 발견하고, 차단하고, 조치하는 것이 중요하다”며 “AI 모델 도입 단계의 이지즈, 운영 단계의 애쉬, 데이터 활용 단계의 넥사를 연계해 고객 IT·OT 인프라의 탐지·차단·조치 시간을 지속적으로 단축해 나가겠다”고 말했다.
이날 세미나에서는 AI 전환 과정에서 기업과 기관이 직면하는 보안 과제도 폭넓게 다뤄졌다. 정수환 숭실대학교 AI보안연구센터장이 피지컬 AI 시대의 보안 위협과 대응 방안을 주제로 기조연설을 진행했고, 쿤텍 조수열 팀장은 SBOM에서 AI-BOM으로 확대되는 공급망 보안의 변화를 소개했다. 이어 서원준 쿤텍 소장이 AI 에이전트 보안 하네스의 적용 방안을, 권태경 연세대학교 정보대학원 교수가 AI 보안 트렌드를 발표했으며, 서울대학교 유준승 박사와 쿤텍 김일석 수석은 넥사를 활용한 데이터 협업 기술을 공유했다.
행사장에는 이지즈와 애쉬, 넥사 등 주요 솔루션의 데모 부스가 마련됐으며, 선박 통합 보안 솔루션 ‘테라그리드 마리타임(TGM)’도 함께 소개돼 산업별 보안 기술의 적용 범위를 살펴볼 수 있었다.
AI 에이전트가 기업의 업무에 깊숙이 관여할수록 보안은 외부 공격을 차단하는 데서 나아가 AI가 어떤 정보를 활용하고 어떤 행동을 실행하는지 검증하는 영역으로 확대된다. 이번 세미나에서 공개된 쿤텍의 통합 보안 전략은 모델 검증과 실행 통제, 데이터 보호를 하나의 흐름으로 연결했다는 점에서 의미가 있으며, 앞으로 실제 고객 환경에서 탐지와 대응 시간을 얼마나 줄일 수 있을지가 기술 경쟁력을 가늠할 기준으로 남는다.
The post 쿤텍 “AI 보안, 얼마나 빨리 발견하고 차단하느냐가 관건”…전주기 통합 전략 공개 appeared first on 벤처스퀘어.
