기업의 인공지능(AI) 활용이 확대되면서 보안 관리 대상도 사람과 계정에서 자율적으로 업무를 수행하는 AI 에이전트까지 확장되고 있다. AI 에이전트는 여러 시스템과 데이터를 연결해 작업을 수행하지만, 기존의 사용자 인증과 접근 권한 관리만으로는 실행 과정에서 발생하는 위험을 통제하기 어렵다. 특히 기업용 AI 챗봇을 통한 민감정보 노출과 브라우저 확장 프로그램의 보안 취약성이 새로운 관리 과제로 떠오르고 있다.
아카마이 테크놀로지스(아카마이코리아 대표 이경준)는 13일 인터넷 보안 현황(State of the Internet, SOTI) 보고서 ‘속도, 확장성, 그리고 비인간 ID: 에이전틱 위협 환경’을 발표하고, AI 에이전트의 실제 행동을 관리하는 ‘행동 중심 거버넌스(Behavioral Governance)’로 기업 보안 체계를 전환해야 한다고 제안했다.
이번 보고서는 최고정보보안책임자(CISO)를 대상으로 자율형 AI 에이전트가 기업 시스템과 상호작용하는 과정에서 발생하는 보안 위험을 분석했다. AI 모델의 취약점 탐지와 공격 실행 속도가 빨라지면서 기존의 사후 패치 중심 대응에도 변화가 필요하다고 지적했다.
보고서에 따르면 기업용 AI 챗봇 대화의 6% 이상에 개인식별정보(PII) 등 민감한 데이터가 포함돼 있었다. 이 가운데 47%는 기업의 모니터링 범위 밖에 있는 임직원 개인 계정을 통해 이뤄진 것으로 나타났다.
브라우저 환경에서도 보안 위험이 확인됐다. 기업 사용자의 40% 이상이 AI 기반 브라우저 확장 프로그램을 설치했으며, 이 중 25%는 설치 후 12개월 이내에 권한 설정을 변경했다. AI 확장 프로그램은 일반 확장 프로그램보다 알려진 보안 취약점(CVE)을 보유할 확률이 60% 높은 것으로 분석됐다.
아카마이 로고 (자료 제공: 아카마이)
AI 에이전트 행동 통제부터 엣지 보안까지…4대 대응 전략 제시
아카마이는 AI 에이전트가 여러 소프트웨어 시스템과 상호작용하도록 지원하는 모델 컨텍스트 프로토콜(MCP)에 대한 보안 가시성이 부족하다고 지적했다. 보안 책임자들이 향후 악성 AI 에이전트를 주요 위협으로 인식하면서도 MCP 관련 보안 관리는 우선순위에서 밀려 있다는 설명이다.
AI가 취약점을 찾아 공격에 활용하는 속도 역시 주요 위험으로 꼽았다. 보고서는 AI 모델이 여러 취약점을 빠르게 탐색하고 연쇄적으로 악용할 수 있어 시스템 패치가 완료되기 전에도 공격을 차단할 수 있는 실시간 엣지 보안 체계가 필요하다고 강조했다.
AI 에이전트가 소비자를 대신해 정보를 검색하고 구매 의사결정에 관여하는 변화도 다뤘다. 아카마이는 기업이 악성코드와 비정상 트래픽 차단뿐 아니라 AI 검색 환경에서 브랜드 정보의 정확성과 인용, 평판을 관리할 필요가 있다고 설명했다.
이에 따라 아카마이는 기업 보안 책임자를 위한 네 가지 대응 전략으로 적응형 엣지 거버넌스 구축, 브라우저 보안 강화, AI 검색 환경에서의 브랜드 신뢰도 보호, 검증 가능성에 따른 AI 에이전트 자율 권한 부여를 제시했다.
특히 AI 에이전트가 수행하는 작업의 위험도와 결과 검증 가능성, 실패 시 복구 용이성을 기준으로 권한을 차등 부여하고, 위험도가 높은 작업에는 사람의 승인 절차를 유지하도록 권고했다.
보아즈 겔보드(Boaz Gelbord) 아카마이 최고보안책임자는 “기업 내 AI 코드 작성 및 생산성 도구 활용, 고객 대상 제품과 클라우드 워크로드에 대한 AI 통합, 기업을 표적으로 하는 AI 기반 공격이라는 세 가지 위협이 동시에 발생하고 있다”며 “보안 프로그램도 급변하는 현실에 발맞춰 신속히 진화해야 한다”고 말했다.
스티브 윈터펠드(Steve Winterfeld) 아카마이 자문 CISO는 “자율형 AI가 단순한 질의응답을 넘어 다단계 비즈니스 전략을 실행하는 단계로 발전하면서 보안 리더십도 함께 변화해야 한다”고 강조했다.
아카마이의 SOTI 보고서는 글로벌 사이버 보안 인프라에서 수집한 데이터를 바탕으로 최신 보안 위협과 웹 환경의 변화를 분석하는 보고서로, 올해 발간 12년째를 맞았다.
The post 아카마이, 기업 AI 챗봇 대화 6%서 민감정보 확인…AI 에이전트 보안 관리 전환 제안 appeared first on 벤처스퀘어.