AI 기술이 급속도로 확산되면서 사이버 위협 역시 국경과 산업을 넘어 빠르게 진화하고 있다. 생성형 AI와 자동화 기술의 발전은 사이버 공격의 진입 장벽을 낮추고 딥페이크와 허위정보, 군사적 활용 등 새로운 안보 과제를 만들어내며 국제사회의 대응 방식을 바꾸고 있다.
이 같은 변화는 제21회 평화와 번영을 위한 제주포럼에서도 주요 의제로 다뤄졌다. ‘분열의 시대, 협력의 재구상(Reinventing Cooperation in a Fragmented World)’을 주제로 열린 올해 포럼에는 31개국 48개 기관이 참여해 187개 이상의 세션을 진행했으며, 반기문 전 유엔 사무총장을 비롯한 세계 각국의 인사들이 기후위기와 AI, 국제질서, 다자주의의 미래를 논의했다.
특히 ‘KU International Conference on Cybersecurity and Privacy(KU-ICCSP 2026)’에서는 ‘The AI-Cyber Nexus: Shared Challenges and Collective Responses(인공지능 사이버 넥서스: 인류의 공동과제와 대응전략)’를 주제로 세션이 열렸다. 르완다와 독일, 싱가포르, 유럽연합(EU), 에스토니아 주한대사를 비롯해 윤종권 외교부 국제사이버협력대사가 참석해 AI 시대 국제사회가 직면한 사이버 안보 위협과 공동 대응 방안을 논의했다.
사회를 맡은 최성주 고려대학교 교수는 “AI 시대 가장 시의적절한 논의”라고 이번 세션을 소개하며, AI 기반 사이버 공격이 국가와 기업, 개인 모두를 위협하는 현실에서 사이버 안보는 더 이상 기술만의 문제가 아니라 외교와 안보, 국제 협력 차원의 글로벌 의제가 됐다고 강조했다. 이어 AI의 군사적 활용이 확대되는 만큼 인간 중심의 AI 거버넌스 구축이 무엇보다 중요하다고 말했다.
제21회 제주포럼 ‘KU International Conference on Cybersecurity and Privacy(KU-ICCSP 2026)’에서 ‘The AI-Cyber Nexus: Shared Challenges and Collective Responses(인공지능 사이버 넥서스: 인류의 공동과제와 대응전략)’ 세션이 진행되고 있다.
사이버 보안은 비용이 아니라 미래를 위한 투자
첫 발표자로 나선 은쿠비토 만지 바쿠라무차(Nkubito Manzi Bakuramutsa) 주한 르완다 대사는 아프리카의 디지털 전환 사례를 소개하며 사이버 보안은 단순한 기술 보호를 넘어 국가 발전과 경제 성장의 핵심 기반이라고 강조했다.
그는 르완다가 디지털 정부와 디지털 신원체계, 전자정부, 모바일 결제 시스템 등을 구축하며 아프리카의 디지털 전환을 선도하고 있다고 설명했다. 이어 안전한 디지털 인프라를 구축하기 위해서는 사이버 보안이 반드시 함께 뒷받침돼야 한다고 말했다.
또한 아프리카연합(AU)의 대표적인 사이버 거버넌스 체계인 ‘말라보 협약(Malabo Convention)’을 소개하며 데이터 보호와 개인정보 보호, 사이버 범죄 대응, 전자거래 등 디지털 사회 전환을 위한 공통 기준을 마련한 대표 사례라고 평가했다.
바쿠라무차 대사는 젊은 인구를 아프리카의 가장 큰 경쟁력으로 꼽으며 전문 인력 양성과 사이버 보안 교육의 중요성을 강조했다. AI 확산과 함께 딥페이크와 허위정보, 사이버 범죄도 빠르게 증가하고 있다며 “사이버 보안은 비용이 아니라 미래를 위한 투자”라고 말했다.
“디지털 경제 시대의 경쟁력은 안전한 디지털 환경을 구축하고 이를 이끌 전문 인재를 얼마나 확보하느냐에 달려 있습니다.”
제21회 제주포럼 ‘KU International Conference on Cybersecurity and Privacy(KU-ICCSP 2026)’에서 ‘The AI-Cyber Nexus: Shared Challenges and Collective Responses’를 주제로 각국 대사와 정부 관계자들이 AI 시대 사이버 안보와 국제 협력 방안을 논의했다.
“AI 시대, 국제 규범 없이는 대응할 수 없다”
AI가 사이버 위협을 빠르게 진화시키는 만큼 이를 뒷받침할 국제 규범도 함께 발전해야 한다는 목소리도 이어졌다.
게오르크 빌프리트 슈미트(Georg Wilfried Schmidt) 주한 독일대사는 AI의 발전이 국제 안보 질서를 근본적으로 변화시키고 있다며 기술 발전 속도에 걸맞은 국제 규범 마련이 시급하다고 강조했다. 그는 AI 기술이 사이버 공격은 물론 군사 분야까지 빠르게 확산되면서 기존 국제법만으로는 새로운 위협에 대응하기 어려운 상황이라고 진단했다.
특히 AI는 사이버 공격의 진입 장벽을 크게 낮추고 있다고 우려했다. 과거에는 국가 수준의 역량이 필요했던 공격이 이제는 비국가 행위자나 범죄 조직도 수행할 수 있게 되면서 국가 안보를 넘어 국제사회 전체의 위협으로 확대되고 있다는 설명이다.
슈미트 대사는 자율무기와 AI 기반 군사 시스템에 대해서도 인간의 통제가 반드시 유지돼야 한다고 강조했다. ‘Human in the Loop(인간이 최종 결정)’와 ‘Human on the Loop(인간이 감독)’ 원칙은 지켜져야 하며, 인간의 개입 없이 AI가 치명적인 결정을 내리는 ‘Human out of the Loop’는 국제사회가 가장 경계해야 할 영역이라고 설명했다.
“AI와 사이버 안보는 어느 한 국가가 홀로 해결할 수 있는 문제가 아닙니다. 비극이 발생한 뒤 대응하는 것은 이미 늦습니다. 지금이야말로 국제사회가 함께 행동하고 AI 시대에 걸맞은 국제 규범을 마련해야 할 때입니다.”
생성형 AI가 바꾼 위협…기술만으로는 막을 수 없다
독일이 국제 규범의 필요성을 강조했다면, 싱가포르와 유럽연합(EU)은 이미 현실이 된 AI 기반 사이버 위협에 어떻게 대응할 것인지에 초점을 맞췄다.
윙카이쥔(Wong Kai Jiun) 주한 싱가포르 대사는 생성형 AI가 사이버 범죄의 양상을 근본적으로 바꾸고 있다고 진단했다. AI를 활용한 피싱과 온라인 사기, 자동화 공격이 빠르게 확산되고 있으며, 생성형 AI와 에이전트형 AI는 범죄의 수익성과 효율성을 높이는 도구로 악용되고 있다는 것이다.
과거에는 전문 기술이 필요했던 공격도 이제는 AI를 활용해 누구나 정교한 피싱 메시지와 허위정보, 악성 콘텐츠를 대량으로 생성할 수 있는 시대가 됐다. 그는 AI 시대의 사이버 안보는 기술만으로 해결할 수 없는 문제라며 국가 간 협력과 정책, 교육, 공동 훈련이 함께 이뤄져야 한다고 강조했다.
싱가포르는 이러한 문제의식 아래 2016년부터 ASEAN 회원국들과 사이버 보안 역량 강화 프로그램을 운영하며 정책 수립과 기술 교육, 공동 훈련 등을 지원하고 있다.
“사이버 안보는 더 이상 기술만의 문제가 아닙니다. 정책과 외교, 교육, 훈련이 함께하는 종합적인 접근이 필요합니다.”
이 같은 흐름은 유럽연합(EU)의 AI 정책에서도 확인된다. 우고 아스투토(Ugo Astuto) 주한 유럽연합(EU) 대사는 세계 최초의 포괄적 AI 규제인 ‘EU AI Act’를 소개하며, AI 산업 경쟁력을 높이는 동시에 국민의 안전과 기본권을 보호하기 위한 위험 기반(Risk-based) 접근법을 추진하고 있다고 설명했다.
그는 AI 연구개발과 슈퍼컴퓨팅 인프라, 반도체 투자 등 혁신 생태계를 확대하는 한편, 새로운 AI 모델에 대한 안전성 평가와 책임 있는 활용 원칙도 함께 마련하고 있다고 소개했다. 기술 경쟁력과 안전은 서로 충돌하는 가치가 아니라 함께 확보해야 하는 목표라는 설명이다. 이어 “유럽연합은 AI 강국이 되는 것뿐 아니라 가장 신뢰받는 AI 생태계를 만드는 것을 목표로 하고 있다”며, AI 시대에는 혁신과 규제가 대립하는 것이 아니라 함께 발전해야 한다고 강조했다.
제21회 제주포럼 ‘KU International Conference on Cybersecurity and Privacy(KU-ICCSP 2026)’ 세션에 참석한 연사들이 기념촬영을 하고 있다.
AI는 인간을 대신해 생명을 결정해서는 안 된다
세션 후반부에서는 AI 시대 국제법과 군사 AI의 책임 있는 활용에 대한 논의가 이어졌다. 발표자들은 AI 기술이 빠르게 발전하더라도 인간의 판단과 책임은 결코 대체되어서는 안 된다는 점을 공통적으로 강조했다.
타넬 셉(Tanel Sepp) 주한 에스토니아 대사는 AI 시대에도 기존 국제법은 사이버 공간에 그대로 적용돼야 하며, 새로운 규범을 만드는 것만큼 기존 국제법을 충실히 이행하는 것이 중요하다고 말했다. 또한 국제 전문가들과 함께 개발한 ‘탈린 매뉴얼(Tallinn Manual)’을 소개하며 AI 시대에도 국제법과 행동 규범을 지속적으로 발전시키고 국가 간 신뢰를 기반으로 협력 체계를 강화해야 한다고 강조했다. 새로운 기술이 등장했다고 해서 기존 국제법이 무력화되는 것이 아니라, 이를 AI 환경에 맞게 발전시키고 충실히 적용하는 노력이 우선돼야 한다는 설명이다.
윤종권 외교부 국제사이버협력대사는 AI 기술이 군사 분야 전반으로 빠르게 확산되면서 치명적 자율무기(LAWS)를 비롯한 책임 있는 군사 AI 활용 원칙에 대한 국제사회의 논의가 본격화되고 있다고 설명했다. AI가 군사 작전의 효율성을 높이는 동시에 새로운 안보·윤리 과제를 제기하는 만큼, 국제사회가 공통의 기준을 마련하는 것이 중요하다는 것이다. 특히 인간의 생명과 직결되는 최종 결정은 반드시 사람이 내려야 하며, AI가 인간의 통제를 벗어나 스스로 치명적인 결정을 내리는 것은 국제사회가 가장 경계해야 할 영역이라고 강조했다.
약 90분간 이어진 이번 세션에서 국가별 정책과 접근 방식에는 차이가 있었지만 참석자들이 공통적으로 전한 메시지는 명확했다. AI는 이미 사이버 위협의 양상을 근본적으로 변화시키고 있으며, 더 이상 특정 국가나 특정 산업만의 문제가 아니라 국제사회가 함께 해결해야 할 공동 과제가 됐다는 것이다.
발표자들은 AI 기반 사이버 위협에 대응하기 위해서는 국제법과 행동 규범 마련, 국가 간 정보 공유, 전문 인력 양성, 국제 협력 체계 구축이 무엇보다 중요하다고 입을 모았다. 또한 AI는 인간의 판단을 보조하는 기술이어야 하며, 생명과 직결되는 의사결정을 AI에 맡겨서는 안 된다는 인간 중심 원칙에도 공감대를 형성했다.
이번 KU International Conference on Cybersecurity and Privacy는 AI와 사이버 안보를 하나의 글로벌 의제로 조명하며 기술 경쟁을 넘어 국제 협력과 공동 거버넌스의 중요성을 다시 한번 확인한 자리였다.
스타트업 생태계에도 시사점은 분명하다. AI 기술 경쟁이 치열해질수록 경쟁력은 단순히 더 뛰어난 모델을 만드는 데 있지 않다. 보안과 신뢰, 책임 있는 AI 설계, 그리고 글로벌 규범을 얼마나 제품과 서비스에 반영하느냐가 앞으로 AI 기업의 경쟁력을 결정하는 중요한 요소가 될 가능성이 커지고 있다.
* 스타트업 생태계 기자단은 KAIA와 벤처스퀘어가 함께 운영하며 스타트업 현장의 다양한 이야기를 기록합니다.
The post AI가 만든 사이버 위협, 국경을 넘었다…”협력 없이는 막을 수 없다” appeared first on 벤처스퀘어.
