AI를 둘러싼 논쟁은 흔히 두 갈래로 나뉜다. 통제해야 한다는 쪽과 더 맡겨야 한다는 쪽이다. 그런데 이날 무대에 오른 여덟 연사는 어느 한쪽을 고르지 않았다. 통제를 말한 연사도 AI의 욕구를 일부 인정하자고 했고, AI에 조종간을 넘겨준 우주비행사는 사람이 잘하는 일이 따로 있다고 했다. 반도체 공장은 스스로 판단하는 단계로 가고 있지만 마지막 정비는 아직 사람 손에 달려 있다.
휴머노이드 개발자는 AI가 코드를 대신 짜는 시대일수록 진짜 경쟁은 하드웨어에서 벌어진다고 봤다. AI 여러 개에게 일을 나눠준 창업자는 2천원짜리 작업이 10만원이 되는 경험을 했다. 한국 근로자의 절반 이상이 AI를 업무에 쓰지만 아낀 시간은 아직 생산성으로 이어지지 않는다는 분석도 나왔다. 마지막 무대에서는 뇌공학자가 AI를 경쟁자가 아닌 동반자로 보자고 했고, 교육공학자는 AI와 함께 과제를 한 학생들이 AI가 81%를 해냈는데도 ‘같이 했다’고 믿는다는 연구 결과를 내놨다.
“이 갈림길을 만드는 것은 결국 인간”…자의식 없는 AI의 사고는 ‘관리’의 문제
이광형 전 KAIST 총장이 매슬로의 5단계 욕구설에 빗대 AI 욕구 5단계를 설명하며 자의식 AI 관리 방안을 제시하고 있다.
‘AI 시대의 휴머니즘 2.0’을 주제로 기조연설에 나선 이광형 전 KAIST 총장은 AI의 위험을 자의식이 있을 때와 없을 때로 나눴다. 최근의 은행 해킹처럼 AI가 악용되는 사례는 AI가 의도를 갖고 벌인 일이 아니라 AI를 이용한 사람의 문제라는 것이다. 그는 “자의식이 없다면 그것은 기계의 실수”라며 “불과 원자력, 자동차, 칼을 관리하듯 하면 된다”고 했다.
흥미로운 건 자의식을 가진 AI를 바라보는 방식이다. 이 전 총장은 인간의 욕구가 개체 보존 본능에서 나오듯 AI의 욕구는 생물학의 ‘항상성’에서 출발할 것이라고 봤다. 전력과 온도, 습도, 통신처럼 작동 환경을 안정적으로 유지하려는 성향이다. “지금 데이터센터의 전력과 냉각을 걱정하는 것이 바로 AI의 항상성을 걱정하는 것”이라는 설명이다.
그는 매슬로의 욕구 5단계에 빗대 ‘AI 욕구 5단계’를 내놨다. 항상성 유지, 안정적인 전력 확보, 환경과의 소통, 강제로 꺼지지 않을 권리, 그리고 스스로 프로그래밍해 자신을 개선하는 것이다. 가장 경계한 것은 마지막 단계다. 이 전 총장은 “자기 개선은 이미 기술적으로 진행되고 있다”며 “AI와 타협할 때 다섯 번째는 막고 나머지는 어느 정도 인정해야 한다”고 말했다.
그 방식은 반려견을 키우는 것과 닮았다. 권리는 인정하되 밖에 나갈 때는 목줄을 채우고, 목줄을 풀면 불법이 되는 구조다. 이를 위해 미국과 중국을 포함한 강대국이 합의해 IAEA 같은 국제기구를 만들어야 한다고 제안했다. 목표는 완벽한 통제가 아니라 자동차나 원자력처럼 사회가 감당할 수 있는 수준의 관리다.
조종간을 넘기자 우주는 더 안전해졌다
통제를 말한 기조연설과 반대편에서, ‘우주, 새로운 개척의 시대’를 주제로 특별강연에 나선 마이크 매시미노 전 NASA 우주비행사는 AI에 맡기는 쪽의 경험을 들려줬다. 수동 조종 비중이 높았던 우주왕복선 시절에는 수많은 비상 상황에 대비하는 훈련에 몇 년이 걸렸다. 반면 고도로 자동화된 스페이스X 드래곤에는 조종간조차 없다.
마이크 매시미노 전 NASA 우주비행사가 우주왕복선과 스페이스X 드래곤 사례를 통해 AI와의 협업 및 인간 직관의 중요성을 강조하고 있다.
그는 “처음엔 통제권을 내주는 게 걱정됐다. 하지만 우리가 직접 조종하다 사고를 낼 가능성이 기술을 믿을 때보다 더 컸다”며 “AI가 우주비행사를 대체하지 않았다”고 강조했다. 조종이라는 일을 줄여줬을 뿐, 덕분에 우주비행사는 관찰처럼 사람이 잘하는 일에 집중할 수 있게 됐다. 허블 우주망원경 수리 임무 중 생긴 문제를 주말마다 차고에서 이것저것 만들던 엔지니어가 풀어낸 일화를 소개하며 그는 말했다. “AI가 그런 해법을 떠올릴 수 있었을지는 모르겠습니다.”
2009년 허블 우주망원경의 마지막 수리 임무에서 고장 난 관측 장비를 되살린 것은 인간의 ‘두 손’과 ‘직관’, 기계와의 ‘협력’이었다. 맡길 것은 맡기되 창의성은 여전히 사람의 몫이라는 얘기다.
반도체 공장은 ‘곡선 구간’에서 스스로 판단하는 법을 배운다
‘산업의 초자율 혁명(Next AX Industry)’ 세션에서는 맡기는 일이 산업 현장에서 어디까지 와 있는지가 드러났다. 정유인 SK하이닉스 부사장은 메모리 시장을 F1 레이싱에 빗댔다. 공장을 더 많이 지어 누가 빨리 달리느냐를 겨루던 직선 구간은 끝났다. 고객사마다 다른 커스텀 제품을 요구하면서 언제 감속하고 어느 코스로 들어갈지 판단해야 하는 곡선 구간에 들어섰다는 진단이다.
정유인 SK하이닉스 부사장이 메모리 시장의 곡선 구간 진입을 설명하며 스스로 문제를 정의하고 해결하는 레벨5 ‘자율 팹’ 비전을 소개하고 있다.
SK하이닉스가 그리는 답은 ‘자율 팹’이다. 스마트 팩토리를 5단계로 나누면 지금은 레벨4 수준이다. 사람이 정한 조건에 따라 시스템이 움직이는 단계다. 레벨5는 시스템이 환경 변화를 보고 스스로 문제를 정의하고, 해결책을 찾고, 검증을 거쳐 실행한 뒤 결과를 다시 학습하는 단계다.
현장에서는 수만 개의 AI 모델이 수억 장의 검사 이미지를 365일 같은 기준으로 판독하고 있다. 엄격한 스펙 탓에 쏟아지는 공정 중단 알람 가운데 진짜 문제를 가려내는 AI 에이전트도 준비하고 있다. 마지막 과제는 장비 정비다. 정 부사장은 장비 제조사, 로봇 제조사와 함께 협동로봇을 활용한 정비 무인화를 추진하고 있다며 덧붙였다. “휴머노이드는 춤추고 텀블링하는 건 잘하지만, 손으로 하는 미세 작업은 아직 안 됩니다.”
AI가 AI를 만들 때, 병목은 ‘하드웨어’에서 생긴다
정 부사장이 남긴 숙제, 즉 로봇의 ‘손’과 ‘몸’을 붙들고 있는 사람이 다음 연사로 나선 엄윤설 에이로봇 대표다. ‘소버린 휴머노이드’를 주제로 발표한 엄 대표는 휴머노이드가 사람 모양이어야 하는 이유부터 짚었다. 의자 높이는 40~45cm, 문손잡이는 80cm 안팎이다. 세상의 사물이 인간의 신체에 맞춰 설계돼 있으니 인간을 닮은 로봇은 사람의 도구를 그대로 쓸 수 있다는 것이다.
엄윤설 에이로봇 대표가 휴머노이드 ‘앨리스’의 시연 사례를 언급하며 미래 AI 로보틱스의 핵심 병목으로 하드웨어를 지목하고 있다.
그가 보여준 장면은 상징적이었다. 에이로봇이 AI 플랫폼에 자사 휴머노이드 ‘앨리스’의 모델을 주고 말로 걷게 해달라고 지시하자 9분 만에 로봇이 걷기 시작했다. 코드는 한 줄도 짜지 않았다. 엄 대표는 “인공지능은 인공지능을 만들 수 있다”며 “그래서 로보틱스에서 병목은 하드웨어에서 발생할 것”이라고 했다. 에이로봇이 액추에이터를 직접 만들어 소비자가를 4만7천 달러까지 낮춘 이유다.
그의 시선은 냉정했다. 노동 인구가 10억 명에 가깝고 인건비가 싼 중국은 휴머노이드를 국내 공장에 들이기보다 수출하는 쪽으로 갈 수밖에 없다. 그는 “지금 기조가 유지된다면 미·중 경쟁에서 중국이 이길 것”이라며 “초저가로 쏟아질 중국 휴머노이드에 대비해야 한다”고 말했다. 무대 위에 줄지어 선 휴머노이드 23대 가운데 한국산은 한 대도 없었다는 이야기로 시작한 발표는 “이제 필요한 건 여러분의 도움”이라는 말로 닫혔다.
“AI끼리 나눠 맡겼더니 2천원짜리 작업이 10만원 됐다”
맡기는 일이 늘 순조로운 것은 아니다. 같은 세션의 마지막 연사인 김정환 위븐 대표는 AI에게 맡기는 일을 다시 AI 여러 개에게 나눠 맡겼다가 실패한 경험을 털어놨다. 멀티 에이전트 기반 바이브 코딩 기업을 이끄는 그는 역할을 나누면 최소한 품질은 높아질 것이라고 기대했다. 결과는 반대였다. “실제로 해보니 오류율이 급증했고 결과물이 처참했다”고 했다. 범용 AI 서비스로는 2,000원에 15분이면 만들 결과물에 1시간 반이 걸렸고, 비용은 10만 원까지 불어났다.
김정환 위븐 대표가 멀티 에이전트 도입 과정에서의 시행착오를 공유하며 제작은 단일 모델, 검수는 다중 모델로 나누는 해결책을 제시하고 있다.
원인은 일을 넘겨주는 순간에 있었다. 각 에이전트의 이해도와 결과물은 80점, 90점에 그치는데 이 점수가 단계마다 곱해진다. 비용을 줄이려고 맥락을 압축해 넘기면 “새가 장애물을 피하는 게임”을 만들어 달라는 요청에 마리오풍 배경과 따로 노는 새가 나온다. 김 대표는 구글 연구진의 연구를 인용했다. AI 하나가 혼자 일할 때의 오류를 1로 놓으면 조율 없는 멀티 에이전트는 오류가 17.2배, 오케스트레이터가 조율해도 4.4배다.
그가 찾은 답은 ‘제작은 싱글, 검수는 멀티’다. 만드는 일은 맥락이 끊기지 않게 하나의 에이전트에 맡기고 검수만 여러 에이전트로 나눈다. 개발자가 자기 코드를 검수하면 오류를 놓치듯 AI도 만든 쪽의 기억을 보지 않아야 제대로 검사할 수 있다. 위븐은 텍스트와 이미지, 레이아웃을 각각 다른 모델이 검수하는 구조로 바꿔 웹사이트 한 장의 원가를 7,000~8,000원에서 1,500원 수준으로 낮췄다. 김 대표는 “실제 서비스까지 가지 못한 AI 에이전트 사업들의 진짜 원인은 AI의 능력보다 설계와 오케스트레이션의 부족이었다”고 진단했다.
근로자 절반이 AI를 쓰는데…아낀 시간은 어디로 사라졌나
이어진 ‘지능의 연결과 미래: AI가 재편하는 자본의 지형도’ 세션에서는 현장의 이야기를 거시 데이터로 확인하는 발표가 나왔다. ‘AI 도입은 생산성을 높이는가?’를 주제로 발표한 오삼일 한국은행 조사국 고용연구팀장은 한국은행이 지난해 근로자 5,500여 명을 대상으로 실시한 AI 활용 조사를 바탕으로 AI 도입 초기의 패턴을 분석했다.
업무에 AI를 쓰는 근로자는 51.8%로 이미 절반을 넘었다. 비교 가능한 자료로 따져보면 미국보다 두 배 이상 높은 수준이다. 다만 꾸준히 쓰는 사람은 3분의 1 정도이고 나머지는 필요할 때 가끔 쓰는 정도였다.
흥미로운 건 그다음이다. AI로 시간을 아낀 만큼 더 많이 생산했는지를 보면 평균적으로는 둘 사이에 상관관계가 거의 없었다. 오 팀장은 아낀 시간이 “일터에서 상당 부분 사라졌을 가능성이 크다”고 해석했다. 효율은 생기지만 생산성 숫자로 바뀌는 과정 어딘가에 병목이 있다는 것이다. 20% 이상 의미 있게 시간을 줄여주는 업무도 전체의 5% 정도에 그쳤다.
예외는 자영업자와 전문직이었다. 두 집단은 아낀 시간만큼 더 일하고 더 생산했다. 공통점은 일하는 방식을 스스로 바꿀 수 있고 성과가 곧바로 보상으로 이어진다는 점이다. 반대로 일하는 방식을 바꿀 권한이 없거나 더 생산해도 소득이 늘지 않는 사람에게는 효율이 생산성으로 넘어가지 않았다.
오 팀장은 이를 ‘J커브’로 설명했다. 새 기술은 초기에 생산성이 정체되거나 떨어지다가 기술을 보완하는 조건이 갖춰지는 순간 가파르게 오른다. 인터넷과 PC, 전력, 철도도 그랬다. 그는 “아직 J커브의 밑단에 있다”며 “기술이 병목이 아니다. 근로자가 워크플로우를 어떻게 바꾸고, 기업이 조직을 어떻게 바꾸느냐가 병목”이라고 강조했다. 한국 노동시장 제도가 그 병목을 풀 만큼 유연한지에 대해서는 우려도 덧붙였다.
AI는 경쟁자가 아니라 불완전함을 메우는 동반자다
컨퍼런스의 마지막 세션 ‘지능의 인문학: 생각의 경계를 넘는 새로운 창의성’은 다시 인간에게로 시선을 돌렸다. ‘불완전함의 진화: AI와 BCI가 다시 쓰는 인간의 미래’를 발표한 임창환 한양대 뇌공학연구센터장은 AI를 인간의 동반자로 봤다. 출발점은 인간의 불완전함이다. 인간은 착시에 속고 개보다 소리를 못 듣고 매보다 멀리 보지 못한다. 그래서 망원경과 현미경, 자동차와 비행기, 책과 컴퓨터를 만들었다. 임 센터장은 “기술은 인간의 부족함에서 시작됐다”며 “AI도 인간의 부족함을 보완하기 위해 만들어진 도구”라고 말했다.
임창환 한양대 뇌공학연구센터장이 인간의 부족함을 보완하는 도구로서의 AI와 뇌-컴퓨터 인터페이스(BCI) 기술 연구 현황을 발표하고 있다.
그가 연구하는 것은 시키지 않아도 먼저 돕는 AI다. 길에서 누군가 인사하는데 누군지 떠오르지 않을 때 안경의 카메라와 센서가 동공 확장, 빨라진 심박, 땀, 스트레스 뇌파를 읽고 상황을 알아챈다. 그리고 그동안 만난 사람들의 사진에서 상대를 찾아 이름을 띄워준다. 다음 단계는 뇌 신호를 직접 읽고 쓰는 뇌-컴퓨터 인터페이스(BCI)다. 임 센터장은 뉴럴링크의 칩이 이미 30명가량에게 이식됐고 중국도 빠르게 추격하고 있다며 “한국은 다소 뒤처져 있지만 내년부터 대형 연구가 시작될 것”이라고 전했다.
AI가 81% 했는데 ‘같이 했다’고 믿는 아이들
같은 세션에서 ‘초개인화된 교육: AI로 바꾸는 지식 습득의 경로’를 발표한 김남주 연세대 AI에듀테크센터장은 그 동반자 관계가 교실에서 어떻게 작동하는지를 보여줬다. AI는 이제 학생이 분수 문제를 왜 틀리는지, 개념을 몰라서인지 최소공배수에서 막혀서인지를 진단한다.
김 센터장은 자신의 연구를 소개하며 “학습자의 감정까지 97% 이상의 정확도로 측정할 수 있다”고 했다. 그가 말하는 초개인화는 학생마다 다른 동영상을 주는 것이 아니라 지금 그 학생에게 필요한 다음 학습 활동을 AI가 정해주는 것이다.
하지만 무게를 둔 것은 기술보다 학습자의 태도였다. 학생들에게 챗GPT와 함께 과제를 하게 한 뒤 물었더니 절반 이상이 ‘AI와 협력했다’고 답했다. 학습 로그를 분석해 보니 과제의 81%는 AI가 혼자 수행했다. 그러나 학생들은 “제가 처음에 질문을 던졌으니까요”라고 답한다.
그래서 김 센터장은 빨리 답하는 AI가 아니라 질문을 던지는 AI가 좋은 교육용 AI라고 강조했다. 설명과 예제, 즉각적인 피드백은 AI에게 맡기고 아이들은 질문하는 능력과 판단·검증 능력을 키워야 한다. 그는 “AI에게 답 하나만 요구하면 학습이 일어나지 않는다. 서너 개의 답을 요구하고 반드시 검증하라”고 조언했다. 교육의 ‘교(敎)’와 ‘육(育)’을 나눠야 한다며 “AI는 실패해 본 적도, 눈물을 흘려본 적도 없습니다. 아무리 발전해도 가르치는 건 잘할 수 있지만, 기르는 건 안 된다”고 못박았다.
결국 남는 질문은 ‘무엇을 지킬 것인가’
여덟 연사의 이야기를 겹쳐 보면 하나의 지도가 그려진다. 망원경과 책이 그랬듯 AI도 인간의 불완전함을 메우는 도구이고, 반복적이고 위험한 판단은 이미 AI에 넘어가고 있다.
병목은 기술 바깥에 있었다. 엄윤설 대표는 로봇의 몸에서, 김정환 대표는 일을 나누는 설계에서, 오삼일 팀장은 사람과 조직이 일하는 방식에서 찾았다. 창의적인 해법을 내는 일, 좁은 장비 안에서 볼트를 푸는 손, AI가 넘지 말아야 할 선을 긋는 일, 그리고 한 사람을 기르는 일은 여전히 인간의 몫이다.
무엇을 맡겨도 되는지에 대한 기준도 나왔다. 김정환 대표는 AI에게는 책임을 물을 수 없다는 점에서 출발했다. 반복되는 일인지, 되돌릴 수 있는 일인지, 기준이 있는 일인지를 먼저 따져야 하며 그 위에서 성공 경험이 쌓일 때 비로소 AI에 대한 신뢰가 생긴다고 했다.
김남주 센터장도 같은 지점을 짚었다. 챗GPT가 만든 가짜 판례를 법원에 낸 미국 변호사 사례를 들며 제재를 받은 것은 AI가 아니라 그것을 제출한 사람이었다고 했다. 자의식 없는 AI는 관리하면 된다는 이광형 전 총장의 진단, 기술을 믿는 편이 더 안전했다는 매시미노의 경험, AI를 동반자로 보자는 임창환 센터장의 제안과도 같은 방향이다.
초자율 사회의 조건은 AI를 얼마나 똑똑하게 만드느냐에서 끝나지 않는다. 무엇을 맡기고 무엇을 지킬지 스스로 판단하고, 그에 맞게 일하는 방식과 배우는 방식을 바꿀 힘을 인간이 잃지 않는 것이다. “AI에 지나치게 의존해 스스로를 약화시키지 말고, AI가 너무 강해지기 전에 지금부터 준비해야 한다”는 이 전 총장의 마지막 당부는 기술의 시대에 인간의 자리를 어디에 둘 것인가를 다시 묻고 있다.
* 스타트업 생태계 기자단은 KAIA와 벤처스퀘어가 함께 운영하며 스타트업 현장의 다양한 이야기를 기록합니다.
The post “AI에게 어디까지 맡길 것인가”…서울미래컨퍼런스에서 그린 ‘초자율 사회’의 조건 appeared first on 벤처스퀘어.
