생성형 AI의 활용이 확대되면서 대규모 언어 모델(LLM)을 실제 서비스 환경에서 효율적으로 구동하는 기술의 중요성이 커지고 있다. 모델의 성능 향상과 함께 추론 과정에서 발생하는 전력 소비와 운영 비용, 데이터 처리 효율이 AI 인프라의 주요 경쟁 요소로 떠올랐다. AI 반도체 기업들도 범용 연산 성능뿐 아니라 LLM 추론에 최적화된 독자적인 반도체 구조 개발에 나서고 있다. 이러한 기술을 개발해 온 하이퍼엑셀의 김주영 대표가 국내 AI 산업의 주요 인물로 선정됐다.
AI 반도체 팹리스 스타트업 하이퍼엑셀(HyperAccel)은 김주영 대표가 MIT 테크놀로지 리뷰 코리아의 ‘THE AI 30: 한국 AI의 미래를 바꾸는 30인’에 선정됐다고 밝혔다.
MIT 테크놀로지 리뷰 코리아가 선정한 ‘THE AI 30: 한국 AI의 미래를 바꾸는 30인’에 이름을 올린 김주영 하이퍼엑셀 대표 (사진 제공: 하이퍼엑셀)
‘THE AI 30’은 AI 모델 개발과 반도체, 로보틱스, 산업 응용 등 다양한 분야에서 한국 AI 산업의 발전에 기여한 인물 30인을 선정하는 연간 기획이다. 최근 1년간 확인된 연구·기술·사업 성과를 바탕으로 산업의 변화를 이끈 인물을 조명한다.
김주영 대표는 대규모 언어 모델 추론에 특화된 AI 반도체 LPU(LLM Processing Unit) 개발을 주도해 왔다. 하이퍼엑셀은 AI 모델을 학습시키는 과정과 실제 서비스에서 이용자의 요청을 처리하는 추론 과정의 특성이 다르다는 점에 주목하고, LLM 추론에 최적화된 반도체 아키텍처를 개발하고 있다.
LPDDR5X 기반 LPU 개발…데이터센터에서 온디바이스 AI까지
하이퍼엑셀은 2023년 KAIST 김주영 교수가 설립한 AI 반도체 팹리스 스타트업이다. 자체 설계한 LPU 아키텍처를 기반으로 LLM 추론 과정의 처리 효율을 높이고 전력 소비와 운영 비용을 줄이는 기술을 개발하고 있다.
핵심 기술 가운데 하나는 LPDDR5X 메모리를 활용한 독자적인 반도체 설계다. LPDDR5X는 저전력 특성을 갖춘 메모리 규격으로, 하이퍼엑셀은 이를 기반으로 AI 추론 과정에서 발생하는 데이터 처리 부담과 전력 소비를 줄이는 데 주력하고 있다.
회사는 AI 반도체의 성능을 평가할 때 단순 연산 속도뿐 아니라 비용과 전력 대비 얼마나 많은 토큰을 처리할 수 있는지가 중요하다고 보고 있다. LLM 서비스의 이용량이 증가할수록 추론에 필요한 연산 자원과 전력 비용도 함께 늘어나는 만큼, 토큰 처리 효율을 높이는 반도체 기술을 경쟁력으로 확보한다는 전략이다.
주요 제품으로는 데이터센터와 엔터프라이즈 환경을 위한 AI 가속기 ‘Bertha’와 온디바이스 AI용 ‘Bertha-Edge’가 있다. 하이퍼엑셀은 데이터센터용 LPU 제품 개발을 추진하는 동시에 향후 엣지 디바이스와 피지컬 AI 분야로 적용 범위를 확대할 방침이다.
연구개발 성과도 이어지고 있다. 하이퍼엑셀은 2025년 IEEE Micro 최우수 논문에 선정됐으며, 대만 ICT Grand Challenge에서 AI 코어 기술·칩 부문을 수상했다. 2026년에는 정보통신유공 정부포상 포장과 월드IT쇼(WIS) 혁신상 부총리상을 받았고, 포브스 아시아의 ‘100 To Watch’에도 이름을 올렸다.
투자유치와 해외 사업 확대도 추진하고 있다. 하이퍼엑셀은 현재 시리즈B 투자유치를 진행 중이며, 회사가 밝힌 누적 투자유치액은 2100억원이다. 서울 본사와 미국 실리콘밸리 거점을 기반으로 글로벌 AI 반도체 시장 진출을 추진하고 있다.
김주영 대표는 “AI 산업의 경쟁은 모델의 성능을 넘어 이를 얼마나 효율적으로 운영하고 실제 산업에 적용할 수 있는지로 확장되고 있다”며 “하이퍼엑셀은 LLM 추론에 특화된 반도체 기술로 AI 인프라의 비용과 전력 효율을 높이고, 더 많은 기업이 AI를 효율적으로 활용할 수 있도록 기여하겠다”고 말했다.
The post 하이퍼엑셀 김주영 대표, MIT 테크놀로지 리뷰 코리아 ‘한국 AI의 미래를 바꾸는 30인’ 선정 appeared first on 벤처스퀘어.
