생성형 인공지능(AI)의 활용이 확대되면서 AI 인프라의 성능을 좌우하는 요소도 달라지고 있다. AI 모델이 처리해야 할 데이터가 증가하면서 연산 성능뿐 아니라 메모리 용량과 데이터 이동에 따른 지연, 전력 소모가 중요한 과제로 떠올랐다. 특히 AI 추론 과정에서 이전에 처리한 정보를 재사용하거나 외부 데이터에서 필요한 정보를 검색할 때 발생하는 메모리 병목을 줄이는 기술에 관심이 쏠리고 있다. 반도체 팹리스 기업 엑시나는 메모리를 여러 서버가 공유하고 데이터가 저장된 위치에서 연산을 수행하는 기술을 통해 이러한 문제에 대응하고 있다.
AI 메모리 인프라 기업 엑시나(XCENA·대표 김진영)는 지난 12일부터 15일까지 미국 캘리포니아주 산호세 컨벤션센터에서 열린 ‘OCP 글로벌 서밋 2026(OCP Global Summit 2026)’에 참가해 CXL 기반 메모리 솔루션 ‘MX1’을 활용한 AI 추론 기술을 선보였다.
지난 12일부터 15일까지 미국 캘리포니아주 산호세 컨벤션센터에서 열린 ‘OCP 글로벌 서밋 2026’에 마련된 엑시나 전시 부스. 엑시나는 CXL 기반 메모리 솔루션 ‘MX1’을 활용한 AI 추론 기술을 시연했다. (사진=엑시나)
OCP 글로벌 서밋은 글로벌 클라우드·데이터센터·반도체 기업과 기술 전문가들이 차세대 컴퓨팅 인프라의 기술과 표준을 논의하는 행사다. 엑시나는 이번 행사에서 AI 추론 환경의 메모리 활용 효율을 높이고 데이터 이동 부담을 줄이는 두 가지 기술을 시연했다.
첫 번째는 CXL(Compute Express Link) 메모리 풀을 활용한 KV 캐시 공유 기술이다. KV 캐시는 AI 모델이 앞서 처리한 정보를 저장했다가 답변을 생성할 때 재사용하는 데이터다. 일반적으로 서버마다 별도로 저장하는 KV 캐시를 공용 메모리 공간에 보관하고 여러 AI 추론 서버가 함께 활용하도록 구성했다. 이를 통해 중복 저장과 서버 간 데이터 이동에 따른 부담을 줄이는 것이 목표다.
두 번째는 데이터 인접 프로세싱(Near-Data Processing, NDP)을 활용한 검색증강생성(RAG) 벡터 검색 가속 기술이다. RAG는 AI 모델이 외부 데이터에서 관련 정보를 검색해 답변 생성에 활용하는 방식이다. 엑시나는 대규모 데이터를 호스트 프로세서로 반복해서 옮기는 대신 데이터가 저장된 메모리 가까이에서 검색 연산을 수행하는 구조를 시연했다.
두 기술 모두 AI 추론 과정에서 메모리와 연산장치 사이에 발생하는 데이터 이동을 줄이는 데 초점을 맞췄다. 엑시나는 이를 통해 메모리 활용 효율과 AI 인프라의 성능을 높이고 지연 시간 및 전력 소모를 줄이는 기술을 개발하고 있다.
SK하이닉스와 하이브리드 메모리 검증…글로벌 기업과 기술 협력
엑시나는 SK하이닉스와 CXL 하이브리드 메모리 아키텍처를 AI 워크로드에 적용하기 위한 기술 협력을 진행하고 있다. 양사는 MX1의 SSD 기반 메모리 확장 기능인 ‘인피니트메모리(InfiniteMemory)’를 활용해 기존 CMM-D 대비 메모리 용량 확장성을 높이면서 SSD보다 나은 성능을 구현할 수 있음을 확인했다고 설명했다.
현재 양사는 해당 기술을 실제 AI 서빙 환경에 적용할 수 있는지 검증하고 있다. SK하이닉스는 이번 행사에서 MX1 칩을 활용한 ‘CXL 하이브리드 메모리(Hybrid Memory)’와 RDMA(Remote Direct Memory Access) 기반 아키텍처를 공개했다. RDMA는 서버 간 데이터를 주고받을 때 중앙처리장치(CPU)의 개입을 줄여 메모리에 직접 접근하도록 지원하는 기술이다.
엑시나는 전시 외에도 글로벌 반도체·클라우드 기업들과 차세대 메모리 기술을 논의했다. 김주현 엑시나 최고제품책임자(CPO)는 14일 ‘데이터 인접 연산을 위한 범용 병렬 프로그래밍’을 주제로 발표하고, 마벨(Marvell)·삼성전자·SK하이닉스·고트브라스 테크놀로지스와 함께 이기종 AI 인프라를 위한 오픈 미들웨어 패널 토론에 참여했다.
15일에는 삼성전자와 ‘에이전틱 AI를 위한 분리형 CXL 메모리 아키텍처’를 공동 발표했다. 동적 메모리 풀링과 공유, PNM(Processing Near Memory) 오프로딩을 통해 에이전틱 AI 환경에서 증가하는 메모리 수요에 대응하는 방안을 다뤘다.
그랜트 맥키(Grant Mackey) 엑시나 수석 엔지니어는 같은 날 마이크로소프트·씨게이트·메타 관계자들과 함께 OCP의 컴포저블 메모리 시스템(CMS) 서브프로젝트 기술 업데이트 세션에 참여했다. 이 자리에서는 AI 및 범용 컴퓨팅 환경에서 증가하는 메모리 용량과 대역폭 요구에 대응하기 위한 기술 개발 현황과 향후 방향을 공유했다.
엑시나는 삼성전자와 SK하이닉스 출신 반도체 설계 전문가들이 설립한 팹리스 기업으로, 판교에 본사를 두고 미국 실리콘밸리에 법인을 운영하고 있다. CXL 기반 메모리 하드웨어와 소프트웨어 개발도구(SDK)를 함께 개발하며 클라우드 사업자와 데이터센터 운영기업 등을 대상으로 메모리 인프라 기술을 제공하고 있다.
회사는 시리즈 B 투자 2018억원을 포함해 현재까지 약 2800억원의 누적 투자를 유치했다. 확보한 자금을 바탕으로 메모리 확장과 데이터 인접 연산 기술을 고도화하고 AI 인프라 시장에서 사업화를 추진하고 있다.
김진영 엑시나 대표는 “AI 인프라의 성능과 효율을 높이기 위해서는 연산 성능뿐 아니라 메모리를 얼마나 효율적으로 활용하고 데이터 이동을 줄이느냐가 중요하다”며 “이번 행사에서 MX1이 실제 AI 워크로드에서 어떻게 활용될 수 있는지 보여줬으며, 앞으로도 생태계 전반의 파트너들과 협력해 차세대 AI 메모리 인프라를 발전시켜 나가겠다”고 말했다.
The post 엑시나, SK하이닉스와 AI 메모리 기술 협력…‘OCP 글로벌 서밋’서 CXL 기반 추론 솔루션 공개 appeared first on 벤처스퀘어.
