인공지능(AI) 인프라 경쟁이 반도체와 모델의 개별 성능을 넘어 전체 시스템의 통합 역량으로 확대되고 있다. 기업과 공공기관이 AI 서비스를 도입하려면 연산장치와 서버, 클라우드 플랫폼, AI 모델을 각각 확보하고 연동해야 하는데, 이 과정에서 구축 비용과 운영 복잡성이 발생한다. 특히 데이터 통제권과 기술 자립을 중시하는 소버린 AI 수요가 커지면서 국내 기술을 결합한 통합형 인프라에 대한 관심도 높아지고 있다. 오케스트로 클라우드와 퓨리오사AI, 업스테이지 등 국내 AI 기술기업 5개사가 국산 핵심 기술을 하나로 묶은 소버린 AI 인프라 개발에 나섰다.
클라우드 서비스 전문기업 오케스트로 클라우드는 지난 16일 퓨리오사AI, 업스테이지, 에스피케이인크(SPK), 대원씨티에스와 ‘NPU 기반 소버린 AI 풀스택 상품 공동 개발’을 위한 업무협약(MOU)을 체결했다. 이번 협약은 AI 반도체부터 대규모언어모델(LLM), 클라우드 플랫폼, 서버와 데이터센터 인프라까지 국내 기업들이 보유한 기술을 결합해 통합 AI 인프라 상품을 개발하고 공동 사업화를 추진하기 위해 마련됐다.
오케스트로 클라우드와 퓨리오사AI, 업스테이지, SPK, 대원씨티에스 관계자들이 지난 16일 ‘NPU 기반 소버린 AI 풀스택 상품 공동 개발’을 위한 업무협약을 체결하고 기념촬영을 하고 있다. (왼쪽부터) 퓨리오사AI 정영범 상무, 업스테이지 이재용 부문대표, 오케스트로 클라우드 박소아 대표이사, SPK 윤세현 SVP, 오케스트로 클라우드 박수환 대표이사, 대원씨티에스 최기남 부문대표 (사진 제공: 오케스트로 클라우드)
5개사가 개발할 제품은 ‘소버린 AI 풀스택 어플라이언스’다. AI 연산에 필요한 컴퓨팅 자원과 클라우드 인프라, 모델 추론, 시스템 운영·관리 기능을 하나의 환경에서 제공하는 통합형 상품이다.
기존에는 AI 서비스를 구축하기 위해 반도체와 서버, 클라우드 플랫폼, AI 모델 등을 개별적으로 도입하고 연동해야 했다. 이번 협력은 이러한 요소를 통합해 인프라 구축 과정을 간소화하고 운영 부담을 줄이는 데 초점을 맞췄다.
해외 GPU와 클라우드 기술에 대한 의존도를 낮추는 것도 주요 목표다. 국내 기술을 중심으로 AI 인프라를 구성해 공공기관과 기업이 자체 운영 환경에서 데이터와 시스템에 대한 통제권을 확보할 수 있도록 지원한다는 구상이다.
퓨리오사AI NPU·업스테이지 LLM 결합…구축부터 운영까지 통합
이번 협력에서 오케스트로 클라우드는 클라우드 플랫폼 제공과 통합 인프라 기술 검증을 총괄한다. 오케스트로의 서버 가상화 솔루션 ‘콘트라베이스(CONTRABASS)’와 Ceph 기반 소프트웨어 정의 스토리지(SDS)를 중심으로 AI 연산과 모델 추론을 연결하는 환경을 구축한다.
퓨리오사AI는 자체 개발한 신경망처리장치(NPU) ‘RNGD’를 제공한다. RNGD는 AI 모델 추론에 필요한 연산을 수행하는 반도체로, 이번 통합 상품의 핵심 컴퓨팅 자원으로 활용된다.
업스테이지는 자체 대규모언어모델 ‘솔라(SOLAR)’와 AI 모델 추론 기술을 지원한다. 이를 통해 국산 AI 반도체에서 국산 LLM을 실행하는 통합 환경을 구현할 계획이다.
하드웨어와 기반 인프라는 SPK와 대원씨티에스가 담당한다. SPK는 서버 인프라와 하드웨어 기술을 제공하고, 대원씨티에스는 데이터센터 및 네트워크 인프라를 맡는다.
오케스트로의 풀스택 AI 인프라 소프트웨어와 오케스트로 클라우드의 구축·운영 역량을 중심으로 각 기업의 기술을 결합해 AI 컴퓨팅부터 모델 추론, 인프라 관리까지 연결되는 상품을 개발하는 구조다.
5개사는 통합 상품 개발과 함께 구축 이후 운영 및 기술지원까지 제공하는 관리형 서비스(Managed Service)도 마련할 계획이다. 고객이 개별 솔루션의 연동과 유지보수를 직접 관리해야 하는 부담을 줄이고 AI 서비스 활용에 집중할 수 있도록 지원한다는 취지다.
사업화도 공동으로 추진한다. 공공기관과 민간기업을 대상으로 공동 영업과 마케팅, 개념검증(PoC), 벤치마크 테스트(BMT), 공동 제안 등을 진행하며 시장 수요를 확인할 예정이다.
오케스트로 클라우드는 이번 협약을 계기로 AI 인프라 구축뿐 아니라 운영·관리까지 포함하는 통합 서비스 사업을 확대한다는 전략이다. 다만 소버린 AI 풀스택 어플라이언스는 현재 공동 개발을 추진하는 단계로, 구체적인 상용화 일정이나 공급 계약은 발표되지 않았다.
박소아 오케스트로 클라우드 대표는 “AI 산업의 경쟁력은 개별 기술의 우수성을 넘어 이를 얼마나 완성도 높은 하나의 서비스로 구현하느냐에 달려 있다”며 “국내 AI 산업 각 분야의 핵심 기업들이 역량을 결집한 만큼, AI 컴퓨팅부터 모델 추론, 인프라 운영·관리까지 하나로 통합한 소버린 AI 풀스택 어플라이언스를 선보여 국내 AI 인프라 시장에 새로운 기준을 제시하겠다”고 말했다.
The post 오케스트로 클라우드·퓨리오사AI·업스테이지 등 5개사, 국산 AI 기술 결합한 통합 인프라 개발 appeared first on 벤처스퀘어.
