SKT, 엔비디아·리벨리온과 소버린 AI 구축…GPU·NPU 통합 시스템 개발

[비욘드포스트 신용승 기자] SK텔레콤(SKT)이 엔비디아·리벨리온과 손잡고 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 하나로 결합한 시스템을 개발해 한국형 소버린 인공지능(AI) 인프라 구축에 나선다.

9일 SK텔레콤은 서울 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 GPU·NPU 통합 시스템 개발 업무협약(MOU)을 체결했다고 밝혔다.
3사는 엔비디아의 'NVLink Fusion' 기술을 활용해 리벨리온이 개발 중인 NPU 'Rebel R200'을 엔비디아 플랫폼에 연결한다. 여기에 엔비디아의 서버 랙 표준 설계 규격인 MGX를 적용해 서버 랙 단위의 GPU·NPU 통합 시스템을 개발할 계획이다.

NVLink Fusion은 엔비디아 GPU 간 데이터를 빠르게 주고받는 NVLink 기술을 다른 기업이 개발한 AI 반도체에도 활용할 수 있도록 확장한 기술이다.

3사는 통합 시스템에 AI 추론 작업을 서로 다른 반도체가 나눠 맡는 '분리형 추론' 방식을 적용한다.
AI 추론 과정에서 사용자의 질문을 분석하는 '프리필(Prefill)' 단계는 연산량이 많아 고성능 GPU가 유리하다. 반면 답변을 한 단어씩 생성하는 '디코드(Decode)' 단계는 계산능력보다 필요한 데이터를 빠르게 불러오는 메모리 접근 성능이 중요하다.

이에 따라 엔비디아 GPU가 프리필 단계를 맡고 리벨리온 NPU가 디코드 단계를 처리하도록 설계해 AI 추론 속도와 전력 효율을 함께 높이는 것이 목표다.

최근 에이전틱 AI 확산으로 추론 요청이 늘면서 AI 데이터센터의 처리 성능뿐 아니라 전력 효율과 운영비용 경쟁력도 중요해지고 있다는 게 SKT의 설명이다.

SKT는 AI 데이터센터 구축·운영 경험을 바탕으로 통합 시스템을 실제 AI 데이터센터에 도입해 성능과 안정성을 실증하고 서비스 활용과 상용화 가능성을 검토한다.

향후 독자 AI 모델 'A.X K2'와 대국민 AI 서비스 '모두의 AI'까지 연결해 인프라부터 모델·서비스를 아우르는 풀스택 소버린 AI 체계를 구축할 계획이다.

3사는 과학기술정보통신부의 소버린 AI 및 국산 AI 반도체 육성 정책에 맞춰 한국형 소버린 AI 인프라 구축 사례를 확보하고 국내 공공·민간 분야에서 활용할 수 있는 서비스 기반도 마련하기로 했다.

SKT 정석근 CTO 겸 AI CIC장은 "이번 협력은 엔비디아 GPU와 리벨리온 NPU의 강점을 결합해 추론 성능과 전력 효율을 높일 수 있는 한국형 소버린 AI 인프라의 가능성을 검증하는 데 의미가 있다"며 "SKT는 AI DC 구축·운영 경험과 독자 AI 모델 A.X K2, '모두의 AI' 같은 대국민 서비스 역량을 바탕으로 풀스택 소버린 AI 경쟁력을 강화하고, 공공과 민간이 실제로 활용할 수 있는 소버린 AI 인프라 생태계를 만들어 가겠다"고 밝혔다.

엔비디아 아쉬시 카란디카르 NVLink Fusion 부문 부사장은 "한국은 세계적인 반도체 기술력과 우수한 인재를 바탕으로 소버린 AI를 선도할 잠재력을 갖추고 있다"며 "엔비디아는 과기정통부, SKT, 리벨리온과의 협력을 통해 한국의 소버린 AI 역량을 강화하고 차세대 AI 컴퓨팅 생태계 구축에 기여하겠다"고 말했다.

리벨리온 박성현 대표는 "한국의 AI 반도체와 모델을 글로벌 기술과 결합해 대한민국의 소버린 AI 생태계를 확장하는 중요한 전환점"이라며 "엔비디아, SKT와 차세대 AI 인프라를 함께 설계하고 한국이 만든 기술이 세계의 AI를 움직이는 핵심 축으로 성장하도록 하겠다"고 말했다.

신용승 기자 credit_v@beyondpost.co.kr