우리나라는 엔비디아로부터 2030년까지 총 26만장의 GPU를 공급받을 예정이다.

 

먼저 SK텔레콤은 엔비디아 블랙웰 GPU 도입을 공식화하고, AI 모델 개발 및 GPUaaS(GPU as a Serivce) 사업에 활용할 계획이다. 또 KT는 5G SA(Stand Alone) 전국망을 기반으로 공공 AI 인프라 구축에 참여할 가능성이 높고, LG유플러스는 기존 LTE와 5G 기반에서 새로운 인프라 개선이 필요한 상황이다.

 

이처럼 통신업계는 확보되는 GPU를 활용해 AI 기반 네트워크 최적화, 6G 시뮬레이션, 엣지 컴퓨팅, 디지털 트윈 설계 등 기업 가치에 부합하는 다양한 혁신이 진행 중이다.

 

특히 엔비디아의 DOCA 및 옴니버스 플랫폼은 네트워크 가속화와 도시 내 통신망 최적화에 기여하고 있다. 이에 SK텔레콤은 글로벌 통신사들과 협력해 엣지 AI 서비스 개발에 나서는 등 새로운 움직임에 물꼬를 트고 있어 GPU는 6G 시대 핵심 인프라로 자리매김할 전망이다.

 

◇S KT·KT·LGU+, GPU로 AI 미래 새 장 열어

정부는 현실이 된 AI 경쟁력 확보, 산업 육성·수출, 공급망·안보 대응, 연구·인프라 확충, 전력·반도체·메모리 등 세계적인 산업의 경쟁력으로 GPU 확보에 열을 올리고 있다.

 

GPU는 다양한 측면에서 필수 요소로 꼽히고 있다. 먼저 ‘AI 경쟁력 확보’다. 대형 언어모델(LLM)과 생성형 AI의 학습·추론에 막대한 연산자원이 필요하다. 자국 내 연구·서비스를 빠르게 확장하기 위해선 GPU 대량 확보가 필수적이다. 특히 통신사는 단순히 통신·네트워크 서비스를 넘어 AI, 커머스, 글로벌 협력 등 신사업으로 확장을 꾀하고자 GPU를 통한 역량 강화에 나서고 있다.

두 번째는 ‘인프라·연구·생산 기반 확충’이다. 단순 GPU 확보뿐 아니라 HBM(High Bandwidth Memory, 고대역폭 메모리), 데이터센터 전력·냉각·운영 능력, AI 전용 장비·인력 양성 등 연계 투자도 필요하다. 통신사는 AI·클라우드 전환 수요에 대응해 데이터센터 인프라를 대규모로 확장하고 있는데, 올해 기준 통신3사의 데이터센터 전력 용량은 총 459MW를 넘어섰다. 이런 상태라면 오는 2028년에 600MW를 돌파할 것으로 전망된다.

세 번째는 ‘전력·운영·실행 비용 문제’다. GPU 운영에는 전력·냉각 요건 등 운영비가 드는 만큼 전력 인프라와 에너지 비용, ESS·데이터센터 설계 문제 등을 해결해야 한다.

우리나라는 2030년까지 GPU 26만장을 순차적으로 공급받기로 했다. 각 통신사가 배급받는 물량에 대한 공식적인 언급은 없지만, 통신사별로 GPU 확보를 위해 노력하고 있는 것으로 감지된다.

 

SK텔레콤은 올해 3월에 블랙웰 GPU 도입을 공식화했다. 올 2~3분기부터 본격적으로 활용할 것으로 예상되는 부분이다. SKT는 GPU를 활용헤 자체 AI 모델 개발과 함께 GPUaaS 사업에 활용할 것으로 예상된다. 또 전국망을 유일하게 구축한 KT는 5G SA(Stand Alone, 4G나 LTE 사용 없이 5G 단독사용) 는 GPU 도입에 따른 AI 인프라 활용 등 유리한 조건을 갖췄다는 평가다. 이에 KT도 엔비디아 블랙웰 GPU 도입을 검토 중이며, 정부와의 협력으로 공공 AI 인프라 구축에도 참여할 가능성이 높다.

LG유플러스는 현재 5G와 LTE를 함께 사용하는 5G NSA(비단독모드, Non-Standalone) 방식을 유지하고 있다. 아직 GPU 확보와 관련된 구체적인 언급은 없으나, AI 서비스 고도화를 위해 인프라 개선이 필요할 것으로 보인다.

 

 

◇ AI·GPU로 진화하는 통신 인프라, 6G 시대의 선도자

통신 분야는 GPU를 활용해 AI 기반 네트워크 최적화, 6G 서비스 개발, 엣지 컴퓨팅 등 다양한 파트별 혁신을 추진 중이다. 특히 소프트웨어 정의 네트워크(SDN)와 디지털 트윈 기술을 통해 차세대 통신 인프라를 가속하고 있다.

첫 번째로 ‘AI 기반 네트워크 최적화’다. 엔비디아의 GPU는 대규모 데이터 처리와 실시간 분석에 강점이 있는 만큼 통신망 트래픽을 예측하고 장애 감지, 자동 복구 등에 활용될 것으로 보인다. 특히 엔비디아의 DOCA(NVIDIA BlueField DPU와 SuperNIC 기반 네트워크 장치의 가속 및 소프트웨어 정의 개발을 지원하는 소프트웨어 프레임워크) 플랫폼은 스마트NIC와 GPU를 결합해 네트워크 기능을 가속화하고, AI로 네트워크 상태를 실시간 분석한다.

두 번째로, ‘6G 및 차세대 무선통신 개발’ 활용이다. 엔비디아는 6G 시뮬레이션과 디지털 트윈 기술을 통해 미래 통신 환경을 가상으로 구현하고 테스트한다. GPU 기반 시뮬레이션은 밀리미터파, 테라헤르츠 대역, 초저지연 통신 등 복잡한 물리 모델링에 필수 요소로 알려졌다.

세 번째로 ‘엣지 컴퓨팅과 네트워크 기능 가상화(NFV)’다. 통신사들은 엔비디아 GPU를 활용해 엣지 노드에서 AI 추론, 콘텐츠 캐싱, 보안 분석 등을 수행한다. GPU는 CPU와 비교해 병렬 처리에 강해 실시간 영상 분석, AR/VR 스트리밍, IoT 데이터 처리에 적합하다.

네 번째는 ‘디지털트윈 기반 네트워크 설계’다. 엔비디아의 옴니버스(Omniverse) 플랫폼은 통신 인프라의 디지털트윈을 생성해 설계, 운영, 유지보수를 시뮬레이션한다. 이는 도시 내 5G 기지국 배치 최적화, 전파 간섭 분석, 사용자 밀집 지역 커버리지 개선 등에 활용될 수 있다.

‘통신사와의 협력’에서도 우리 통신사가 NTT, 버라이즌(Verizon) 등 글로벌 통신사들과 GPU 기반 AI 인프라를 구축하고 있다. 특히 SK텔레콤은 엔비디아와 협력해 AI 기반 네트워크 운영 자동화 및 엣지 AI 서비스를 개발하고 있다. 

엔비디아는 통신 분야에서 AI와 GPU, 엣지와 디지털 트윈을 융합한 플랫폼 전략을 강화하고 있어 6G 시대의 핵심 인프라로 자리 잡을 가능성이 커 보인다. 특히 AI 네트워크 오케스트레이션, 보안 강화, 에너지 효율 최적화 등에서 GPU의 역할이 더욱 확대될 것으로 전망된다.

 

◇네트워크 최적화, 6G 시대, 엣지컴퓨팅 등 신기술 적용

GPU는 구체적으로 대형모델 학습(Training), 추론(Inference) 및 서빙, 엣지·물리적 AI(Physical AI) 등의 용도로 활용된다. 대형모델 학습은 가장 연산집중적 용도로의 쓰임이며 Blackwell 계열 등 일부 고성능 GPU를 대량 투입해 LLM·멀티모달 모델을 학습한다. 추론·서빙은 학습 이후 실서비스 제공을 위해 데이터센터·클라우드 기반 추론 인프라에 배치하는 것을 의미한다.

 

엣지·물리적 AI는 로봇·제조·팩토리 시뮬레이션과 결합해 현장 적용 사례를 만들어 낸다. AI·로보틱스 실증에 쓰인다. 먼저 대형모델 학습에 적합한 GPU 아키텍처는 LLM과 생성형 AI 학습에 최적화된 GPU인 H100이 있고, A100은 FP16 기준 약 312 TFLOPS의 성능과 최대 80GB HBM2e 메모리를 제공한다.

 

NVLink/NVSwitch는 최대 900GB/s 대역폭으로 여러 GPU 간 초고속 통신이 가능해 모델 병렬 및 데이터 병렬 학습을 지원한다. 병렬 학습 방식에는 데이터 병렬과 모델 병령, 혼합 병렬 등이 있다. 데이터 병렬은 같은 모델을 여러 GPU에 복사하고, 각 GPU가 다른 데이터 배치를 처리 후 파라미터를 동기화하는 것이고, 모델 병렬은 모델 자체를 여러 GPU에 나눠 저장하고 연산하는 것이다.

 

혼합 병렬은 데이터 병렬과 모델 병렬을 결합해 대규모 학습 효율을 극대화하는 것이다.

추론 및 서빙 계획으로는 앞서 소개된 대형모델 학습 이후 실서비스 제공을 위해 데이터센터·클라우드 기반 추론 인프라에 배치한다. 네이버클라우드는 구독형 AI 인프라 (GPUaaS)를 구축, 6만장의 GPU를 확보해 하이퍼클로바X 등 대형 모델의 실시간 추론 서비스에 활용한다.

 

SK텔레콤은 산업용 AI 추론 플랫폼에, 삼성전자는 반도체 AI 팩토리에 활용한다. 정부 및 공공부문에서는 국가 AI 컴퓨팅센터를 통해 스타트업·대학·연구기관에 GPU 리소스를 제공한다. 엔비디아 Jetson 등 GPU 기반 엣지 디바이스는 공장, 주문처리 센터 등에서 실시간 데이터 분석, 자동화, 스마트 검사 등에 적용돼 운영 효율과 생산성을 높인다.

물리적 AI(Physical AI)에서는 엔비디아 옴니버스 플랫폼을 활용, AI와 시뮬레이션 기술의 결합으로 제조, 로봇, 디지털 트윈 등 실제 물리적 환경에서의 AI 활용을 지원한다. 기업은 자체 AI 모델을 손쉽게 배포·추론할 수 있으며, 자율주행·로봇공학 등 다양한 분야로 확장 중이다.

◇통신계 내 AI 인프라 확대, 우리 삶에 끼치는 영향은?

GPU 적용·확산에 근거한 AI 인프라 화대는 우선 통신산업에 지대한 영향을 끼칠 것으로 보인다. 먼저 ‘네트워크·서비스 레벨’의 향상이다. 통신사는 GPU를 클라우드·엣지 추론 플랫폼과 결합해 AI 기반 네트워크 자동화, 대화형 AI 등 고객 서비스, B2B용 AI 인프라 제공 등으로 활용한다. 

 

두 번째는 ‘AI-RAN·망 최적화 실증 가속’이다. AI를 활용한 RAN(Radio Access Network) 최적화, 트래픽 예측·스케줄링, 실시간 장애 대응 등 AI-RAN과 관련한 연구·실증이 속도를 낼 것으로 보인다.

세 번째는 ‘비즈니스 모델 변화’다. 통신사는 기존에 단순 유무선 통신 서비스 및 네트워크 서비스 등 전송사업에서 벗어나 AI 인프라·플랫폼 제공자로 전환하는 사업 기회를 얻고, GPUaaS(서비스형 GPU), AI 서비스형 사업을 새로운 수익원으로 부상하게 된다.

이 같은 변화와 혁신에도 제약이 없는 건 아니다. 먼저 ‘수요 대비 공급·우선순위 분쟁 가능성’이다. 확보된 GPU 물량은 많지만, 수혜자-사용 목적간 이해관계 충돌, 우선순위 논쟁과 함께 ‘기술·운영 적합성 문제’ 가능성이 제기된다. 또한 특정 연구·산업 용도의 GPU 배정과 함께 소프트웨어, 클러스터·MLOps(Machine Learning Operations, 머신러닝 운영) 등 환경 구축도 관건이다.

세 번째는 ‘접근성 제고 필요’다. 중소기업·연구자들이 실질적으로 활용할 수 있도록 클라우드 기반·공용 연구 인프라·지원 프로그램 등 GPU 접근 모델이 제대로 설계·운영되어야 힐 것으로 보인다. 네 번째는 ‘인력·기술 설비 필요’다. GPU가 제 성능을 발휘하려면 HBM(메모리), 전력·냉각·서버인프라, 소프트웨어(스택·툴)와 숙련된 인력이 절대적으로 필요하다. 특히 HBM 공급·서플라이체인과 데이터센터 설비는 병행 확보가 관건이다.

통신사가 GPU 물량을 실제 확보하기 전에 준비해야 할 것들도 있다. 

 

GPU를 효율적인 사용을 위해 데이터센터 및 전력 확충 계획과 GPU의 배치 전략이다. 엣지·클라우드 통합 아키텍처의 설계로 실시간 추론과 AI-RAN 적용을 준비해야 하고, GPUaaS 운영모델과 과금·거버넌스 체계로 기업 고객의 유치도 필요한 상황이다.

 

이 외에도 머신러닝(ML) 엔지니어, 인프라 운영, 보안 등 인력·운영 역량 강화, 컨테이너·MLOps 등 소프트웨어 스택도 확보해야 한다. 또 제조·자율주행·헬스케어 등 공공·산업 파트너십을 통한 실증사업 발굴 및 정책 등도 챙겨야 한다.