엔비디아 독주는 왜 멈추지 않나 - AMD가 넘어야 할 3가지 벽

2025년 1분기 GPU 시장 점유율을 보면 엔비디아가 92%를 차지하고 있어요. AMD는 8%로 다시 한자릿수로 떨어졌고요. 데이터센터용 AI 칩 시장은 더 심각해요. 엔비디아가 무려 90%에서 98%까지 독점하고 있는 상황이에요. 누가 봐도 엔비디아의 독주체제인데, 왜 AMD는 따라잡지 못하는 걸까요?

 

하드웨어 성능만으로는 부족해요

 

AMD는 2025년 6월 MI350 시리즈를 발표하면서 이전 세대 MI300X 대비 무려 4배의 성능 향상과 35배의 추론 성능 개선을 이뤄냈어요. 288GB HBM3E 메모리와 8TB/s의 메모리 대역폭을 갖춘 MI355X는 엔비디아 B200과 비교해도 메모리 용량에서 1.6배 우위를 보여요. 수치만 보면 충분히 경쟁력 있는 제품이죠.

 

엔비디아도 가만히 있지 않았어요. 2024년 3월 공개한 블랙웰 아키텍처 기반 B200은 2080억 개의 트랜지스터로 구성되어 있고, GB200 NVL72 시스템은 H100 대비 추론 성능을 30배나 끌어올렸어요. 하드웨어 스펙 경쟁에서 AMD가 선전하고 있지만, 시장 점유율은 오히려 더 벌어지고 있는 게 현실이에요.

 

CUDA라는 15년짜리 해자

 

진짜 문제는 여기서 시작돼요. 엔비디아의 CUDA는 15년 이상 개발되어 온 소프트웨어 생태계예요. cuDNN, TensorRT 같은 AI 특화 라이브러리부터 PyTorch, TensorFlow 같은 주요 프레임워크까지 모두 CUDA에 최적화되어 있죠. 전 세계 AI 개발자들이 이미 CUDA로 코드를 작성하고 있고, 이걸 AMD의 ROCm으로 옮기려면 엄청난 시간과 비용이 들어요.

 

AMD도 ROCm 7.0을 내놓으며 이전 버전 대비 3.5배의 추론 성능과 3배의 학습 성능 향상을 달성했어요. Windows와 Linux에서 PyTorch를 네이티브로 지원하기 시작했고, OpenAI와도 협력 관계를 맺었죠. 2026년 하반기에는 OpenAI에 MI450 기반으로 1기가와트 규모의 시스템을 공급할 예정이에요.

 

하지만 ROCm의 성숙도는 여전히 CUDA를 따라잡기에 한참 부족해요. Windows 지원이 제한적이고, 핵심 라이브러리 지원이 불완전하며, 디버깅 도구의 완성도가 낮아요. 실제 AI 워크로드를 돌려보면 같은 하드웨어 스펙이라도 CUDA에서 최적화된 엔비디아 GPU가 더 나은 성능을 보이는 경우가 많아요.

반응형

공급망과 메모리 전쟁

 

HBM4 메모리 공급도 중요한 변수예요. SK하이닉스가 70% 이상의 점유율로 HBM 시장을 독주하고 있고, 엔비디아와의 긴밀한 협력으로 안정적인 공급망을 확보했어요. HBM4는 이전 세대 대비 대역폭이 2배 증가하고 전력 효율은 40% 이상 개선되어, 차세대 GPU의 필수 요소로 자리 잡았죠.

 

엔비디아는 B300 시리즈부터 HBM3E 12단 메모리를 탑재할 계획이에요. GB200 NVL72 시스템의 가격은 300만 달러부터 시작하는데, 수요는 공급을 훨씬 초과하고 있어요. 모건 스탠리는 엔비디아가 2025년에만 6만~7만 개의 B200 서버 랙을 출하해 최소 210억 달러(약 29조 원)를 벌어들일 것으로 전망했어요.

 

결국 생태계 싸움이에요

 

AMD는 분명히 빠르게 성장하고 있어요. MI300 시리즈부터 경쟁력 있는 제품을 내놓고 있고, 마이크로소프트, 메타, 오라클 같은 대형 고객사들과 파트너십을 맺고 있죠. MI400 시리즈는 2026년, MI500 시리즈는 2027년 출시 예정이고, 제품 로드맵도 명확해요.

 

하지만 시장은 냉정해요. 아무리 좋은 하드웨어를 만들어도, 개발자들이 이미 익숙한 CUDA를 버리고 ROCm으로 갈아탈 만한 강력한 이유가 필요하거든요. 엔비디아는 단순히 GPU를 파는 게 아니라 AI 플랫폼 전체를 팔고 있어요. 하드웨어, 소프트웨어, 네트워킹, 시스템 설계까지 모든 게 완벽하게 통합된 생태계를 제공하죠.

 

AMD가 이 격차를 줄이려면 최소 3~5년은 더 걸릴 거예요. 하드웨어 성능만으로는 부족하고, 소프트웨어 생태계를 키우고, 개발자 커뮤니티를 확대하고, 주요 AI 프레임워크들과의 협력을 강화해야 해요. 엔비디아의 독주는 당분간 계속될 것 같네요.

 

 

 

2025.10.08 - [경제] - AMD 주가 하루 만에 25% 급등, AI 반도체 시장의 과열된 열기

AMD 주가 하루 만에 25% 급등, AI 반도체 시장의 과열된 열기