AI 반도체 패권 경쟁이 격화되는 가운데, 유튜브 채널 ‘교양이를 부탁해’의 지식뉴스 코너가 피지컬 AI 시대에 드러난 HBM(고대역폭메모리)의 한계와 향후 반도체 패권 이동 가능성을 집중 조명했다. 방송에는 신창환 고려대 전기전자공학부 교수가 출연해, 젠슨 황 엔비디아 CEO와 최태원 SK그룹 회장이 미국에서 ‘치맥 회동’을 가진 배경과 그 이면에 깔린 전략적 이해관계를 분석했다.

신창환 교수는 PC·모바일·데이터센터를 거쳐 AI 시대로 이어진 반도체 산업의 흐름을 되짚으며, 현재 AI 인프라의 핵심이 GPU와 HBM, 그리고 이를 제조·패키징하는 파운드리 업체에 집중돼 있다고 설명했다. 특히 그는 아마존·구글·마이크로소프트·메타 등 빅테크가 대규모로 투자한 데이터센터용 AI 칩 수요가 엔비디아와 SK하이닉스를 중심으로 한 HBM 생태계를 키웠다고 평가했다.

하지만 그는 다음 단계인 온디바이스·피지컬 AI 시대로 갈수록 상황이 달라질 것이라고 진단했다. 로봇·자율주행차·휴머노이드 등 피지컬 AI 기기가 일상으로 들어오면 ‘1인 1로봇’에 가까운 수준의 폭발적 수요가 발생하지만, 이 환경에서는 데이터센터처럼 전력을 무한 공급할 수 없어 GPU와 HBM 중심 구조가 그대로 통용되기 어렵다는 것이다. 

신 교수는 피지컬 AI의 핵심 키워드로 ‘와트 다이어트’를 제시하며, 배터리 기반 기기에서 고성능 GPU와 HBM을 상시 구동하는 것은 전력·열·비용 측면에서 부담이 크다고 지적했다. 그는 “HBM은 데이터센터, 학습용과 같이 전력 제약이 상대적으로 적은 환경에 최적화된 제품”이라며, 피지컬 AI 분야에서는 LPDDR·GDDR, SoC 내장 메모리, 저전력 특화 MPU(메모리 프로세싱 유닛) 등 다른 형태의 반도체 구조가 부상할 여지가 크다고 전망했다. 

또한 그는 GPU가 병렬 연산에 특화된 구조임에도 메모리 대역폭 한계로 실제 연산 자원이 충분히 활용되지 못하는 이른바 ‘메모리 월’ 문제를 짚었다. AI 모델 연산량 증가 속도에 비해 메모리와 인터커넥트 성능 개선 속도가 뒤처지면서, 향후에는 메모리 내부에서 연산을 일부 처리하는 ‘컴퓨트 인 메모리’ 구조, GPU·메모리 병렬화, NVLink·NVSwitch와 같은 스케일업 기술이 더욱 중요해질 것이라고 내다봤다. 

방송은 젠슨 황 CEO와 최태원 회장의 미국 회동에 대해, 단순한 친목이나 상징적 만남을 넘어 엔비디아의 GPU·플랫폼과 SK하이닉스의 HBM·메모리 기술을 엮어 차세대 AI 생태계를 선점하려는 전략적 목적이 깔려 있다고 해석했다. 신창환 교수는 피지컬 AI 시대로 접어들수록 메모리 업체와 저전력 AI 칩 설계 기업의 역할이 더욱 커질 것이라며, “AI 패권은 이제 데이터센터를 넘어 로봇과 일상 기기로 확장되는 국면”이라고 강조했다. 

자세한 분석 내용은 영상으로 확인해보자.