이효정([email protected]), 2024년 4월 20일 12:00 작성
최근 반도체 시장이 AI 반도체의 등장으로 크게 격동하고 있습니다. 보편적인 작업을 목적으로 했던 기존의 CPU(Central Processing Unit)나 GPU(Graphics Processing Unit)와 다르게 대규모 연산을 목적으로 하는 AI용 반도체를 만들고자 하는 것인데요, 이러한 열풍에 NVDIA, TSMC, SK 등 거대 기업들의 경쟁 역시 치열해지고 있습니다.
2~3세대 반도체로 불리는 AI 반도체는 FPGA, NPU, 또는 연산 보조 장치가 부착된 GPU 등을 의미합니다. 우리가 현재 사용하는 컴퓨터는 CPU나 GPU를 사용하여 연산을 수행합니다. 이들은 두뇌에 해당하는 하드웨어로, 계산과 논리 함수를 실행하는 ‘코어’, 데이터의 저장과 이동을 관리하는 ‘메모리’, 그리고 작업을 동기화하는 ‘제어 장치’로 구성되어 있습니다. CPU는 순차적 처리에 용이하고, 본래 이미지 처리를 위해 개발된 GPU는 코어 수가 많아 병렬적 처리를 잘한다는 차이점이 있지요.
CPU와 GPU의 구조. 출처: Paul G. Allen School of Computer Science & Engineering
대규모 파라미터와 연산량을 요구하는 AI 기술의 특성상 대부분의 작업이 GPU를 활용하여 이루어져 왔습니다. 대표적인 제품이 NVDIA에서 개발한 ‘H100’인데요, GPU에 데이터 이동 통로인 고대역폭메모리(HBM)를 연결하여 연산 속도를 향상시킨 칩으로, 그 가격이 한 대당 6,000만 원을 웃돌 정도로 엄청난 가치를 자랑하고 있습니다. 지난 4일, NVDIA가 H100을 담보로 6,500억 원 상당의 대출을 받아 화제가 되기도 하였지요. 현재 많은 AI 반도체가 GPU를 기반으로 하고 있습니다.
NVDIA의 GPU 기반 제품 H100. 출처: NVDIA
그러나 한편으로는 GPU가 AI를 목적으로 개발된 반도체는 아니기 때문에 비용이나 전력 소모, 발열 측면에서 비효율적이라는 평가도 많습니다. 특히 일반적인 수식 계산이나 그래픽 렌더링에 최적화된 GPU는 대량의 행렬 연산이나 신경망 계산에 사용하기에는 최적화되지 않은 것이 사실입니다. 이에 FPGA, ASIC, NPU와 같은 새로운 형태의 반도체들도 등장하고 있습니다.
FPGA(Field Programmable Gate Array)는 목적에 맞게 내부 회로를 재프로그래밍 할 수 있는 칩으로, 빠르게 변화하는 AI 분야에서 기민하게 적응할 수 있다는 장점을 가집니다. AI 모델에 맞게 조정이 가능하므로 발열이나 연산 효율 면에서 GPU보다 유리하다는 평가가 있습니다. 유사하게 ASIC(Application Specific Integrated Circuit)은 용도에 맞추어 주문 제작되는 형태의 반도체입니다. FPGA가 가격이 비싸기 때문에, 보통 기업들은 FPGA로 시제품을 제작하여 성능을 확인한 후 ASIC으로 대량 생산하는 전략을 채택합니다.
마지막으로 NPU(Neural Processing Unit)는 인공신경망 연산만을 위해 개발된 칩입니다. 딥러닝 네트워크를 구성하는 각 신경망 층을 실리콘으로 구성하여, 인공신경망 알고리즘에 한해서는 GPU의 70배까지 에너지 효율을 끌어올렸습니다. 가격이 GPU의 약 4분의 1이라는 장점 때문에 이미 Macbook Air, 갤럭시S23 등 가격과 크기, 전력 효율이 중요한 엣지(Edge) 분야에 많이 사용되고 있습니다.
AI 반도체의 선두에 있는 기업은 단연 NVDIA입니다. 2007년부터 시작된 병렬 컴퓨팅 플랫폼인 CUDA가 만들어낸 생태계와 고성능 GPU의 조합은 NVDIA에게 시장 점유율 90% 이상이라는 결과를 안겨다 주었습니다. 실제로 지난 5년간 NVDIA의 주가가 1,600% 이상 상승하기도 하였지요. 이 외에도 파운드리 기업인 TSMC, 팹리스 기업인 AMD와 Broadcom, 소재 장비 기업인 ASML, 그리고 설계 및 생산 종합 기업인 Intel 등이 AI 반도체 시장에 뛰어들고 있습니다. 국내 기업 중에서는 SK하이닉스와 삼성전자가 대표적입니다.
기업들은 NVDIA에 대한 의존도를 낮추고 보다 향상된 성능의 반도체를 개발하기 위해 경쟁하고 있습니다. 이번 달 AMD는 인텔과 NVDIA에 이어 AI PC용 반도체 ‘라이젠 프로 8040시리즈’와 ‘라이젠 프로 8000시리즈’를 공개했습니다. SK하이닉스는 HBM 생산 및 패키징을 위해 TSMC와 협력한다고 밝혔습니다.
각국의 정부가 기업들을 지원하기 위해 공격적으로 시장에 개입하고 있다는 점도 주목할 만한데요, 일례로 지난 15일 삼성전자는 미국 텍사스주 파운드리 공장 건설을 위해 미국 정부로부터 64억 달러 보조금을 지원 약속받기도 했습니다. 국내 정부 역시 반도체 등 국가전략기술에 투자하는 기업들의 세액공제 한도를 상향시키는 임시투자세액공제법을 연장하기로 작년 말 결정하였고, 지난 19일에는 해당 산업들에 대한 보조금 지원을 검토하고 있는 것으로 알려졌습니다. 기업들이 정부의 지원을 업고 과연 NVDIA의 대항마가 되어 ‘독점’ 체제를 무너뜨릴 수 있을지 지켜보면 좋을 것 같습니다.