AI 반도체의 경쟁 무대가 단순한 연산 성능을 넘어 ‘데이터를 얼마나 빠르고 효율적으로 이동시키느냐’로 확대되고 있다. SK하이닉스가 차세대 AI 인프라를 겨냥해 CPO(Co-Packaged Optics)와 메모리를 결합하는 기술 로드맵을 제시한 것도 이런 변화와 맞닿아 있다.
SK하이닉스는 글로벌 대학 연구진과 공동으로 AI·고성능컴퓨팅(HPC)에 활용할 CPO 기술의 발전 방향을 연구해 국제 학술지 ‘네이처 일렉트로닉스’에 관련 논문을 게재했다고 밝혔다.
이번 연구에는 SK하이닉스와 버지니아대학교를 비롯해 UIUC, NTU, MIT, 연세대학교 연구진 등이 참여했다.
핵심은 기존의 구리 배선을 이용한 전기적 데이터 전송을 점차 ‘빛을 이용한 광통신’으로 바꾸는 것이다.
AI 반도체가 빨라질수록 커지는 ‘데이터 병목’
GPU와 AI 가속기의 연산 능력은 빠르게 증가하고 있다. 문제는 칩의 계산 능력이 아무리 좋아져도 데이터를 공급하고 다른 칩으로 전달하는 속도가 이를 따라가지 못하면 전체 시스템 성능을 높이기 어렵다는 점이다.
특히 대규모 AI 데이터센터에서는 수많은 GPU와 AI 가속기, HBM 등의 메모리가 데이터를 끊임없이 주고받는다.
현재 널리 사용되는 구리 기반 전기 배선은 거리가 길어질수록 신호 손실이 증가하고 더 많은 전력을 소비한다. AI 클러스터 규모가 커질수록 데이터 이동 자체가 시스템 성능과 전력효율을 제한하는 병목으로 작용할 수 있다.
CPO는 이를 해결하기 위한 기술 가운데 하나다.
CPO는 프로세서 가까이에 광 송수신 장치를 배치해 전기 신호가 이동하는 거리를 최소화하고, 이후의 장거리 데이터 이동을 빛으로 처리하는 방식이다.
광통신을 활용하면 높은 데이터 전송 대역폭을 확보하면서 전력 소비를 낮출 수 있다는 장점이 있다.
목표는 100Tb/s 이상 대역폭
SK하이닉스와 연구진이 제시한 차세대 AI 인프라의 기술 목표도 상당히 공격적이다.
노드당 100Tb/s 이상의 데이터 전송 대역폭, 비트당 1pJ 미만의 에너지 소비, 칩 간 10ns 미만의 지연시간을 목표로 제시했다.
패키징 구조 역시 현재의 2D 방식에서 2.5D 인터포저를 거쳐 궁극적으로 3D 이종집적으로 발전할 것으로 전망했다.
쉽게 말해 AI 반도체를 구성하는 연산칩·메모리·광통신 장치를 점점 더 가깝게 배치하면서 데이터 이동거리를 최소화하겠다는 것이다.
더 중요한 변화는 ‘메모리의 광 연결’
SK하이닉스의 전략에서 특히 주목할 부분은 CPO를 GPU와 GPU 사이의 연결에만 사용하는 것이 아니라 메모리까지 확대하려 한다는 점이다.
현재 AI 시스템에서는 GPU 주변에 배치할 수 있는 HBM의 물리적인 공간과 용량에 한계가 있다.
AI 모델이 커질수록 필요한 메모리 용량도 증가하기 때문에 연산 성능뿐만 아니라 ‘GPU 주변에 얼마나 많은 메모리를 배치할 수 있느냐’가 중요한 문제가 된다.
SK하이닉스가 제시한 광 인터포저 기반 구조에서는 이런 물리적 제약을 완화할 가능성이 있다.
연산칩과 메모리를 광 연결로 구성하면 여러 AI 가속기가 대규모 메모리 자원을 공유하는 메모리 풀링(memory pooling) 구조로 발전할 수 있기 때문이다.
이는 장기적으로 AI 서버의 구조 자체를 바꿀 수 있는 기술이다.
HBM 다음 경쟁은 ‘메모리 시스템’
이 기술이 중요한 또 다른 이유는 SK하이닉스의 사업 영역이 확대될 가능성이 있기 때문이다.
지금까지 AI 반도체 시장에서 SK하이닉스의 핵심 경쟁력은 HBM이었다. GPU 옆에 고성능 HBM을 공급하는 ‘메모리 제조사’가 주요 역할이었다.
하지만 CPO와 광 인터커넥트가 메모리까지 확대되면 경쟁의 범위가 달라질 수 있다.
단순히 빠른 메모리 칩을 만드는 것에서 벗어나 AI 가속기와 메모리를 어떤 방식으로 연결하고, 여러 가속기가 메모리 자원을 어떻게 공유하도록 설계할 것인지까지 메모리 업체의 역할이 확대될 수 있다.
SK하이닉스가 “단일 제품 공급을 넘어 고객의 시스템 전체 경쟁력을 만드는 파트너로 진화한다”고 강조한 이유도 여기에 있다.
상용화까지 넘어야 할 산도 많다
CPO가 곧바로 현재의 AI 서버 구조를 대체하는 것은 아니다.
광소자를 반도체 패키지 내부에 집적하려면 생산수율과 제조원가를 해결해야 하고, 열이 많이 발생하는 AI 가속기 주변에서 광소자의 성능과 신뢰성을 안정적으로 유지해야 한다. 패키징과 냉각 기술도 함께 발전해야 한다.
따라서 이번 발표는 당장의 매출 증가보다는 SK하이닉스가 HBM 이후 AI 메모리 기술의 방향을 어디로 설정하고 있는지를 보여주는 기술 로드맵으로 보는 것이 적절하다.
장기적으로 중요한 포인트는 명확하다.
GPU 성능 경쟁 → HBM 대역폭 경쟁 → 칩 간 연결 경쟁 → 광 인터커넥트와 공유 메모리 경쟁으로 AI 인프라의 병목이 이동하고 있다는 것이다.
이 흐름이 현실화한다면 향후 AI 반도체 시장의 경쟁력은 ‘가장 빠른 GPU’나 ‘가장 빠른 HBM’ 하나만으로 결정되지 않을 가능성이 크다. 연산·메모리·패키징·광통신을 하나의 시스템으로 얼마나 효율적으로 묶느냐가 다음 경쟁의 핵심이 될 수 있다.
답글 남기기