CPO는 반도체 혁명(feat.대신증권 리포트)

대신증권 리포트

 

 

AI 인프라 병목 현상 변화

AI 모델이 성장하고 수천 개의 GPU가 하나의 시스템으로 작동함에 따라 병목 현상이 연산 성능에서 데이터 전송 및 전력 소비로 이동했습니다.

GPU 통신 및 네트워크 트래픽 증가로 인해 특히 광 트랜시버에서 전력 소모가 크게 증가합니다.

 

 

CPO를 통한 대규모 AI 클러스터 확장

네트워크 아키텍처가 내부 랙 연결(스케일업)에서 랙 간 연결(스케일아웃)로 진화함에 따라 네트워크 전력 소비가 증가합니다.

CPO는 시스템 전력을 20~30% 절감하여 연간 수백만 달러의 운영 비용을 절감하고 AI 인프라 확장을 위한 재투자를 가능하게 합니다.

높은 네트워크 I/O 요구량을 가진 스위치 칩에 처음 적용된 CPO는 향후 GPU 패키징으로 확대될 것으로 예상됩니다.

 

메모리 아키텍처 변화

GPU 메모리 접근이 로컬 HBM에서 광 인터커넥트를 통한 시스템 전체 메모리 풀로 확장되고 있습니다.

고대역폭 패브릭(HBF) 및 네트워크 메모리 풀링과 같은 새로운 메모리 계층이 등장하고 있습니다.

 

외부 메모리 접근으로 인한 지연 시간을 줄이기 위해 GPU 패키지 내부의 SRAM 캐시가 더욱 중요해지고 있습니다.

패키징 아키텍처 진화

CPO(Compact Package Operations)는 두 가지 패키징 과제를 안고 있습니다. 하나는 칩 간 거리를 최소화하기 위해 3D 패키징을 사용하여 포토닉 엔진(PIC + EIC)을 통합하는 것이고, 다른 하나는 고급 CoWoS 기술을 통해 ASIC과 포토닉 엔진을 통합하는 시스템 레벨 패키징입니다.

이러한 과제들이 CoWoS 패키징의 성장과 복잡성을 촉진하고 있으며, 후처리 장비 및 패키지 테스트에 대한 수요를 증가시키고 있습니다.

 

시장 및 기업 분석

TSMC는 2027년까지 CoWoS 생산 능력을 대폭 확장할 계획입니다.

삼성전자, ISC, PSK 홀딩스와 같은 기업들은 CPO 도입과 CoWoS 시장 성장의 수혜를 입을 것으로 예상됩니다.

이들 기업의 재무 전망은 AI 인프라 수요와 패키징 혁신에 힘입어 매출과 이익이 증가할 것으로 예상됩니다.

 

 

전반적으로 CPO는 AI 데이터 센터의 전력 및 데이터 이동 문제를 해결하고 확장 가능한 AI 시스템 성장을 가능하게 하며 반도체 패키징 및 메모리 시스템 설계를 혁신하는 근본적인 패키징 혁명을 나타냅니다.