AI 가속기의 발열을 관리하기 위한 칩 설계가 메모리 기업 간 새로운 경쟁 영역으로 떠오르고 있습니다.
삼성의 HPB 기술은 열이 빠져나가는 전용 경로를 만들어 작동 안정성을 향상시킵니다.
SK하이닉스의 iHBM 기술은 기존 설계 대비 열 저항을 30% 이상 감소시킵니다.
데이터센터 운영 비용(TCO) 절감과 직결되는 열 관리 기술이 향후 고객 선택의 중요한 기준으로 작용할 가능성이 큽니다.
Cooling design emerges as battleground for next-gen AI memory
차세대 AI 메모리, 냉각 설계 경쟁 심화
By Nam Hyun-woo
Published Jun 4, 2026 2:22 pm KST
Korea Times
Thermal race highlights memory-foundry cooperation
열 관리 경쟁, 메모리-파운드리 협력 강화
Chip designs aimed at keeping artificial intelligence (AI) accelerators cool are emerging as a new battleground for memory makers, with Samsung Electronics and SK hynix each revealing heat dissipation structures for their upcoming high-bandwidth memory (HBM) products.
인공지능(AI) 가속기의 발열을 효과적으로 관리하기 위한 칩 설계가 메모리 제조사들 간의 새로운 경쟁 구도로 떠오르고 있다. 삼성전자와 SK하이닉스는 각각 차세대 HBM 제품의 방열 구조를 공개했다.
The memory makers are increasing stacks and data transfer speed for HBMs to meet growing demands for AI computing performance, but facing intensified thermal management challenges. Starting with the eighth-generation HBM5, Samsung Electronics and SK hynix plan to introduce new heat-dissipation technologies to reduce heat at the chip level, improving system reliability and helping data center operators lower total cost of ownership.
메모리 제조사들은 AI 컴퓨팅 성능에 대한 수요 증가에 맞춰 HBM의 스택 크기와 데이터 전송 속도를 높이고 있지만, 동시에 열 관리 문제에도 직면하고 있다. 삼성전자와 SK하이닉스는 8세대 HBM5부터 칩 수준에서 발열을 줄여 시스템 신뢰성을 향상시키고 데이터센터 운영자의 총소유비용(TCO)을 절감하는 새로운 방열 기술을 도입할 계획이다.
During COMPUTEX 2026 in Taiwan earlier this week, Samsung Electronics unveiled a mock-up of its HBM5 chip.
이번 주 초 대만에서 열린 COMPUTEX 2026에서 삼성전자는 HBM5 칩 모형을 공개했다.
“Thermal management is becoming a critical factor for next-generation memory as AI systems grow increasingly powerful and densely integrated, requiring advances in not only memory performance but also heat dissipation,” said Song Jai-hyuk, president and chief technology officer of Samsung's Device Solutions division.
송재혁 삼성전자 디바이스 솔루션 사업부 사장은 “인공지능(AI) 시스템의 성능과 집적도가 점점 높아짐에 따라 차세대 메모리에서 열 관리는 매우 중요한 요소가 되고 있으며, 메모리 성능뿐 아니라 방열 성능 향상도 필수적이다”라고 말했다.
At the center of Samsung Electronics' HBM5 is its Heat Path Block (HPB) technology. Designed to more efficiently disperse and dissipate heat generated within the chip, the technology acts as a thermal chimney, creating a dedicated pathway for heat to escape while reducing thermal resistance and improving operational stability.
삼성전자의 HBM5 핵심 기술은 히트 패스 블록(HPB) 기술이다. 칩 내부에서 발생하는 열을 더욱 효율적으로 분산 및 방출하도록 설계된 이 기술은 마치 열 굴뚝처럼 작용하여 열이 빠져나갈 수 있는 전용 통로를 만들어 열 저항을 줄이고 작동 안정성을 향상시킨다.
HPB has already been adopted in application processors such as Samsung's Exynos application processors (APs). In January, the company said it adopted HPB for its Exynos 2600 processor, where a copper-based HPB structure mounting on top of AP dies and creates a more efficient heat-transfer path. The company said the technology reduced thermal resistance by up to 16 percent.
HPB 기술은 이미 삼성의 엑시노스(Exynos) 애플리케이션 프로세서(AP)와 같은 애플리케이션 프로세서에 적용되고 있다. 지난 1월, 삼성은 엑시노스 2600 프로세서에 HPB(Hybrid Power Base) 기술을 적용했다고 발표했다. 이 기술은 AP 다이 위에 장착되는 구리 기반 HPB 구조로, 더욱 효율적인 열 전달 경로를 제공한다. 삼성은 이 기술을 통해 열 저항을 최대 16%까지 줄였다고 밝혔다.
For HBM applications, however, Song said Samsung is considering a silicon-based HPB structure. He added that the key is to optimize the placement of the base die and core dies, suggesting that the HPB is being integrated into the overall memory stack design rather than simply placing HPB on top of the chip.
하지만 HBM 애플리케이션의 경우, 송 대표는 실리콘 기반 HPB 구조를 고려하고 있다고 말했다. 그는 핵심은 베이스 다이와 코어 다이의 배치 최적화라고 덧붙이며, HPB를 단순히 칩 위에 얹는 것이 아니라 전체 메모리 스택 설계에 통합하는 방식을 시사했다.
Song said the core die is being developed in line with the HPB structure to optimize the overall HBM architecture. He added that this gives Samsung an advantage because the company can manufacture the base die through its own foundry operations.
송 대표는 코어 다이가 전체 HBM 아키텍처를 최적화하기 위해 HPB 구조에 맞춰 개발되고 있다고 설명했다. 그는 삼성이 자체 파운드리 시설을 통해 베이스 다이를 생산할 수 있기 때문에 이러한 방식이 유리하다고 강조했다.
Samsung has already completed the implementation and validation of HPB technology for its seventh-generation HBM4E product, samples of which were shipped to customers for the first time on May 29. The company is planning a full-scale adoption of HPB for HBM5.
삼성은 이미 7세대 HBM4E 제품에 HPB 기술을 구현 및 검증 완료했으며, 5월 29일 고객에게 샘플을 처음으로 배송했다. 삼성은 HBM5에도 HPB 기술을 전면 적용할 계획이다.
SK hynix also recently revealed iHBM, a new technology that incorporates an Integrated Cooling Engine (ICE) into HBM to create a dedicated heat-transfer path. The silicon-based structure allows heat to escape through die-to-die physical layers, effectively serving as a thermal chimney within the memory stack.
SK하이닉스는 최근 HBM에 통합 냉각 엔진(ICE)을 탑재하여 열 전달 경로를 구축한 새로운 기술인 iHBM을 공개했다. 실리콘 기반 구조는 다이 간 물리적 레이어를 통해 열을 방출하여 메모리 스택 내부에 효과적인 열 굴뚝 역할을 한다.
The company said the technology reduces thermal resistance by more than 30 percent compared with conventional designs, enabling stable operation even under high-temperature, high-workload conditions.
SK하이닉스는 이 기술이 기존 설계 대비 열 저항을 30% 이상 감소시켜 고온, 고부하 환경에서도 안정적인 작동을 가능하게 한다고 밝혔다.
SK hynix plans to apply iHBM to its HBM5 and subsequent products targeting high-performance computing and AI data center applications. The company added that the technology is based on packaging processes already proven in mass production, allowing customers to adopt it without significant design changes.
SK하이닉스는 고성능 컴퓨팅 및 AI 데이터센터 애플리케이션을 겨냥한 HBM5 및 후속 제품에 iHBM을 적용할 계획이다. 또한, 이 기술은 이미 양산에서 검증된 패키징 공정을 기반으로 하므로 고객은 큰 설계 변경 없이 적용할 수 있다고 덧붙였다.
In line with this, SK hynix is strengthening its partnership with TSMC, which manufactures the base die used in its HBM4 products.
이를 위해 SK하이닉스는 HBM4 제품의 베이스 다이를 생산하는 TSMC와의 협력을 강화하고 있다.
SK hynix said Thursday that SK Group Chairman Chey Tae-won met with TSMC Chairman Wei Che-chia in Taiwan a day earlier, where they agreed to deepen cooperation across a wide range of areas, including next-generation HBM development and advanced packaging technologies.
SK하이닉스는 목요일, SK그룹 최태원 회장이 전날 대만에서 TSMC 웨이철자 회장과 만나 차세대 HBM 개발 및 첨단 패키징 기술을 포함한 광범위한 분야에서 협력을 심화하기로 합의했다고 밝혔다.
SK hynix said the two companies plan to step up efforts to take an early lead in the emerging market for custom AI memory designed to meet the diverse requirements of global tech companies.
SK하이닉스는 양사가 글로벌 기술 기업의 다양한 요구 사항을 충족하도록 설계된 맞춤형 AI 메모리라는 신흥 시장에서 선두 자리를 확보하기 위해 노력을 강화할 계획이라고 덧붙였다.
“As memory makers adopt more aggressive thermal solutions such as HPB and ICE, closer integration across the entire development process will become increasingly important,” an industry official said. “How effectively foundries and memory makers work together will likely become a key competitive factor.”
한 업계 관계자는 "메모리 제조업체들이 HPB 및 ICE와 같은 더욱 공격적인 열 관리 솔루션을 채택함에 따라 전체 개발 프로세스에 걸친 긴밀한 통합이 더욱 중요해질 것"이라며, "파운드리와 메모리 제조업체가 얼마나 효과적으로 협력하느냐가 핵심 경쟁 요소가 될 것"이라고 말했다.
#High-Bandwidth Memory (HBM) 고대역폭 메모리 #Thermal Management 열관리 #Heat Dissipation Technology 방열기술 #Memory-Foundry Cooperation 메모리-파운드리 협력 #AI Data Centers AI 데이터센터