엔비디아는 결국 이 회사를 살 겁니다 (KAIST 전자및전기공학부 김정호 교수)

[AI가 영상을 요약한 내용입니다]

💡 내용 요약
AI 확산으로 추론 속도와 처리량을 좌우하는 요소가 GPU보다 메모리 대역폭·용량이라는 전제에서, HBM 다음 단계로 플래시 기반 적층 메모리인 HBF를 GPU 바로 옆에 붙여 대용량 ‘프라이어’를 고속으로 공급하자는 제안을 설명합니다. HBF는 DRAM 대비 느리지만 용량/비용 이점이 커 추론 단계에서 반복 참조하는 지식을 저장하는 용도로 적합하다고 주장합니다. 구조가 보편화되면 메모리 수요가 폭증하고, 낸드 강자인 삼성·SK하이닉스·샌디스크가 유리하며 HBM 경험 보유 업체가 초기 구현에서 앞설 수 있다고 봅니다. 중장기적으로 GPU 증가보다 메모리 용량·계층의 확장이 성능을 더 끌어올릴 것이며, 데이터센터 설계까지 메모리 중심으로 재편될 가능성을 제시합니다.

📌 핵심 주제
HBF 개념: 낸드 플래시 적층을 GPU 근처에 붙여 대용량·중간속도 계층을 만드는 아이디어
메모리 병목: HBM만으로는 용량이 부족해 계층화 필요.
계층형 아키텍처: SRAM(HBM 패키지 내부) → HBM(고속·중용량) → HBF(대용량) → 원격 스토리지로 이어지는 설계와 소프트웨어 프리패칭/배치의 중요성.
산업 파장: 낸드 강자(삼성·SK하이닉스·샌디스크 등)의 기회 확대, HBM 경험 보유사의 초기 우위


👉언더스탠딩 문의: understanding.officialmail@gmail.com
👉글로 읽는 "언더스탠딩 텍스트".
https://contents.premium.naver.....com/backbriefing/ne
👉언더스탠딩 멤버십 가입
https://www.youtube.com/channe....l/UCIUni4ScRp4mqPXsx