생성AI 본진 실리콘밸리에서 K-AI 생태계 만든다
김호식 SK하이닉스 부사장(VP)은 10일(현지시각) “메모리 월, 메모리 바운드 문제 때문에 HBM이 생성 AI 소프트웨어, 하드웨어에서 매우 중요한 요소가 됐다”며 이같이 말했다. 메모리 월(Memory Wall)은 프로세서와 메모리 성능 차에 따른 병목 현상, 메모리 바운드(Memory Bound)는 대규모 언어 모델(LLM)의 성능이 메모리의 대역폭과 용량에 의해 제한되는 현상을 뜻한다. 생성 AI 붐으로 인해 프로세서 속도 경쟁이 가열되고 연산량도 폭증, HBM이 생성 AI 산업의 핵심 요소로 떠오른 것이다.