[반도체] SK하이닉스 "AI 성능, 이제 메모리가 좌우"…저장에서 연산으로 역할 확대

📍 AI 경쟁의 병목이 GPU 연산 성능에서 메모리 용량·대역폭으로 이동

📍 HBM 베이스다이 연산 기술 'StreamDQ'로 LLM 초당 토큰 처리량 최대 5.15배 증대

김호식 SK하이닉스 메모리시스템리서치 담당 부사장은 9월 1일 대만에서 열린 '세미콘 타이완 2026' 메모리 이그제큐티브 서밋에서 메모리가 단순 저장장치를 넘어 시스템 성능과 확장성, 경쟁력을 좌우하는 전략적 인프라로 바뀌고 있다고 밝혔다. 근거로 엔비디아 H200이 메모리 대역폭 43%, 용량 76% 증가만으로 추론 성능이 약 90% 향상된 사례와, NVL72 시스템에서 전체 메모리 공간의 절반 이상을 KV 캐시가 차지하는 현상을 제시했다. SK하이닉스는 HBM 베이스다이에서 역양자화 작업을 처리하는 StreamDQ 기술로 LLM 초당 토큰 처리량을 최대 5.15배 끌어올리고, 3D 패키징으로 데이터 전송 에너지를 비트당 0.2~0.3피코줄 수준까지 낮추는 방향을 제시했다. 또 메모리 기업이 더 빠르고 큰 용량의 제품을 공급하는 역할에 머무르지 않고, 고객의 AI 시스템 설계 단계부터 참여하는 '공동설계 파트너'로 진화해야 한다고 강조했다. 메모리 소자·패키징 기술과 시스템 아키텍처를 함께 이해하는 인력의 역할이 커지는 흐름인 만큼, 관련 직무를 준비한다면 HBM 구조와 AI 서버 메모리 계층 개념을 함께 정리해 두는 것이 좋다.

채용 뉴스 원문 보러 가기 (Click!)