PIM(Processing In Memory) 기술이 무엇이며 AI 시대에 왜 주목받는지 설명해보세요.

[PIM(Processing In Memory)이란]

PIM(Processing In Memory)은 연산 로직(Processing Logic)을 메모리 내부 또는 메모리와 근접한 위치에 직접 통합하여, CPU·GPU와 메모리 사이의 데이터 이동을 최소화하는 새로운 컴퓨팅 아키텍처이다. PNM(Processing Near Memory)이라고도 불린다.

[원리 및 특징]

AI 학습 및 추론 시에는 수백억 개의 파라미터를 메모리에서 프로세서로 반복적으로 전송하여야 하기 때문에 메모리와 프로세서 간의 데이터 이동이 전력 소비와 처리 지연의 주된 원인이 된다. 이를 '메모리 병목(Memory Wall)'이라 하며, PIM은 연산을 메모리 내에서 직접 수행함으로써 데이터 이동량을 획기적으로 줄이고 에너지 효율을 높이는 방식으로 이 문제를 해결한다.

[기업 적용 사례]

삼성전자는 2021년 세계 최초의 상용 PIM 제품인 HBM-PIM(AiM)을 발표하였다. HBM2 다이 내부에 AI 엔진(GEMV 연산 가속기)을 탑재하여 AI 워크로드의 에너지 효율을 기존 대비 2.5배 향상시켰으며, 현재 HBM3 기반의 후속 PIM 연구를 지속하고 있다. SK하이닉스는 HBM 기반의 AiMX를 개발하여 AI 추론 가속기 시장을 공략하고 있으며, UPMEM은 DRAM 모듈 내에 1,000개 이상의 DPU(Data Processing Unit)를 내장한 범용 PIM 솔루션을 출시하여 유전체 분석 등 대용량 메모리 내 데이터 처리에 활용하고 있다.