삼성전자가 메모리 반도체와 인공지능 프로세서를 하나로 결합한 HBM-PIM(Processing-in-Memory)를 개발했다.

PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 융합 기술로, 삼성전자는 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용되는 HBM2 아쿠아볼트(Aquabolt)에 인공지능 엔진을 탑재한 HMB-PIM을 개발했다.

삼성전자에 따르면, 인공지능 시스템에 HBM-PIM을 탑재한 기존 HBM2 시스템 대비 성능이 2배 이상 향상되고 에너지 사용은 70% 이상 감소되며, 기존 HBM 인터페이스를 지원해 HMB 고객들이 하드웨어와 소프트웨어의 변경 없이 HBM-PIM을 통해 인공지능 가속기 시스템 구축이 가능하다.

인공지능 응용 영역이 확대되고 기술이 고도화되는 현대에 고성능 메모리에 대한 요구가 지속적으로 커지면서 기존의 폰 노이만 구조의 한계를 극복하기 어렵다.

대다수 컴퓨터에서 사용하는 폰 노이만 구조는 CPU가 메모리로부터 명령어를 불러오고 실행하고, 결과를 기억장치에 저장하는 작업을 순차적으로 진행하면서 송수신되는 데이터가 많아지면서 처리 작업도 증가해 지연현상이 발생된다.

삼성전자는 메모리 내부의 각 뱅크에 인공지능 엔진을 장착해 병럴처리 기능을 극대화하고 HBM-PIM이 메모리 내부에서 연산처리를 해 CPU와 메모리간 데이터 이동이 줄어들도록 설계했다.

차후에 D램 공정에 기술을 접목해 HBM-PIM을 제품화 할 계획으로 세계 반도체 학회인 ISSCC에서 논문을 공개하기도 했다.

삼성전자 메모리 사업부 상품기획팀장 박광일 전무는 “HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계최초의 인공지능 맞춤형 PIM 솔루션으로 삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것”이라고 밝혔다.

미국 아르곤 국립 연구소 CELS(컴퓨팅, 환경 및 생명과학) 연구실장 릭 스티븐스는 “HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다”고 밝혔다.

삼성전자는 상반기 내 다양한 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이며 향후 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나갈 계획이다.