- FTJ와 RRAM의 상반된 메모리 특성을 활용한 ‘이중모드 PIM 구조’ 개발
- KV-cache와 AI 모델 가중치 저장·MAC 연산 기능 통합하는 단일 메모리 플랫폼 구조 제시
- 국제 학술지 ‘Materials Horizons’(IF=11.4)에 연구 성과 게재

▲ 왼쪽부터 김성준 교수, 이영서 석사과정생, 김나운 석사

동국대학교 전자전기공학과(공동 제1저자 이영서 석사과정생·김나운 석사, 공동 교신저자 김성준 교수)와 서울과학기술대학교 전기정보공학과(공동 제1저자 최민기 석사과정생, 공동 교신저자 심원보 교수) 공동 연구팀이 대규모 언어모델(Large Language Model, 이하 LLM)에서 발생하는 메모리 병목 문제를 해결하는 이중모드 프로세싱 인 메모리(Processing-in-Memory, 이하 PIM) 아키텍처를 제시했다.

이번 연구결과는 「A ferroelectric-resistive dual-mode capacitor for unified KV-cache and weight storage toward Transformer acceleration」이라는 제목으로 재료과학 분야 국제 학술지 「Materials Horizons」(IF=11.4)에 2026년 9월 3일 온라인 게재됐다.

최근 LLM은 이전 연산 정보를 저장하는 KV-cache의 크기가 증가하면서 메모리 사용량과 전력 소모가 커지고 있다. 하지만, 기존 아날로그 PIM은 장기간 보존이 필요한 ‘모델 가중치’와 빠르게 반복 갱신되는 ‘KV-cache’를 단일 방식으로 처리하는 한계가 있었다.

연구팀은 이를 위해 하나의 HZO 기반 소자에 FTJ와 RRAM의 두 가지 메모리 동작을 구현하고, 각 동작의 특성에 맞춰 기능을 구분했다. 빠르고 저전력으로 동작하는 FTJ는 반복적인 갱신이 필요한 KV-cache에 활용하고, 높은 데이터 유지 특성과 다중 상태 저장이 가능한 RRAM은 모델 가중치 저장과 곱셈-누산(MAC) 연산에 활용하도록 설계했다.

실험 결과, FTJ는 140 ns의 빠른 스위칭 속도를 나타냈으며, RRAM은 3-bit(8개 상태) 데이터를 10,000초 동안 안정적으로 유지했다. 연구팀은 실제 측정된 소자 특성을 LLaMA2-7B 기반 시뮬레이션에 반영해 제안한 PIM 구조의 Transformer 연산 적용 가능성을 검증했다.

김성준 교수는 “이번 연구는 서로 다른 메모리 특성을 Transformer 연산의 요구사항에 맞게 활용해 KV-cache와 모델 가중치를 하나의 PIM 구조에서 처리할 수 있다는 가능성을 제시한 연구”라며, “향후 LLM의 메모리 병목과 데이터 이동에 따른 전력 소모를 줄이는 차세대 AI 하드웨어 기술로 활용될 수 있을 것으로 기대한다”고 전했다.

한편, 이번 연구는 산업통상자원부의 K-CHIPS 사업과 과학기술정보통신부가 지원하는 정보통신기획평가원(IITP) 연구과제 지원을 받아 수행됐으며, 동국대학교, 서울과학기술대학교, 서울시립대학교 및 한국전자통신연구원(ETRI) 연구진의 협력으로 진행됐다.