커뮤니티

  • 커뮤니티
  • 뉴스

방성태, 김민호 연구원(김대훈 교수 연구팀) MICRO 2026 논문 2편 채택

관리자 63회 26-10-29 14:45
방성태, 김민호 연구원김대훈 교수 연구팀 MICRO 2026 논문 2편 채택.png
1 / 2

김대훈 교수 연구팀은 컴퓨터 아키텍처 분야 최고 권위의 국제학술대회 중 하나인 MICRO 2026(59th IEEE/ACM International Symposium on Microarchitecture)에서 두 편의 연구 성과를 발표한다.


첫 번째 연구에서는 GPU 메모리 용량을 초과하는 대규모 데이터를 처리할 때 발생하는 성능 저하를 해결하기 위한 새로운 GPU 메모리 관리 아키텍처 ‘ReclaimX’를 제안하였다. 기존 NVIDIA Unified Virtual Memory(UVM) 환경에서는 GPU 메모리가 부족할 경우 CPU가 메모리 회수 및 데이터 이동을 관리하며, 이 과정에서 GPU 실행이 장시간 중단되는 문제가 발생한다. 본 연구는 이러한 실행 중단 시간을 단순한 성능 손실이 아닌 활용 가능한 연산 자원으로 바라보는 새로운 관점에서 출발하였다. ReclaimX는 메모리 접근 오류로 실행이 중단된 GPU 연산 자원을 활용하여 메모리 압축 및 회수 작업을 수행하고, 자주 사용되지 않는 데이터를 선택적으로 압축하여 GPU 메모리 내부에 유지함으로써 불필요한 데이터 전송을 줄인다. 12개 워크로드에 대한 평가 결과, 기존 UVM 대비 기하평균 2.33배의 성능 향상을 달성하였으며, 프리페칭 기법과 결합한 구성에서는 기하평균 최대 3.61배의 성능 향상을 확인하였다. 해당 연구는 “ReclaimX: Device-Side Memory Reclamation via Stalled GPU Execution for UVM Oversubscription”라는 제목으로 게재 승인을 받았으며, 김대훈 교수(교신저자)의 지도하에 방성태 연구원(제1저자)이 주도하였다.


두 번째 연구에서는 대규모 인공지능 서비스의 핵심 기술인 근사 최근접 이웃 탐색(Approximate Nearest Neighbor Search, ANNS)을 효율적으로 가속하기 위한 CPU–GPU 협력 프레임워크 ‘AMG’를 제안하였다. 기존 GPU 기반 ANNS 시스템은 수십억 개의 벡터 데이터를 처리할 때 제한된 GPU 메모리 용량으로 인해 CPU와 GPU 간 데이터 전송이 주요 성능 병목으로 작용한다. 본 연구는 이러한 문제를 해결하기 위해 기존 벡터 검색의 행렬–벡터 곱셈(GEMV)을 행렬–행렬 곱셈(GEMM)으로 변환하는 Query Grouping 기법을 제안하고, 이를 통해 CPU에 탑재된 Intel Advanced Matrix Extensions(AMX)와 GPU의 연산 자원을 효과적으로 활용할 수 있도록 하였다. 또한 연산 작업의 특성에 따라 CPU와 GPU에 작업을 동적으로 분배하는 스케줄링 기법과 데이터 전송 및 연산을 중첩하는 최적화 기법을 개발하였다. 수십억 개의 벡터를 포함하는 데이터셋에서 평가한 결과, 기존 최신 단일 GPU 기반 시스템 대비 2.1~8.8배의 검색 처리량 향상을 달성하면서도 높은 검색 정확도를 유지하였다. 해당 연구는 “AMG: AMX–GPU Cooperative Acceleration of Billion-Scale ANNS via GEMM Reformulation”이라는 제목으로 게재 승인을 받았으며, 김대훈 교수(교신저자)의 지도하에 김민호 연구원(제1저자)이 주도하였다.

 
다음글 김승빈 연구원(이규호 교수 연구팀) IEEE Transactions on Circuits and Systems I (TCAS-I) 논문 게재 승인 26.10.26
원본 이미지