KAIST, 세계 첫 그래프 기반 AI 추론 가능한 SSD 개발…“엔비디아 GPU 성능 7배”

정명수 교수 연구팀, 자체 제작한 계산형 스토리지 프로토타입

엔비디아 고속 GPU 가속 시스템 대비, 33배 적은 에너지로 7배 빠른 추론 속도

대규모 SNS, 내비게이션, 교통 예측 시스템, 신약개발 등 다양한 분야서 활용도 커

국내 연구진이 미국 반도체 제조업체 엔비디아의 최신 고성능 그래픽처리장치(GPU) 보다 7배 뛰어난 성능의 그래프 기반 인공지능(AI) 추론이 가능한 솔리드스테이트드라이브(SSD) 가속기를 개발하는데 성공했다.

한국과학기술원(KAIST)은 정명수(사진) KAIST 전기및전자공학부 교수 연구팀이 세계 최초로 그래프 기계학습 추론의 그래프처리, 그래프 샘플링, 신경망 가속을 스토리지·SSD 장치 근처에서 수행하는 ‘전체론적 그래프 기반 신경망 기계학습 기술’(홀리스틱 GNN)을 개발했다고 10일 밝혔다.

하드웨어 프로토타입 및 평가 구성

그래프 기반 신경망 기계학습은 그간 GPU와 같은 일반 기계학습의 가속 시스템을 재이용해 연산 되어왔다. 데이터 전처리 과정에서 심각한 성능 병목현상과 함께 장치 메모리 부족 현상으로 시스템 적용에 한계를 보여 왔다. 하지만 홀리스틱 GNN 기술은 그래프 데이터 자체가 저장된 스토리지 근처에서 추론의 모든 과정을 직접 가속해 그래프 기계학습 전처리 과정에서의 병목현상을 해결했다.

연구팀은 계산형 스토리지의 시제품을 자체 제작한 후, 그 위에 개발된 그래프 기계학습용 하드웨어 RTL(저항과 트랜지스터로 구성한 컴퓨터에 사용되는 회로)과 소프트웨어 프레임워크를 탑재했다. 이를 엔비디아 GPU 가속 시스템(RTX 3090)에서 평가한 결과 홀리스틱 GNN 기술이 이상적인 상황에서 기존 엔비디아 GPU를 이용해 그래프 기계학습을 가속하는 시스템 대비 평균 7배 빠르고 33배 에너지를 감소시켰다. 특히 그래프 규모가 커질수록 전처리 병목현상 완화 효과가 증가해 기존 GPU 대비 최대 201배 향상된 속도와 453배 에너지를 감소할 수 있었다.

정 교수는 “그래프 자료구조가 적용된 새로운 기계학습 모델은 데이터 사이의 연관 관계를 표현할 수 있다"며 “기존 고성능 가속 시스템을 대체해 초대형 추천시스템, 교통 예측 시스템, 신약 개발 등 광범위하게 응용할 수 있을 것?이라고 말했다.

이번 연구는 미국 산호세에서 오는 2월에 열릴 스토리지 시스템 분야 최우수 학술대회인 ‘유즈닉스 패스트(USENIX FAST) 2022’에 발표될 예정이다.