국내 연구진이 인공지능(AI)의 학습 원리를 뇌과학에 적용해 과제의 ‘난이도’가 뇌 속 기억의 저장 방식에 직접적인 영향을 준다는 새로운 원리를 밝혀냈다.
이번 연구는 가천대학교 한의과대학 김창업 교수와 서울대학교 의과대학 김상정 교수 공동연구팀이 수행했다. 가천대 배효진 박사와 서울대 서재우 학생은 공동 제1저자로 참여했다. 연구 성과는 지난 1일 자연과학 분야 국제 학술지 네이처 커뮤니케이션스(Nature Communications, IF:16.6)에 게재됐다.
연구팀은 AI 분야에서 활용되는 ‘편향-분산 트레이드오프(bias-variance tradeoff)’ 개념을 소뇌의 기억 저장 메커니즘에 적용했다. 뇌의 운동 학습과 기억을 담당하는 소뇌는 복잡한 구조의 ‘소뇌 피질’과 단순한 구조의 ‘소뇌 핵’으로 구성된다. 연구팀은 이 두 시스템이 과제 난이도에 따라 서로 다른 방식으로 기억을 저장한다는 사실을 이론적 모델과 생쥐 실험을 통해 입증하는데 성공했다.
실험 결과, 비교적 쉬운 과제인 ‘안구 운동 반사(OKR)’를 학습한 쥐는 시간이 지나도 복잡한 소뇌 피질 없이 단순한 소뇌 핵만으로도 기억을 유지할 수 있었다. 반면 난이도가 높은 ‘전정안구 반사(VOR)’를 학습한 쥐는 소뇌 피질의 기능을 억제하자 학습 효과가 크게 감소해 어려운 과제일수록 보다 정교하고 복잡한 뇌 영역에 기억이 저장된다는 것을 보여줬다.
연구팀은 ‘어려운 과제일수록 훈련 당시의 환경과 조건에서만 기억이 발휘된다’는 점도 이 실험을 통해 입증했다. 어려운 과제(VOR)를 학습한 쥐는 훈련 조건에서만 학습 효과를 보였지만, 쉬운 과제(OKR)를 학습한 쥐는 다양한 조건에서도 학습 효과가 나타나는 일반화 현상이 확인됐다. 복잡한 수영 기술을 배운 사람은 특정 환경(수심, 수온 등)에서만 익숙한 동작을 잘 해낼 수 있지만, 쉬운 기술은 상황이 달라도 쉽게 응용할 수 있는 것과 유사하다.
연구팀은 이와 같은 뇌의 작동 원리가 AI 시스템 설계에도 응용될 수 있다고 밝혔다. 복잡도와 자원 소모를 고려해 학습 시스템을 과제에 따라 유동적으로 조절하는 전략은, 현재 AI가 직면한 에너지 효율성 문제와 평생학습 구현에 실마리를 제공할 수 있다.
김창업 교수는 “기존에 설명되지 않던 기억 저장 현상을 과제 난이도라는 하나의 원리로 통합적으로 설명한 점이 이번 연구의 핵심”이라며, “AI와 뇌과학의 접목이 양 분야 모두에 새로운 가능성을 열어줄 것”이라고 밝혔다.
한편 이번 연구는 과학기술정보통신부와 교육부가 지원하는 한국연구재단의 ‘뇌과학원천기술개발사업’, ‘바이오·의료기술개발사업’, ‘기초연구사업’의 지원을 받아 수행됐다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sds1105@sedaily.com
