[이달의 과학기술자상-변재형 KAIST교수]300년 된 변분법 독창적 접근...편미분 방정식 난제 풀었다

기존방법으론 못푸는 문제 많아

일반적인 통용 방법 찾아내

하나의 도식으로 여러문제 해결

美학술지에 논문 발표·출판

수학계 후속 연구도 잇따라

변재형 KAIST 수리과학부 교수가 지난 2014년 미국 수학학회 학술지 ‘미국수학회 메므와즈’에 기고한 논문에서 극한 문제의 비퇴화성에 의존하지 않는 새로운 변분법적 방법론의 개발을 통한 비선형 슈뢰딩거 방정식의 집적해의 구성을 3차원 모델링을 통해 보여주고 있다. /사진제공=변재형 교수 연구실

‘수직으로 서 있는 평면에서 움직이는 점 하나가 어떤 곡선을 따라 높은 점에서 시작해 낮은 위치에 도착한다고 하자. 움직이는 데 걸리는 시간이 가장 짧으려면 이 점은 어떤 곡선을 따라 움직여야 하는가.’

지난 1689년 스위스의 수학자 요한 베르누이가 세계 최초의 학술지 ‘악타 에루디토룸(Acta Eruditorum)’에 이 같은 질문을 던졌다. 예를 들어 어느 건물 옥상 A지점에서 옥외 바닥의 B지점으로 돌을 던진다고 할 때 최단 거리는 A와 B를 잇는 직선이다. 그러나 현실에서는 이 직선보다 빠른 경로가 존재한다. 중력 작용을 감안(대기마찰 등의 다른 변수는 제외)할 때 A~B의 직선코스보다는 그 직선 밑으로 일정 곡률로 휘어져 B지점으로 도착할 때 큰 중력가속도를 받아서 직선으로 움직일 때보다 오히려 더 빨리 B지점에 도착하게 된다. 이는 최속강하곡선의 원리다.

현대 수학에서 변분법(calculus of variations, 범함수의 최소·최대값을 구하는 수학 연구분야)의 역사가 시작되는 계기가 됐다. 이후 300년이 지난 지금까지도 변분법은 자연현상·경제현상 등의 패턴을 읽어내는 데 큰 역할을 하며 발전을 거듭하고 있다.

수학계에서 변분법이 등장한 뒤로도 편미분 방정식에서 해결하지 못한 난제들을 풀 길을 한국 수학자가 찾아냈다. 기존의 변분법적 방법론의 한계를 뛰어넘는 새로운 변분법적 방법론을 고안해낸 것이다. 미래창조과학부가 주최하고 한국연구재단·서울경제신문이 주관하는 이달의과학기술자상 7월 수상자인 변재형 KAIST 수리과학과 교수는 기존에 수학자들이 풀어내지 못한 문제를 독창적인 변분법을 고안해 수학계를 놀라게 했다.

기존에 수학자들은 슈뢰딩거 방정식 등 편미분 방정식(PDE·독립 변수가 두 개 이상 포함된 편도함수가 있는 방정식)에서 해를 구할 때 극한 문제의 비퇴화성 조건을 확인하는 방법을 통해 접근했다. 하지만 이 방법으로 편미분 방정식을 풀기에는 어려움이 컸다. 일단 극한의 비퇴화성이 성립하는 사례가 극히 드물다는 게 문제였다. 또 이를 실제로 증명하기가 쉽지 않다는 게 특이섭동 비선형 슈뢰딩거 방정식 등 편미분 방정식에 관한 문제들을 난제로 만들어버리고는 했다.

변재형 KAIST수리과학부 교수가 연구성과를 기고한 지난 2014년 미국 수학학회 학술지 ‘미국수학회 메므와즈(Memoirs of the American Mathematical Society)’. /사진제공=변재형 교수 연구실

변재형(오른쪽) 카이스트 교수의 연구 업적이 ‘2014년 카이스트 대표연구성과 10선’에 선정된 가운데 변 교수가 지난해 2월 열린 카이스트 개교 44주년 기념식에서 학교로부터 포상을 받고 있다. /사진제공=카이스트

본래 편미분 방정식과 타원형 방정식의 해를 구성하기 위한 변분법 개발을 관심분야로 삼던 변 교수도 이런 난제들과 만났다. 그는 기존의 방법으로는 적용할 수 없는 문제가 많기 때문에 더 일반적인 상황에 적용할 수 있는 방법론을 만드는 걸 목표로 삼았다. 변 교수는 “일반적으로 통용될 수 있는 정리·증명 등이 수학의 목표”라며 “수학계에서도 관심이 큰 문제였지만 기존에 유행하는 연구방식을 따르지 않고 독자적인 방법으로 접근하기 위해 노력했다”고 말했다.

그 결과 변 교수는 9년간의 노력 끝에 극한 문제의 비퇴화성에 의존하지 않고도 고유의 변분 구조를 이용해 가장 최적화된 조건하에서 집적해의 존재를 증명해냈다. 이 연구에는 오랜 시간이 걸렸지만 기초단계부터 고등단계에 해당하는 문제들을 차근차근 대입해보면서 변 교수는 고안한 변분법에 확신을 갖게 됐다.



변 교수가 미국 수학학회 학술지 ‘미국수학회 메므와즈’에 제출한 논문은 90페이지에 달해 단권으로 출판되기도 했다. 또 동료들 사이에서 관련 후속 연구가 두 건이 나오기도 했다. 특이섭동된 편미분 방정식의 여러 문제들을 독창적인 하나의 도식(틀)으로 풀어낼 수 있게 만든 점에서 높은 평가를 받는다. 이를 통해 미국 수학계에서도 후속 연구가 진행될 것으로 보여 수학계의 발전에 긍정적인 영향을 미칠 것으로 평가되고 있다.

/정혜진기자 [e-mail]

◇ 용어 해설

△범함수=함수의 함수. 즉 미분과 같은 일반 함수와 달리 변수의 일종인 정의역에 특정 숫자 대신 함수를 입력해 결과값을 얻는 함수.
△슈뢰딩거 방정식=원자 수준의 입자들이 어떻게 움직이는지를 설명한 방정식. 전자와 같은 입자들은 알갱이 같은 입자성뿐 아니라 파동의 성질도 동시에 가지는데 입자 상태의 물리량을 입력하면 파동일 때의 상태를 알 수 있게 해주는 방정식이다. 미분 방정식, 반도체, 레이저, 원자력 발전 등에도 활용된다.
△비퇴화성=변분법상 해는 범함수의 미분이 0이 되는 점인데 두 번 미분해도 0이 나오지 않는 상태를 뜻함.
△특이섭동=역학계에서 주요한 힘의 작용에 의한 운동이 부차적인 힘의 영향으로 교란돼 일어나는 운동.