‘교수를 가장 많이 배출한 교수’는 노태원 서울대 물리학과 교수를 설명하는 한 방식이다. 지난 1월 13일 서울대로 찾아가 만났을 때 노 교수의 그런 풍모를 확인할 수 있었다. 먼저 사진을 촬영하려고 그의 실험실 중 하나인 ‘박막 증착 실험실’로 갔더니 대학원 박사과정 학생 두 명이 실험 중이었다. 노태원 교수는 “고은교, 김진권은 대학원 박사과정 친구들이다. 두 사람 다 잘한다”라고 소개했다.

실험실 안의 장비들이 뭔지 궁금했다. 장비를 알면 연구자가 무엇을 연구하는지 이해하는 데 도움이 된다. 실험실 장비에 대해 노 교수는 얇은 막, 즉 박막을 만드는 PLD(Pulsed Laser Deposition·펄스 레이저 증착)라고 했다. “레이저 펄스(파동)를 물질에 쏘면 플라스마가 형성되면서 한쪽으로 팽창한다. 팽창하는 쪽의 반대편에 기판을 올려놓으면, 기판 위에 얇은 막이 생긴다. 박막을 올리고 싶은 물질이 있을 때 이 장비를 사용한다.”

그는 “박막을 원하는 두께로 만든다. 원자 하나하나 레벨까지 박막을 증착(蒸着) 방법으로 만들 수 있다”며 “진권과 은교가 만드는 박막은 금속산화물이다. 이 친구들은 세계에서 질이 가장 좋은 박막을 만든다”고 말했다. 김진권씨는 초전도물질, 고은교씨는 자성체를 연구한다고 했다.

IBS 강상관계물질 연구단장으로도 활동

“이 학생들이 무엇을 궁금해하느냐?”고 묻자 노 교수는 “나는 질문을 가르쳐주지 않는다. 스스로 찾으라고 한다”라며 웃었다. 그래서 고은교씨에게 알고 싶은 게 뭔지를 묻자 “박막을 쌓았는데, 박막 증착 조건에 따라 자성 특성이 바뀌는 걸 관측했다. 그 원인이 무엇인가 하는 게 나의 질문이다”라는 답이 돌아왔다. 박사 3년 차인 김진권씨는 자신의 질문에 대해 이렇게 설명했다. “새로운 초전도체를 연구하고 있다. 위상초전도체라고 하며, 새로운 물성을 갖고 있다. 초전도성이 최근에야 나오기 시작해 연구의 첫걸음을 본격적으로 딛기 시작했다. 이 신(新)물질이 장점이 있다. 위상초전도성이라는 특성으로 인해 양자컴퓨터 같은 걸 구현할 수 있는 플랫폼이 될 수 있다. 그 자체가 양자컴퓨터가 될 수 있다. 박막으로 만들어 잘 패터닝(patterning)하고 소자를 만들면 양자컴퓨터로 응용할 수 있다.”

노태원 교수는 서울대 교수이면서 기초과학연구원(IBS) 연구단장(강상관계물질 연구단)으로 일한다. 그가 이끄는 연구단은 서울대 18동과 19동 일부를 사용하고 있다. 노 교수는 자신이 이끄는 ‘강상관계물질 연구단’에 대해 “금속산화물 또는 강상관계 물리를 하는 물리연구소다”라고 말했다. 노 교수가 이 연구단을 만들고 싶어 연구단장 자리에 지원했을 때 내건 4가지 목표가 있었는데 그중 하나가 정보 교환의 허브 역할이다. “최소한 아시아에서 정보 교환을 하는 중심이 되어보겠다고 했다. 8년이 지난 요즘은 외국에서도 IBS 연구단을 인지한다. 그리고 우리가 2주에 한 번은 세미나를 한다. 일본과 중국의 젊은 과학자가 우리 연구단을 방문하는 걸 중요하다고 생각한다. 1년에 20명 정도 초청하는데 초청하면 잘 온다.”

도쿄대 고체물리연구소와 공동 연구

노태원 교수는 도쿄대학의 정부출연연구기관인 고체물리연구소(ISSP·The Institute for Solid State Physics·소장 모리 하츠미)와 2019년 4월 공동으로 연구사무실을 열었다. 1957년 설립된 ISSP는 물성 연구소로는 일본 최고다. 교수 21명에 연 예산이 600억원 이상이다. 노 교수는 “ISSP는 IBS 연구단보다 규모가 10배 크다. 막스플랑크연구소에도 IBS 우리 연구단같이 물성을 연구하는 곳이 10개는 된다. IBS라는 프로그램이 있기에 ISSP와 협력 연구를 할 수 있게 됐다”라고 말했다. 두 기관의 협력 프로그램 이름은 ISSP-SCES. SCES는 노태원 교수의 ‘강상관계물질 연구단’을 가리키는 영어 표기다.

노태원 교수에 따르면 두 기관의 협력 프로그램에 따라 SCES는 ISSP의 첨단 장비를 장기 무료 임대한다. ‘레이저를 이용한 각분해 광전 분광기(ARPES)’라는 장비다. 또 도쿄대학의 세계적 학자인 신식 박사(재일교포)가 IBS 연구단을 위해 장비를 개발하기로 했다. 신식 박사는 도쿄대학에서 작년에 정년을 맞았고, 현재 석좌교수로 일한다. 신식 박사의 급여 4분의 1을 노 교수의 연구단이 제공한다고 했다. 노 교수는 “ISSP와의 협력은 과학기술 분야에 있어서는 의미 있는 일”이라고 설명했다.

그의 연구에 관해 물어볼 시간이다. ‘강상관계물질 연구단’이라는 이름을 그가 세미나실 칠판에 썼다. 강상관계물질은 영어로는 ‘Strongly Corelated Electron System’이다. 이름 속의 ‘강’이 ‘Strongly’이고, ‘상관계’는 ‘Corelated’에 해당하며, ‘물질’은 ‘Electron System’을 옮긴 표현이다. 노 교수는 “일상생활에 고체가 많다. 주변에 있는 딱딱한 고체를 설명할 수 있는 물리가 있느냐 하는 게 고체물리학의 출발이다”라고 설명했다.

“1930~1940년대 물리학자는 고체는 대부분 결정구조이고, 원자들은 고체 내에 주기성을 갖고 있다는 걸 발견했다. 원자는 딱 정해진 위치에 들어가 있다. 원자들의 수는 가로 세로 1㎝ 크기의 고체에 아보가드로 수(6×1023)만큼 있다. 그리고 원자 한 개 안에는 원소에 따라 전자가 수개에서 100여개 들어 있다. 고체 안의 아보가드로 수만큼의 전자 시스템의 운동을 이해할 수 있느냐 하는 게 문제가 된다. 1950년대 들어서 나온 게 ‘띠 이론(Band Theory)’이다. 고체 내의 수많은 전자 중에서 한 개를 갖고 이 고체를 효과적으로, 즉 유효하게 계산할 수 있는 방법을 찾아냈다. 고체물리학은 띠 이론이 등장하면서 완성되었다는 게 당시 분위기였다. 그런데 ‘띠 이론’으로 설명이 안되는 게 있었고, 이게 강상관계물질이다.”

35년 전 발견, 아직 이해 못하는 물질

원자의 최외곽 전자가 어떤 상태에 있느냐에 따라 전자의 움직임이 주위의 전자들과 상호작용을 한다. 노 교수에 따르면, 강하게 상호작용하면 그게 강상관계물질이다. 고온초전도체, 다양한 초전도체가 그런 예이다. 많은 물질이 강상관계 안에 숨어 있다는 의미다. 물리학자는 부분적으로는 이 물질을 설명하나 전체적으로 일관되게 설명하는 플랫폼은 아직 못 만들었다. 그런 시스템을 설명할 새로운 물리학이 있느냐 하는 게 노태원 교수의 문제의식이다. 노태원 교수는 “그런 계를 설명한 새로운 물리학 플랫폼을 만들 수 있느냐 하는 게 우리 연구단의 목표다. 우리만이 아니라 우리의 10배 되는 연구소들이 이걸 연구하고 있다”라고 말했다.

강상관계물질 연구는 1930~1940년대에 시작했고, 1960년대 이후 잠시 주춤했다. 그러다 1985년 고온초전도체가 발견되면서 다시 연구 붐이 일었다. 대표적인 강상관계물질에 ‘YBa2Cu3O7’가 있다. 고온초전도물질이다. Y는 희토류이고, ‘Cu’는 전이금속이고, ‘O7’은 산소 7개를 가진 산화물이라는 뜻이다. 이 물질은 절대온도 70켈빈에서 초전도성을 띤다. 노 교수는 “이 물질이 발견된 지 35년이 됐는데, 아직 물질을 다 이해하지 못하고 있다. 장기미제 사건”이라고 했다.

노 교수는 “놀랍게도 주변의 많은 물질이 금속산화물이다. 금속산화물의 상당히 많은 부분이 강상관계가 크다”라면서 “내 연구는 물질 기준으로는 전이금속산화물 혹은 세라믹(ceramics)을 연구한다고 할 수 있고, 물리학으로 표현하면 강상관계물리학을 연구한다고 할 수 있다”라고 말했다.

노태원 교수는 시험 봐서 들어간 경기고 마지막 세대(1976학번)다. 서울대에 들어온 뒤 처음에는 공대 기계과에 가려 했다. 공대(생물 제외)와 자연대를 한데 묶어 뽑은 900명 그룹에 속해 있었다. “그러다가 생각이 바뀌었다. 1학년 때 지도교수님이 학부 때 물리학을 하면 대학원에서 공학을 해도 된다고 얘기해주셨다. 우연히 물리를 하게 됐고, 지금까지 재밌게 하고 있다.”

그는 박사 공부를 하러 1982년 미국 컬럼버스-오하이오주립대로 갔다. 전기가 통하는 폴리머(중합체) 연구가 유행이라는 얘기를 듣고 그 분야의 대가를 찾아 비행기에 탔다. 그런데 그 교수가 3주 전에 다른 대학으로 옮겨갔다는 걸 도착한 뒤에야 알았다. 그러다가 학교 복도에서 서울대 물리학과 1년 선배이자 경기고 4년 선배를 만났다. 나중에 포항공대와 서강대 교수로 일한 이성익이었다. 그 인연으로 이성익 선배의 지도교수 밑으로 들어갔다. 그 지도교수는 다른 분야 연구자였다. 다른 학교로 떠난 교수가 남긴 실험실 장비를 관리할 뿐이었다. 이성익 교수와 둘이서 뚝딱뚝딱 연구를 진행해 학위를 빨리 마쳤다. 사실상 유학 3년 반 만인 1986년 6월에 박사학위를 받았다. 그리고 뉴욕주 이타카에 있는 코넬대학에 박사후연구원으로 옮겨 그곳에서 정식으로 배웠다.

박사후연구원 시절 지도교수는 앨버트 시버스(Albert Sievers)였다. 노태원 교수는 좋은 발견을 해서 학술지 PRL(Physical Review Letters)에 논문을 냈다. 당시 시버스 교수가 “이제 뭘 연구할 거냐”라고 물어왔을 때 그는 “이 물질에서 현상을 봤으니, 다른 물질에도 적용해 보겠다. 물리학은 같으니 물질을 바꿔보면 어떻겠느냐”라고 답했다. 시버스 교수가 “그런 건 다른 사람도 할 수 있다. 다른 걸, 새로운 걸 하라”라고 조언했다. 노태원 교수는 이때 너무 강렬한 인상을 받았다고 한다.

D램, S램 대체 가능한 F램 연구

“우리 학생들이 나랑 지내는 걸 힘들어하는데 졸업할 때쯤이면 더 힘들어한다. 학생들에게 독창적인 영역을 만들어내라고 요구하기 때문이다. 요즘 내가 법정 스님 책을 읽고 있는데 이런 내용이 있더라. ‘부처를 만나면 부처를 죽여라.’ 법정이 잘했던 게 암자에 가서 이상한 포즈를 취하고 가랑이 사이로 세상을 거꾸로 본 거다. 나도 학생들에게 사물을 뒤집어 보라는 요구를 많이 한다. 자신의 연구가 왜 중요한가, 물리학에 줄 수 있는 임팩트는 무엇인가, 독창적인 생각은 무엇인가를 묻는다. 숨어 있는 새로운 물리학을 찾아내고, 문제가 뭔지를 찾아내라고 한다. 피동적으로 공부하는 학생은 힘들어한다. 나의 이런 접근은 시버스 교수에게 배운 바 크다.”

그는 2년 반의 박사후연구원 생활을 마치고 1989년 서울대 교수가 되어 돌아왔지만 연구 환경은 녹록지 않았다. “한국에 와서는 미국에서 했던 연구를 포기해야 했다. 학교에서 당시 400만원을 줬는데 그걸로는 실험 장비를 구축할 수 없었다.” 궁리를 하다가 미국에서 다른 연구자가 하던 ‘레이저 박막 증착’ 실험을 떠올렸다. 생각해 보니 비싼 돈 안 들이고 레이저만 빌리면 만들 수 있을 듯했다. 서울 청계천에 가서 물품을 사다가 레이저 박막 증착장비를 만들었다. 인터뷰를 시작하면서 사진을 찍기 위해 그의 실험실에 갔을 때 본 게 레이저 박막 증착장비다. 노 교수는 “실험실에 있는 장비는 내부에서 꼼꼼히 용접이 되어 있다. 하지만 내가 서울대 교수로 온 뒤에 만든 장비는 내부 용접을 할 수 없었다. 그래서 가정에 들어오는 고압가스관처럼 외부에서 용접을 했다.”

이후 서울대 권숙일 교수(과학기술부 장관 역임)가 강유전체(ferroelectrics) 연구를 권해서 강유전체 연구를 시작했다. “당시에 강유전체는 벌크로만 연구하고 박막을 만들어서 하지는 않았다. 궁극적으로는 박막 연구가 중요할 것이라고 생각했다. 밑도 끝도 없이 증착장비를 만들어놓고 강유전체 박막 연구를 시작했다. 그게 히트했다.” 1999년 학술지 네이처에 강유전체 메모리인 F램 논문을 출판했다.

강유전체는 외부의 전기장이 없는데도 +와 - 전하로 나뉜다. 이른바 ‘분극’이 되는 것이다. 자석의 N극, S극과 비슷한데, 전하가 이런 특성을 만든다. 그리고 외부에서 전기장을 가하면 +와 -방향을 바꿀 수 있다. +와 -라는 두 개의 다른 상태가 있으니 이걸 이용하면 메모리반도체를 만들 수 있다. 이게 강유전체 메모리, 즉 F램의 원리다.

F램은 현재 메모리반도체로 사용되는 D램과 S램을 대체할 수 있는 반도체로 한때 주목받았다. 이에 대해 노 교수는 “F램의 해결 못 한 물리를 풀고, BLT라는 물질을 제안했다”라고 말했다. 하지만 시장이 크지 못해 D램이 시장을 압도하고 있다. 노태원 교수는 많이 아쉬운 듯했다.

1990년대 기초과학에 대한 정부의 투자가 늘어나면서 그는 미국에서 공부한 ‘고체분광학’ 연구를 다시 할 수 있게 되었다. 강유전체에서 금속산화물 박막 연구로 돌아갔다. 7~8년간 중단했던 연구를 다시 하게 되었을 때 그의 느낌은 묘했을 것 같다. 노 교수는 “그럼요”라며 “처음에 교수로 부임해서 하고 싶은 연구를 못하고 고생하는 후배 교수들을 보면 안타깝다”라고 말했다.

노태원 교수에 따르면, 미국의 좋은 대학은 신임 교수에게 연구를 시작할 수 있는 비용(starting fund)으로 50만~100만달러나 지원해준다고 했다. 현재 미국과 무역전쟁을 벌이고 있는 중국 역시 ‘지적재산권’ 싸움을 하면서 ‘혁신(innovation)’을 둘러싼 경쟁에서 지지 않기 위해 매년 1000명 가까운 젊은 박사를 지원하고 있다. ‘인재 1000명 프로그램(Thousand Talented Program)’이라는 이름으로 미국에서 공부하는 젊은 중국계 과학자에게 스타팅 펀드로 100만달러를 지원해준다면서 귀국을 권하고 있다. 매년 500명에서 1000명이 이 스타팅 펀드를 받고 중국으로 돌아왔으며, 지금까지 거의 1만명이 혜택을 받았다고 한다. “이들은 중국으로 돌아오자마자 논문을 생산한다. 중국 과학이 급부상하고 있다. 한국은 제도적으로 경쟁이 안된다.”

“나는 뒤집어 보기를 잘한다”

노태원 교수는 강상관계물질 연구와 관련해 한 가지만 말하겠다면서 2008년 학술지 PRL에 실린 논문을 얘기했다. 지금은 한양대에 있는 문순재 교수가 학생 시절 기존 물리학으로는 설명이 안되는 재미있는 강상관계물질을 보았다. 두 사람이 그 문제를 풀어보려고 1년 반을 연구한 끝에 ‘총(total)각운동량’이라는 개념으로 풀 수 있다는 걸 알아냈다. 문 교수가 이론하는 친구들과 얘기하다가 문제를 풀어낼 수 있다는 걸 알았다. 그동안 총각운동량으로 고체물리를 기술하는 게 별로 없었다. 이 연구는 김범준(현 포항공대 교수·논문 제1저자), 문순재, 진호섭(울산과학기술원 교수) 세 사람이 주도했고 유재준 서울대 교수 등 많은 사람이 협력했다. 결국 총각운동량으로 고체물리학을 해석하는 새로운 물리 형식을 만들어냈다.

노 교수는 “이 논문 인용횟수가 1000번 정도 된다. 그 분야의 중요한 논문이다. 순수하게 한국에서 연구해서 나온 것이라서 의미 있고, 외국에서도 널리 인정한다. 고체물리학에서 상당히 중요한 일이었다”라고 말했다. 그런데 이 연구를 계속 키우지 못했다는 게 그의 아쉬움이다. 논문이 나온 후 일본 도쿄대학에 있었던 다가키 교수(현 독일 막스플랑크 고체물리연구소 소장)와 캐나다 토론토대학의 김용백 교수(서울대 화학과 출신)가 가져다가 연구를 키웠다고 했다. 노 교수는 “우리도 계속 하려 했지만 안됐다. IBS 연구단이 앞으로 이런 걸 발견하면 완전히 우리 걸로 만들 것”이라고 말했다.

노 교수는 현재는 ‘강상관계+위상물리학’을 연구하고 있다. 강상관계물질은 고체물리학의 큰 분야이고, 위상물질은 지난 10년 급성장하고 있다. 두 분야가 만나는 지점은 아직 연구되지 않았다. 노 교수는 지난 2년 동안 이 분야를 연구했는데 여기서 뭔가를 찾아내면 선도하게 될 것이라고 했다.

노태원 교수는 인터뷰 도중에 “나는 뒤집어 보기를 잘한다”라는 말을 여러 번 했다. 내 취재 메모의 마지막 문장도 “뒤집어 보기 잘한다”이다. 나는 그걸 잘 못하지만, 잘 뒤집어 보는 사람들을 주변에서 만난 적이 있다. 그래서 그게 무슨 말인지 알 수 있었다. 노 교수가 ‘교수를 가장 많이 배출하는 교수’라는 말을 왜 듣고 있는지도 짐작할 수 있었다.