ⓒphoto 양수열 영상미디어 기자
ⓒphoto 양수열 영상미디어 기자

염한웅 기초과학연구원(IBS) 단장 겸 포항공대 물리학과 교수가 만들고 있는 야심작이 완성을 앞두고 있다. 세계 최고 성능의 전자현미경(주사터널링 방식)이다. ‘최고 수준’이 아니라 ‘최고의’ 전자현미경이다. 포항공대 내 방사광가속기 인근에 들어서는데, 현미경이 들어설 건물부터 새로 지었다.

“물질 구조를 들여다보기 위해서는 엑스선 회절 무늬 말고 전자현미경으로 봐야 하는 게 있다. 그래서 전자현미경은 중요하다. 좋은 현미경은 가격이 100억원이다. 보통 국내 실험실에 있는 건 10억~20억원대 가격이다. 현재 국내에서 가장 좋은 급의 현미경은 (건물 바깥을 가리키며) 저쪽에 두 대 있는데, 40억~50억원 한다. 전자현미경도 물리학자가 만든다. 미국이 갖고 있는 최고의 전자현미경은 돈으로 살 수 없다.”

염한웅 교수의 전자현미경에 관한 설명이 흥미로웠다. 전자현미경에 관해 말은 들었지만 작동원리 같은 건 몰랐다. 원자를 하나하나 들여다볼 수 있는 전자현미경에는 투과 전자현미경과 주사터널링 전자현미경 크게 두 종류가 있다. 투과 전자현미경은 시료를 박편으로 만들고 그것에 전자 빔을 투과시킨다. 투과한 부분을 밑에서 사진을 찍으면 원자가 있는 곳과 없는 곳의 명암이 다르게 나온다. 이런 방식으로 원자를 들여다본다.

주사터널링 전자현미경의 원리

그런데 1981년 스위스 연구자들이 투과방식과는 다른 전자현미경을 만들었다. 금속 탐침을 뾰족하게 갈아서 시료에 아주 가까이 가져가 전압을 거는 방식이었다. 탐침과 시료가 떨어져 있어도 전류가 흐르는데 이를 양자 터널링 전류라고 한다. 터널링 전류는 시료와 탐침 사이의 거리에 민감하다. 원자가 있는 곳에서는 터널링 전류가 많이 검출되고 원자가 없는 곳, 다시 말해 원자와 원자 사이의 움푹 들어간 곳에서는 터널링 전류가 적게 검출된다. 원자가 있는 곳과 없는 곳의 미세한 전류량 차이가 있다. 이 표면을 이동해 가면서 읽어내면 원자의 유무 여부를 알아낼 수 있다. 관찰 속도가 느리기는 하다. 주사터널링 전자현미경이라는 용어가 이 장비의 특성을 보여준다. ‘주사(走査)’는 영어 스캔(scan)의 한글이며 ‘터널링’은 양자 터널링(quantum tunneling) 효과를 이용하는 장비라는 걸 말한다.

내부 온도 낮추는 게 관건… 미국 추월

염한웅 교수는 “많은 물리·화학·재료과학 연구자가 주사터널링 현미경을 쓴다. 우리 연구실에도 외국서 개발해서 판 5~6대를 상용장비로 쓰고 있다”라고 말했다. “아까 얘기한 것처럼 이런 장비들의 성능을 최대한 높여 놓은 건 미국 물리실험실에 있다. 상용화 제품을 사서 연구에 써서는 경쟁력이 없다. 그래서 우리도 7년 전에 시간과 돈을 투자해서 세계 최고의 현미경을 만들어보자고 덤벼들었다. 기초과학연구원이 세계적 연구소가 되려면 내세울 게 있어야 하지 않나. 주사터널링 현미경과 스핀광전자 분광장비를 세계 최고의 장비로 만들어보자는 생각을 했다.”

현미경 제작은 함웅돈 박사가 7년째 매달리고 있다. 미국에서 전자현미경을 연구한 그는 “세계 최고의 주사터널링 현미경이 2~3달 후면 완성된다”면서 주사터널링 전자현미경 경쟁력의 핵심은 낮은 온도라고 강조했다.

즉 핵심은 내부의 온도를 얼마나 낮추느냐에 있다는 것이다. 시료의 온도를 낮추면 낮출수록 원자를 볼 수 있는 분해능이 좋아지고 원자 물성을 측정할 수 있는 성능이 높아지기 때문이다. 염한웅 교수는 “미국 NIST가 100밀리켈빈까지 온도를 낮췄고, 독일에 수십 밀리켈빈이라고 하는 장비가 있다”면서 “우리는 미국 온도의 10분의 1 수준, 즉 10밀리켈빈까지 내려가는 세계 최고의 주사터널링 현미경을 만들고 있다. 지금 막바지다”라고 말했다.

그의 이러한 획기적인 엔지니어링은 미국도 놀라게 만들고 있다. 미국 표준기관인 NIST의 전자현미경 개발자가 2018년에 그를 찾아온 것이 방증이다. “그들이 우리를 신경 쓰는 거다. 한참 보고 갔다. 그쪽의 엔지니어링과 우리는 완전히 다르다. 우리는 개념을 갈아엎었다. 꼭 성공해야 한다. 그만큼 세계적으로 주목한다. 성공해서 연구 결과가 나오면 놀랄 것이다.”

염 교수는 전자현미경이 양자컴퓨터와도 관련된다고 했다. 양자컴퓨터 개발을 위해 중요한 실험을 해야 하는데, 미국 것보다 염 교수 그룹의 장비가 좋다면 당연히 찾아올 수밖에 없다고 했다. 염 교수는 자신의 전자현미경 프로젝트가 “한국 과학의 현재 수준과 자존심을 보여주는 프로젝트”라고 재차 강조했다.

주사터널링 현미경은 물질 연구자에게는 중요하다. 염 교수에 따르면 최고의 학술지라는 네이처, 사이언스에 나오는 물질 관련 새로운 주요 연구들도 주사터널링 현미경으로 한 것들이다. 염 교수는 물리 실험에서 장비가 중요하다는 얘기를 여러 번 했다.

“물리에서 주도권을 잡을 수 있는 게 세 가지 있다. 우선 장비, 이건 분명하다. 내가 지난 2시간 동안 누누이 설명한 바다. 또 하나는 물질이다. 물질 합성을 위해 갖고 있는 도구가 대개 비슷하다. 그러니 인해전술이다. 물질을 넣고 녹여서 굳히는 노(爐)가 많으냐 적으냐의 싸움이다. 신물질이 미국에서만 하루에도 100개는 나온다. 중국이라면 200개도 나올 수 있다. 그런데 한국 물리학계에서 새로운 특성을 가진 물질을 합성했다는 말은 지난 30년간 거의 들어본 적이 없다. 예컨대 그래핀도 미국에서 나왔다. 물질 성질이 좋다고 하면 한국 연구자가 뒷북치며 연구하는 거다. 그러면 나머지 하나가 남는데 바로 아이디어다. 아이디어 가지고 승부를 해야 한다. 그런데 미국 물리학자가 한국 물리학자보다 머리가 나쁜가? 그렇지 않다. 오히려 아이디어를 내는 뛰어난 이론물리학자들은 주로 미국에 있다. 그러니 우리가 주도를 하지 못한다. 아이디어에서도, 물질에서도 주도권이 없으니, 그러면 어떻게 가겠다는 거냐? 나는 내가 하고 있는 분야에서만큼은 장비로 주도권을 쥐고 싶다는 것이다.”

준입자 솔리토닉스 연구

염 교수의 연구 분야를 물어볼 때가 되었다. 그의 설명을 듣고 전자현미경 빌딩을 나서기 직전에 “그러면 이걸 갖고 하는 연구는 무엇이냐”고 묻자 그는 “내가 집중하고 있는 건 솔리토닉스다. 나중에 자세히 설명하겠다”고 말했다. 솔리토닉스가 무엇인지를 압축적으로 먼저 들으면 좋을 것 같아 ‘제목’ 정도의 이야기를 우선 들려달라고 하자 이런 설명이 돌아왔다.

“솔리토닉스라는 분야는 내가 2015년에 만들었다. 정보를 저장하고 움직일 수 있는 솔리톤이라는 대상이 있는데, 고체 안에 만들어지는 준(準)입자다. 솔리톤은 1980년대 후반에 알려졌다. 그걸 정보전달하고 계산하는 데 쓰자는 게 나의 연구다. 지금은 모든 계산을 컴퓨터가 전자를 갖고 전류로 하는데 여러 문제가 있다. 트랜지스터 크기를 더 이상 작게 만들기가 어렵다. 발열량 문제도 있다. 도선은 크기를 줄이면 줄일수록 저항이 커지고 발열량이 늘어난다. 결국 더 작게 줄이는 기술은 물리적인 한계에 왔다. 그래서 더 작게 줄일 수 없다면 발열, 즉 저항이 없는 정보저장매체를 쓰자는 거다. 이걸 연구하는 일군의 물리학자가 있다. 이들은 손실 없는 정보 저장 매체를 찾으려고 특이한 준입자를 찾는다. 예를 들면 초전도체 같은 물질은 저항이 없으니 발열이 없다. 초전도체는 냉각을 시켜야 그런 물질 특성이 나타나는데 냉각이 쉽지 않다. 때문에 상온에서 발열 없이 정보를 갖고 다닐 수 있는 준입자를 발견하는 게 굉장히 중요하다. 그런데 내가 그걸 거의 발견했다고 생각한다.”

염 교수를 따라 공학5동에 있는 그의 실험실로 이동하면서 그의 국가과학기술자문회의 부의장 활동에 대해 잠시 얘기했다. 그는 박근혜 정부 때 국가과학기술자문회의 위원으로 참여했고, 문재인 정부 들어와서는 부의장으로 일하고 있다. “박근혜 3년 차 때 IBS(기초과학연구원)에서 한 명 가면 좋겠다고 해서 내가 가게 됐다. 가보니 정부가 시작한 지 3년이 됐으나 기초과학 진흥 정책이라는 게 없었다. 아무도 신경을 안 썼다. 결국 자문위원 몇몇 분이 도와줘 내가 5가지 일을 했다. 기초과학 연구 진흥 정책을 세우고, 기초연구비를 매년 15% 늘리고, 젊은 연구자를 더 적극적으로 지원하며, 평가시스템을 질적인 평가로 바꾸자는 것이었는데 다 채택됐다. 박근혜 정부 후반인 2017~2018년에 기초연구비가 늘었다. 7000억원에서 시작했으나 2017년 기준으로 1조원을 넘어갔다. 그럼에도 기초과학에 투자하는 금액이 너무 적다는 학계 요구가 있어서 당시 문재인 대통령 캠프에 합류했다. 내가 문재인 후보에게 ‘기초연구비가 1조원이라는 게 말이 되느냐, 최소한 2조원으로 늘어나야 한다’라고 주장하자 그분이 흔쾌히 ‘해보자’고 해서 참여하게 됐다. 실제로 올해 기초연구 예산이 2조원이 되었다. 문 정부 들어서는 1.1조원으로 시작해서 2조원까지 가게 했다. 그걸 지난 3년 동안에 해냈다.”

염한웅 IBS 단장 그룹이 곧 개발을 마칠 세계 최고의 주사터널링 전자현미경의 상단 모습. 제작 책임자는 함웅돈 박사다. ⓒphoto 양수열 영상미디어 기자
염한웅 IBS 단장 그룹이 곧 개발을 마칠 세계 최고의 주사터널링 전자현미경의 상단 모습. 제작 책임자는 함웅돈 박사다. ⓒphoto 양수열 영상미디어 기자

미국 대신 일본 유학 간 이유

염한웅 IBS 단장 겸 포항공대 교수는 서울대 물리학과 1985학번. 학부 4학년 때 오세정 교수(현 총장)의 연구실에 들어갔다. 당시 광전자분광기 한 대가 있었는데, 그걸 학생 15명이 같이 사용했다. 논문을 쓰려면 장비를 두 달간 사용해야 하나, 6개월 기다려 이틀밖에 장비를 쓸 수가 없었다. 연구는 재밌으나 장비가 이래서는 되겠나 싶었다. 그 말을 듣고 오세정 교수가 “포항공대에 가라. 방사광가속기를 지을 거다”라고 얘기해줬다. 포항에 내려가 보고는 놀랐다. 생활비도 대주고, 광전자분광기도 3대를 학생 6명이 쓰고 있었다. 석사장교를 마친 후 전북대 교수가 연락을 해와 1년간 연구원으로 전주에 살기도 했다.

그는 박사 공부는 일본 도호쿠(東北)대학에서 했다. 남들은 미국으로 가는데, 그는 왜 일본으로 갔을까? “대학시절 학생운동을 좀 했다. 가톨릭 계열의 청년문화운동을 했다. 대학 3학년 때 소련이 망하면서 운동권도 와해됐다. 그렇다고 운동권이었던 사람이 갑자기 영어 공부해서 미국으로 유학 간다는 것도 좀 그랬다.”

센다이에 있는 도호쿠대학에서 3년 만에 박사학위(1996년)를 받았고 이후 도쿄대학 방사광 연구자인 오타 도시야키(太田俊明) 교수 밑에서 조교수로 일했다. 오타 교수는 일본 방사광 커뮤니티의 양대 패밀리 중 하나에 속한 인물. 도쿄대는 쓰쿠바 소재 방사광가속기에 실험시설을 갖고 있기도 하다. 염 교수는 1996년부터 2000년까지 이 빔 라인의 설비를 담당했다.

이후 연세대로부터 연락이 왔다. 포항방사광가속기에 빔 라인을 지었는데, 전문가가 없으니 방사광 전문가인 염한웅 교수가 와야 한다고 했다. “센터장이던 교수님이 한국 학생들 한번 잘 키워보자라고 해서 순간 설득당해 귀국하게 됐다. 도쿄대에서 조교수 4년 하고 전임강사가 되어 부교수 되기를 기다리며 안정적인 삶을 만들어가고 있을 때였다. 2000년 초 급거 귀국했고, 연세대에서 딱 10년 일했다.”

염 교수는 1991년부터 도호쿠대학에서 박사 공부를 할 때인 1995년까지 ‘1차원 도체’ 만들기를 했다고 한다. 1차원 도체 연구가 당시 매력적이었다. 소자(device) 크기는 스위치 역할을 하는 트랜지스터 크기에 달려 있다. 1990년대 중반까지만 해도 트랜지스터 크기가 5나노미터보다 작아질 수는 없을 것이라는 예측이 있었는데 지금은 3나노미터 크기 소자는 불가능하다는 단계까지 와 있다. “1990년대 말 나노 기술 바람이 불었다. 1나노미터, 2나노미터 크기 소자를 만들려고 했는데 그러려면 트랜지스터를 1나노미터 크기로 만들고, 전기가 흐르는 도선의 굵기를 1나노미터 크기로 만들어야 했다. 1나노미터는 원자 3개 크기다. 그래서 1차원 원자선 만들기를 연구한 것이다.”

염 교수는 연구 초반인 2010년까지 10년은 ‘작게 만드는’ 연구를 했다. 그 과정에서 원자선까지 만들었으나 전기저항이 너무 커지는 발열 문제가 생겼다. 그래서 소자가 되려면 전자가 아니라 완전히 다른 정보전달 물질을 찾아야 했다. 염 교수는 “전자가 아닌, 즉 산란 혹은 충돌을 겪지 않는 준입자를 만들면 된다. 이게 솔리톤이다”라고 말했다.

정보를 전달하는 솔리톤에 대해 염 교수는 추가로 이런 설명을 했다. “지진으로 생기는 쓰나미가 솔리톤이다. 쓰나미는 중간에 사라지지 않고 일본에서 태평양을 건너 미국 캘리포니아 해안까지 간다. 6000㎞를 진행한다. 쓰나미는 통상적인 파도가 아니다. 특수한 파동이다.”

그는 이어 “쓰나미는 물이 만드는 솔리톤”이라며 “나는 ‘전자의 쓰나미’를 만들었다”라고 말했다. 전자들의 파동을 갖고 솔리톤을 만들면 충돌, 산란을 겪지 않는다는 것이다.

“나는 ‘전자의 쓰나미’를 만들었다”

솔리톤 발견자는 2000년 노벨화학상을 받았다. 미국의 A. J. 히거(펜실베이니아대학)가 도체 플라스틱을 발견했고, 솔리톤이 전하를 갖고 이동한다는 걸 알아냈다. 2007년부터 솔리톤을 찾기 시작한 염 교수는 2013년 인듐(원자번호 49)에서 솔리톤을 보았다. 이어 2015년 솔리톤을 완전히 이해했고(1차원 Z4 위상절연체와 카이럴 에지 상태 발견), 이 논문은 학술지 사이언스에 실렸다. 솔리톤을 이해한 건 IBS 단장이 된 뒤였다. 염 교수는 “이론가인 천상모 박사(현 한양대 교수), 이성훈 박사(현 경희대 교수)가 히거 교수가 생각하지 못한 걸 알아냈다”라고 말했다. 염한웅 교수는 2017년 ‘솔리톤’을 갖고 4진법 연산을 할 수 있다는 걸 알아냈는데 이게 솔리토닉스 개념의 시작이었다.

노벨상을 받은 히거 교수 이론은 ‘Z2’이고 염한웅 교수 이론은 ‘Z4’이다. 히거의 Z2는 솔리톤이 있으면 0, 솔리톤이 없으면 1로 구분할 수 있다. 없는 상태와 있는 상태만 구분한다. 반면 염한웅 교수의 Z4 솔리톤은 0, 1, 2, 3이라는 4개의 상태를 갖고 1, 2, 3이 구별된다. 그리고 ‘2+2=0’이 된다는 걸 보였다. 연산이 되는 것이다. Z4 솔리톤이 4진수의 정보를 전달하는 매체가 되며, 그것도 손실 없이 전달된다는 걸 염 교수가 보였다.

염 교수에게 솔리톤 연구와 그가 개발 중인 세계 최고의 주사터널링 전자현미경이 어떻게 연결될 수 있는지를 물었다. “솔리톤은 양자역학적인 파동이다. 양자컴퓨터의 정보 단위인 비트로 쓸 수 있다. 솔리톤 두 개를 양자얽힘 상태로 만들면 퀀텀 비트가 된다. 두 개의 얽힘을 정밀 측정해야 한다. 극저온에서 성능이 우수한 현미경이 필요하다.”

염 교수는 “지금까지 15년 이상 솔리토닉스 연구를 했는데 연구를 끌고 나가려면 전략이 필요하다”고 강조했다. “일부 과학자는 연구를 꾸준히 지원해주면 뭔가 해낼 수 있다는 식으로 말한다. 20년간 일관되게 연구를 지원해주는 곳은 없다. 정부 연구비는 항상 단기다. 10년 후에 갑자기 연구 성과가 나오는 경우는 없다. 그런 일은 일어나지 않는다. 중간기점의 목표와 연구 성과를 제시해야 한다. 지혜롭게 이기는 전략이 필요하다. 3년 연구과제 짜고, 그 다음 3년 연구과제 짜고, 또 3년 이렇게 해서 최종목표를 향해 다가가는 것이다.”

염 교수의 얘기는 아직도 끝나지 않았지만 이제 열차 시간이 15분밖에 남지 않은 걸 알았다. 다행히 염 교수가 차를 태워주겠다고 해서 부리나케 연구실에서 나왔다. 포항공대에서 포항역까지 달려가니 열차 출발 5분 전이었다. 5시간의 흥미로운 취재는 그렇게 끝났다.

최준석 선임기자
저작권자 © 주간조선 무단전재 및 재배포 금지