한정훈 성균관대 교수(응집물리학)가 자기 성질을 띠는 ‘스커미온’이라는 물질(자성체)을 연구한다는 얘기를 듣고 찾아갔다. 응집물리학자 취재는 두 번째다. 지난 10월 21일 수원에 있는 성균관대 자연과학캠퍼스에서 만난 한정훈 교수는 “양범정 서울대 교수가 연구하는 위상 반도체만큼은 아니나, 그 다음으로 큰 분야 중 하나가 스커미온이다. 지난 10년간 스커미온 분야가 굉장히 커졌다”고 자신의 연구 분야를 소개했다.

한 교수를 보러 가기 전에 그에 관한 자료를 찾았다. 응집물리학 연구는 일반에 잘 소개되어 있지 않다. 그럼에도 한 교수가 대중을 위해 쓴 글이 적지 않았다. 연구전문기관인 한국고등과학원이 발행하는 온라인 매체 ‘호라이즌’에 쓴 글 5편이 보였다. ‘양자물질의 역사’라는 제목의 시리즈 글이다. ‘스커미온’ 이야기도 나오는데 내용을 잘 전달한다고 생각했다. 수원에 가기 전날 밤늦게까지 짧지 않은 글 다섯 편을 다 읽었다.

노벨물리학상 지도교수 사울레스와의 인연

알고 보니 한정훈 교수를 대중 가까이로 끌어낸 사람은 그의 옛 박사학위 논문 지도 교수다. 2016년 노벨물리학상을 받은 미국 시애틀 워싱턴대학 데이비드 사울레스 교수다. 당시 노벨상 수상자 이름이 발표된 날 한국 기자들은 사울레스의 연구 내용을 파악하기 위해 응집물리학자들에게 전화를 돌리다가 ‘사울레스의 제자 중에 한정훈 교수라는 학자가 있다’는 얘기를 들었다. 1997년 워싱턴대학에서 사울레스의 지도를 받았던 한 교수는 20년 만에 옛 은사로 인해 분주해졌다.

“사울레스 교수의 노벨상 연구를 설명하기 위해 2016년 10월부터 다음해 초반까지 대중 강연을 10여차례 했다. 대중 강연을 자주 하다 보니 응집물리학 관련 설명이 입에 붙었다. 거의 장사꾼이 됐다.” 한 교수는 “응집물리학이 중요한데, 대중에게 이 분야를 소개하는 책이 없다. 그래서 응집물리학 책을 내년 초까지 쓰기로 K출판사와 계약했다”고 말했다. 그의 말에 전적으로 공감했다. 입자물리학, 천체물리학, 핵물리학, 원자물리학은 대중서가 많으나 응집물리학 책은 본 적이 없다.

양자홀 효과 연구

한 교수는 서울대 물리학과 1987학번. 그가 학부 졸업 후인 1991년 사울레스 교수를 찾아간 건 ‘양자홀(quantum hall) 효과’ 연구를 위해서였다. “그때 양자홀 효과 연구가 유행이었다. 사울레스 교수가 그 분야의 대가였다. 사울레스 교수가 노벨상을 받은 것도 양자홀 연구 때문이다.”

양자홀 효과는 1980년 독일 뮌헨공대에서 일하던 클라우스 폰 클리칭이 발견했다. 한정훈 교수는 양자홀 효과를 이렇게 설명했다. “전기 저항을 측정하면 몇 옴이라는 결과가 나온다. 아무 값이나 나올 수 있다. 사람 몸무게를 재면 아무 수치가 나올 수 있는 것과 같은 원리다. 그런데 어떤 특별한 물질을 만들어 보니 양자홀 저항이 2만5000옴, 5만옴, 7만5000옴과 같이 어떤 값의 정수배로만 나왔다. 왜 이렇게 정수배가 나오느냐가 클리칭의 양자홀 효과 발견 이후 응집물리학 분야의 가장 중요한 문제가 되었다. 이걸 1982년에 데이비드 사울레스 교수가 풀었다.”

한 교수에 따르면, 사울레스 교수가 이것을 설명할 때 ‘위상(topology) 숫자’라는 게 등장한다. 양자홀 1, 2, 3, 4, 이런 식이다. 이 숫자가 위상 숫자다. 2016년 노벨상위원회는 사울레스 교수 등의 연구 결과를 설명하기 위해 포스터를 하나 만들었다. 포스터에는 계단 그림이 들어 있다. 계단은 네 개다. 특별한 물질의 저항값을 측정하면 1, 2, 3, 4로 나오지, 그 중간값은 나오지 않는다는 얘기를 계단 그림을 통해서 하고 있다. 한정훈 교수는 베이글과 거기에 실을 감는 횟수의 예도 들었다. “구멍이 하나 있는 베이글을 예로 들어 보자. 베이글에 실을 감을 수 있는 건 한 번, 두 번, 세 번과 같은 정수배다. 정수로만 감긴다. 즉 물질이 갖고 있는 위상학적인 특징이 홀 저항 측정 결과에 그대로 반영된 거다. 이게 정수 양자홀 효과다.” 한정훈 교수는 양자홀 효과 연구로 1997년 박사학위를 받았다.

스커미온 연구로 이끈 두 번째 스승

한정훈 교수의 두 번째 ‘스승’은 일본 이화학연구소(RIKEN)의 나가오사 나오토 교수(도쿄대학)다. 이화학연구소는 일본이 자랑하는 기초과학 연구기관. 나가오사 교수와의 인연이 한 교수를 ‘스커미온’ 연구로 이끌었다. 한 교수는 “내가 해온 일 중에서 잘 알려지고 묵직한 게 스커미온 연구”라면서 “나가오사 교수는 이론가다. 응집물질 이론 전반에 많은 기여를 했다”고 말했다. 나가오사 교수는 한 교수보다 11살이 많은 1958년생이다.

한정훈 교수는 워싱턴대학에서 박사학위를 받고 두 군데의 박사후연구원 생활과 건국대학교 교수(2001~2003)를 거친 후 2003년 성균관대학교 교수로 부임했다. 부임 다음해에 나가오사 교수의 명성을 듣고 이메일을 보냈다. “연구할 아이디어를 찾고 있었다. 나가오사 교수는 모르는 분인데 ‘방문하고 싶다’고 연락했다. 그가 ‘오라, 같이 할 게 있는지 얘기해 보자’고 했다. 그래서 갔고, 그 이후로 공동연구를 하게 됐다. 2004년부터 1년에 한두 번씩 계속 갔다.”

나가오사 교수와의 연구 성과가 꽤 좋았다. 몇 가지 연구를 마치고 ‘이제 우리 뭐할까’라고 생각할 때 나가오사 교수가 말했다. “망간실리사이드(MnSi), 거기에 이상한 실험 결과가 있다. 아무도 실험 결과를 이해하지 못하고 있다. 우리가 이 현상을 설명하는 이론 모델을 만들어 보자.” 한정훈 교수가 이 말을 들려줬을 때야 그와 나가오사 교수가 응집물리학을 이론으로 연구한다는 게 무엇인지를 제대로 알아차릴 수 있었다.

“내가 모델을 만들어 (대학원) 학생과 컴퓨터 프로그램을 돌렸다. 원자 세계를 정확히 이해할 수 없으니 핵심을 추려 수학적인 모델을 만든다. 간단한 컴퓨터 계산으로도 모델이 주는 상태가 뭐냐를 풀어낼 수 있다. 풀어봤더니 스커미온 구조가 나왔다. 망간실리사이드에서 이상한 실험 결과가 나오는 건 스커미온 때문이 아닐까 생각하게 됐다.”

그 ‘이상한 현상’이 뭐냐고 물었더니, 한 교수는 ‘홀 현상’이라고 했다. 그는 스커미온 구조와 홀 현상의 연관성에 흥분해서 논문을 썼다. 논문이 거의 완성될 즈음 독일 뮌헨공대의 크리스티안 플라이더러 교수 그룹이 먼저 논문을 내놨다. 망간실리사이드에서 스커미온을 봤다는 똑같은 연구 결과였다. 2009년 일이었다. 힘이 쭈욱 빠졌다. 그런데 그걸로 끝난 게 아니었다. 플라이더러 교수가 3차원 물질에서 스커미온을 봤다면, 나가오사-한정훈 팀은 2차원 물질에서 스커미온을 보게 된다.

나가오사 교수는 이론가였지만 탁월한 실험물리학자를 파트너로 두고 있었다. 역시 도쿄대 교수이고 이화학연구소에서 일하는 도쿠라 요시노리 교수였다. “도쿠라 교수는 매우 유명한 실험가다. 무슨 물질이든 만들 수 있고, 무슨 현상이든 관측할 수 있는 막강한 실력의 보유자”라고 한 교수는 말했다. 나가오사 교수가 도쿠라 교수에게 “당신, 왜 2차원 자성체 갖고 있었잖아. 그걸 확인해봐”라고 제안했고, 도쿠라 교수는 아주 얇게 자성체를 만들었다. 그 결과 거기에서도 스커미온 구조가 나오는 걸 확인했다. 이로 인해 스커미온 구조를 발견한 사람은 플라이더러 그룹(2009년)과 도쿠라 그룹(2010년) 두 개가 되었다. 한 교수가 공저자로 참여한 논문은 일본인 연구자들과 함께 최고의 학술지 네이처에 실렸다.

스커미온은 ‘스핀 소용돌이 입자’

지금까지 스커미온, 스커미온 했는데, 스커미온이 무엇인지는 말하지 않았다. 스커미온이란 용어는 영국 물리학자 토니 스컴(Skyrme·1922~1987) 이름에서 따왔다. 스컴이 연구하던 1960년대 입자물리학계의 화두는 원자의 핵 안에 들어 있는 양성자나 중성자는 뭘로 만들어졌느냐였다. 토니 스컴은 ‘꼬여 있는 매듭’ 상태라는 개념을 들고나왔다. 매듭이란 한번 만들어지면 끊어지지 않는 안정적인 구조다. 그래서 양성자는 양성자로 붕괴하지 않고 남아 있을 수 있다는 가설을 내놨다. 결과적으로 그의 생각은 틀렸다. 쿼크라는 게 양성자 속에 들어 있는 걸로 나중에 밝혀졌다.

한정훈 교수는 “꼬여 있다면 안 끊어진다. 이런 게 수학에서는 위상 수학이다. 위상 숫자라는 게 있어서 위상 숫자가 변하지 않기 때문에 끊어지지 않는다, 이런 식으로 얘기한다. 양성자의 내부 구조가 밝혀지면서 스커미온 이야기는 틀렸지만, 재밌었네 하고 넘어갔다”라고 말했다. 그런데 2009년 스커미온 구조라는 게 응집물리에서 발견됐다. 자석에서 나왔다.

보통 자석은 자석 속 전자들의 스핀이 한 방향으로 정렬해 있다. 전자의 스핀은 ‘위’ 혹은 ‘아래’라는 두 방향 중 하나를 가리킨다. 2차원 고체가 있다고 하자. 그러면 일반 자석은 스핀이 한 방향을 가리킨다. 그래야 자기장 힘이 모아져 센 자석이 된다. 스커미온은 좀 다르다. 2차원 평면의 바깥, 즉 주위에서는 스핀이 위를 향한다. 그런데 2차원 평면의 가운데에 오면 스핀이 아래를 향한다. 스핀 방향이 주위에서 가운데로 갈수록 조금씩 휘어지고, 가운데에 오면 완전히 뒤집힌다. 그래서 스커미온은 ‘스핀 소용돌이 입자’라고 부른다.

화장실에서 물을 내리면 소용돌이가 생긴다. 소용돌이도 위상학적인 존재다. 담배 구름도 마찬가지이다. 담배 구름이 잘 없어지지 않는 것도 담배 구름 고리를 따라 공기가 뱅뱅 소용돌이 치며 돌고 있기 때문이다. 스커미온도 위상학적인 존재이기 때문에 만들어지면 안 없어지니 안정적이다.

한정훈 교수는 이후 2013년까지 스커미온이 어떤 운동방정식을 만족하는가를 연구했다. 한 교수는 “4년간 집중적으로 연구했다. 스커미온이 왜 야구의 커브 공처럼 휘는지 운동방정식을 줘야 한다. 기본방정식을 만드는 데 참여했다”고 말했다. 때문에 결국 자성체 연구에 10년간 매달린 게 되었다.

그에게 스커미온의 운동방정식을 취재수첩에 써달라고 요청했다. 간단했다. 설명을 들으니 흥미로운 건, 스커미온은 힘을 가하면 수직으로 움직인다는 것이었다. 앞으로 밀었는데 스커미온은 수직방향으로 움직이는 특성을 갖고 있다는 것이다. 이어 한정훈 교수는 “소용돌이도 마찬가지다”라고 말했다. 이 대목에서 한 교수가 일본 이화학연구소의 나가오사 교수와 같이 한 스커미온 연구가, 그의 첫 번째 스승인 사울레스 교수의 또 다른 연구와 연결된다.

한정훈 교수가 1991년 박사과정을 밟기 위해 미국 워싱턴대학으로 갔을 때였다. 앞에서 말한 것처럼 양자홀 연구를 하러 갔고 당시 사울레스 교수는 양자홀 분야에서 명성이 높았다. 그런데 사울레스 교수는 관심이 딴 데 가 있었다. ‘소용돌이 역학’ 연구를 하고 있었다. 한 교수는 “연구 분야를 바꿀 수도 없고 해서 나는 그냥 양자홀 효과 연구를 했다. ‘소용돌이 역학’ 연구를 하고 싶었으나, 교수님은 그 연구는 다른 학생에게 맡겼다. 그래서 나는 양자홀 효과를 계속 연구했다. 아이디어도 혼자 내고, 방정식 푸는 것도 내가 알아서 풀고, 그래서 박사학위도 오래 걸렸다”라며 웃었다. 그는 박사과정을 6년간 했다.

“사울레스 교수는 당시 늘 소용돌이 문제를 풀고 있었다. 그는 소용돌이의 운동방정식에서도 세계적 권위자이다. 소용돌이 운동방정식과 스커미온 운동방정식 형태가 똑같다. 스커미온과 소용돌이는 일종의 사촌관계다. 그래서 스커미온 연구를 통해 나는 결국 옛날에 하고 싶었던 걸 했다.”

한 교수에 따르면 스커미온에는 어떤 수학적인 양이 있다. 그걸 스커미온 숫자라고 한다. 일반자석의 스커미온 숫자가 0이라면, 스커미온은 스커미온 숫자가 1이다. 통상 정보를 비트로 표시하며, 0 혹은 1로 정보를 저장한다. 스커미온 수도 ‘1’이면 그 자체가 비트가 된다. 그러니 스커미온은 저장 매체가 될 수 있다. 자성체 연구로 노벨상(2007년)을 받은 프랑스 학자 알베르 페르가 스커미온이 발견된 걸 보고 “스커미온으로 기억소자를 만들면 효과적이겠다”라는 말을 2011년을 전후해서 했다. 유명한 사람이 그런 말을 하니 스커미온에 대해 관심이 증폭됐다.

집적도 월등한 하드디스크로 사용

한 교수에 따르면 응집물리 연구자가 관심을 가지는 분야는 반도체, 자성체다. 컴퓨터 하드디스크의 집적도를 높이기 위해서는 자성체 연구가 중요하다. 하드디스크에는 작은 자석이 들어 있다. 스커미온이 하드디스크 저장매체로 효과적인 이유는 스커미온 크기가 작기 때문이다. 10나노미터(10-8m)×10나노미터 안에 스커미온이 하나 들어간다. 집적도가 지금의 하드디스크보다 훨씬 좋다.

스커미온 구조는 다양한 종류의 자석에서 발견된다. 철과 망간 합금으로 막대자석을 흔히 만드는데, 이 막대자석을 아주 얇게 2차원 구조로 만들면 스커미온 구조가 나온다. 스커미온 구조는 영하 200도에서 최초로 발견됐으나 지금은 상온에서도 보인다.

그는 2017년 책을 써보라는 제안을 받고 영어로 써서 독일 스프링거 출판사에서 냈다. 책 제목은 ‘응집물질에서의 스커미온(Skyrmions in Condensed Matter)’. 그는 “영어로 학술 책을 내는 한국 물리학자는 거의 보지 못했다. 반면 일본인은 몇십 년 전부터 영어로 책을 쓴다”고 말했다. 독일 스프링거 출판사는 과학전문 출판사이고, 지난 2015년 최고의 과학학술지 ‘네이처’를 합병한 바 있다. 스커미온 분야에서 이제 물리학자들은 할 만큼 한 상태이고 앞으로 응용이 남았다. 한 교수는 “재료공학 쪽으로 연구가 넘어갔다”고 말했다.

김필립·김민형 교수와 공동 연구

한정훈 교수는 자신의 현재 연구에 대해 두 가지를 말했다. ‘꼬인 그래핀’ 연구와 ‘텐서 그물망을 기반으로 한 응집물질 이론 만들기’다. 꼬인 그래핀(twisted bi-layer graphene) 연구는 미국 하버드대학 실험물리학자(응집물리)인 김필립 교수와 함께한다. 김필립 교수는 한정훈 교수의 서울신림중학교, 서울대 물리학과 1년 선배. 김 교수는 널리 알려진 그래핀 연구자다. “그래핀은 2차원 탄소막이다. 그걸 만드는 데 한발 늦는 바람에 김필립 교수가 노벨상을 놓쳤다”고 한 교수는 말했다.

김 교수는 지난 여름 방문교수로 성균관대에 와서 연구했는데, 김 교수가 어느날 보자고 하더니 “그래핀에 재미있는 연구가 있다”고 했다. 그래핀 두 장을 꼬기만 했는데, 신기한 현상이 나타난다는 것이었다. 김필립 교수로부터 얘기를 듣고 한 교수는 ‘꼬인 그래핀’ 실험 결과를 설명하는 이론을 만들었다. 지난 7월부터 9월 중순까지 연구를 했다. 일을 하다 보니 잘 모르는 수학 문제가 튀어나와 영국 옥스퍼드대학의 수학자 김민형 교수에게 자문을 구했다. 김민형 교수가 방학을 이용해 서울 고등과학원에 와 있던 때였다. 김민형 교수는 “내가 아는 문제”라며 자문을 해줬다. 한정훈 교수는 “물리학실험가, 물리학이론가, 수학자가 협업한 흥미로운 사례였다”고 말했다.

이론을 만드는 사람은 자신의 이름이 들어간 이론을 남기고 싶어한다. 한 교수도 그렇다. ‘텐서 그물망(Tensor Network)을 기반으로 한 응집물질 이론 만들기’에 기대를 걸고 있는 듯했다. “텐서 그물망이 무엇인지는 설명하기 어렵다”고 한 교수는 말했다. 대신 그는 자신의 연구실 이름이 ‘다체계(many body)연구실’임을 환기시켰다.

“물질은 많은 전자와 전자, 원자와 원자들의 뭉치로 이뤄져 있다. 그러면 상호작용 효과가 중요해진다. 특이한 집단 상태가 ‘창발’한다. 도체, 부도체, 반도체와 같은 물질의 특성은 모두 창발된 현상이다. 이 창발적인 상태를 효과적으로 체계적으로 다루는 방법으로 ‘텐서 그물망’이 있다.”

한정훈 교수 얘기는 이쯤 해서 끝났다. 흥미로운 응집물리학 이야기였다. 특히 노벨상을 받은 은사 덕분인지, 아니면 본인의 노력 때문인지, 까다로운 응집물리학 내용을 쉽게 설명하는 능력이 돋보였다. 내년에 낼 일반 독자를 위한 응집물리학 책도 술술 읽을 수 있을 걸로 기대한다.