고체물리학자는 처음이다. 서울대 물리학과 양범정 교수를 지난 10월 11일 그의 서울대 연구실에서 만났다. 양 교수는 “어떤 재료를 쓰느냐는 인류 문명의 발전 정도를 알려주는 지표다. 석기, 청동기, 철기로 인류 문명의 시대 구분을 하지 않느냐. 그만큼 재료가 중요하다”고 말했다. 그의 말에 공감했다. 고체물리학의 중요성이 쉽게 다가왔다.

양 교수 취재를 앞두고 한국물리학회 웹사이트에 들어가 봤다. 물리학회 소속 회원들의 연구 분야 통계가 나와 있다. 고체물리학 분야가 압도적으로 많았다. 전체 4385명 중 고체물리학에 해당하는 ‘응집물질물리학’과 ‘반도체 물리학’ 분과 회원이 41.2%였다. ‘응집물질물리학’이 1177명, ‘반도체물리학’이 628명이다. 반면 입자물리학 453명, 핵물리학 367명, 천체물리학 228명 등이었다.

양 교수는 “한국의 공부 잘하는 물리학과 학생은 입자물리학 이론을 해야 하는 걸로 생각하는 경향이 있다. 하지만 중국은 사정이 다르다. 학부 수석 졸업생이 고체물리학을 연구한다”고 했다. 입자물리학자로 노벨상을 받은 양전닝(중국계 미국인·1957년 노벨 물리학상)이 언젠가 중국에 와서 “입자물리학보다는 고체물리학이 앞으로 연구할 게 많다”고 말한 게 계기가 됐다고 양 교수는 전했다.

양 교수는 이어 “지금은 재료 기준으로 보면 철기시대에 이어, 반도체시대라고 할 수 있다. 나는 반도체에서도 특별한 반도체라고 볼 수 있는 ‘위상물질’을 연구한다. 위상물질은 위상성질을 가진 반도체”라고 말했다.

물리학회 회원 중 41%가 고체물리학 연구

양 교수에 따르면, 위상물질이 알려진 건 20년도 안 됐다. 현재 고체물리학 분야에서는 위상물질 연구가 가장 인기다. 연구 경쟁이 치열하다. 그는 아카이브(arxiv.org)라는 웹사이트를 매일매일 체크해야 한다고 했다.

양 교수가 말하는 ‘위상물질’은 무엇일까. ‘위상물질’에서 ‘위상(topology)’이 뭔지를 먼저 살펴봤다. 2016년 노벨 물리학상 수상식장에서 달걀과 축구공, 그리고 결혼반지와 도넛 이야기가 나왔다. 토르스 한스 한손 교수(스톡홀름대학 물리학자)가 스웨덴 왕 앞에서 수상자 선정 이유를 먼저 설명했다. 당시 노벨 물리학상 수상자는 ‘물질의 위상 상태와 위상 상전이의 이론적 발견’에 기여한 세 사람, 데이비드 사울레스, 덩컨 홀데인, 마이클 코스털리츠였다. ‘위상물질’ 시대를 연 주역들이다. 당시 노벨상 선정위원회의 물리학자는 이들 물리학자의 연구 내용이 무엇인지를 왕이 알아들을 수 있게 쉽게 설명했다. 시상식장에서 나온 ‘위상’에 관한 설명을 일부 옮겨본다.

“위상은 개체의 속성을 나타내는 강력한 특성입니다. 달걀과 축구공은 같은 위상 특성을 가지며 구멍이 없는 3차원 물체에 속합니다. 한편 결혼반지나 도넛은 구멍이 하나 있는 위상을 갖습니다. 언제나 정수인 구멍 수는 위상 불변량의 한 예입니다.”

그는 이어 위상물질이 무엇인지를 설명했다. “(올해 노벨상 수상자 세 사람은) 물질의 상태에 대한 (러시아 물리학자 레프) 란다우의 (기존) 분류가 불완전하다는 것을 보여주었습니다. 란다우가 밝힌 상태들에 더하여 위상 불변량에 대한 특이값을 갖는 ‘위상 상태’가 추가로 있다는 걸 보여주었습니다.”

커피잔과, 구멍이 하나 있는 도넛이 위상이 같다는 건 알겠다. 그런데 고체물리학이 다루는 물질들 사이에 위상이 같고, 다르다는 건 무엇을 말하는 걸까. 양 교수가 연구실에 있는 대형 모니터에 PPT 화면을 하나 띄웠다.

“화면에 보이는 것이 고체의 2차원 평면이다. 원자들이 주기성을 갖고 놓여 있다. 원자 하나하나의 안에는, 전자들이 핵 주변의 궤도(orbital)를 따라 돌고 있다. 전자가 원자 내에서 어떤 궤도에 들어 있느냐를 기술하는 게 양자역학에서 말하는 파동함수(wave function)다. 주기적인 격자구조에서는 파동함수의 파동수(wave number), 혹은 운동량(momentum)도 주기성을 가진다. 운동량이 바뀔 때 파동함수가 어떻게 꼬이는지가 물질의 위상성질을 결정한다. 보통물질에서는 파동함수가 특별한 꼬임구조를 가지고 있지 않다. 하지만 위상물질에서는 파동함수가 운동량 공간에서 뫼비우스의 띠처럼 꼬여 있다.<142쪽 네이처 표지 참조> 간단히 말해, 파동함수가 운동량 공간을 한 바퀴 돌아 제자리로 돌아왔을 때 꼬여 있다면 위상물질이고, 아니면 일반물질이다.”

뫼비우스의 띠와 위상물질

뫼비우스 띠는 띠를 찢지 않는 한 일반적인 띠로 만들 수 없다. 위상물질의 전자구조 역시 물질의 화학구조가 바뀌지 않는 한 보존된다. 양 교수는 “위상물질은 매우 안정적인 특징을 갖고 있다”고 말했다.

위상물질 중 가장 먼저 발견되고 표준적인 것이 ‘위상 절연체(topological insulator)’다. 물질의 3차원 공간 대부분은 부도체, 즉 전기가 흐르지 않는데, 표면에서는 전기가 흐르는 물질이 위상절연체다. 표면에 흐르는 단위시간당 전하량이 일정한데 불순물을 가해도 일정하다. 이런 성질을 가진 물질이 많다고 했다.

양 교수는 원자번호가 큰 물질인 비스무트(83), 셀레늄(34), 안티모니(51) 화합물에서 위상절연체 특성이 나타난다고 했다. 원자구조가 큰 이들은 ‘스핀 궤도 결합’이라는 물리적 특성이 강하다. 전자의 스핀(회전)과 전자의 궤도가 서로 상호작용한다. 즉 전자가 돌고 있는 원자 내 궤도가 바뀌면 전자의 스핀 방향이 달라질 수 있다. 이로 인해 위상성질의 변화가 생길 수 있다. “가벼운 원소로 된 물질에서는 위상성질이 중요하지 않다. 하지만 무거운 물질인 비스무트와 셀레늄 같은 걸 잘 조합하면 위상물질이 될 가능성이 높다.” 대표적인 위상 반도체로 Bi2Te3, Bi2Se3가 있다.

파동함수가 꼬여 있는 방식은 고체 물질마다 다르다. 뫼비우스 띠처럼 꼬여 있는 건 하나의 방식일 뿐이다. 대칭성이 다른 물질은 다른 형태의 위상성질을 가질 수 있다. 양 교수는 다른 대칭성에 따라 나타나는 다른 위상성질과 관련, 최근 발견된 ‘결정위상절연체’의 경우를 예로 들었다. 결정위상절연체는 결정(crystal)대칭성 때문에 생기는 위상물질. 결정대칭성의 하나로 거울(mirror)대칭성이 있다. 거울대칭성은 물질을 접었을 때 양쪽이 똑같은 특성을 갖는다. 잘 알려진 위상절연체는 어떻게 잘라도 표면에는 전류가 잘 흐른다. 그런데 거울대칭성에 의해 보호되는 위상물질은 성질이 다르다. 같은 표면이라도, 거울면에 수직인 표면은 전류가 흐르고, 거울면에 평행인 면에는 전류가 흐르지 않는다.

양 교수는 “물질의 대칭성 종류는 매우 많다. 격자구조를 가지는 고체는 다양한 대칭성을 가지며 이들의 집합은 군(group)을 형성한다. 자성을 무시할 때 고체 결정이 가진 대칭성만도 230개이다. 자성을 고려하면 대칭성이 1500개가 넘는다”고 했다. 그는 이어 “불과 몇 달 전에, 대칭성 230개가 보호할 수 있는 새로운 위상성질이 무엇인지를 모두 분류해냈다. 미국 프린스턴대학(보그단 A 버너빅)과 하버드대학(애슈빈 비시나바스), 그리고 중국 물리학연구소(IOP) 등 여러 고체물리학 그룹이 해냈다”고 말했다.

세계적인 위상물질 연구 경쟁

양범정 교수 말을 들으니 위상물질 연구 경쟁이 후끈한 걸 느낄 수 있었다. 그는 고체물리학자가 지금 경쟁적으로 하고 있는 일을 이런 식으로 다시 정리해줬다. “결정대칭성이 보호하는 새로운 위상절연체, 위상금속 혹은 준금속을 찾고, 그 물질이 갖는 물성을 이해하고, 그 물질이 가진 파동함수의 위상학적 성질을 이해하는 게 목표다.” 그는 “위상절연체를 분류하기는 했으나, 각각의 성질과 의미를 이해하여야 한다. 실질적으로 물질로 구현할 수 있는지도 보아야 한다”면서 “이게 내 연구의 최전선이다”라고 말했다.

양 교수 연구를 보면 ‘고체물리학’ 말고 ‘응집물질물리학’이라는 용어도 나온다. 혼란스러웠다. 고체물리학은 전통적인 용어이고, 요즘은 ‘응집물질(condensed matter)물리학’이라는 용어를 사용한다고 했다. 응집물질은 응집된 물질의 특성을 연구하는데, 초전도체와 같은 유체 특성을 가진 물질이 여기에 포함된다. 그러니까 유체와 같은 물질로 고체물리학자의 연구 대상이 확대되면서 ‘고체물리학’이란 용어는 ‘응집물질물리학’에 밀려났다.

양범정 교수는 서울대 1997학번. 화학과를 졸업하고 물리학과 대학원에 가서 2008년 박사학위를 받았다. 서울대 56동 5층에는 물리학과 교수들 연구실이 있는데, 양 교수 방과 지척인 곳에 연구실이 있는 유재준 교수가 그의 논문 지도교수이다. 양범정 교수는 ‘쩔쩔매는(frustrated) 자성체의 초전도 및 들뜸 현상’ 연구를 박사 시절에 했다고 했다. 그의 박사논문 주제가 낯설어서 나를 쩔쩔매게 했다. 하지만 포기하지 않고, ‘쩔쩔매는 자성체’가 무엇인지를 물어봤다.

양 교수에 따르면 자성체에는 크게 보아 강자성체, 반(反)강자성체가 있다. 일반적인 자성체는 물질을 이루는 원자 속에 들어 있는 전자의 스핀이 강한 자기장 안에 놓이면 같은 방향으로 정렬한다. 그리고 강자성체는 자기장이 없더라도 원자 속 전자의 스핀이 자발적으로 한 방향으로 정렬되어 있다. 전자의 스핀이 한 방향으로 정렬하면 자성을 띤다. 이와 다르게, 반(反)강자성체는 전자들의 스핀이 서로 다른 두 방향, 즉 ‘위(up)’ ‘아래(down)’로 엇갈리며 반복되는 구조다.

양 교수가 박사과정 때 연구한 ‘쩔쩔매는 자성체’는 ‘반강자성체’의 한 종류다. 4각형 격자구조를 갖고 있는 반강자성체를 보자. 격자 내 연결점에 놓인 전자의 스핀 방향이 인접 점과 다르다. 하나가 ‘위’라면 인접한 전자의 스핀은 ‘아래’를 가리킨다. ‘쩔쩔매는 자성체’는 격자구조가 사각형이 아니라 삼각형이다. 삼각형은 꼭짓점이 세 개다. 한 점의 스핀이 ‘위’라고 하자. 그러면 이 점과 인접한 한 점의 스핀 방향은, 스핀 방향이 다른 ‘아래’가 될 것이다. 그러면 남은 한 점의 스핀 방향은 무엇인가. 두 이웃의 스핀 방향이 하나는 ‘위’이고, 다른 하나는 ‘아래’이다. 이 결점이 어떤 스핀을 가질지 애매하다. ‘위’일까, ‘아래’일까. 기본적인 상호작용은 반강자성인데, 이 경우 스핀이 어떻게 정렬하는지를 모른다.

양 교수는 “내가 연구한 격자는 기본단위가 삼각형이고, 삼각형 두 개가 겹쳐진 모양이다. 카고메 격자(양 교수가 그리는 그림을 보니 유대인을 상징하는 다윗의 별 모양이었다)라고 한다. 이런 상호작용을 하는 시스템이 가질 수 있는 (에너지의) 바닥 상태와 들뜸 상태의 특성 연구는 매우 어렵다. 박사 때 이걸 연구했다”고 말했다. 그의 설명은 알듯 말듯 했지만, 응집물질물리학자가 연구하는 게 뭔지를 조금은 더 맛볼 수 있었다.

‘쩔쩔매는 자성체’ 분야는 강상관계물질(Strongly Correlated Electron Systems)이라는 연구 분야의 하나라고 했다. 강상관계는 물질 내 전자 간의 상호작용이 강한 경우를 가리킨다. 강상관계의 주요 분야로는 고온 초전도, 거대자기저항물질(CMR), ‘쩔쩔매는 자성체’가 있다. 1차 취재를 마치고 돌아와 자료를 찾아보니, 고온 초전도는 1987년에 노벨상을 받았다.

‘쩔쩔매는 자성체’ 연구 권위자

양범정 교수는 박사학위를 받은 뒤 캐나다 토론토대학으로 갔다. 이 대학의 김용백 교수가 강상관계이론과 ‘쩔쩔매는 자성체’ 연구의 권위자이기 때문이다. 박사후연구원으로 일하면서 그는 위상물질 연구를 시작했다. 그리고 2년 뒤인 2010년 7월 일본으로 옮겼다. 도쿄 서쪽에 있는 와코시(和光市)에는 일본이 자랑하는 세계적인 기초과학연구소 이화학연구소(RIKEN)가 있다. 이곳에서 양범정 교수는 위상물질을 본격적으로 연구했다. 도쿄대학의 나가오사 나오토 교수와 도쿠라 요시노리 교수로부터 지도를 받았다. 그리고 2015년 9월 서울대 교수로 부임했다. 양 교수의 연구실 한쪽에는 ‘어머니 친구 일동’이라고 적힌 축하 난 화분이 하나 놓여 있었다. 아직 그가 에너지가 펄펄 넘치는 젊은 학자라는 걸 확인할 수 있었다.

양범정 교수에게 주요 연구를 물어봤다. 그는 2014년에 쓴 ‘3차원 디락준금속’ 논문을 가장 먼저 설명했다. 일본 이화학연구소에서 썼으며, 그간 쓴 논문 중에서 가장 많이 인용됐다고 했다. 양 교수에 따르면, 고체물리학자들은 위상절연체를 발견하고, 이어 ‘위상준금속(semi-metal)’도 찾아냈다. 전기가 통하는 물질은 도체(금속)이고, 전기가 통하지 않으면 부도체(비금속)다. 양 교수가 반도체의 에너지 띠 구조 이미지를 보여줬다.<그림 참조> 그걸 보니, 금속과 비금속, 준금속의 차이가 왜 일어나는지를 알 수 있었다.

두 개의 에너지 띠가 그려져 있는데 ‘전도 띠(conduction band)’와 ‘원자가 띠(valace band)’라고 쓰여 있다. 그 사이에는 ‘에너지 갭’이 있다. 그런데 둘 사이가 떨어져 있다. 부도체의 경우, ‘원자가 띠’에는 전자가 가득 차 있고, 그래서 전자가 움직일 수 없다. 반면 ‘전도 띠’에는 전자가 하나도 들어가 있지 않다. 텅 비어 있다.

도체의 경우 원자가 띠에 전자가 가득 차 있고, 전도 띠에도 전자가 일부 들어 있다. 양 교수는 “준금속은 전도 띠와 원자가 띠를 한 점에서 찌그러뜨려 만나게 한 것이다. 에너지 갭을 완전히 없애면 금속이 되나, 띄엄띄엄 떨어져 있는 점 몇 개에서만 갭이 사라지게 하면 준금속이 된다. 디락준금속이다”라고 말했다. 디락준금속이 위상성질을 가질 수 있다는 게 2013년에 이론적으로 제안됐다. 양 교수는 “내가 한 일은 격자대칭성을 기준으로 어떤 종류의 디락준금속이 일반적으로 자연계에 존재할 수 있는지와 그 위상성질이 무엇인지를 처음 분류한 것”이라고 했다. 논문은 학술지 ‘네이처 커뮤니케이션’에 실렸다.

그의 두 번째 주요 연구는 서울대 교수로 일하면서 한 것이다. 양 교수는 “격자대칭성이 보호하는 새로운 위상 상태를 찾는 게 한 가지 큰 연구 주제라고 앞에서 말했다. 격자대칭성에는 시공간 반전대칭성이라는 게 있다. 물질의 공간 반전대칭성에, 시간 역전대칭성이 합해져서 정의된 개념이다. 이건 다루기 어렵다. 우리 그룹이 이런 대칭성이 있을 때 기존에 알려지지 않은 새로운 위상 상태가 있다는 걸 알아냈다. 시공간 반전대칭성이 보호하는 위상절연체, 위상준금속을 찾았고, 그것들의 위상학적 성질을 연구했다”고 말했다. 논문은 최고의 학술지 ‘피지컬 리뷰 레터스’에 2017년과 2018년에 두 차례 실렸고, 주제 관련 논문은 모두 5~6편 된다고 했다.

양 교수의 세 번째 주요 연구는 지난 4월에 나왔다. 최근에 각광받는 물질인 그래핀을 두 장 겹치고, 그걸 틀어놓은(twisted bi-layer graphene) 것이다. 이 특이한 그래핀의 강상관 현상 관련 논문은 2018년에 처음 나왔다. 그래핀은 탄소라는 가벼운 물질로 되어 있다. 그런데 무거운 물질에서 나타나는, 즉 강상관계 물리에서만 기대되는 물리 현상이 그래핀에서 나타났다. 그 원인이 무엇인지를 학자들이 지금 많이 연구하고 있다. 양 교수는 “두 장 겹치고, 그걸 틀어놓은 그래핀을 보니 시공간 반전대칭성이 존재했다. 매우 특이한 위상성질이 나타났다”면서 이 연구를 학술지 ‘피지컬 리뷰 엑스’에 발표했다고 말했다. 고체물리학 분야는 낯설고, 그래서 설명을 따라가기 쉽지 않았다. 그럼에도 물리학에서 가장 많은 학자가 매진하는 고체물리학 세계를 접한 건 흥미로운 경험이었다. 다만, 독자에게 내용을 전달하는 데 얼마나 성공했는지 모르겠다.