명지대 물리학과 김재완 교수가 ‘파인만의 물리학 강의’ 제3권을 책장에서 꺼내 왔다. 지난 8월 12일 경기도 용인에 있는 명지대 자연과학캠퍼스 차세대과학관 내 자신의 연구실에서였다. 김 교수는 ‘파인만의 빨간 책’이라고 불리는 이 유명한 책의 양자역학 편을 펼치더니, 제1장 ‘양자적 행동’에 나오는 삽화를 몇 개 보여줬다. 그는 “과학에 관심이 있으시니, 이 책을 갖고 있을 거라고 생각해서 꺼냈다”라고 말했다. 입자인 전자가 파동처럼 행동한다는 걸 설명하는 사고 실험 관련 그림들이다. 책에는 ‘총알 실험’ ‘파동 실험’ ‘전자 실험’ ‘약간 변형된 전자 실험’이라고 쓰여 있다.

보드에 두 개의 구멍을 뚫어놓고 전자를 그쪽을 향해 보내니 뒷면에 놓은 스크린에 물결과 같은 파동에서나 보이는 간섭무늬가 나타난다. 기이한 특성이 하나 더 있다. 누군가가 두 개의 구멍 중 어느 구멍으로 전자가 지나가는지를 관찰한다면, 스크린에 간섭무늬가 생기지 않는다. 전자는 낯을 가리는 아가씨처럼 누군가가 보고 있으면 파동이라는 얼굴을 드러내지 않는다.

원자물리학, 원자와 빛 상호작용 연구

김재완 교수는 무엇을 연구하길래 물질의 근본적인 속성인 입자-파동에 관해 얘기하는가? 취재하러 가기 전에는 ‘원자간섭계’를 이용해 정밀 측정을 하는 물리학자라고 알고 있었다. 또한 한국중력파연구협력단(단장 이형목 한국천문연구원장)에 속해 있으며, 중력파검출기에 필요한 기술을 연구한다고 들었다. ‘간섭계’는 두 개의 파동이 만날 때 일어나는 ‘간섭’ 현상을 이용한 장치다. 각각의 파동 모양이 다르면 상쇄(파동의 골이 얕아지는 경우) 혹은 보강(파동의 골이 깊어지는 경우)이라는 간섭 현상을 일으킨다. ‘원자간섭계’는 원자들의 간섭 현상을 이용한 정밀 측정기기라고만 이해했다.

김재완 교수는 서울대 물리학과 1989학번으로 서울대 대학원 물리학과에서 2003년 박사학위를 받았다. 이후 2003~2004년 박사후연구원으로 프랑스 파리고등사범학교 산하 카슬러-브로셀연구소(LKB-ENS)에서, 2005~2006년에는 프랑스 국립표준연구소(LNE-SYRTE)에서 일했다. 이후 2006년부터 명지대 교수로 근무하고 있다.

김 교수는 “물리학에는 광학, 고체물리학, 통계물리학, 입자물리학 등이 있는데, 나는 원자물리학(atomic physics)을 연구한다”라고 말했다. 원자물리학이라는 용어가 낯설다. ‘원자’나 ‘물리학’이라는 개별 단어는 익숙하나, 둘을 합해놓은 ‘원자물리학’은 뭘 연구하는 것인지 몰랐다. 김 교수는 “원자물리학은 원자와 빛 사이의 상호작용을 연구한다. 원자가 어떤 상태에 있고, 어떻게 행동하는지를 보려면 빛을 쏴서, 그 반응을 봐야 한다. 원자를 연구하는 도구는 빛, 즉 레이저다”라고 말했다.

김 교수에 따르면, 원자물리학은 20세기 초 양자물리학이 탄생하면서 나왔다. 본래 원자의 스펙트럼을 보는 원자 분광학으로, 원자에서 나오는 빛을 연구했다. 미시세계의 역학 법칙인 양자역학 이론이 맞는지 안 맞는지를 검증하기 위한 수단으로 원자를 연구했다. 원자물리학이 전기를 맞은 건 1990년대. 2세대 원자물리학이 등장했다. 레이저 기술의 발달이 계기가 됐다. 이전의 연구는 원자에서 나오는 빛을 수동적으로 관찰하는 것이었지만, 이제 레이저를 갖고 원자를 능동적으로 조작하는 연구가 시작됐다.

원자에 레이저를 쏘여 파동처럼 만든다

원자의 속도와 위치를 빛을 쏘아서 조작하는 걸 레이저 냉각 및 포획(laser cooling and trapping)이라고 한다. 원자는 공기 속에서 통상 음속과 비슷한 초속 300m의 속도로 이동한다. 그런데 수많은 광자로 이루어진 레이저를 원자에 쏘이면 원자의 이동 속도를 초당 1㎝ 이하로 내릴 수 있다. 그리고 레이저와 자기장을 적절히 사용하여 원자를 원하는 곳에 붙잡아둘 수 있다.

김 교수는 “내 연구는 여기서 더 나아가야 한다. 원자 속도를 아주 내리면 원자가 입자가 아니라 파동처럼 행동한다. 양자역학은 물질의 입자, 파동 이중성을 말하는데, 입자의 이동 속도를 내리면 입자보다 파동적인 성질이 크게 나타난다. 내 연구실은 레이저 냉각, 그리고 추가적인 냉각을 해서 파동처럼 행동하는 원자, 즉 원자의 물질파(matter -wave)를 생성하고 이를 이용한 실험을 한다”라고 말했다.

원자의 물질파 특성을 극대화하여 만든 게 원자간섭계다. 레이저로 만든 빔 가르개(beam splitter)로 루비듐 원자(원소기호 37번)의 물질파를 갈라 두 경로로 내보낸다. 다시 두 개의 물질파를 하나로 합치고, 이 합쳐진 물질파를 원자 검출기에서 본다. 그러면 간섭 현상이 나타난다. 서로 다른 경로를 지나온 물질파의 위상이 다르기에 두 개가 만나면 보강 혹은 상쇄 현상이 나타나는 것이다. 보강·상쇄가 나타나는지 여부는 간섭신호, 즉 빛의 밝기가 환해지거나 낮아지는 걸 보면 확인할 수 있다.

정밀 측정을 요구하는 연구나 산업 현장에서 빛을 이용한 간섭계, 즉 광학간섭계를 많이 사용한다. 김 교수는 최근 중력파를 검출한 미국의 라이고(LIGO) 검출기는 광학간섭계를 이용한 정밀 측정의 끝이라고 할 수 있다고 했다. 광학간섭계에 사용하는 빛은 질량이 없으나, 원자간섭계가 쓰는 원자는 질량을 갖고 있다. 때문에 원자간섭계는 중력의 영향을 받는다. 원자간섭계는 중력 혹은 관성력 측정을 위해 좋다.

원자간섭계로 소형 중력 측정기 만든다

원자간섭계를 소형화하면 차량에 싣고 다니면서 정확히 중력을 측정할 수 있다. 원자간섭계의 소형화가 실험물리학자인 김 교수의 연구 영역 중 하나다. 소형 중력 측정기의 용도는 다양하다. 심해 깊숙이 들어가는 잠수함에도 중력 측정기가 들어간다. 우주선에도, 미사일에도 필요하다. 이들 모두가 자기 위치를 정확히 알아야 하는 물체들이고, 이를 위해 필요한 장치가 관성항법장치다. 김 교수의 연구실에 있는 연구원들은 원자간섭계 소형화 작업을 하고 있다. 소형화 연구는 프랑스에서의 두 차례 박사후연구원 생활을 마치고 2006년 명지대 교수로 일하면서 시작했는데 이후 계속하고 있다. 중간에 국방과학연구소 관련 연구도 수행했다. 김 교수는 “국방과학연구소 과제는 언론에 얘기하면 안 될 것 같다”라고 말했다.

김재완 교수는 서울대 박사논문을 ‘레이저 냉각과 보스-아인슈타인 응축 실험’으로 썼다. 보스-아인슈타인 응축은 보존이라는 입자들이 절대온도인 0도에 가깝게 냉각되었을 때 보이는 물질의 독특한 모습(phase)을 가리킨다. 1925년 인도인 사티엔드라 나트 보스가 그런 물질의 상태를 예측했고, 아인슈타인도 연구했다. 그래서 물질의 이런 상태에 두 사람의 이름이 붙었다. 보존은 힘을 매개하는 입자다. 광자(전자기력 매개), W입자(약력 매개), 글루온(강력 매개)이 보존이다.

“보존은 동일한 에너지 상태에 여럿이 들어갈 수 있다. 서로 밀어내지 않으니 입자를 많이 쌓을 수 있다. 전자, 쿼크와 같이 물질입자는 동일한 에너지 상태에 여럿이 들어갈 수 없다. 그런데 물질입자, 즉 페르미온도 여러 개가 모였을 때 특정한 경우에는 보존과 같은 성질을 띤다. 그러면 어떻게 되느냐. 보존의 특성을 갖는 원자를 빛, 즉 레이저를 가지고 맘대로 조작할 수 있다. 박사 연구 때 보존 특성을 갖는 원자들의 온도를 내리는 실험을 했다.”

김 교수에 따르면 매우 낮은 온도가 되면 원자들 사이의 거리가 좁아져, 시적(詩的)으로 말해 서로를 느끼기 시작하면 중첩(superposition) 현상이 일어나기 시작한다. 그리고 어느 순간 원자들이 내놓는 물질파들의 결이 맞는 상태가 된다. 하나의 거대 입자처럼 행동한다. 잘 훈련된 군인들이 행진할 때 발을 맞추려고 하는 것과 같은 특성을 보인다. 이 순간이 보스-아인슈타인 응축 순간이다. 김 교수는 “박사 논문을 쓰기 위한 연구로 보스-아인슈타인 응축 실험을 위한 ‘자기장 트랩(trap·함정)’을 만들었다”고 했다. 원자들이 내놓는 물질파가 결이 맞는 상태가 되면 이를 갖고 간섭계를 제작할 수 있다. 간섭 현상이 일어나도록 파동을 가르고, 다시 합하는 게 간섭계다.

그는 박사학위를 받고 프랑스 파리로 갔다. 노벨물리학상(1997)을 받은 레이저 냉각 연구자인 코헨 다누치 박사가 그의 박사 공부가 끝날 때쯤 서울대에 왔다가 박사후연구원으로 오라고 제안했다. 그는 카슬러-브로셀연구소에서 헬륨 원자로 보스-아인슈타인 응축 실험을 했다. 당시 여러 과학자들이 나트륨, 루비듐, 리튬과 같은 원자에 대해서 보스-아인슈타인 응축 연구를 하고 있었다. 그런데 헬륨을 대상으로 한 실험에는 쉽게 성공하지 못했다. 김 교수는 보스-아인슈타인 응축이 일어나기 직전의 준안정상태(meta-stable)인 헬륨 원자 두 개를 묶어 ‘극저온 분자’로 만들고, 헬륨의 ‘충돌 길이(scattering length)’를 알아냈다. 저온원자물리학 연구에서는 원자충돌 연구, 즉 ‘충돌 길이’가 중요하다. 이 ‘충돌 길이’를 알아낸 것이 2004년이었다. 실험실에서 거의 포기하려고 했던 연구였기에 결실을 얻자 다누치 교수가 대단히 좋아했다고 김 교수는 회고했다. 이 연구는 최고의 물리학 학술지인 피지컬리뷰레터스(PRL)에 실렸다. 이 경험은 김 교수가 원자를 이용한 정밀 측정 분야에 빠져드는 계기가 되었다. 그런 뒤 두 번째 박사후연구원 시절을 프랑스 국립표준연구소에서 보내면서 원자간섭계 그룹에서 연구했는데 이때 ‘원자간섭계를 이용한 중력가속도 정밀 측정’을 했다. 명지대에 와서 일궈낸 연구성과는 ‘위상(phase) 잠금 레이저’ 개발 연구이며, 이는 소형 원자간섭계 제작을 위한 핵심 기술이라고 했다.

그가 현재 진행하고 있는 연구는 ‘양자조임상태(quantum squeezed state) 레이저’ 개발이다. ‘양자조임상태 레이저’는 미국의 중력파검출기 LIGO에 최근에 적용된 최첨단 기술이다. LIGO는 현재 아주 미세한 중력파를 광자 개수의 미세한 변화 관측을 통해 확인한다. 양자조임상태 레이저는 광자 개수를 더 이상 정확히 측정할 수 없는, 양자적 한계를 극한까지 밀어붙였다.

김재완 교수는 양자조임상태 레이저를 지난 5월부터 만들고 있다. 김 교수는 “중력파검출기에 사용할 양자조임상태 레이저를 천문연구원과 공동 연구하고 있다”라고 말했다. 개발이 완료되면 일본이 추진 중인 KAGRA 중력파검출실험과 협력하는 방안을 검토할 수 있을 것이라고 했다. 김 교수는 KAGRA 실험에서 한국을 대표하여 EO(Executive Office) 멤버로 일하고 있다. 그는 “양자조임상태 레이저 연구는 응용뿐 아니라 양자역학의 핵심 개념을 테스트할 수 있는 도구라는 점에서 중요하다”라고 말했다. 그는 이어 “나는 이 문제를 지난 수년간 가슴에 품어왔다. 양자조임상태 레이저를 만들어 이 문제를 실험해보고자 한다”라고 했다.

김 교수에 따르면 레이저 빔 가르개를 사용하는 원자간섭계에서는 원래 간섭무늬가 검출되면 안 된다. ‘파인만의 물리학 강의’에 소개된 전자를 이용한 사고 실험을 보자. 전자가 어느 구멍을 통해 지나가는지 관측자가 지켜보고 있으면 전자는 파동과 같은 행동을 하지 않는다고 했다. 간섭무늬가 생기지 않는다. 원자간섭계는 원자가 어느 경로를 따라가는지 알 수 있는 구조다. 즉 광자의 개수를 세는 것과 같은 방법으로 관찰자가 지켜보고 있는 것이다. 그러니 원자간섭계 내의 루비듐 원자는 파동이 아니라 입자처럼 행동해야 한다. 그러나 원자검출기에는 간섭무늬가 생긴다. 이는 양자역학의 기본 원리에 위배된다.

불확정성 원리를 검증한다

김재완 교수는 “간섭무늬가 생기는 건 너무 이상하다. 그런데 왜 그럴까? 나는 간섭무늬가 발생하는 이유를 ‘양자잡음’ 때문이라고 생각한다. 양자조임상태 레이저를 만들어, 내 생각대로 ‘양자잡음’이 원자간섭계의 간섭무늬를 만들어내는지를 확인하고자 한다”라고 말했다. 그는 “다른 물리학자는 이런 점에 주목하지 않은 듯하다”라면서 “이를 확인하면 양자역학을 조금 더 이해할 수 있게 될 것”이라고 말했다.

김 교수에 따르면 ‘양자잡음’은 양자역학의 기본법칙인 ‘불확정성 원리’ 때문이다. 하이젠베르크의 1925년 불확정성원리에 따르면 관찰자가 동시에 정확히 측정할 수 있는 광자의 개수와 물질파의 위상은 한계가 있다. 한 개의 값, 예컨대 광자의 개수를 매우 정밀하게 측정하려면, 물질파의 위상을 아주 정확히 측정하려는 걸 포기해야 한다. 역의 경우도 마찬가지이다. 바로 이런 원리 때문에 물리학자는 광자 개수를 정확히 측정할 수 없고, 광자 개수를 셀 수 없는 양자역학의 근본적인 한계이자 근본적인 ‘양자잡음’ 때문에 간섭무늬가 생긴다.

김재완 교수가 만들려고 하는 ‘양자조임상태 레이저’는 광자 개수 불확정성과 위상 불확정성이라는 두 개의 변수를 마음대로 조작할 수 있는 장치다. 그는 “개수나 위상 중 하나의 불확정성이 늘어나는 것을 감수하고서라도 다른 하나의 불확정성을 줄이는 것이 바로 ‘양자조임’ 원리”라고 말했다.

김 교수는 “양자조임을 했을 때 간섭무늬에 변화가 있는지를 보고 싶다. 이를 통해 간섭무늬의 근원이 양자잡음이라는 걸 증명하고 싶다”라고 말했다. 김재완 교수는 “양자조임상태 레이저 개발이 쉽지 않다. 실험 관련 배경지식이 많이 필요하다. 2~3년 걸릴 것으로 본다”라고 말했다. 양자역학의 깊은 세계를 들여다본 취재였다.