ⓒphoto 양수열 영상미디어 기자
ⓒphoto 양수열 영상미디어 기자

서울대 물리천문학부 정현석 교수의 연구실 책장에는 ‘슈뢰딩거의 고양이’라는 제목의 책이 꽂혀 있었다. 정 교수는 양자광학 및 양자정보학(이론) 연구자. 지난 11월 22일 그를 취재하기 위해 서울대 내 연구실을 찾았을 때 이 책을 읽고 왔어야 했다는 생각이 들었다. 아니나 다를까 정현석 교수는 이후 ‘슈뢰딩거의 고양이’ 얘기를 여러 번 했다.

정현석 교수는 “양자역학은 원자와 같은 미시세계에서 일어나는 물리적 현상을 정확하게 예측하고 설명한다. 미시세계 현상들은 기묘하고, 이를 둘러싼 해석도 분분하다. 에르빈 슈뢰딩거(1933년 노벨물리학상)는 미시세계의 물리학 해석을 고양이와 같은 거시적인 물체에 적용했을 때에 물리학자들이 직면했던 당혹스러움을 1935년 ‘슈뢰딩거의 고양이’ 사고 실험을 통해 지적했다. 그럼으로써 그는 양자물리학의 법칙을 거시세계에 어디까지 적용할 수 있느냐 하는 숙제를 남겼다”라고 말했다.

미시세계에 존재하는 특별한 성질들

정 교수에 따르면, 미시세계에는 특별한 물질의 성질들이 존재한다. 양자중첩, 양자얽힘, 양자 거시성, 비(非)고전성이 그것들이다. 이 양자 성질들 사이의 관계가 완전하게 규명되지 않았다. 어떤 것이 어떤 것에 포함되고, 어떻게 다른 것인지 학자들은 계속 연구를 하고 있다. 정현석 교수는 “이런 양자 성질들 사이의 관계를 규명하고 통합적으로 이해하는 게 내 연구의 첫 번째 방향”이라고 말했다. 그는 이어 “뿐만 아니라 양자컴퓨터와 통신, 센서 등 정보처리를 위한 자원으로서 양자 성질들이 이용되고 있다. 양자 성질을 잘 이해하고, 정량화하는 방법을 찾는 게 그래서 중요하다. 이런 영역을 양자정보학이라고 한다. 나는 양자광학 분야를 배경으로 연구를 시작했지만, 지금은 양자정보 연구자로 더 알려져 있는 것 같다”라고 말했다.

양자역학은 확률의 세계라는 게 주류 물리학자의 해석이다. 이걸 ‘코펜하겐 해석’이라고 한다. 가령 하나의 입자가 여기에도 저기에도 동시에 존재하는 것처럼 보는데 이게 양자중첩(quantum superposition)이다. 우리가 알 수 있는 건 전자라는 입자가 특정 위치에 있을 확률뿐이라고 한다. 전자의 위치는 ‘우리가 관측했을 때 비로소 알 수 있다’라고 얘기된다. 관측 전에는 어디에 있는지 모른다는 것이다.

이와 관련해 고전역학과 양자역학의 시선 차이를 이런 식으로 말하는 이도 있다. “사람이 눈을 떠서 보니 한 입자가 어느 자리에 있다고 하자. 이 행위를 고전물리학은 그 입자가 눈을 뜨기 전에도 그 자리에 있었음을 재확인한 것이라고 본다. 양자역학은 다르다. 양자역학은 눈을 뜨기 전에는 입자가 어디에 있었는지를 모른다고 말한다. 눈을 떠 관측하는 순간 그 입자가 어떤 위치에 나타났다고 얘기한다.”

양자역학의 해석은 물리학계의 오랜 논쟁거리다. 특히 아인슈타인의 ‘코펜하겐 해석’ 반대는 유명하다. 아인슈타인은 “신은 주사위 놀이를 하지 않는다”며 닐스 보어의 확률적 해석을 비판했다. 아인슈타인은 관측이 실체에 영향을 준다는 해석에 대해서는 “우리가 보지 않으면 달이 없는 것인가”라는 비판적인 말을 하기도 했다. 달은 우리가 보지 않아도 원래 그 자리에 있다는 것이다.

“우리가 보지 않으면 달이 없는 것인가”

슈뢰딩거가 고양이 사고 실험을 통해 하고 싶었던 말도 아인슈타인과 비슷하다. ‘슈뢰딩거의 고양이’ 사고 실험은 이렇다. 고양이 한 마리가 철제 상자 안에 놓여 있다. 상자 안에는 청산가리가 든 유리병, 소량의 우라늄, 망치도 들어있다. 방사능물질인 우라늄 핵이 붕괴되면 방사선이 나오고, 가이거계수기가 그걸 감지한다. 그러면 가이거계수기에 연결된 망치가 내려가 청산가리가 든 플라스크를 깬다. 청산가리를 상자 안에 있던 고양이가 들이마시면 죽는다. 1시간 후 우라늄이 붕괴될 확률은 50%로 맞춰져 있다. 우라늄 원자핵 1개가 1시간 뒤에 붕괴될 수도 있고, 아닐 수도 있다는 얘기다. 상자 안의 고양이는 살아 있을까 죽었을까? 닐스 보어에 따르면 상자를 열어 보는 ‘관측 행위’를 하면 고양이의 생사가 결정된다. 관측을 하기 전에는 고양이가 죽을 수도 있고, 살아 있을 수도 있다. 이를 중첩상태라고 한다. 고양이는 거시세계의 물체다. 그런데 거시세계 생물이 미시세계에서 일어나는 확률의 물리법칙으로 인해 생과 사가 중첩되어 있다니, 이게 말이 되는가? 황당하다. 슈뢰딩거는 확률의 물리학이라는 양자역학 해석에 구멍이 있음을 보여주려고 했다. 그러나 ‘슈뢰딩거의 고양이 역설’은 시간이 지나면서 양자 세계의 확률 특징을 잘 보여주는 사고실험으로 되레 유명해졌다.

정현석 교수는 “양자중첩을 원자나 광자 수준을 넘어 거시적인 영역으로 이끌어내려고 노력해왔다. 양자중첩과 같은 양자효과를 거시세계로 끌어내는 데에는 두 가지 의미가 있다”라고 말했다. 양자역학 검증이 그 첫 번째다. 양자중첩과 같은 신비로운 양자역학 원리가 어느 정도 규모에까지 적용될 수 있느냐 하는 문제다. 닐스 보어 등 초기 코펜하겐 해석의 창시자들은 양자역학을 원자, 전자 등과 같은 미시세계에 적용되는 이론이며, 거시세계에는 적용되지 않는 것으로 보았다. 그러나 미시세계와 거시세계를 어떻게 나누어야 하는지에 대한 분명한 답을 제시하지는 못했다.

정 교수에 따르면, 시간이 지나면서 거시세계에서는 양자 효과가 나타나지 않는 이유를 사람들이 이해하게 되었다. 결어긋남(decoherence)이 대표적 원인으로 지적됐다. 결어긋남은 간섭무늬에서 확인할 수 있다. 파장들의 결이 맞으면 간섭무늬가 뚜렷하게 만들어지나, 결이 맞지 않으면 희미하거나 나타나지 않는다. “결어긋남 때문에 거시적인 양자중첩을 만들기도 어렵고, 만든다고 해도 빠른 시간 내에 사라진다. 주변 환경과의 상호작용이 결어긋남의 원인이다. 그럼에도 과학자들은 결어긋남을 극복하고 양자효과를 거시적인 세계로 끄집어내려고 노력해왔다.”

슈뢰딩거의 고양이. 상자 뚜껑을 열기 전에는 살아 있는 고양이(위 그림)와 죽은 고양이(아래 그림)가 중첩해서 존재하나, 뚜껑을 열면 중첩이 붕괴되면서 고양이는 살아 있거나 죽었거나 둘 중 하나의 상태로 결정된다. ⓒphoto 퀀텀스토리(The Quantum Story). 짐배것. 반니. 2014
슈뢰딩거의 고양이. 상자 뚜껑을 열기 전에는 살아 있는 고양이(위 그림)와 죽은 고양이(아래 그림)가 중첩해서 존재하나, 뚜껑을 열면 중첩이 붕괴되면서 고양이는 살아 있거나 죽었거나 둘 중 하나의 상태로 결정된다. ⓒphoto 퀀텀스토리(The Quantum Story). 짐배것. 반니. 2014

빛을 이용한 슈뢰딩거 고양이

정 교수는 자신의 연구가 그 같은 노력에 닿아 있다고 했다. 빛을 이용한 슈뢰딩거 고양이를 만들려고 해온 게 그 일부다. 2007년 최고의 학술지 네이처에 실린 프랑스 실험 그룹과의 공동 연구가 있다. 영국 북아일랜드 도시 벨파스트의 퀸스유니버시티에서 박사학위를 받은 정 교수는 박사후연구원으로 호주 브리즈번에 있는 퀸즐랜드대학에서 일했다. “슈뢰딩거 고양이라는 거시적인 양자중첩 현상을 빛으로 만들면, 이를 이용해 효율적인 양자컴퓨터를 만들 수 있다는 게 나의 박사학위 주제다. 이후 박사학위 연구 내용을 학회에서 발표하면 ‘재밌는 주제다. 그런데 그걸 어떻게 실제 만들 수 있느냐’는 말을 들어왔다. 그래서 나는 ‘빛을 이용한 슈뢰딩거 고양이’ 상태를 만드는 문제를 마음 한구석에 품고 있었다. 박사후연구원 시절 해외 학회에 갔다가 불현듯 아이디어가 떠올랐다. 이론을 정리해서 평소 알고 있던 프랑스의 실험물리학자 필립 그랜지어 교수에게 보냈다.”

파리대학의 양자광학자(실험) 그랜지어는 그의 아이디어를 실험으로 구현할 수 있겠다고 했고, 실제로 실험을 마무리하는 데 6개월 정도 걸렸다. 정 교수는 “필립이 보내온 실험 데이터를 보는 순간 내가 이론으로 예상했던 것과 일치한다는 것을 알 수 있었다. 즐거운 순간이었다”라고 말했다.

‘양자의 거시성’에 대한 정현석 교수의 관심은 ‘거시 양자제어 연구단’이라는 그의 서울대 연구실 이름에서도 드러난다. 이 연구단은 그가 서울대 교수로 부임하고 1년이 지난 2010년에 만들었다.

개별적인 양자시스템을 잘 제어할 수 있게 된 건 정 교수보다 한 세대 전 연구자들의 공로다. 2012년 노벨물리학상 수상자 두 명이 그런 실험으로 인정받았다. 미국의 데이비드 와인랜드와 프랑스의 세르주 아로슈는 양자컴퓨터의 연산 단위인 큐비트 하나하나를 잘 제어할 수 있는 기술을 발전시켰다. 정 교수는 “결국 하나의 광자나 원자를 넘어서 여러 개의 양자 시스템을 결 맞게 만들어내고 제어하는 문제가 중요해졌다. 양자 상태를 거시적으로 제어하는 문제가 물리학자들에게 중요한 문제로 남아 있다라고 생각했다”라고 말했다.

정 교수를 비롯한 물리학자들은 ‘거시적인 슈뢰딩거 고양이’를 만들어내기 위한 노력을 많이 했다. 원자, 전자보다 크기가 큰 분자, 예컨대 원자 60개를 갖고 있는 탄소분자(C60)로 이중슬릿 실험을 했다. 이중슬릿 실험은 원자의 파동성이 드러나는 대표적인 실험이다. 파동이 겹쳐지면서 간섭무늬가 나타난다. 간섭무늬는 입자가 이곳에도 저곳에도 있을 수 있음을 말한다. 정현석 교수는 이렇게 설명했다. “오스트리아의 안톤 차일링거 그룹에서는 1999년에 탄소분자로 이중슬릿 실험을 했고, 전자로 하는 것보다 조금 흐린 간섭무늬를 관찰했다. 탄소분자는 전자나 광자 하나에 비하면 매우 크다. 이걸로도 양자간섭을 어느 정도 관측한 것이다. 이후에도 물리학자들은 다양한 물리계를 이용해 양자중첩의 크기를 키워나가는 시도를 계속해왔다. 다음 문제는 이렇게 만들어낸 상태들이 얼마나 거시적인 양자중첩 상태인가 하는 것이다. 즉 물리학자가 만든 ‘양자 거시성’이 얼마나 슈뢰딩거 고양이와 같은가이다.”

초유체(점성이 없는 유체) 연구로 노벨상(2003)을 받은 미국 물리학자 앤서니 레깃이라는 학자가 있다. 그는 양자 성질을 시험하는 데도 관심이 많다. 레깃은 “거시 양자 상태를 직관적으로 잘 정의하고 일반적인 정량화 척도를 만드는 것은 쉽지 않다”라고 2002년 논문에서 쓴 바 있다. 정현석 교수는 레깃 교수와 이메일을 주고받은 적이 있다. 레깃 교수는 정 교수에게 보낸 이메일에서 “거시적인 양자중첩에 대해 사람들이 흔히 혼동한다. 그래서 전에 그런 논문을 쓴 바 있다”라며 논문에서 밝혔던 자신의 견해를 재강조했다. 그런데 정현석 교수 팀은 레깃 교수와 같은 회의적인 시선을 극복하고 2011년 연구에서 돌파구를 열었다. 그는 “상당히 일반적이고 광범위한 양자 상태에 적용할 수 있는 거시 양자중첩의 척도를 제안했다. 주어진 양자 상태가 얼마나 슈뢰딩거 고양이처럼 거시적 양자중첩인가를 말할 수 있게 하는 기준이었다”라고 말했다. 당시 논문 제목은 ‘위상공간에서 거시 양자중첩의 정량화’이고, 최고의 물리학 학술지 피지컬 리뷰 레터스(PRL)에 실렸다. 정 교수는 “미시적인 양자중첩에서 어느 정도 벗어나 있는 거시적인 효과인가를 정량화할 수 있는 도구가 필요했고 이를 학계에 제공했다. 이 논문이 이쪽 연구 토픽을 상당히 열었다고 생각한다”라고 말했다.

양자전송과 양자컴퓨터 연구

정 교수는 서강대 물리학과 1990학번. 그가 서강대에서 석사까지를 마치고 북아일랜드 벨파스트로 유학을 간 건, 서강대 지도교수이던 김명식 교수(현 런던 임페리얼칼리지)가 그곳으로 옮겨갔기 때문이다. 그는 지도교수를 따라서 정말 멀리 갔다. 그리고 벨파스트에서 3년 후인 2003년 박사학위를 받았다.

정 교수는 벨파스트에서의 박사과정 때 “양자전송을 연구하고, 이어 양자컴퓨터 연구를 했다”라고 말했다. 박사 논문의 주제는 ‘새로운 종류의 큐비트를 이용한 양자정보처리’였다. 큐비트는 양자 컴퓨터의 연산 단위다. 양자의 영어인 퀀텀(quantum)과, 컴퓨터의 연산 단위인 비트를 합한 퀀텀비트를 줄인 말이 큐비트다.

그는 호주에서 박사후연구원으로 2003년 말부터 2008년까지 4년을 일했다. 브리즈번은 해변이 아름다운 골드코스트에 접해 있다. 이곳에서 2006년 정 교수는 PRL에 논문을 처음 발표할 수 있었다. 슈뢰딩거 고양이 역설 관련 연구다. 슈뢰딩거는 상자에 고양이를 집어넣어 무슨 일이 일어나는지를 보자라는 식으로 사고 실험을 제안했다. 그런데 정 교수가 보기에 슈뢰딩거가 이야기하지 않은 게 있었다. “슈뢰딩거는 고양이를 상자에 집어넣기까지 고양이의 히스토리를 감안하지 않았다. 물체는 환경과 끊임없이 상호작용하며 ‘양자얽힘’ 상태에 있다. 때문에 양자얽힘에서 자유롭지 않다. 슈뢰딩거가 상자에 집어넣을 때 고양이는 어땠을까? 환경과의 양자얽힘이라는 히스토리에서 벗어나 있는 ‘순수 상태’였을까?”

정 교수는 순수 상태가 아닌 환경과 상호작용을 해온 고양이를 집어넣으면 어떻게 될까 하는 질문을 던졌다. 그에 대한 답은 고양이가 살아 있을 수도, 죽어 있을 수도 있는 양자중첩이 여전히 일어난다는 것이었다. 그는 “호기심에서 한 연구였다”라고 말했다. 빛의 슈뢰딩거 고양이 상태 구현 논문은 이듬해 네이처에 실렸다.

같은 시기에 정 교수는 또 다른 양자 성질의 정확한 이해를 위한 연구를 했다. ‘비(非)고전적인 빛’ 연구다. 이 같은 연구 실적이 쌓이면서 그는 2008년 서울대 교수로 부임했다.

정 교수는 자신의 연구 중 가장 주목을 받은 건 아마도 2014년 학술지 네이처 포토닉스(photonics)에 실린 ‘하이브리드 양자얽힘’이라고 했다. 양자얽힘은 두 개 입자의 상태가 양자적으로 얽혀 있는 걸 말한다. 가령 거리에 상관없이 원래 하나의 시스템에 있었던 두 개의 전자는 스핀(회전)에서 얽혀 있다. 한 개의 스핀 방향이 ‘위’라는 걸 관측으로 알아냈다면, 다른 전자의 스핀 방향은 ‘아래’가 된다. 방향이 ‘아래’인지를 확인하기 위해 측정할 필요도 없다. ‘얽힘’에 의해 그 다른 전자의 스핀 방향은 ‘아래’임에 틀림없다.

“슈뢰딩거 고양이 상태는 원래 미시 상태와 거시 상태의 양자얽힘을 보여준다. 나는 ‘하이브리드 양자얽힘’ 실험에서 ‘미시’ 상태의 빛과 ‘거시’ 상태의 빛의 얽힘을 만들어냈다. 이 실험에서 ‘미시’ 상태 빛은 광자 한 개이고, ‘거시’ 상태의 빛은 파동과 같은 고전적인 빛이다. 두 개의 다른 상태로 하이브리드 양자얽힘을 만들 때, 양자역학을 위한 근본적인 검증의 도구가 될 수 있다. 뿐만 아니라 성질이 다른 빛들의 장점을 동시에 이용하여 양자컴퓨팅과 양자전송의 효율을 높일 수 있게 된다. ‘단일광자 간섭계’를 이용하면 이런 상태를 구현할 수 있겠다는 아이디어가 연구의 돌파구였다.”

‘하이브리드 양자얽힘’ 연구는 이탈리아 국립광학연구소의 실험 양자광학자 마르코 벨리니와 함께했다. 정 교수는 이론과 실험 장치 세팅 디자인을, 벨리니 박사는 이를 실험실에서 구현하고 확인하는 작업을 했다. 정 교수는 “서로 성질이 다른 빛 간의 양자얽힘을 최초로 만들어냈다. 이런 연구를 통해 지향하는 다음 단계는 효율적인 양자 정보처리다”라고 말했다.

그는 설명을 쉽게 이해하지 못하는 내게 “양자얽힘과 양자중첩을 잘 이해하면 될 것”이라고 말해줬다. “양자역학을 잘 이해한다고 말하는 사람은 양자역학을 잘 이해하지 못한 것”이라고 리처드 파인만(1965년 노벨물리학상)은 말한 바 있다. 이 말로 위안을 삼은 취재였다.

최준석 선임기자
저작권자 © 주간조선 무단전재 및 재배포 금지