조동현 고려대 물리학과 교수(원자물리학)는 “양자컴퓨터 개발은 될 일이 아니다. 내가 죽을 때까지 안 될 것이고 앞으로도 영원히 구현되지 않는다고 생각한다”라고 말했다. 조 교수는 지난해 12월 27일 서울 고려대 아산이학관 내 자신의 연구실에서 주간조선과 만나 “이런 일(양자정보학 연구)을 해본 물리학자라면 그런 걸 다 알고 있다고 생각한다. 양자컴퓨터를 만든다는 건 그냥 불가능(simply impossible)하다”라고 단정적으로 말했다.

조동현 교수는 정밀측정(precision measurement)을 하는 원자물리학자다. 서울대 물리학과(1978학번) 졸업 뒤 미국 예일대에서 양성자의 특정 물리량 측정으로 박사학위를 받았으며, 1994년부터 고려대 물리학과 교수로 일하고 있다. 현재 그는 양자정보학 관련 기초 연구를 하고 있다. 조 교수를 만나러 갔을 때 고려대 물리학과 사무실 게시판을 살펴보았는데, 조 교수가 양자컴퓨터에 사용되는 ‘큐비트’ 관련 새로운 연구를 했고, 이 논문이 물리학 분야 최고의 학술지인 피지컬리뷰레터스(PRL) 최신호에 실렸다고 되어 있었다. 그걸 떠올리자, 양자정보학 연구자가 양자컴퓨터의 미래에 대해 부정적으로 이야기한다는 게 의아했다.

양자컴퓨터는 지난해 10월 23일 미국 정보통신기업인 구글이 ‘양자우월성(Quantum Supremacy)’, 즉 그들이 만든 양자컴퓨터가 일반 컴퓨터보다 계산 능력에서 앞섰다고 발표하면서 관심을 불러일으킨 바 있다. 구글은 자신들의 양자컴퓨터가 고전적인 컴퓨터가 1만년 걸려야 할 계산을 단 3분에 해치웠다고 주장했다.

구글은 계산이 아니라 난수를 만든 것뿐

조동현 교수는 이와 관련 “1만년 걸릴 계산, 500년 걸릴 계산이라는 말을 하는데 중요한 건 그게 아니다. 계산이 의미 있으려면 하고 싶은 계산을 할 수 있어야 하고, 계산 결과가 맞아야 한다. 그런데 그렇지 못하다”라고 말했다. 구글은 계산을 한 게 아니고, ‘난수(random number)’를 만들었을 뿐이라는 것이다. 즉 구글의 머신은 양자컴퓨터가 아니라 난수 발생기라는 주장이다. 난수는 북한이 남한에 간첩을 내려보내면서 그들의 손에 쥐여주는 ‘난수표’라는 걸로 흔히 기억된다. 북한의 첩보당국이 평양 방송을 통해 난수를 들려주면 남한의 고정간첩이 몰래 그 숫자를 듣고, 자신이 갖고 있는 난수표와 대조해 북한의 지시를 해독하는 식으로 활용된다.

조동현 교수는 “난수는 맞고 틀리냐가 없다. 얼마나 임의적(random)이냐 하는 문제이다. 구글이 시커모어라는 프로세서를 갖고 난수 만들기가 가능하다는 건 보였다. 그런데 그래서 어쨌다는 것인가(So What?). 나는 그걸 묻고 싶다”라고 말했다. 조 교수에 따르면, 구글의 양자컴퓨터는 ‘의 값을 구하라’라는 계산도 할 수 없다. 쉬운 계산도 못 한다. 그는 “구글은 우리가 하고 싶은 계산이 아니라, 자신이 할 수 있는 계산을 한 거다. 나는 양자컴퓨터가 가능하다고 진짜 그들이 믿는 것인지, 아니면 회의적이면서도 이 연구를 하는 것인지 모르겠다”라고 말했다.

흔히 양자컴퓨터는 현재의 암호체계를 무력화시킬 것이라고 얘기된다. 현재의 전자상거래는 사용자가 입력한 비밀번호를 암호화해서 안전하게 사용하고 있다. 그런데 양자컴퓨터가 개발되면 이 전자상거래의 기반이 되는 암호를 손쉽게 풀어버릴 것이며, 따라서 이에 대비해야 한다고들 얘기한다. 그런데 조 교수는 “현재의 암호체계를 깰 수 있는 양자컴퓨터를 만드는 건 앞으로도 불가능하다”라고 말했다.

현재의 암호화 방식은 소인수분해 방식이다. 가령 15라는 숫자를 소인수분해하면 3과 5라는 두 개의 소수로 분해할 수 있다. 소수는 1과 자기 자신으로만 나눠지는 자연수를 가리킨다. 작은 수는 쉽게 소인수분해할 수 있다. 하지만 수가 커지면 어려워진다. 조 교수에 따르면 현재의 암호방식인 RSA가 사용하는 숫자는 조 교수의 연구실 벽면 한쪽 끝에서 저쪽 끝까지 써야 할 정도로 길다. 이렇게 큰 수를 소인수분해할 수 있는 두 개의 소수를 알아낸다는 건 어렵다. 조 교수는 “수가 커지면 계산시간이 지수적으로 늘어난다. 그 어려움을 이용해 암호화한 게 RSA방식이다”라고 말했다.

조 교수에 따르면 매사추세츠공대(MIT) 수학과 교수인 피터 쇼어가 1994년 ‘쇼어 알고리즘’이라는 걸 내놓았다. 앞에서 말한 RSA방식의 암호화 방식을 깰 수 있다는 알고리즘이었다. 피터 쇼어는 양자연산을 이용하면 소인수분해를 고전적인 컴퓨터보다 빨리할 수 있다고 주장했다. 그리고 2001년 IBM이 쇼어 알고리즘을 써서 ‘15=5×3’이라는 문제를 풀었다. 하지만 그 이후에는 진전이 없었다는 것이 조 교수의 지적이다.

양자컴퓨터 연대기의 시작은 1980년대 후반이다. 양자역학의 논리를 적용하면 기존의 ‘고전적인 컴퓨터’와는 다른 새로운 방법론이 열릴 거라는 제안들이 나왔다. 앞서 100년 동안 발전한 양자물리학에 기반한 제안이었다. 원자, 분자, 초전도체와 같은 자연이 제공한 양자계(system)를 들여다보고, 이렇게 작동하는구나 하는 걸 사람들이 알아냈다. 이 과정을 거치면서 양자계에 대한 깊은 이해와 자신감이 생겼다. 조동현 교수는 1980년대 후반에 나온 양자컴퓨터로의 패러다임 전환 아이디어는 “사람이 인공적인 양자계를 만들고 인공적인 양자계를 조작해서 뭔가를 해보겠다는 거였다. 뭘 해보겠다는 것이냐, 바로 계산을 해보겠다는 거다”라고 말했다.

고전적인 컴퓨터(양자컴퓨터와 비교해서 우리가 현재 사용하는 컴퓨터를 ‘고전적인 컴퓨터’라고 한다)는 회로가 ‘논리 게이트’로 구성돼 있다. ‘and 게이트’와 ‘or 게이트’들이 안에 있어 덧셈, 뺄셈을 한다. 그 연산의 시작이 ‘논리 게이트’이다. 양자로 정보처리를 한다는 것도 일단 ‘게이트’를 만드는 것이다. 규칙에 따라 움직이는 게이트를 만드는 게 출발이다.

지금은 오스트리아 인스부르크대학에 있는 피터 졸러(Zoller) 이론 그룹이 ‘양자 게이트’를 만들 수 있는 아이디어로 ‘C(Controlled) Not Gate’라는 걸 제안했다. 이걸 접하고 미국 콜로라도 볼더의 미국 표준과학연구원(NIST) 분원에 있는 와인랜드(Wineland)그룹이 ‘C Not Gate’를 실제로 만들어냈다.

국가 정보기관들의 관심으로 연구비 퍼부어

조동현 교수에 따르면 양자컴퓨터 연구에 가장 관심을 보인 건 주요 국가의 정보기관들이다. 미국의 NSA(국가안보국), 영국의 MI6는 양자컴퓨터가 암호를 깰 수 있다는 데 주목, 연구비를 과학자들에게 댔다. 다른 나라의 암호 시스템을 깨고 들어갈 수 있다면 ‘대박’이라고 생각했다. 요즘은 중국을 핑계로 양자컴퓨터 연구에 정부 돈을 퍼붓고 있다. 잠재적인 경쟁국가인 중국이 양자컴퓨터를 먼저 개발하면 안 된다, 우리가 개발을 서둘러야 한다는 논리다. 그러나 양자컴퓨터 개발을 수십 년간 해온 결과는 앞에서 말한 대로, 15=3×5, 21=7×3이라는 소인수분해를 할 수 있는 정도의 능력밖에 안 된다. 엄청나게 긴 수를 소인수분해한다는 건 꿈도 못 꿀 일이라고 했다.

양자컴퓨터의 힘은 ‘양자중첩(quantum superposition)’ 상태와 ‘양자얽힘(quantum entanglement)’ 상태에 있다. 조 교수는 “이게 무엇인가 하는 건 내용이 어렵다. 어려워서 내가 설명할 수 없다”면서도 양자컴퓨터의 한계를 이렇게 설명했다. “이것이 자원이 되어서 강력한 계산 알고리즘이 가능한 것이다. 그런데 이 양자중첩과 양자얽힘 상태는 매우 취약하다(fragile). 만들기도 어렵고, 유지하기도 힘들다. 외부의 섭동, 전기장, 자기장, 아니면 무엇이든 진동과 같은 게 들어오면 내가 준비한 것과는 다른 상태가 된다. 그러면 바로 ‘재미없는 상태’로 간다. 그걸 한두 개(큐비트) 유지해서 내가 실험할 수는 있다. 그러나 여러 개를 상호연결된 상태로 만들고, 계산해서 의미 있는 결과를 내겠다는 건 그냥 불가능하다. 지금 우리가 쓰는 일반 컴퓨터보다 더 나은 계산을 하겠다는 건 불가능한 이야기다.”

좀 더 구체적으로 이야기를 들었다. 조 교수에 따르면, 현재 우리가 쓰는 컴퓨터, 즉 고전적인 컴퓨터는 연산을 위해 0과 1이라는 이진법 코드를 사용한다. 계산을 하려면 0을 0이라고 정확히 쓰고, 1을 1이라고 정확히 써야 한다. 또 이를 정확히 읽을 수 있어야 한다. 현재의 컴퓨터는 이같이 수를 입력해서 정확히 쓰는 데 오류가 발생할 가능성은 극히 낮다. 그런데 양자컴퓨터는 이 오류 발생률이 매우 높다. 조동현 교수가 구글 팀의 논문을 보면서 이런 이야기를 했다. “그렇지 않아도 오신다고 해서 논문을 다시 찾아 읽어봤다. 이번에 구글 팀 머신의 에러 발생률은 0.15%다. 0.15%라는 건, 한 개의 큐비트를 쓰는 데 잘못 쓸 가능성이 1000번에 한 두 번이라는 것이다. 이런 오류가 쌓이면 어떻게 연산을 할 수 있겠는가? 내가 1을 쓰고 싶은데, 그게 제대로 정확히 써지지 않는 시스템, 그게 현재의 양자컴퓨터다.”

구글 머신의 에러 많아 연산 불가능

조동현 교수에 따르면, 양자컴퓨터 아이디어로는 처음에 일반적인 양자컴퓨팅(Universal Quantum Computing)이 거론됐다. 프로그래밍할 수 있는 컴퓨터, 즉 지금 PC의 CPU와 같이 덧셈, 뺄셈, 그림그리기, 적분, 미분을 하는 컴퓨터다. 그런데 지금까지 만든 양자컴퓨터는 연산이 안 된다는 게 거의 분명해졌다. 그래서 그 다음에 나온 게 ‘NISQ(Noisy Intermediate Scale Quantum Computing)’였다. NISQ는 미국 캘리포니아공과대학(Caltec)의 J. 프레스킬(Preskill)이 2018년에 내놓았다. 이에 대해 조 교수는 이렇게 설명했다. “처음에 생각했던 것처럼 큐비트 수를 늘려가며 복잡한 계산을 할 수 없는 상황이 되었다. 그러니 할 수 있는 거라도 하자는 것이다. 프레스킬은 이쪽의 이론적인 구루이다. 그가 이렇게 말했다는 건 양자컴퓨터 연구가 쪼그라들었다고 할까? 노이즈(noise)를 인정하고 전면적(full scale)인 양자컴퓨터 개발로는 갈 수 없다고 한 셈이다.”

이후 양자시뮬레이션(Quantum Simulation)이라는 용어가 나오기 시작했는데 그는 이에 대해 “컴퓨팅이라고 하면 계산 결과가 맞아야 한다. 시뮬레이션은 그보다 약간 느슨한 계산이라고 할까, 통계적으로 결과만 나와도 의미 있다고 보는 것이다”라고 설명했다.

이 대목에서 조 교수에게 그러하다면 최고의 학술지라는 ‘네이처’가 구글 팀의 양자우월성을 크게 보도한 이유가 무엇이냐고 물었다. 그는 “구글의 연구는 흥미로운 양자역학 실험이다. 이것이 지금까지의 양자역학 실험과 다른 게 무엇이냐면, 지금까지는 자연이 제공한 양자계를 갖고 실험을 한 반면 구글은 이와 달리 인공적인 양자역학시스템이라는 점에서 다르다”라고 설명했다. 다시 현재의 수퍼컴퓨터로 1만년 걸릴 걸 자신들의 양자컴퓨터로 3분 만에 풀었다는 구글의 주장은 무슨 얘기냐고 조 교수에게 물었다. 그는 “양자역학 계산이니까, 양자시스템을 써서 하면 계산이고 뭐고 할 것 없이 자연스러운 거다. 양자역학 계산을 고전 컴퓨터 갖고 하려면 오래 걸리는 것이고”라고 말했다.

조 교수는 구글의 엔지니어링 능력은 훌륭하다고 했다. “예술(state of art)”이라고 표현했다. 그런데 그게 무슨 쓸모가 있으며, 앞으로 개선될 가능성이 있느냐는 점에서 조 교수는 회의적이라고 말했다.

그러면 구글은 이런 일을 왜 하나? 조 교수는 “기업 홍보라고 생각한다”라고 단언했다.

정부의 양자컴퓨터 개발에 발 벗고 반대

2017년에 한국 정부는 양자컴퓨터 개발을 위해 5000억원을 투자하기로 하고 예산타당성 검토까지 했다. 이때 조 교수는 발 벗고 반대에 나섰다. 오세정 당시 국회의원(지금 서울대 총장)을 찾아가 “말도 안되는 일이 벌어지고 있다”라고 설명하고, 경향신문에 반대한다는 글을 썼다. 그가 혼자 그렇게 움직였는지 궁금했다. 조동현 교수는 “내가 좀 극단적(extreme)이기는 하다. 하지만 같은 생각을 한 물리학자가 적지 않았다”라고 말했다. 국가 과제에 딴지를 건다는 비판적인 시선이 적지 않았다고 한다. 그는 “정부가 양자컴퓨터를 하고 싶어 했다. 양자가 멋있어 보이고, 그래서 예타까지 올라갔다”라고 말했다. 결국 사업계획은 KISTEP의 타당성 검토에서 ‘경제성 없음’으로 나와서 없던 일이 됐다. 대신 기초연구 지원으로 정부는 방향을 돌렸다. 조 교수에 따르면 정부는 수년간 300억~400억원을 지원하기로 했고, 2019년에만 60억~70억원을 지원했다. 조동현 교수는 양자컴퓨터가 아니라 양자통신에도 돈이 들어간다고 했다. “이것도 말이 안된다. 3000억원 사업을 하겠다고 하고, 예타가 진행 중인 것으로 안다. 양자암호통신, 양자통신이라는 키워드로 검색해 보면 프로젝트가 뭔지 바로 찾아볼 수 있을 거다.”

조동현 교수는 예일대에서 1991년 박사학위를 받았다. 예일에 갈 때는 핵물리학을 하려고 했으나 세르주 아로슈 교수(2012년 노벨물리학상) 강의를 듣고 원자물리학에 흥미를 느꼈다고 했다. 그래서 원자물리학의 하위 분야인 ‘정밀측정’ 전문가가 되었다. 박사 논문은 양성자의 특정 물리량(‘전기쌍극자 모멘트’) 측정 결과로 썼다고 했다. 이후 미국 콜로라도주 볼더에 있는 콜로라도대학에서 박사후연구원으로 3년간 일했다. 이때 지도교수가 2001년도 노벨물리학상 수상자인 칼 와이만이다.

그는 에릭 코넬과 노벨상을 공동수상했는데, 코넬은 당시 박사후연구원으로 칼 와이만과 같이 일했다. 조 교수는“에릭이 나보다 6개월 먼저 와이만 교수의 실험실에 왔다. 에릭은 칼과는 보스-아인슈타인 응축 실험을 했고, 나는 세슘원자를 갖고 공간반전(space inversion) 실험을 했다. 나는 연구를 하고 1994년 고려대로 옮겼고, 그 다음해인 1995년 칼과 에릭은 보스-아인슈타인 응축을 관찰하는 데 성공했다. 그 공적으로 두 사람은 노벨상을 받았다”라고 말했다.

조동현 교수는 자신의 연구와 관련해 “2003년 ‘매직 파장’, 2014년 ‘매직 편광’ 연구를 국제 학계에서 평가해준다. 자랑할 만하다”라고 말했다. 그의 실험실 사이트에 가면 ‘레이저 분광학’이라는 글씨가 크게 써 있다. 조 교수는 “분광학은 (원자 속 전자들이 갖는) 에너지 준위 사이의 에너지 차이를 정밀측정하는 일”이라고 설명했다.

그에 따르면 전자의 에너지가 가장 낮은 상태(바닥 상태)가 있고, 전자가 에너지를 가진 들뜸 상태가 있다. 바닥 상태를 ‘0’이라고 보고, 들뜸 상태를 ‘1’로 보면 0과 1이라는 두 가지 상태를 원자(전자)는 갖게 된다. 그리고 이 두 가지 상태는 양자컴퓨터의 정보단위인 큐비트로 사용할 수 있다.

“레이저로 중성원자를 포획하고 이 중성원자의 두 가지 상태를 큐비트로 삼아 연산하면 된다. 이게 큐비트를 만드는 하나의 방법이다. 그런데 큐비트로 쓰려면 0과 1의 상태를 자유자재로 바꿀 수 있어야 한다. 바꾸려면 전자기파의 특정 주파수를 쪼이면 된다. 그러려면 두 개 상태의 에너지 차이가 있는 지점을 정확히 포착해야 한다. 그런데 그게 쉽지 않았다. 레이저로 원자를 붙잡고 있으면 그 위치를 정확히 알 수 있을 듯했으나, ‘섭동’ 때문에 그러지 못했다. 나는 ‘매직 파장’과 ‘매직 편광’ 연구를 통해 ‘섭동’ 문제를 해결하고 두 개의 상태를 정확히 조작할 수 있게 했다.”

물리학과 게시판에 붙은 미국 학술지 PRL에 실린 그의 논문도 큐비트와 관련된 내용이다. 조 교수는 “매직 편광을 이용해 1차원 광(光)격자를 만들었고, 인접한 격자에 들어가 있는 리튬 원자를 각각 조작하는 데 성공했다. 532나노미터밖에 떨어지지 않은 원자를 선택적으로 조작할 수 있었다. 원자가 가까이 있을수록 양자역학의 얽힘 상태를 만들기 쉽다”라고 말했다.

그는 자신의 연구력과 관련해 고려대가 강의를 잘한 교수에게 주는 ‘석탑 강의상’을 10번 받은 게 가장 자랑스럽다고 했다. 대학원생들의 교수 평가 사이트인 ‘김박사넷’에서 조동현 교수를 검색하니 좋은 평가들이 많았다. 그는 제자들이 존경하는 스승이었다.