노벨물리학상은 새로운 입자가 많이 가져갔다. 1906년 전자(수상자 J. J. 톰슨)를 시작으로 중성자(1935년·제임스 채드윅), 양전자(1936년·칼 앤더슨), 중간자(1949년 유카와 히데키가 예측으로 수상, 1950년 세실 파월이 발견으로 수상), 반양성자(1959년·에밀리오 세그레 등), J/Ψ입자(1976년·새뮤얼 팅 등), W·Z입자(1984년·카를로 루비아 등)로 노벨물리학상 계보가 이어진다. 그중에서도 중성미자(neutrino)는 노벨물리학상을 가장 많이 가져간 입자가 아닐까 싶다.

강신규 서울과학기술대 교수(물리학)는 “지금까지 네 차례나 중성미자가 노벨상을 받았다”고 말했다. 1988년(리언 레더먼 등), 1995년(프레더릭 라이네스), 2002년(고시바 마사토시 등), 2015년(가지타 다카아키 등) 순이다. 수상연도를 보면 알겠지만, 중성미자는 최근에 가장 뜨거운 입자 중 하나다.

노벨상 4차례나 안긴 중성미자 연구

3월 5일 서울 노원구 공릉동의 서울과기대 연구실에서 만난 강 교수는 20년 가까이 중성미자를 연구해왔다. 강 교수는 “중성미자에서 또 노벨상이 나올 연구들이 있다. 예컨대 오른손잡이 중성미자를 찾아내면 노벨상”이라고 말했다. ‘오른손잡이 중성미자’는 이동하면서 오른쪽으로 스핀(‘자전’이라고 설명하기도 한다)하는 입자다. 이 오른손잡이 중성미자 말고도 중성미자의 미스터리를 둘러싼 의문은 많다. “중성미자는 가장 이해하기 힘든 입자 중 하나”(니컬러스 솔로미의 1997년 책 ‘알 수 없는 중성미자’)라는 평가가 나올 정도다.

중성미자는 전기적으로 중성인 아주 작고 가벼운 알갱이(微子)다. 전기를 띠고 있지 않아 존재하는지조차 알기 힘들었다. 중성미자의 존재는 1930년 오스트리아 물리학자 파울리가 처음 예측했다. 그는 중성자가 양성자와 전자로 변하는 ‘베타 붕괴’를 관찰한 결과, 붕괴 전과 붕괴 후 전체 입자들의 에너지 크기가 맞지 않는 미스터리의 이유가 ‘사라진 입자’ 때문이라고 봤다. 이 ‘사라진 입자’는 훗날 중성미자라는 이름을 갖게 됐다. 최초의 원자로를 만든 물리학자인 엔리코 페르미(1938년 노벨상)가 1933년 ‘중성미자’라는 이름을 붙였다. 태양이 뜨겁게 반짝이는 이유가 베타붕괴(핵융합반응) 때문인데 우주에 있는 4가지 힘의 하나인 약력(弱力)에 의해 일어난다.

도쿄대 고시바 교수의 ‘위대한 발견’

페르미가 이름을 붙인 지 20여년이 지난 1956년, 중성미자가 처음으로 관측됐다. 미국 물리학자 프레더릭 라이너스와 클라이드 카원이 전자 중성미자가 자연에 존재한다는 걸 확인했다. 이어 두 번째 중성미자(뮤온 중성미자)가 1962년, 세 번째 중성미자(타우 중성미자)가 2000년에 그 존재가 확인됐다. ‘전자 중성미자’는 ‘전자’와, ‘뮤온 중성미자’는 ‘뮤온’, ‘타우 중성미자’는 ‘타우’와 각각 짝을 이루며 경입자(lepton) 가족을 완성한다. 노벨상은 두 번째 중성미자인 뮤온 중성미자가 가장 먼저 받았다. 1988년 미국 연구자 세 사람(리언 레더만, 멜빈 슈바르츠, 잭 슈타인버그)이 수상했다. 최초로 발견된 중성미자(전자 중성미자)는 그보다 뒤늦은 1995년에 노벨상을 받았다. 이에 대해 강신규 교수는 “노벨상의 흑역사라고 할 수도 있다”고 말했다.

세 종류 중성미자의 발견 이후 중성미자 연구는 그 특징에 집중됐다. 당시까지 중성미자는 질량이 없다고 생각해 흔히 ‘유령입자’라고 불렸다. “두 번째 뮤온 중성미자 발견 뒤 중성미자 물리학의 중심이 미국에서 일본으로 넘어갔다. 미국에서 연구하던 일본학자 고시바 마사토시(小柴昌俊·1926년생)가 일본으로 돌아가면서다”라고 강신규 교수는 말했다. 고시바는 귀국한 뒤 도쿄대 이학부에 자리를 잡았고, 일본 정부에 중성미자를 검출할 수 있는 실험시설 건립을 요구했다. 일본 중성미자의 중심지가 되는 가미오칸데 실험시설의 시작이었다.

고시바는 나고야 북쪽에 있는 기후현 가미오카(新岡) 광산 지하에 중성미자 검출시설인 가미오카 우주소립자 연구시설을 1987년 완성했다. 지하 1000m 폐광에 물 3000t을 담은 탱크가 핵심 연구시설이었다. 강 교수에 따르면 고시바 교수는 운이 좋았다. 그가 연구시설을 완성한 후 질량이 엄청 무거운 별인 초신성 폭발에서 나온 중성미자가 태양계를 향해 날아왔고, 가미오칸데가 이를 검출할 수 있었다. 고시바 교수는 ‘중성미자 천문학’이라는 천문학의 새로운 지평을 연 공로로 2002년 노벨상을 받았다.

별은 눈에 보이는 빛(가시광선) 말고도 X선, 자외선, 중성미자를 내놓는다. 인류는 가시광선으로 우주를 관측하다가 눈에 보이지 않는 빛인 비(非)가시광선으로 볼 수 있는 망원경을 만들었다. X선 망원경, 자외선 망원경 등이 그런 것이다. 이를 통해 중성미자를 검출함으로써 중성미자를 쏟아내는 별도 이제 관측할 수 있게 되었다. 초신성은 빛 말고도 중성미자를 방출하기 때문에, 다양한 수단으로 별을 관측하면 별에 관한 정보가 풍성해진다. 고시바의 중성미자 검출은 중성미자 천문학의 가능성을 열어젖힌 사건이었다.

그리고 1998년 가지타 다카아키 도쿄대 교수의 중성미자 진동 발견이 일본발로 세계에 전해졌다. 가지타 교수는 가미오칸데 실험시설을 업그레이드한 ‘수퍼 가이오칸데’에서 중성미자가 질량이 있을 때 나타나는 ‘진동’ 현상을 확인했다. 강신규 교수에 따르면, 우주에서 날아오는 우주선(cosmic ray)이 지구 대기와 충돌하면 뮤온 중성미자와 전자 중성미자를 방출한다. 이때 비율은 2 대 1이다. 그런데 지하에 자리 잡은 검출기에서 검출해보니 이 비율이 달랐다. 뮤온 중성미자 일부가 타우 중성미자로 변해 비율이 달라진 것으로 추정됐다. 이렇게 중성미자가 날아다니면서 다른 중성미자로 변하는 현상을 ‘진동’이라고 한다. 강 교수는 “위대한 발견이었고, 혁명적인 소식이었다”고 당시를 돌아봤다. 중성미자는 그때까지도 질량을 갖지 않는 기본입자일 것이라고 많은 이가 생각했는데 수퍼 가미오칸데의 관측 결과 이를 뒤집어버린 것이다.

중성미자가 뒤흔든 표준모형의 완벽성

강신규 교수는 수퍼 가미오칸데의 위대한 발견 당시 서울 홍릉의 고등과학원에서 박사후연구원으로 일하고 있었다. KAIST 물리학과에서 박사학위(1994년)를 받은 지 얼마 지나지 않은 젊은 물리학자였다. 일본발 중성미자 진동실험 소식을 접하고 그는 중성미자로 연구 주제를 바꿨다. 그는 “충격이었다. 중성미자가 물리학에 새로운 장을 열겠다고 생각했다”면서 이렇게 말했다.

“물리학에 표준모형이라고 있다. 표준모형은 앞선 세대 물리학자들이 수십 년 이상 고생해서 만들어놓은 입자물리학의 금자탑이다. 세상이 어떤 물질로 만들어졌는지를 설명한다. 그런데 일본발 중성미자 진동 소식은 이 표준모형이 완벽하지 않다는 걸 세상에 확인시켰다. 표준모형에 따르면 중성미자의 질량은 없어야 했다. 당시 나는 젊은 물리학자였다. 중성미자 진동 소식은 나 같은 사람에게는 도전할 새로운 대상이 생겼다는 걸 의미했다.” 그리고 20년이 지나도록 그는 중성미자란 주제를 계속 파고들고 있다.

강 교수는 중성미자 진동이 발견된 이후 중성미자 물리학은 두 가지 방향으로 연구가 진행됐다고 했다. 중성미자에 질량을 주는 메커니즘을 알아내는 연구와, 중성미자 세 종류가 어떤 비율로 ‘중첩’ 혹은 ‘혼합’되어 있는지를 설명하는 것이다. 강 교수로부터 중성미자의 질량 문제에 관해 자세한 설명을 들었는데 그의 연구도 여기에 집중되어 있다.

“중성미자가 질량을 갖지 않을 거라고 생각했던 건 이유가 있다. 다른 입자들과는 달리 중성미자는 왼손잡이만 있고, 오른손잡이가 보이지 않는다. 입자는 (양자역학적 의미에서) 스핀을 한다. 중성미자의 경우, 앞으로 진행하면서 왼쪽(반시계) 방향으로 자전하는 왼손잡이만 있고, 그 반대인 오른손잡이는 지금까지 눈에 띄지 않았다. 입자가 질량을 가지려면 오른손잡이와 왼손잡이가 모두 있어야 한다. 한 가지 방향으로만 스핀하면 질량을 가질 수 없다. 그러니 중성미자는 질량을 갖지 않을 거라고 믿을 수밖에 없었다.”

강신규 교수의 오랜 문제의식 중 하나는 ‘오른손잡이 중성미자는 어디로 갔을까’이다. 이는 중성미자 물리학 분야의 최대 미스터리이기도 하다. 입자물리학계는 오른손잡이 중성미자가 있는지 없는지, 그리고 그게 있다면 질량은 얼마일까에 관심을 갖고 있다. “오른손잡이 중성미자가 발견된다면, 그건 또 노벨상 감”이라는 것이다. 물리학계는 많은 노력에도 불구하고 아직까지 실험에서 오른손잡이 중성미자를 보지 못하고 있다.

발견된 중성미자는 왼쪽으로만 스핀

강 교수에 따르면 오른손잡이 중성미자는 ‘비활성 중성미자(sterile neutrino)’란 이름으로 불린다. 이 입자는 자연의 세 가지 힘인 전자기력, 약력, 강력과 상호작용을 하지 않을 것으로 보이는데 그로 인해 ‘비활성’이라는 수식어를 갖게 됐다. 학계는 오른손잡이 중성미자의 질량이 아주 가볍거나, 이보다 조금 더 무겁거나, 아주 무거운 세 가지 가능성을 염두에 두고 있다. 물리학자들은 이 중에서도 무거운 비활성 중성미자 쪽에 더 무게를 두고 있다. 강신규 교수는 “오른손잡이 중성미자는 질량이 매우 무거울 것이라는 관측이 유력하다”고 말했다.

나는 중성미자 이야기를 듣다가 중성미자의 이런 세부 내용까지 왜 알아야 할까 하는 생각이 들었다. 그래서 중성미자가 왜 중요한가 하는 질문을 던지자 강 교수는 이렇게 설명했다. “첫째, 중성미자 진동실험 이후 표준모형의 불완전성이 명확해졌다. 자연을 설명하는 더 근본적인 이론이 필요하다. 둘째, 중성미자는 물리학의 입자론 말고 우주론에도 중요하다. 중성미자는 우주에서 광자(빛 알갱이) 다음으로 그 수가 많다. 아주 이른 초기우주에서 중성미자가 대단히 많이 만들어졌다. 초기 우주의 흔적이 이들 중성미자에 고스란히 남아 있을 것이다. 그러니 우주를 연구하기 위해서는 중성미자를 알아야 한다.”

중성미자에는 미스터리가 많다고 했다. 아직 그 질량을 알아내지 못하고 있는 것이 대표적이다. 세 종류의 중성미자 질량을 상대적으로 비교할 수 있는 정도까지만 인류는 알아냈다. 어떤 중성미자가 다른 중성미자보다 얼마나 무거운지, 가벼운지만 파악하고 있는 것이다. 비활성 중성미자, 즉 오른손잡이 중성미자의 질량은 당연히 모른다.

강 교수에 따르면, 비활성 중성미자의 질량은 중성미자 실험에서 관측된 이상한 결과(anomaly)를 설명하기 위해 도입됐다. 가령 서울대 김수봉 교수가 실시 중인 영광 르노실험에서처럼 1㎞ 이내의 짧은 거리를 날아온 중성미자들을 관측하면 중성미자가 세 종류 있다는 생각으로는 설명하지 못하는 ‘이상’ 현상이 관찰된다. 아주 가벼운 비활성 중성미자, 즉 전자보다 가벼운 비활성 중성미자가 있다면 이 이상한 실험 결과를 어느 정도 설명할 수 있다. 하지만 이것도 다 설명하지는 못한다. 그래서 대전의 기초과학원 지하실험단(단장 김영덕)이 아주 가벼운 비활성 중성미자를 확인하는 실험을 하고 있고 한국과 일본 간에 JSNS 2 공동 연구 프로젝트도 진행 중에 있다.

조금 더 무거운 비활성 중성미자는 암흑물질 후보일 수 있다. 암흑물질은 우주의 물질과 에너지의 25%를 차지하지만 우리는 그 물질의 실체를 모른다. 그 실체를 알아내도 노벨물리학상감이다. 암흑물질을 설명하기 위해 머릿속으로만 생각해낸 완전한 가상입자를 도입하는 것보다, 있음직한 입자가 암흑물질이 되면 여러모로 설득력이 있다. 또 ‘아주 무거운 비활성 중성미자’의 가능성도 있을 수 있다. 아직은 가설적인 오른손잡이 입자가 있다면 왜 왼손잡이 중성미자의 질량이 가벼운지를 설명할 수 있다.

강신규 교수는 ‘시소 메커니즘’이 중성미자의 질량 문제와 관련해 ‘가장 아름다운 해법’으로 얘기된다고 했다. 세 종류의 중성미자 모두가 질량이 왜 이리 가벼운지를 시소 메커니즘이 설명한다는 것이다. 이에 따르면 무거운 (오른손잡이) 중성미자가 있다고 가정하고, 이 무거운 입자를 시소 한쪽에 태운다. 반대편에는 질량이 가벼운 (왼손잡이) 중성미자가 있다고 하자. 그러면 무거운 오른손잡이 중성미자의 무게 때문에 가벼운 왼손잡이 중성미자가 공중으로 붕 뜬다. 안 그래도 질량이 가벼운데 더 가볍게 느껴진다. 이게 시소 메커니즘이다.

오른쪽 스핀 중성미자 발견이 왜 중요한가

이 시소 메커니즘은 1979년 일본의 야나기다 쓰토무(柳田勉)와 미국의 머리 겔만(1969년 노벨물리학상), 프랑스의 피에르 라몽 등이 각각 제안했다. 야나기다와 라몽은 이 제안으로부터 25년이 지난 2002년에 관련 기념학회를 일본과 프랑스에서 각각 열었다고 한다. 기념학회까지 연 걸 보면, 학계가 시소 메커니즘을 중요하게 바라보고 있음을 알 수 있다.

강 교수는 “중성미자의 가벼운 질량을 설명하는 시소 메커니즘이 맞는지를 검증하려면 무거운 비활성 중성미자를 실험에서 봐야 한다. 그 흔적이라도 봐야 한다”면서 ‘M’의 질량을 보려는 대표적인 실험이 LHC(대형강입자충돌기) 실험이라고 했다. 질량이 지나치게 무겁지만 않다면, LHC에서 단서를 찾을 수도 있을 것이라고 강 교수는 말했다. 물론 이것이 LHC의 주요 임무 중 하나에 포함되어 있지는 않다.

강 교수의 연구는 무거운 비활성 중성미자의 질량이 테라(1조)전자볼트(TeV)급일지 모른다는 가설을 검증하는 데 초점이 맞춰져 있다. 무거운 비활성 중성미자의 질량이 1~10TeV라면, 현재 운영 중인 스위스 제네바의 입자충돌기인 LHC에서 흔적을 볼 수도 있다고 한다.

그에 따르면, 무거운 비활성 중성미자가 존재한다면 (왼손잡이) 중성미자들 세 종류의 질량이 왜 가벼운지를 잘 설명하는 동시에, 우주에 물질이 반물질보다 왜 많게 되었는지도 설명할 수 있게 된다. 물리학자는 태초 우주에 물질과 함께 반물질이 만들어졌다고 본다. 반물질은 물질과 전하만 다른데 물질과 반물질은 생성 직후 만나 대부분 빛으로 바뀌었다. 하지만 물질의 양이 반물질보다 조금 많아, 지금 우리가 살고 있는 우주에서 반물질은 거의 사라졌고 물질만이 남아 있다. 왜 우리 우주에는 물질이 많은가를 설명하는 데 바로 중성미자가 중요하다는 것이다. 이 이론은 경입자생성(leptogenesis)이라고 불리는데 중성미자에 질량을 주고 경입자생성 메커니즘을 구현하기 위해서는 무거운 비활성 중성미자의 질량이 어마어마해야 하는 걸로 나왔다. 전자의 질량이 0.5메가전자볼트(MeV)인데, 이 입자는 109기가볼트(GeV는 10억전자볼트)가 되어야 한다. “이렇게 되면 입자가속기에서 확인할 방도가 없다. 에너지 준위가 너무 높다. 나는 경입자 생성이 이런 질량에서만 가능해야 하는가를 생각했다. 그리고 몇 년 전, LHC의 에너지 준위인 테라급 에너지에서도 경입자 생성 메커니즘이 가능한 아이디어를 제안했다. 운이 좋으면 LHC에서 볼 수 있고, 에너지가 더 높아질 차세대 입자가속기에서 확인할 수 있다고 본다.” 그는 이 테라급 에너지에서 경입자 생성을 구현하기 위해 새로운 가상입자를 도입했는데 이에 대한 이론을 ‘확대된 시소 메커니즘’이라고 명명했다고 한다. 이 이론 제안 직후 미국의 저명 이론물리학자인 어네스트 마 교수(리버사이드-캘리포니아대학)로부터 ‘흥미로운 제안’이라는 메일을 받기도 했다. 그의 제자가 현재 강 교수 밑에서 연구원으로 일하고 있다.

서울대 84학번인 강 교수는 학부에서는 원자핵공학을 공부했다. 공대 출신으로 물리학자가 된 이유에 대해 그는 “공대 출신 물리학자가 많다”고 했다. 이휘소 박사와, 암흑물질 액시온 연구로 이름 높은 김진의 서울대 전 교수가 서울대 화학공학과 출신이라고 했다. 그는 전설적인 영국의 물리학자 디락도 전기공학과 출신이라고 했다.