세종대 물리학과의 김세용 교수는 지난 3월부터 스위스 베른에 머물고 있다. 알베르트 아인슈타인 센터 부설 이론물리연구소에서 연구년을 보내는 중이다. 김 교수는 ‘격자(lattice)QCD(양자색역학)’라는 일반에게는 낯선 분야에서 국제적 지명도를 갖고 있다. 베른에서 서울에 잠시 온 그를 지난 4월 23일 세종대 연구실에서 만났다.

그가 서울에 들른 건 ‘수퍼컴퓨터’ 때문이다. 그는 “고성능 컴퓨터 분야에서 내 이름이 국내에 좀 알려져 있다”고 했다. 물리학자가 수퍼컴퓨터 전문가인 게 얼핏 이해되지 않았다. 그는 “물리학자는 연구에 필요한 도구가 없으면 도구를 직접 만든다. 한때 물리학자들에게 없는 도구가 수퍼컴퓨터였다. 그래서 물리학자가 수퍼컴퓨터를 직접 만들게 됐다”고 했다. 격자QCD 연구는 상상할 수 없을 정도로 많은 컴퓨터 계산이 필요하다. 수퍼컴퓨터로도 수개월은 짧고 보통 몇 년씩 걸리는 계산을 한다.

그의 연구실 한쪽에 감사패 두 개가 보였다. 한국과학기술정보연구원(KISTI)과 기상청이 각각 2002년과 2004년에 그에게 증정한 것이다. KISTI는 대전 대덕연구개발특구에 있는 정부출연 연구기관. 계산을 필요로 하는 과학자에게 자신들이 보유한 고성능 컴퓨터를 사용할 수 있도록 하고 있다. 기상청은 일기예보 능력의 향상을 위해 수퍼컴퓨터를 사용한다. 이 두 기관이 수퍼컴퓨터를 선정할 때 김 교수가 기술자문을 해줬다고 한다.

김 교수는 서울대 물리학과 학부 1981년 학번. 학부를 마치고 1985년 미국 뉴욕의 컬럼비아대학으로 박사 공부를 하러 가 QCD를 공부했다. QCD(Quantum Chromodynamics)는 강한 상호작용이라는 자연의 기본적인 힘을 설명하는 물리학이다. 그런데 그곳에서 생각지 않게 수퍼컴퓨터를 배웠다. 격자QCD는 내용이 어려울 것 같아 우선 격자QCD를 공부하던 물리학자가 고성능 컴퓨터에 꽂힌 얘기를 들어보기로 했다.

인텔 수퍼컴퓨터의 오류를 발견해내다

김 교수가 연구실 책꽂이에서 최고의 과학학술지인 사이언스 한 권을 꺼내 보여줬다. 그가 보여준 건 1988년 3월 18일자였다. 컴퓨터 내부를 촬영한 사진이 표지를 장식하고 있었다. 김 교수의 컬럼비아대학원 물리학과 지도교수였던 노먼 크리스트가 만든 수퍼컴퓨터라고 했다. 사이언스의 목차 면을 열어 보니 지도교수 이름과 함께 ‘격자 게이지 이론을 위한 병렬수퍼컴퓨터’라는 논문 제목이 보였다. 사이언스 표지 논문으로 실렸으니 31년 전에도 이 수퍼컴퓨터 개발이 상당한 주목을 받았단 얘기가 된다.

사이언스에 실린 모델 이름은 ‘컬럼비아 64 노드머신’. 과거 286컴퓨터 혹은 AT라고 불렸던 데스크톱 PC에 들어가는 286칩 64개로 만든 수퍼컴퓨터였다. PC가 막 나오기 시작했고, 대규모 계산 능력이 아쉬웠던 컬럼비아대학의 격자QCD 연구자가 값싼 PC를 여러 대 연결해서 고성능 컴퓨터를 만든 것이었다. 김 교수는 지도교수의 이 컴퓨터 모델 제작에는 참여하지 않았다고 한다. 1987년 연구실에 들어가 보니 컴퓨터는 이미 만들어져 있었다. 그는 이 고성능 컴퓨터의 유지 관리와 보수, 그리고 프로그래밍을 배웠다. 컴퓨터 칩은 사용하다 보면 고장이 나는 법이고 그러면 계산이 틀리게 나온다. 지도교수 노먼 크리스트는 수퍼컴퓨터 성능 향상을 위해 계속 노력해 나중에는 IBM 수퍼컴퓨터 ‘블루진’(2004년 개발)의 초기 모델을 만들어내기도 했다.

김세용 교수는 1991년 컬럼비아대학에서 박사학위를 받은 후 미국 시카고 인근에 있는 국립아르곤연구소로 옮겨갔다. 이곳에서 그는 인텔의 대규모 병렬컴퓨터 ‘인텔 터치스톤 델타’ 모델을 베타테스팅했고, 연산 속도에서 세계 기록을 수립하기도 했다. 이런 분야를 ‘실험 컴퓨팅(experimental computing)’이라고 한다고 했다. 그는 이때 인텔의 이 모델에 결함이 있는 걸 찾아냈다. 인텔 자체의 실험(acceptance test)에서는 문제가 없었으나 김 교수가 격자QCD 연구를 위해 제작한 프로그램 코드로 확인해 보니 이 모델은 매번 다른 계산 결과를 내놓았다. 인텔은 이 오류를 수정, 인텔 파라곤(paragon)이라는 이름으로 1992년 상용화했다. 이런 고성능 컴퓨터를 다룬 연구 경력 때문에 그는 “납땜과 인두로 QCD를 배웠다”는 우스갯소리를 지인들로부터 듣는다.

김 교수는 1995년 귀국해서 서울대이론물리연구소에서 2년, 고등과학원에서 6개월간 연구하고 1998년 세종대 교수가 되었다. 그가 교수가 된 시기는 외환위기로 한국이 경제적으로 어려울 때였다. 그는 물리학자로서 한국에서 입지를 다지기 전에 고성능 컴퓨터 전문가로서 먼저 이름을 알렸다. 그가 서울대이론물리연구소에서 일하던 어느 날 KISTI 측에서 연락을 해왔다. KISTI는 1996년 당시 병렬수퍼컴퓨터 도입을 추진했었고 이를 위해 여러 나라의 수퍼컴퓨팅 센터를 찾았다. 그러던 중 영국 에든버러 소재 영국 최대의 수퍼컴퓨팅 기관인 EPCC에 갔다가 한국에 김세용이라는 고성능 컴퓨터 전문가가 있다는 말을 EPCC 대표인 리처드 캔웨이 박사(에든버러대학 수리물리학자)로부터 들었다. 이들은 한국에 와서 김세용 박사를 찾았다. 김 교수는 당시를 돌아보며 “KISTI는 크레이 T3E 병렬수퍼컴퓨터를 도입했다. 이 수퍼컴퓨터를 도입하기 전에 잘 운영할 수 있도록 교육하고 시스템 셋업을 하는 데 도움을 줬다”고 말했다.

한국 수퍼컴퓨터의 조력자

그는 한국 고성능 컴퓨터 커뮤니티에도 기여했다. 1998년 삼성전자의 지원을 받아 수퍼컴퓨터의 한 종류인 리눅스 클러스터를 만들었다고 했다. 삼성전자가 ‘알파 프로세서’를 만들었는데 계산 성능이 인텔 제품보다 좋았다. 알파 프로세서 8개를 삼성전자가 빌려줘서 데스크톱 PC에 장착해 병렬로 사용했다고 말했다. 2000년 2월 한국정보과학학회가 발행한 ‘정보과학회지’에 쓴 ‘베오울프 클러스터를 이용한 격자 양자색소 역학계산’ 논문을 보여줬다.

이때 주간조선 사진기자 한준호 차장이 김세용 교수 촬영을 위해 연구실에 도착했다. 사진촬영을 먼저 하기 위해 인터뷰를 일시 중단했다. 김세용 교수는 자신의 연구실이 있는 건물 같은 층 다른 방에 병렬컴퓨터를 설치, 운용하고 있었다. 그래서 그 방으로 사진을 찍으러 자리를 옮겼다. 교수 연구실 3배 정도 크기의 방에 컴퓨터들이 가득했다. 수퍼컴퓨터도 보이고 일반 데스크톱 PC들도 보였다. 수퍼컴퓨터는 다른 교수가 사용한다고 했다. 김 교수는 컴퓨터 제조업체 델이 만든 150대의 데스크톱 PC를 병렬로 연결해 쓰고 있었다. 연구비가 많지 않으니 수퍼컴퓨터를 사지는 못하고 값싼 데스크톱을 갖고 계산 능력을 확보하고 있다고 했다.

사진을 찍고 그의 연구실로 돌아왔다. 그의 책장에는 컴퓨터 과학자의 서재인 듯 리눅스 등 컴퓨터 관련 책이 많이 꽂혀 있었다. 김세용 교수는 “격자QCD 얘기는 아직 하지도 않았다”면서 나를 보고 빙긋 웃었다. 이제부터 그의 격자QCD 연구 이야기를 들어야 한다. 갑자기 머리가 지끈 아파왔다.

그가 관심을 갖고 있는 물리학 분야는 강한 상호작용이다. 그는 실험 물리학자가 아니라 이론물리학자다. 그가 연구하는 격자QCD는 QCD 연구를 위한 한 방법론이라 할 수 있다. QCD는 전기적으로 양성인 양성자들이 핵 안에서 서로를 밀어내지 않고 딱 붙어 있는 현상. 같은 전기적 성질을 띤 양성자들은 붙어 있는 대신 서로를 밀어내야 하는데 전기의 힘보다 강한 힘이 서로를 붙어 있게 만든다. 전기력을 압도하는 그 힘이 바로 강력이다. 강력은 전기력과 비교할 수 없을 정도로 강하다고 김 교수는 말했다. 양성자와 양성자가 서로 잡아당기는 이 힘을 들여다보면, 사실은 이 힘이 쿼크라는 입자들 사이에서 일어난다는 걸 알 수 있다. 쿼크는 양성자나 중성자 안에 세 개씩 들어 있다. 물질입자인 쿼크와 쿼크가 글루온이라는 힘 입자를 주고받으면서 ‘강력’이라는 힘이 생긴다.

QCD 연구의 큰 그림은 ‘QCD 상태도’라는 걸 통해 알 수 있다. 김 교수는 온도와 밀도 기준으로 보았을 때 QCD 상태는 세 가지라고 말했다. ‘강입자 (속박) 상(phase)’ ‘쿼크-글루온 플라스마(QGP·Quark-Gluon Plasma)’ ‘색(色)전하의 초전도 상태’.<‘QCD 상태도 참조> 우선 ‘강입자 (속박) 상’은 쿼크의 에너지 밀도와 온도가 낮을 때 나타나는데 내용이 잘 알려져 있다. 이때 쿼크는 양성자나 중성자 안에 들어 있다. 안에 갇혀 있어 밖으로 나오지 못한다. ‘자유 쿼크(free quark)’는 자연계에는 존재하지 않는다. 이 때문에 ‘속박(confinement)돼 있다’고 표현한다.

두 번째 QCD 상태는 ‘쿼크-글루온 플라스마(QGP)’다. QGP는 고온·고밀도에서 나타나는데 이때 쿼크와 글루온이 속박에서 풀려난다. 양성자와 중성자 밖으로 나와 자유롭게 돌아다닌다. ‘자유 쿼크’가 나타나는 것이다. 155MeV(MeV는 106전자볼트) 이상이면 QGP 상태가 되는데 QGP를 이해하기 위한 대표적인 물리 실험이 앨리스 실험이다. 김 교수는 앨리스 실험에 이론가로서 참여하고 있다. 앨리스 실험은 스위스 제네바의 유럽핵입자물리연구소(CERN)의 가속기(LHC)에서 중이온과 중이온을 충돌시켜 QGP를 만들고, 이 QGP의 특징을 알아내려고 한다.

세 번째 QCD 상태는 ‘색전하의 초전도 상태’로, 온도는 상대적으로 낮고 양성자와 중성자 밀도가 높을 때 나타난다. 초전도는 전기 저항이 사라지는 특이한 상태인데 전자기 상호작용에서 확인됐다. 그런데 특이하게 QCD에서도 초전도 상태가 나타난다. 이때 QCD에서 사라지는 저항은 전기 저항이 아니라 색전하(color charge) 저항이다. 색전하는 강한 상호작용에서 나타나는 물리량이며, 색과 비슷한 특징이 있다고 해서 색전하라는 이름이 붙었다. 김 교수는 “색전하의 초전도 영역(color superconductivity)은 격자QCD로도 아직 정확히 연구할 수 없다. 이 현상은 중성자별 내부에 나타날 걸로 추정된다”고 했다. 색전하의 초전도 상태를 연구하기 위해 독일 다름슈타트 소재 GSI헬름홀츠 중이온연구소가 페어(FAIR) 가속기를 짓고 있고, 5년 내 가동을 목표로 하고 있다.

643×128로 시공간을 쪼개다

김 교수에게 QCD물리학자로서 무엇을 알고 싶은지를 물었다. 그는 “쿼크-글루온 플라스마(QGP)가 만들어졌는지 여부를 확인하면서 몇 도에 QGP가 생겼으며, 그때 어떤 현상이 일어나는지를 연구하고 있다”고 말했다.

격자QCD는 손으로 계산할 수 없는 복잡한 QCD 계산을 위해 1974년 케네스 윌슨(1982년 노벨물리학상)이 개발했다. 윌슨은 ‘쿼크 속박’이라는 제목의 논문을 썼다. 윌슨은 시공간을 바둑판 혹은 격자 모양으로 쪼개고 계산한다는, 격자QCD의 핵심 아이디어를 개발했다. 그리고 쪼갠 공간에서 쿼크와 글루온의 장(場·field)이 어떻게 되는지를 생각했다. 그 결과 쿼크 사이에 주고받은 힘, 즉 강한상호작용(강력)은 거리가 멀어질수록 강해진다는 걸 정성(定性)적으로 보여줬다. 다른 말로 하면, 쿼크와 쿼크를 멀리 떼어내려고 할수록 에너지가 많이 든다는 걸 확인했다. 물리학에서 중요한 건 방정식을 만들고, 실험하고, 새로운 결과를 예측하는 거다. 그런 만큼 QCD의 정성적인 특징 이해만으로는 부족하고 정량(定量)적인 특징을 알아내야 한다. 케네스 윌슨의 1974년 연구를 계승·발전시켜야 하는 것이다.

김 교수에게 시공간을 어떤 식으로 쪼개느냐고 물었다. 그는 시공간을 쪼개는 한 방법으로 ‘643×128’이 있을 수 있다고 했다. 64는 3차원 공간의 한 축을 쪼갠 숫자이다. 공간은 3차원이니 공간을 쪼갠 격자의 갯수는 64×64×64가 된다. 그리고 128은 시간 차원을 쪼갠 숫자다. 128은 공간의 한 방향을 자른 숫자의 두 배 크기다. 이 정도면 무한히 큰 숫자라고 생각할 수 있다고 했다. 김 교수는 이런 식으로 시공간을 쪼개고 그 격자에 걸쳐 있는 쿼크 장의 모양을 본다고 했다.

김세용 교수의 개인 연구로 취재 방향을 돌렸다. 그의 박사학위 논문 제목은 ‘쿼크 맛깔이 여러 개 있는 QCD의 상전이 연구’. 쿼크 종류(맛깔)는 알려져 있는 게 6개다. 상전이(phase transition)는 양성자나 중성자가 깨지고 그 안에 있는 쿼크와 글루온이 풀려 나오는, 즉 QGP 상태로 바뀌는 걸 말한다. 김세용 교수는 만약에 쿼크가 6개보다 더 많으면 상전이 온도가 어떻게 달라지느냐는 것을 연구했다. 그리고 쿼크 종류가 8개인 경우도 물리학이 성립할 수 있다는 걸 발견했다. 그는 쿼크가 6개로 알려져 있으나, 그 종류가 몇개인지는 아직 정확히 모른다고 했다.

우주 초기 암흑물질 연구 중

김 교수 연구 중 가장 많이 알려져 있는 건 2007년에 쓴 논문 ‘QGP의 전기 전도도’라고 했다. 쿼크와 글루온이 속박에서 풀려나 자유롭게 돌아다니는 플라스마 상태에서 전류가 얼마나 잘 흐르는지를 계산했다. 영국 스완지대학의 연구자들과 공동으로 연구했다. QGP의 물리적 성질 한 가지를 알아내는 작업이었는데 논문 피인용 횟수가 200회 이상이나 된다고 했다. 김 교수는 “커뮤니티가 상대적으로 작은 내 분야에서 이 정도 피인용 횟수면 많은 것”이라고 했다. ‘QGP의 전기 전도도’ 논문은 2011년 입자물리학계의 가장 권위 있는 학술지 ‘피지컬 리뷰 레터스(PRL)’에 게재됐다.

그는 “QGP가 몇 도에서 만들어지는지를 알아내기 위한 잣대로 쿼코늄이라는 입자를 연구하면서 2년 걸려 논문을 썼다. 아직까지 계속 연구하고 있으니 8년째 계산 중이다. 실마리가 이제 보인다”라고 말했다. 그가 이 계산을 위해 도입한 새로운 방법이 ‘비상대론적 양자색역학(Non-Relativistic QCD)’이다. 유럽과 미국의 학자들과 유럽의 수퍼컴퓨팅 자원을 사용해 지금도 계산을 하는 중이다. 그가 학술지 PRL에 첫 논문을 쓴 게 1996년이었는데, 이때부터 NRQCD이라는 방법을 배우면서 쿼코늄 관련 계산을 시작했다.

김세용 박사는 현재 스위스 베른에서 알베르트 아인슈타인 센터 부설 이론물리연구소 소장인 미코 라이네 교수와도 공동연구 중이다. QGP가 열평형 상태일 때 b쿼크가 몇 개 있는가가 연구 주제다. 500MeV에서 6개 쿼크 중 하나인 b쿼크가 몇 개 존재하느냐는 문제는 암흑물질 연구와도 연결된다고 했다. 암흑물질은 정체는 모르나 우주 전체 질량-에너지의 25%를 차지한다고 알려져 있다. 김 교수는 “QGP 현상 때 b쿼크가 몇 개 있느냐는 문제를 바꿔 생각하면 우주 초기에 암흑물질이 몇 개였느냐가 된다”고 말했다. 그는 2016년, 2017년에 관련 논문을 썼고 이번에 베른에 가서도 논문 한 편을 끝내 아카이브(arXiv.org)에 올렸다고 했다. 그는 “중요한 이론 연구라고 생각한다”고 말했다.

김세용 교수에게 격자QCD 분야에서 명성을 확인할 수 있는 장면을 소개해달라고 했더니 2007년 영국 왕립학회(Royal Society)로부터 연구비를 지원받았던 일, 2013년 이탈리아 트렌토의 핵물리이론연구소에서 자신이 조직했던 학회(heavy quarks and quarkonia in thermal QCD)와 2015년 영국 사우스햄턴에서 열린 학회를 얘기했다. 김 교수는 500명이 참석하는 연례 격자QCD학회에서 기조연설을 한 적도 있는데 10명 정도의 권위 있는 학자가 맡는 기조연설은 그해의 연구를 리뷰하는 게 일이라고 했다.

김세용 교수는 오는 8월까지 아인슈타인이 상대성이론을 만든 스위스 베른에 머무를 예정이다. 특허청 직원이던 30대의 아인슈타인이 베른에서 위대한 발견을 했던 이야기는 김 교수에게 묻지도 못했다. 그의 격자QCD 이야기가 흥미롭기도 했고, 설명을 따라가기도 바빴기 때문이다.