테크놀러지(이하 테크) 시대다. 유토피아(Utopia)에 이를 지름길로 만병통치약 같은 테크를 기대한다. 최근 주목받는 메타버스(Metaverse) 세계는 그 같은 테크 유토피아의 전위로 느껴진다. 현장에 안 가고도 웹을 통해 실제 생활을 할 수 있다고 여긴다. 깜찍한 아바타 이미지를 통해 3차원 몸동작이나 감정 표현, 나아가 상거래도 가능하다. 전염병 시대에 맞춰진 신세계가 눈앞에 등장했다. 그러나 테크가 유토피아를 보장하지는 않는다. 다소 엉뚱하게 들리겠지만 초읽기에 들어간 듯한 우크라이나와 러시아 전쟁은 좋은 본보기다.

군사전문가들은 지금까지 인류가 경험하지 못한 AI(인공지능) 전쟁의 현실이 두 나라 간 전선에서 펼쳐질 것이라고 경고한다. 현재 러시아는 우크라이나 군인들의 모바일폰 전화번호를 전부 파악하고 있다고 알려졌다. 우크라이나 병사가 친구 이름으로 전송된 문자메시지를 보면, 그 병사의 부모 거주지와 자녀의 학교, 나아가 자주 가는 레스토랑 이름까지 파악 가능하다. 마음만 먹으면 가족이나 주변 누구라도 살상할 수 있다는 경고다. 전선에 배치된 우크라이나 장군에게 딸 이름의 전화가 걸려온다. 모바일폰을 여는 순간 곧바로 자폭(自爆) 드론이 밀려든다. 공중에 떠돌던 참새 크기의 음속 드론이 우크라이나 장군의 모바일 위치를 추적해 단행하는 AI 공격이다.

이미 4년 전 일이지만 펜타곤 관계자로부터 북한 지도부의 모바일폰 전화번호를 전부 파악하고 있다는 얘기를 들었다. 한국에서 전쟁이 터질 경우 북한 수뇌부도 자폭 드론 공격에 직면할 수 있다는 얘기다. 우크라이나는 2014년 러시아와의 전쟁 때부터 전장에서 모바일폰 사용 자체를 금지시켰다. 실수로 사용하는 순간, 주변 전체가 불바다로 변할 수 있다는 우려 때문이다.

AI, 빅데이터, 메타버스는 닭과 달걀의 관계라 볼 수 있다. 크게 보면 ‘AI=빅데이터=메타버스’로 동격화할 수 있다. 현재 따라가기도 어려울 정도의 속도로 발전, 진화하고 있다. 전염병 시대 경기 부양을 위해 풀린 돈의 대부분이 이들 영역으로 몰리고 있다. 음과 양은 항상 ‘동시에’ 존재한다. 유토피아가 있다면 디스토피아(Dystopia)도 있다. AI 살상무기나, 중국이 소수민족 위구르에 자행하고 있는 1984식 빅브라더 감시체제는 디스토피아의 본보기 중 하나다. 그러나 대부분의 사람들은 ‘테크 디스토피아’를 무시하거나 무관심하게 대한다. 돈이 배경에 있다고 본다. 미래 성장주로 떠오른 이상, 주식 투자가들이 보면 테크가 불러올지 모를 디스토피아는 이단적 사고에 불과하다. 그러나 아직 희망은 있다. 유토피아는 물론 디스토피아도 염두에 두면서 테크의 방향과 미래를 조망하는 사람들도 적지 않기 때문이다.

영국 옥스퍼드대학 철학과 윤리담당 교수 존 타시올라스(John Tasioulas)는 그 같은 영역에서 활동하는 전문가 중 한 명이다. 물과 불의 관계라고나 할까? 도저히 어울리지 않을 것 같은, ‘AI와 윤리’가 그의 연구 분야다. 모두 유토피아 테크를 꿈꾸는 순간, 타시올라스 교수는 ‘윤리 정립을 통한 올바른 AI’의 미래에 매달리고 있다. 영국 런던 옥스퍼드대학으로 줌을 연결해 AI 윤리의 오늘과 내일에 대해 물어봤다.

- 최근 조 바이든 대통령이 AI 무기개발에 관한 규제법들을 대폭 완화하겠다고 발표했다. 거기에 대해 당신은 ‘슬프지만 놀랍지는 않다(Sad but Unsurprising)’라고 반응했다. 서로 상반된 표현인데 어떤 의미인가. “하이테크가 전쟁과 연결된다는 점에서 슬프다고 볼 수 있다. 하이테크를 인간에게 좀 더 유용하게 사용할 수 있을 텐데 살상용으로 사용한다는 점에서 그렇다. 인간이 컨트롤하기 어려워질 AI 무기개발을 완화한다는 점에서 슬프다. 놀랍지 않다는 말은, AI 무기개발에 관한 미국의 생각은 이미 예상됐다는 점에서 나온 표현이다. 세계 그 어떤 나라도 AI 무기에 대한 자체 통제에 나서지 않고 있다. 미국만 자체 통제에 들어갈 경우 군사전략적 열세에 놓이게 될 것이다. 그런 현실을 피하기 위해 바이든이 정책을 수정했다는 점에서 이미 예상된 상황이기도 하다. 아직 글로벌 협력이나 룰이 없는 상황에서 미국만 혼자 고립될 수 없기 때문에 ‘놀라울 것이 없다’고 말했다.”

- 팬데믹이 장기화하면서 ‘글로벌 시대의 종언’이란 말이 곳곳에서 들린다. 곧바로 테크가 만병통치약으로 작용하는 파라다이스가 글로벌 시대의 뒤를 잇는 느낌이다. AI, 빅데이터, 메타베스의 동시 출현을 어떻게 보는가. “인간은 세상의 흐름을 좇아가려는 본능이 있다. 어떤 변화가 갑자기 밀려들 경우 모두 불가항력적으로 추종하는 공기도 나타난다. 글로벌 시대는 그 같은 부화뇌동 세계관의 결과라 볼 수 있다. 대부분 글로벌 시대를 운명이라 생각하면서 추종했지만, 사실 반드시 따라야 할 진리는 아니었다. 글로벌 시대에 이어 글로벌 민주주의도 전 세계 시대정신이 될 것이라 믿은 적이 있었다. 그러나 현실은 다르다. 글로벌 시대가 될수록 반(反)민주주의 국가가 한층 더 큰소리 치는 시대로 접어든다. 최근 나타난 ‘테크 만병통치 파라다이스’도 마찬가지다. 갑자기 AI, 빅데이터, 메타버스가 미래의 약속이자 대세로 등장한다. 모두 그쪽으로 몰려가지만 환상에 불과하다. AI, 빅데이터, 메타버스 가운데 어떤 것을, 어떤 기준하에 선택, 집행하느냐에 따라 결과가 전혀 달라지기 때문이다. 과거의 상황을 보면 글로벌 시대와 민주주의는 ‘선택의 문제(Matter of Choice)’였을 뿐 ‘반드시 도래할 필연(Necessity)’과 무관했다. 현재 곳곳에서 AI가 펼칠 환상적 세계가 논의되고 있다. 그러나 반대로 AI가 창조해낼 비극적 미래도 점쳐지고 있다. 어느 하나만 보지 말고 거시적이고 장기적인 차원에서 이해하기 바란다. 인간이 무엇을 선택하고, 어떤 기준에 따를지가 관건이다.”

타시올라스 교수는 그리스 출신 철학가다. 옥스퍼드대학 박사, 게다가 윤리학을 공부하는 그리스인과의 인터뷰는 처음이다. 그것도 AI와 윤리라는 깊고도 어려운 테마다. 필자의 능력을 뛰어넘는 인터뷰이기에 대화 내내 긴장해야만 했다. 철학 강의를 듣는 느낌이기도 했지만, 기본 용어에 대한 개념을 확실히 잡는 것이 중요하다고 느꼈다.

- 윤리를 어떤 식으로 정의(Definition)할 수 있는가. “좋은 질문이다. 나는 ‘AI 윤리’를 얘기할 때 항상 걱정이 앞선다. 사람들이 너무 좁은 의미로만 해석하기 때문이다. 일반적으로 통용되는 윤리의 의미를 살펴보자. 개개인이 외부의 제재 때문이 아니라 스스로 지키는 원칙이자 가치가 윤리에 관한 일반적 정의다. ‘법적 차원의 제재(Legal Regulation)’가 아니라 스스로 앞장서서 자신을 규제하면서, 특별한 신념(Code)에 기초해 행동하는 것을 윤리의 출발점이라 말한다. 옳기는 하지만 이것도 미시적 차원의 제한된 정의에 불과하다. 윤리는 철학적 차원에서 이해해야 할 아주 폭넓은 테마다. 크게 두 가지 측면에서 살펴볼 수 있다. 첫째 ‘인간에게 있어서 어떤 것이 좋은 인생(Good Life)인가’에 관련된 문제다. 인간의 삶에 도움을 주는 것이 무엇이고, 해를 입히는 것이 어떤 것인지 파악하는 것이 윤리의 개념을 이해할 첫 번째 단서다. 둘째 ‘인간은 타인의 도움 없이는 살아갈 수 없다’는 사실을 인지하는 것이다. 사람만이 아니라 동물이나 환경으로부터의 직간접 도움 없이는 살아갈 수 없다는 것이 윤리의 개념을 이해할 두 번째 근거다. 이 두 가지 문제에 대한 근본적 이해와 실천 없이는 윤리의 정의를 파악하기 어렵다.”

- 2001년 9·11 동시테러 직후 ‘문명의 충돌’이란 말이 유행했다. 2021년 AI 현황을 보면 ‘윤리의 충돌’이란 생각이 든다. 인간 유전자 조작을 대수롭지 않게 생각하면서 ‘과학 만세’를 외치는 나라가 이미 등장했다. 중국, 미국, 유럽의 AI 윤리가 전부 다르다. “AI 윤리관은 천차만별이다. 서로 다른 생각과 입장을 고려한 해결방안이지만, 내가 생각하는 AI 윤리의 출발점은 교육현장에 있다. 대학에서 학생들과의 토론에서부터 합일점을 찾아내야만 한다. 교육현장이나 대학은 집행력이나 결정권도 없는 미약한 집단이다. 그러나 토론을 통해 서로 다른 생각을 하나의 접점으로 이어나갈 몇 안 되는 통로 중 하나다. 인권은 옥스퍼드대학과 주변 커뮤니티가 관심을 갖는 주요 현안 중 하나다. 알다시피 중국, 미국의 인권 개념은 다르다. 중국은 인권을 가지려면 그만한 자격이 있어야만 한다고 말한다. 서방은 태어난 인간 모두 인권을 갖고 있으며, 행동에 따라 인권이 사라지지는 않는다고 말한다. 미국과 유럽은 같은 서방이라도 세부적 차원의 인권 개념이 서로 다르다. 인권 문제 하나만 봐도 유럽, 미국, 중국 3개로 나뉘는 판이다. 과연 이런 상황하에서 AI 윤리에 관한 국제적 합의를 창조해낼 수 있을까? 서로 다른 문화와 상황에 기초한 나라가 단 하나의 국제적 합의로 나아가기는 어렵다. 중요한 것은 차이점이 아니라 서로가 가진 공통점을 찾아내면서 서로 간의 균형점을 발견해내는 데 있다. 공통점에 기초한 균형점을 생각하면서, 각각의 문화나 상황에 맞는 ‘다양한 룰’을 적용할 수 있을 것이다.”

유네스코(UNESCO)는 지난 11월 24일 인류 최초로 ‘글로벌 AI 원칙’을 발표했다. ‘데이터 보호, 사회 통제와 대중 감시에 AI 활용금지, AI 관련 검증과 평가, 환경보호’가 유네스코 AI 4대 원칙이다. 집행력이나 강제력이 없다는 점에서 선언에 그치는 권고안에 불과하다. 중국은 AI 4대 원칙 대부분에 정면 배치되는 나라다.

- 유네스코의 글로벌 AI 윤리를 어떻게 평가하는가. “글로벌 AI 윤리는 이제 막 시작된 새로운 시대의 나침반이다. 유네스코 AI 윤리 권고안은 일반적이고 기본적인 사안을 명문화했다. 앞으로는 좀 더 구체적이고, 현장에서 응용하면서 실천할 수 있는 원칙과 가치로 나아가야만 할 것이다. AI 윤리 문제를 의료 영역과 사회정의에 연결할 때 상당히 다른 접근 방법이 필요할 것이다. 민주주의 국가나 사회에서 개인 스스로 지켜야 할 윤리가 될지, 아니면 법적 제재력을 동원한 공공의 윤리가 될지에 대한 얘기도 거론돼야만 한다. 법적 제재력을 갖춘 최소한의 공통 윤리를 과연 어떤 식으로 AI에 연결할지에 대한 국제적 의견 교환도 필요하다. 글로벌 AI 윤리는 투명하고 오픈된 상태로 나아가야만 한다.”

- AI, 빅데이터에 대한 윤리와 관련해 현재 영국과 유럽에서 가장 많이 거론되는 이슈는 무엇인가. “프라이버시 침해 문제가 최대 현안이다. AI, 빅데이터와 관련해 프라이버시를 얼마나 보호할 수 있는가라는 문제가 핵심이다. AI, 빅데이터가 자유로운 발언(Free Speech)이나 정치적 역동성에 어긋날 우려와 논의도 곳곳에서 일고 있다. 그러나 AI, 빅데이터가 갖는 역사적 의미를 고려할 때 진짜 현안은 다른 곳에 있다고 판단된다. ‘AI, 빅데이터가 갖는 의미와 역할은 무엇인가’라는 문제가 핵심이다. 곳곳에서 AI, 빅데이터가 인간을 대신해 판단하고 결정하는 상황이 나타나고 있다. 인류의 행복과 번영에 관한 문제를 AI, 빅데이터가 관여하기 시작했다는 의미다. AI, 빅데이터의 역할과 기능이 어디까지 갈지에 대한 논의가 지금 당장 필요하다.”

- 글로벌 전략가 이안 브레머(Ian Bremmer)와 인터뷰를 한 적이 있다. AI 디스토피아를 막기 위해 ‘세계 데이터 기구(World Data Organization)’ 창설이 필요하다는 말이 기억에 남는다. 유럽에서 그 같은 국제기구의 창설을 논의한 적이 있는가. “처음 듣는 얘기지만, 중요한 제안이라 생각한다. AI, 빅데이터를 통한 인류의 행복과 번영은 절대 필요하다. 그러나 활용 과정에서 글로벌 차원의 원칙과 규범이 필요하다. AI, 빅데이터는 개발 즉시 글로벌 차원으로 확산되기 때문이다. 특히 의학·의료 문제에 관련한 AI, 빅데이터의 글로벌 기준이 당장 필요하다. 의학·의료에 관한 기준은 장기적 차원에 걸쳐 여러 가지 측면을 고려한 것이어야만 한다. 세계보건기구(WHO)에서의 경험은 좋은 사례가 될 수 있다. ‘실패와 성공의 요인과 배경은 무엇이었던가’에 관한 교훈이다. 글로벌 기구를 통해 문제해결에 나설 경우 두 가지 측면을 염두에 둬야만 한다. 첫째 중요한 현안을 하나로 몰아가면서 지금 당장 할 수 있는 일에만 집중해야 한다. 둘째는 그 같은 일을 행할 수 있는 능력을 최대한 보장, 지원하는 것이다.”

3개월 뒤 대통령 선거가 치러지는 한국의 정치 상황을 보면 원칙과 가치가 무너졌다는 생각이 들지 않을 수 없다. 무엇을 위한 정치인가라는 근본적인 물음에 대한 답을 찾기 어렵다. 한국의 법치도 마찬가지다. 무엇을 위한 경찰, 검찰, 법원인가라는 물음에 대한 답을 찾기 어렵다. 정치 윤리, 법의 윤리, 비즈니스의 윤리가 허물어진 지 오래라고 해도 제각각 중구난방 변명에 불과하다. 타시올라스 교수는 윤리의 기초이자 배경으로 휴머니즘을 강조한다. 정치, 법, 비즈니스 예외 없이, 결국 인간을 위한 휴머니즘이 기본이다. 흥미롭게도 타시올라스 교수는 휴머니즘과 더불어 예술(Arts)도 윤리의 기초라 강조한다. 예술을 통한, 예술을 위한 세계관이 윤리관 정립에 필수적이라 말한다.

- 왜 예술이 윤리로 연결되는가. “철학자는 물론 과학자라도 일에 관련한 나름대로의 윤리를 갖고 있다. 과학적 진실을 추구하는 과정에서 방대한 데이터에 몰두하면서 수집하려 한다. 과학의 세계에 해당하겠지만 ‘데이터 확보=윤리’라 볼 수 있다. 사람들의 지지(Preference)를 받기 위해, ‘데이터의 최대화(Maximize)·최적화(Optimize)’가 과학자의 윤리로 변해간다. 그러나 철학적 관점에서 보면 데이터의 최대화·최적화라는 과학적 윤리는 한계를 갖고 있다. 사람들의 지지와 박수가 전부는 아니기 때문이다. 간과하기 쉽지만, 사람들의 지지와 박수는 잘못된 길로 가는 경우가 비일비재하다. 철학적 차원의 윤리는 사람만이 아니라 그 자체가 갖고 있는 ‘근본적인 가치(Genuine Value)’에 주목한다. 그렇다면 어떤 식으로 근본적인 가치를 알아낼 수 있을까? 철학적 자문자답을 통해 얻어낼 수 있다. 인간을 인간답게 만드는 것은 무엇인가, 인간은 다른 사람에게 어떤 의무를 지고 있는가, 인간은 무엇을 위해 사는가에 관한 고민이 대표적인 본보기다. 예술은 그 같은 자문자답 과정에서 얻을 수 있는 가치 그 자체이자 목적이라 볼 수 있다. 음악, 미술, 조각, 문학과 같은 것들이야말로 사람들의 윤리의식을 북돋아주고, 인간 삶의 목적이 될 수 있다. 데이터에 집중하는 과학적 차원의 윤리만이 아니라, 예술적 감각을 통한 예술과의 만남이 근본적인 가치 발견으로 이어진다. 예술은 단순히 즐기고 감동하는 차원의 오락에 그치지 않는다. 예술은 그 자체에 ‘근본적인 가치’를 갖고 있는, 윤리의 교본이 될 수 있다.”

- AI 발전과 더불어 프라이버시와 공공의 선(善) 사이에 충돌이 일고 있는 듯하다. “서방의 경우 프라이버시 문제가 AI 관련 핵심 과제다. 코로나19 상황에서 경험하고 있지만, 빅데이터 축적 과정에서 프라이버시가 침해되는 것은 필연적이다. 감염자가 나오는 순간 이전에 만났던 사람들에 대한 신상 파악에 들어가기 때문이다. 중국에서 볼 수 있지만, 공공의 선이란 명분하에 개인 프라이버시 침해가 일상적인 나라도 있다. 우리는 두 가지 서로 다른 관점하에 세계를 동시에 이해하면서 AI 미래에 대응해 나가야만 한다.”

페이스북이 최근 메타로 회사 이름을 바꿨다. AI 신시대를 준비하자는 의미겠지만, 최근 페이스북이 가진 오명에서 벗어나려는 의도이기도 할 것이다. 페이스북은 이런저런 이유로 개인정보를 외부에 유출한, 디지털 시대 ‘공공의 적’으로 추락했다. 페이스북만이 아니라 빅테크 모두 어떤 식으로든 개인정보 유출에서 자유로울 수 없을 것이다.

- AI 윤리와 관련해 글로벌 빅테크에 어떤 어드바이스를 하고 싶은가. “페이스북 추문의 여파겠지만, 빅테크 내에 윤리위원회나 특별기구를 두는 것이 일상화되고 있다. 빅테크가 나에게도 와서 AI 윤리 문제를 상의하고 있다. 빅테크와 대학의 상호 협력하에 AI 윤리에 관련한 최고위 결정도 내리고 있다. 그러나 아직 만족할 수준이 되기까지는 멀었다. AI 윤리를 구체적으로 법제화하기까지는 많은 시간과 노력이 필요하다. 아리스토텔레스가 남긴 명언으로 ‘집에서 매일 살아가는 사람의 그 집에 대한 지식과 이해가, 집을 지은 건축가보다 한층 더 높고 깊다’라는 말이 있다. 빅테크와 대학 사이에서 논의된 AI 윤리가 시민들에게도 충분히 투명하게 전달돼야 한다. AI 윤리를 시민들과 함께 풀어나가자는 것이 나와 옥스퍼드의 기본방침이다.”