“인공지능은 인간을 전능하게도 무력하게도 만든다”

베스트셀러 ‘사피엔스’ ‘호모 데우스’ 저자 유발 하라리, 신저 ‘21세기를 위한 21가지 제언’에서 AI의 위험성 강조
2016년 서울을 방문해 강연하는 유발 하라리. 그는 자신의 책이 베스트셀러가 되면서 앞으로도 기대치에 부응해야 한다는 막중한 책임을 느낀다고 말했다. / 사진:AP-NEWSIS

2011년 이스라엘 예루살렘 히브리대학의 역사학자 유발 하라리가 세 번째 책을 냈다. 당시 그는 35세로 거의 알려지지 않은 학자였지만 이 책은 다루는 범위가 야심적이고 인상적이었다. 인류 역사를 400쪽으로 압축한 역작이었다. ‘사피엔스’(부제: 유인원에서 사이보그까지, 인간 역사의 대담하고 위대한 질문)라는 제목의 이 책은 이스라엘에서 3년 연속 베스트셀러 1위를 기록하면서 예상을 뛰어넘어 크게 히트했다.

2014년 영어판이 나오자 수백만 부가 팔리면서 세계에서 가장 영향력 있는 여러 인물이 이 책을 공개적으로 추천했다. 마이크로소프트 공동창업자 빌 게이츠는 사막의 섬으로 갈 때 가져갈 책 10권 중에 이 책을 꼽았다. 페이스북 CEO 마크 저커버그는 자신의 온라인 독서모임에서 이 책을 필독서로 선정했다. 버락 오바마 전 미국 대통령은 이 책이 자신의 사고에 심대한 영향을 미쳤다고 치켜세웠다. 러셀 브랜드, 자넬 모네, 나탈리 포트먼 등의 연예계 저명인사도 이 책을 호평했다.

사진:AMAZON.COM

하라리가 중세 전쟁사를 전공한 학자라는 사실을 생각하면 그가 이처럼 유명해진 것은 아주 특이한 일이었다. 그러나 그는 대중적인 인기를 기꺼이 받아들였다. ‘사피엔스’가 성공한 이래 그는 두 권의 역작을 더 발표했다. 먼저 나온 책이 ‘호모 데우스’(부제: 미래의 역사)였고, 가장 최근 ‘21세기를 위한 21가지 제언’(부제: 더 나은 오늘은 어떻게 가능한가)이 출간됐다.

요즘 하라리는 늘 유명인사나 거부들의 모임에 초청된다. 스위스 다보스에서 열리는 세계경제포럼에서 대통령·총리와 어울리고 실리콘밸리 기업들의 임원 회의실에서 기술 거물들과 만난다. 또 그는 현대 지성의 상징인 테드 강연에도 자주 등장한다. 지난 4월 홀로그램을 통한 그의 강연은 100만 건 이상의 열람을 기록했다.

하라리는 ‘21세기를 위한 21가지 제언’의 출간을 앞두고 뉴스위크에 이렇게 말했다. “내가 학자의 길을 택했을 땐 이처럼 대단한 영향력을 가질 수 있다고는 생각도 하지 못했다. ‘사피엔스’를 집필할 때 난 주 독자층을 이스라엘 대학생이라고 생각했다. 그런데 그 책이 전 세계적으로 베스트셀러가 됐다. 이젠 기대치가 그만큼 높아졌기 때문에 막중한 책임을 느낀다. 심적인 부담이 아주 크다.”

하라리는 “로봇 시대의 도래와 관련된 이전의 여러 예언은 완전히 틀린 게 아니라 다만 그 시기를 잘못 짚었다”고 설명했다. / 사진:GETTY IMAGES BANK

그는 예상치 않았던 인기를 얻으면서 탐구의 초점을 본연의 분야에서 약간 다른 쪽으로 옮겼다. 먼 과거의 역사에서 벗어나 현재와 미래의 긴급한 문제로 방향을 튼 것이다. 그는 이런 변화를 교수라는 자신의 직업과 어느 정도 관련 있다고 설명했다. “교수로서 나는 다른 사람들이 특정 문제를 명확하게 이해할 수 있도록 도와야 하는 책임이 있다. 현재 우리 세계의 가장 큰 문제 중 하나는 정보가 넘쳐난다는 사실이다. 이런 정보의 홍수 속에선 현재 일어나는 일을 정확히 이해하고 중요성을 판단하기가 너무 어렵다. 따라서 사람들은 가장 중요한 질문을 완전히 무시하고 극단적인 문제를 두고 열띤 논쟁을 벌일 수 있다. 나의 주된 임무는 공공 토론 무대에 명료성을 전달하는 것이라고 생각한다. 적어도 가장 중요한 질문이 무엇인지와 관련해 사람들의 생각이 일치할 수 있도록 돕는 게 내 일이다. 올바른 답을 찾는 것은 그보다 훨씬 더 어려운 문제로 그 다음 단계의 과제다.”

하라리는 대중적 인기가 높아지면서 어떤 분야를 다루든 본연에서 벗어났다고 생각하는 사람이 거의 없다. 이제 그는 어디든 자신이 원하는 분야에서 호기심을 추구할 수 있다. 그의 최근 저서와 우리의 대화에서 지금은 그의 관심 분야가 고대 문명에서 벗어났다는 사실이 확실해졌다. 지금 하라리의 초점은 인공지능의 기술적인 한계에 맞춰져 있다. 그는 ‘사피엔스’의 마지막 부분인 ‘과학 혁명’에서 이런 기술적인 변화를 위한 장을 펼쳤다. 그 다음 나온 그의 저서 ‘호모 데우스’는 그런 변화를 본격적으로 다뤘다. 이번에 나온 책 ‘21세기를 위한 21가지 제언’은 그 변화가 지속된다는 것을 확실히 보여준다. 이 책은 수많은 주제와 ‘오늘날의 가장 긴급한 이슈’ 전부를 다루지만 결국 인공지능이 전체 내용을 지배한다.

우리 대화 중에 논의된 거의 모든 것이 인공지능으로 귀착된다. 예를 들면 현재의 정치 위기도 우리가 우려해야 하는 인공지능에서 우리의 관심을 다른 곳으로 돌린다는 점에서 더 심각한 문제라고 그는 말한다. 또 전 세계의 협력만이 우리를 인공지능으로부터 보호할 수 있기 때문에 우리에겐 인류를 위한 새로운 이야기가 필요하다고 강조한다.

그렇다면 하라리가 소설을 읽을까? 물론 읽는다. 특히 공상과학 소설을 많이 읽는다. 하지만 그 대부분은 인공지능에 관해 대중을 오도한다고 그는 생각한다. 또 그는 이민 문제, 종교적 원리주의의 부상, 브렉시트(영국의 유럽연합 탈퇴)도 전부 인공지능과 결부시킨다. “20년 뒤 우리가 현 시점을 돌아보며 ‘왜 제때에 인공지능을 규제하지 않았지?’라고 물으면 그 대답은 ‘아, 그건 브렉시트 같은 일로 너무 바빴기 때문이지’가 될 것이다. 이건 쓸데없는 시간낭비다.”

과거의 분석에서 미래 예측 시도로 초점을 옮긴 역사학자는 하라리 이전에도 있었다. 어느 정도는 그런 변화가 자연스럽게 느껴질 수 있다. 과거 우리 세계가 왜, 어떻게 변했는지 이해하는 것은 우리 세계가 왜, 어떻게 다시 바뀔지 알려주는 단서가 될 수 있기 때문이다. 그러나 하라리 자신이 잘 알듯이 놀라운 로봇혁명이 임박했다고 생각하는 사람은 이전에도 많았다. 이런 두려움 또는 공상은 지난 세기 내내 되풀이됐다. 그렇다면 지금이 이전보다 훨씬 더 상황이 나쁘며, 곧 더욱 극적인 변화를 맞게 될 것이라고 생각하는 이유가 뭘까?

하라리는 “로봇 시대의 도래와 관련된 이전의 여러 예언은 완전히 틀린 게 아니라 다만 그 시기를 잘못 짚었다”고 설명했다. 그러면서 그는 두 가지 문제를 추가로 제시했다. 첫째는 현재 로봇이 순전히 노동보다는 인지적인 과제 해결에서 인간보다 뛰어나다는 점이고, 둘째는 인간을 위해 남겨지는 소수의 일자리는 필요한 훈련을 부담하기가 불가능하고 결국은 헛될 수밖에 없는 고도의 기술을 필요로 하게 된다는 점이다. 하라리는 “우리가 생애 동안 한두 번이 아니라 세 번이나 네 번, 또는 다섯 번 완전히 새롭게 변신할 수밖에 없는 상황이 될 것”이라고 말했다. 앞으로 인공지능의 성장이 그처럼 빨라지기 때문이다. “인간에게 그런 변화는 재정적인 면에서 만이 아니라 심리적인 차원에서도 힘든 일이다.”

20년 뒤 우리가 현 시점을 돌아보며 ‘왜 제때에 인공지능을 규제하지 않았지?’라고 물으면 그 대답은 ‘아, 그건 브렉시트 같은 일로 너무 바빴기 때문이지’가 될 것이다.” / 사진:JOONGANG PHOTO

하라리는 캘리포니아대학 교수 재레드 다이아몬드의 1997년 저서 ‘총, 균, 쇠’(부제: 무기·병균·금속은 인류의 운명을 어떻게 바꿨는가)와 네덜란드의 동물행동학자 프란스 드 발이 1982년 펴낸 책 ‘정치하는 원숭이’의 영향을 많이 받았다고 말했다. 또 행동경제학자로 저서 ‘생각에 관한 생각’을 쓴 대니얼 카너먼을 특별히 언급했다. “내 사고의 많은 부분이 생명과학과 인문학의 이런 결합에 의해 형성됐다. 생물학을 모르고선 역사를 이해할 수 없다.”

인간이 자연 세계와 분리되지 않는다는 것도 그의 책에서 반복되는 주제다. 겸허함을 강조하는 매력적인 사고다. 그는 ‘사피엔스’에서 “호모 사피엔스는 그런 사실을 잊으려고 최선을 다하지만 사실 그는 동물”이라고 지적한다.

그러나 그 뒤를 잇는 그의 생각은 어떤 면에선 모순처럼 보일 수 있다. 우선 하라리에겐 자연 세계가 인공지능과 크게 다르지 않다. 그는 그 둘 다를 ‘알고리즘의 복잡한 집합’이라고 본다. 또 하라리는 곧 인간이 더는 동물이 아닌 존재가 될 것이라고 믿는다. “머지않아 인간은 신과 같은 존재가 될 것이다. 우리의 힘은 아주 놀랍다.” 그러나 우리의 힘은 무력하기도 하다. 하라리는 그가 보는 미래가 아무리 두려워도 본질적으로 피할 수 없다고 말한다. “우리는 두려운 미래가 닥치는 것을 막을 수 없고 또 막지 않을 것이다.” 또 하라리는 인공지능의 자연적인 발전으로 우리는 전능해지는 동시에 무력해진다고 믿는다.

하지만 모든 것을 다 잃는 건 아니다. 하라리는 인공지능 규제에 관한 세계적인 협력이 필요하지만 상당히 어려울 것이라고 믿는다. 그 외에도 그는 인공지능의 위험을 해결할 수 있는 다른 솔루션 하나가 있다고 말했다. 역설적이지만 바로 인공지능이 그 솔루션이다. “인공지능은 학습을 통해 인간의 약점을 인지하는 동시에 인간의 보호자가 될 수 있다. 모든 기업과 정부의 감시로부터 개인을 보호해 주는 인공지능 도구의 시장이 수천억 달러 규모가 될 것이다.” 제기되는 문제처럼 그가 제시하는 솔루션도 너무 단순해 상당히 실망스러울 수 있다. 하라리는 어떤 기업과 정부가 반기업·반정부 인공지능의 개발을 허용할 것인지는 언급하지 않는다.

‘세속 사회를 이끄는 선지자’라고 불리며 온라인을 중심으로 큰 인기를 끄는 사상가 조던 피터슨 토론토 대학 심리학과 교수나 세계의 주목을 받는 회의론자이자 무신론자인 샘 해리스 같은 요즘의 셀럽 지식인처럼 하라리도 이처럼 인간이 위협 받는 시기의 의미 있는 삶이 무엇인지 암시한다. 이 세상의 압도적인 측면을 받아들이는 것을 전제로 한 삶이다.

하지만 이 사상가들이 공유하는 유창함과 확신 아래에 실제로 무엇이 있는지 반드시 확실하진 않다. 하라리는 유대교 율법 학자처럼 질문을 좋아한다. 또 그는 피터슨이나 해리스보다 더 진지한 사상가인 듯하다. 하지만 그의 저서는 범위가 넓지만 속이 꽉 차진 않았다. 추상적인 질문에 암울한 예언과 유창한 처방이 혼합된다. 따라서 구체적인 세부 내용 없이 그냥 독자를 가르치려고 든다는 인상이 남는다.

하라리는 “우리에겐 원대한 담론이 절실하다”고 말했다. 그의 성공이 그점을 웅변한다. “하지만 그런 욕구가 책임 있는 과학자들에 의해 채워지지 않는다면 모든 종류의 무책임한 음모론자들이 그들을 대신할 것이다.” 하라리의 원대한 담론은 매혹적이며 깊은 사고를 불러일으킨다. 그가 무책임한 음모론자가 아닌 것은 분명하다.

그러나 인문학에 깊이 뿌리박고 있는 역사학자인 하라리가 ‘합리적인 과학자’로서 자격을 갖췄는지, 또 우리가 대중적으로 인기 높은 이 시대의 지성에게 어떤 더 많은 것을 요구해야 할지는 다른 문제다.

– 새뮤얼 얼 뉴스위크 기자