인공지능이 인간을 넘어선다면…

인류가 자연을 입맛에 맞게 변형한 것처럼 이제는 인간을 공상에 맞게 개조하는 ‘트랜스휴머니즘’의 시대가 오고 있다. ‘기술-인간 중심주의’가 불러올 막대한 변화에 우리는 어떻게 대응해야 할까

소위 NBIC(나노기술, 생명공학, IT, 인지과학)라 불리는 기술의 급격한 발전으로 공상과학 영화 속 이야기가 현실로 다가오고 있다. 이 기술들은 질병, 노화, 심지어 죽음까지도 정복하려 한다.

이 기술들 덕분에 우리는 우리 몸을 보철이나 유전공학을 통해 새로운 형태로 바꾸는 ‘신체 변형의 자유’를 만끽하게 될 수도 있다. 우리의 인지 능력을 확장하거나 우리를 인공지능(AI)과 연결시켜 뇌-컴퓨터 인터페이스를 사용할 수도 있다. 나노로봇은 우리 몸속 혈관을 타고 돌면서 우리 건강을 점검하고 기쁨과 사랑 등의 감정을 증폭시킬 수 있다.

한 분야에서의 발전은 종종 다른 분야에서의 새로운 가능성으로 이어진다. 이 같은 분야 간 융합이 가까운 미래에 우리 삶을 완전히 바꿔놓으려 한다. ‘트랜스휴머니즘’은 인간이 신기술을 이용해 현재의 상태와 한계를 초월할 수 있고 또 마땅히 그 방향으로 ‘진화’해야 한다는 사상이다. 인류가 자연을 입맛에 맞게 변형하는 것이 인간 기술의 역사였다면 트랜스휴머니즘은 그 논리적인 귀결이다. 자연 그대로의 인간을 공상에 맞게 개조하는 것 말이다.

트랜스휴머니즘의 선구자인 데이비드 피어스 휴머니티플러스 공동설립자는 “만약 우리가 낙원에 살고 싶다면 우리 스스로 낙원을 만들어야 할 것”이라고 말했다. “영생을 원한다면 버그로 가득한 우리 유전자를 뜯어고쳐 신이 돼야 할 것이다 … 오직 첨단 기술만이 세상의 모든 고통을 제거할 수 있다. 연민만으로는 부족하다.”

그러나 피어스 설립자나 다른 트랜스휴머니즘 지지자들이 갖고 있는 순진한 믿음엔 어두운 측면도 있다. 트랜스휴머니즘이 틀림없이 디스토피아적이라는 사실이다. 인류가 초인류(트랜스휴먼)가 됐다고 꼭 집어 말할 수 있는 선은 분명하지 않다. 기술은 갈수록 인간의 몸속으로 침투하며 신체와 하나가 돼 갈 것이다. 기술은 언제나 자아의 연장선처럼 여겨져 왔다. 금융 체계를 비롯한 인간 사회는 이미 상당 부분 기계에 의존한다. 아직 인간과 기계가 결합한 이 시스템에 대해 우리가 알아가야 할 것이 많다.

그러나 트랜스휴머니즘과 관련해 우리 주변에 널리 퍼져 있는 유토피아적 기대는 종종 엄밀한 검증을 거치지 않은 채 유포됐다. 트랜스휴머니즘이 불러올 막대한 변화는 추상적으로만 언급되는데, 진화론적인 ‘발전’은 현재의 사회적 조건들을 무시하는 급진성을 띠는 경우가 많기 때문이다.

트랜스휴머니즘은 이런 식으로 일종의 ‘기술―인간 중심주의’가 된다. 트랜스휴머니스트들은 기술과 인간 간의 복잡한 관계를 과소평가한다. 기술을 통제할 수 있고 변하기 쉬우며 올바른 논리적·과학적 방법으로 어떤 방향이든 끌고 갈 수 있다고 여기는 것이다. 사실 기술 발달은 그 기술이 발생한 환경에 매우 의존적이며 그 환경을 반영하는 만큼 문화에도 반향을 일으키며 새로운 변화의 동력을 만들어낸다. 이런 변화는 대부분 우리가 눈치채지 못한 사이에 일어난다.

기술의 급격한 발전으로 공상과학 영화 속 이야기가 현실로 다가오고 있다. 사진은 중국의 대학생이 개발한 휴머노이드 로봇.

트랜스휴머니즘이 어떤 사회·문화·정치·경제의 맥락 속에서 발생했는지 이해하는 것은 트랜스휴머니즘의 윤리를 이해하는 데 필수적이다. ‘트랜스휴머니스트 독본(The Transhumanist Reader)’의 저자 맥스 모어와 나타샤 비타모어는 트랜스휴머니즘이 “포용성과 다양성, 그리고 우리 지식에 대한 끝없는 탐구” 측면에서 필요하다고 주장한다. 그러나 이 세 가지 원칙은 현대 자본주의와는 맞지 않는다.

경쟁이 심한 사회적 환경에선 다양성이 권장될 여지가 없다. 그런 환경은 극도로 효율적인 행동을 요구한다. 학생들을 예로 들어보자. 만약 성적을 올리는 약을 복용하는 학생이 있다면 다른 학생들이 그 약을 안 먹을 수 있을까? 이것은 이미 벌어지는 현상이다. 갈수록 많은 학생이 성적 향상을 위해 약을 먹는다.

만약 이 약의 효능이 보다 더 좋아진다면, 혹은 이 약이 학생의 경쟁력을 더 강화시켜주는 유전공학이나 나노기술을 채택한다면 어떻게 될까? 이 기술을 거부하는 사람은 사회적·경제적으로, 그리고 아마 진화적으로도 절멸 상태에 이를 수 있다. 그동안 다른 사람들은 기술 변화를 따라잡기 위해 애쓰고 있을 것이다.

일상의 한계를 초월한다는 발상은 일종의 해방처럼 여겨진다. 그러나 자본주의에서 트랜스휴머니즘은 우리를 특정한 방식으로만 초월하도록 강제한다. 우리는 말 그대로 환경에 순응하고 생존하기 위해 인간을 초월해야 한다. 초월이 더 극단적인 형태가 될수록 우리가 따르지 않을 수 없는 선택들이 보다 깊숙히 우리 삶에 침투해 올 것이다.

개인에게 경쟁력을 잃지 않도록 ‘업그레이드’하라고 꼬드기는 체제의 힘은 지정학적 차원에서도 전개되고 있다. 트랜스휴머니즘의 가능성이 가장 활발하게 연구되는 분야는 국방이다. 미국 방위고등연구계획청(DARPA)은 ‘신진대사 강화 병사’를 개발 중이다. 단기간에 급격한 변화를 일으킬 수 있는 기술의 개발 방향이 특정 사회의 관심 사안에 따라 유토피아가 아니라 파괴적인 쪽으로 결정될 수 있음을 보여주는 사례다.

서로를 믿지 못하는 세계 각국이 경쟁적으로 초인공지능을 개발하려는 것도 일종의 군비 경쟁이 될 수 있다. 작가 버너 빈지는 소설 ‘급진적 진화(Radical Evolution)’에서 인간을 초월한 지능을 ‘최후의 무기’로 묘사한다. 그토록 강력하고 혁신적인 변화는 최대한 주의 깊게 진행돼야 마땅할 것이다.

급조폭발물(IED)을 찾는 로봇. 국방 분야에서 트랜스휴머니즘의 가능성이 가장 활발하게 연구되고 있다.

초지능의 출현과 그로 인한 ‘특이점’의 도래를 두려워하는 것은 이상한 일이 아니다. 초지능의 특이점이란 AI가 특정 수준을 넘어 스스로를 빠르게 새로 디자인해 나가고, 폭발적 지능 향상이 일어나면서 순식간에 인간을 초월하는 지점을 말한다. 미래학자 레이 커즈와일은 2029년 이전에 그런 일이 벌어질 수도 있다고 주장한다.

만약 이 세상이 가장 강력한 AI의 뜻대로 재구성된다면 AI에 의한 인류 말살이 이뤄질 수도 있다. AI가 예를 들면 클립을 만들기 위해 인류를 멸망시키는 일도 벌어질 수 있지 않을까?

경쟁 사회의 요구를 만족시키기 위해 보다 더 효율적으로 ‘향상’되는 것이 어떤 측면에서든 인간적이라고 받아들이기는 어렵다. 이런 세상에서 인간의 진화를 결정하는 것은 인간이란 어떤 존재인지, 어떤 존재여야 하는지에 대한 성찰이 아니라 사회 시스템이 된다. 현대 자본주의가 도덕적으로나 형이상학적으로 중립적인 이데올로기라는 사실은 지금까지 아주 확연하게 드러났다. 철학자 마이클 센델이 말했듯이 시장은 손가락질을 하지 않는다. 현대 자본주의에선 개인의 소비력을 극대화하는 것이 곧 그 개인의 능력을 꽃피우는 것이다. 따라서 쇼핑이야말로 개인의 가장 우선적인 도덕적 의무라고 말할 수 있다.

철학자 밥 도드는 다음과 같은 시장 논리가 세상을 지배하게 될 것이라고 지적한다.“

만약 생명공학이 인간의 본성을 완전히 바꿔놓는다고 해도, 그 생명공학엔 우리가 본성을 어떻게 바꿀지에 대한 내용은 전혀 포함되지 않을 것이다. 그렇다면 다음 세대 인류는 어떻게 바뀌게 될까? 소비자 지상주의가 득세하는 자본주의 경제에서 그 방향은 시장이 정할 것이라는 데 의심의 여지가 없다. 그러므로 상업의 의무야말로 미래 인간의 참된 본질이 될 것이다.”

진화 과정이 초지능 AI에 의해 결정되든 자본주의에 의해 결정되든 간에 우리는 가장 강력한 시스템이 요구하는 활동을 보다 더 효율적으로 수행하기 위해 몸을 완전히 변형하도록 강요당할 것이다. 그 끝에는 오늘날의 인간과는 전혀 다른 가치와 목적을 추구하는, 완전히 비인간적이면서도 아주 효율적인 기술적 존재가 자리할 것이다. 그 시스템에 얼마나 효율적으로 종사할 수 있는지가 행동의 기초가 될 것이다. 이는 자연 진화 과정을 봤을 때도 마찬가지다. 기술은 우리가 이 난제를 피해갈 수 있도록 해주는 도구가 아니다. 트랜스휴머니즘은 그 과정에서 가장 피하고 싶은 부분을 아주 빠르게 증폭시키는 역할을 할 것이다.

AI와 로봇 자동화로 많은 사람이 직업을 잃을 수도 있다. 사진은 일본에서 개발된 로봇 점원(왼쪽)과 중국의 음식점에서 서빙하는 로봇.

생명윤리학자 줄리안 사불레스쿠가 보기에 인간이 강화돼야 하는 가장 큰 이유는 종의 생존이다. 사불레스쿠는 인류가 멸종의 삼각지대에 직면했다고 말한다. 급진적인 기술력, 자유민주주의와 우리의 도덕적 본성이다. 트랜스휴머니스트로서 사불레스쿠는 기술의 진보를 찬양하며 이를 피할 수도 막을 수도 없는 것으로 여긴다. 변화해야 하는 것은 자유민주주의와 우리의 도덕적 본성이라는 것이다.

인간이 전 세계의 문제 해결에 실패하고 있음은 갈수록 분명해진다. 그러나 사불레스쿠는 우리의 도덕적 실패가 그보다 더 넓은 문화적·정치적·경제적 맥락에 있음을 간과한다. 대신 그 해결책이 생물학적 재가공에 있다고 믿는다.

그런데 사불레스쿠의 도덕성 강화 기술은 어떤 방식으로 세상에 실현돼서 우리의 도덕적 실패를 ‘치유’할 수 있을까? 아마도 애초에 그 실패의 원인인 권력 구조에 의존하게 될 것이다. 사불레스쿠는 또한 도덕성의 개념이 얼마나 상대적이고 논쟁의 여지가 있는지를 다음과 같이 섣불리 단정 짓는다.

“우리는 사생활 보호에 대한 관념을 누그러뜨릴 필요가 있다. 우리 사회에서 개인의 감시는 급격히 늘어난다. 이는 우리가 반사회적 인격 장애자, 광신도들이 급격히 진전된 기술에 접근하면서 발생하는 위험을 피하기 위해선 필수불가결해질 것이다.”

그런 감시는 기업과 정부로 하여금 극도로 귀중한 정보를 손에 넣고 이용할 수 있게 한다. 저서 ‘누가 미래를 지배하는가(Who Owns the Future)’에서 인터넷의 선구자 재런 래니어는 이렇게 설명한다.

‘일반 사람들의 사생활과 양심에 대한 디지털 문서들은 상류층의 또 다른 사유재산이 된다. 부자들이 주고받는 새로운 종류의 재화가 되고 그 가치는 자연스럽게 상승한다. 결국 평범한 사람들은 범접하지 못할 정도로 거대한 장벽이 된다.’

현존하는 불평등은 유전자 조작(사진), 생명 연장술 등에 의해 확산될 것이 분명하다.

또한 중요한 것은 이 장벽이 대부분의 사람들 눈에 보이지 않는다는 사실이다. 이 장벽은 경제를 부유층에 유리하게 만들 뿐 아니라 자유의 개념 자체를 심각하게 위협하기까지 한다. 권력의 권위는 매우 효과적이며 확산도 빠르기 때문이다.

우리가 판옵티콘 사회에 살고 있다는 철학자 미셸 푸코의 발상은 오늘날 쉴새없이 움직이는 기계들의 ‘슈퍼판옵티콘’으로 확장됐다. 트랜스휴머니스트 기술이 만들어낼 지식과 정보는 현존하는 권력 구조를 강화하고 지식이 발생하는 시스템의 내적 논리를 굳건히 할 것이다.

이 같은 사실은 인종차별이나 성차별 같은 사회 문제를 알고리즘이 그대로 반영하는 경향에서도 명백히 드러난다. IT는 세상을 정해진 방식대로 해석하려 한다. 인간의 행복이나 웰빙 등 수치화가 불가능한 정보 대신 국내총생산(GDP)처럼 쉽게 측정할 수 있는 정보를 중시한다. 갈수록 우리 삶 깊숙히 침투해 오는 기술이 우리의 개인정보를 속속들이 파악하기 시작하면 이 데이터가 기어코 세상을 규정하는 날이 올 수도 있다. 그러면 수치로 드러나지 않는 정보들은 인간사에서 그 지위를 잃게 될 것이다.

현존하는 불평등은 고도로 효과적인 심리의약술, 유전자 조작, 초지능, 뇌-컴퓨터 인터페이스, 나노공학, 로봇 보철학, 생명 연장술 등에 의해 확산될 것이 분명하다. 이런 기술들은 근본적으로 불평등하다. 신체적·정신적 웰빙을 우리가 의료보험으로 보장받는 평균 수준이 아니라 무제한으로 추구하기 때문이다. 이 같은 무제한의 가능성들을 모든 사람들이 동등하게 누릴 수 있으리라고 생각하기는 어렵다.

사회학자 사스키아 사센은 ‘오늘날 세계 자본주의의 병리’를 포착하는 ‘새로운 충동의 논리’를 설명한 바 있다. 자본주의에서 배제된 사람들 가운데는 지난 20년 간 목숨을 건 여행 끝에 사망한 6만 명의 이민자, 인종 차별에 희생돼 감옥에 갇힌 피해자들 등이 포함된다.

기술이 우리의 개인정보를 속속들이 파악하기 시작하면 이 데이터가 세상을 규정하는 날이 올 수도 있다. 사진은 차이나 텔레콤의 크라우드 컴퓨팅 구역.

영국에선 2015년 건강보험과 사회복지 감축으로 인해 3만 명이 사망했다. 그렌펠타워 화재 사건에서 사망한 사람들도 마찬가지다. 그들은 사회 주변부로 내몰리면서 죽음을 맞았다.

사상 전례 없는 부의 집중은 이 같은 배제와 함께 발생했다. 현대 경제학과 기술적 성취들이 이 같은 부의 축적과 배제를 가능케 했다. 사센은 그와 동시에 구심점이 없는 권력의 구름과도 같은 것이 발생한다고 썼다. “노예는 늘 주인에 맞서 봉기한다. 그러나 오늘날 노예는 대체로 추방되고 억압하는 자들과 아주 멀리 떨어져서 산다. ‘억압하는 자’는 사람과 네트워크, 기계들로 구성된 복잡하면서도 구심점이 없는 체계가 돼 간다.”

사회의 생산에서 밀려난 잉여 인구는 AI와 로봇 자동화로 인한 대량 실업과 함께 가까운 미래에 크게 늘어날 전망이다. 사회 구성원의 상당수가 머지 않아 생산성 측면에서나 경제적으로나 쓸모없어질 수 있다. 역사학자 유발 노아 하라리는 “21세기 경제학에서 가장 중요한 질문은 다음과 같다. 생산에 기여하지 못하는 사람들을 어떻게 해야 할까?”

결국 남은 가능성은 적은 수의 부유층이 부를 독점하고 강력한 기술을 손에 쥘 것이며 진화적 환경에 적합하지 않은 나머지 사람들은 소수 부유층의 선의에 의존하며 살아갈 것이다. 오늘날 배제된 집단들이 겪는 비인간적 처우들에 비춰 보면 진보적 가치가 우세한 선진국에서도 그들과 같은 인종·문화·종교를 공유하지 않는 사람들한테까지 그런 가치가 적용되지는 않는다는 것을 알 수 있다.

급격한 기술 권력의 시대엔 대중이 지배 계층의 안전에 위협이 된다. 이는 지배 계층의 공격적이고 권위주의적인 행동을 정당화하는 도구가 될 수 있다. 아마 감시 문화가 더 만연할 것이다.

스티브 퓰러와 베로니카 리핀스카는 논문 ‘적극행동강령(The Proactionary Imperative)’에서 우리가 신의 운명이나 무한한 힘을 얻을 때까지 기술적·과학적으로 끊임없이 진전해야 한다고 주장한다. 신이 됨으로써 신을 가장 잘 모실 수 있다는 것이다. 그들은 뻔뻔하게도 그 목적을 위해 필요한 폭력과 파괴를 거리낌 없이 드러낸다. “자연물을 인공물로 대체하는 것은 적극행동 전략의 핵심이다 … 지구 환경의 장기적인 손상 가능성이 높더라도 그렇다.”

마치 우주라는 카지노에서 도박하는 듯한 그들의 태도는 개인을 향한 입장에서 더 분명히 드러난다. “적극 행동의 세계는 단지 위험 부담을 용인하는 데서 그치지 않고 오히려 위험을 감수하도록 권장하며, 사람들은 자신들의 생물-경제학적 자원을 투기하도록 법적인 인센티브가 제공된다. 위험하게 사는 것은 기업가적 자아에 해당하며 … 적극행동가들은 그 혁명적 정권의 생존자들을 위한 장기적 혜택을 추구한다. 비록 그 과정에서 많은 해악이 발생하더라도 그렇다.”

인류가 곧 마주하게 될 자동화로 인한 대량 실업이 경제적 취약성을 불러일으키는 것도 적극행동가들의 목적에는 매우 유용할 것이다. 대다수 사람들이 생존을 위해 남의 것에 의존하는 사회, 사회보장수단이 적은 사회에선 사람들이 보다 낮은 보상을 위해 더 많은 위험을 부담하게 된다. 그로 인해 “적극행동가들은 복지국가를 위험 부담을 늘리기 위한 수단으로 재창조할 것이고 적극행동 국가는 마치 벤처투자사처럼 운영될 것”이다.

그 첫 중심 과제는 ‘인류 1.0’에서 기본적 인권을 배제하는 것이다. 인류 1.0은 풀러가 오늘날의 개량되지 않은 인간을 지칭할 때 쓰는 말이다. 이들은 미래에 개량된 인류 2.0으로 대체돼야 한다. 인류 2.0에서 우리 존재는 재화가 될 수 있고 또 돼야 마땅하다. “개인의 자율성은 정치적으로 허가된 프랜차이즈로 여겨져야 한다. 각 개인은 자신의 몸을 마치 ‘유전적 공유지’에 갖고 있는 부동산처럼 이해해야 한다.”

인류 2.0에선 사유재산에 대한 신자유주의적 열정이 인간의 존재로까지 확대된다. 사실 평생 동안 빚을 갚으면서 사는 삶은 현대의 선진 자본주의 국가에 사는 시민 대다수에게 해당된다. 여기서 한 걸음 더 나아가 인간이 태어날 때부터 빚을 지고 있다면, 단지 살아가는 것만으로도 ‘우리는 갚아야 하는 자본을 투자받은 존재’가 된다.

사회적으로 취약 계층인 대중은 최대 생산성과 지속적인 진보를 향한 시장 근본주의 이념을 채택한 인류 2.0 프로젝트에서 배제될 수밖에 없다. 지금의 자본주의와 다른 점이 있다면 보다 더 효율적인 시장 논리의 목적이 규정되지 않은 것에 비해 신의 능력을 지니고자 하는 인류 2.0의 목적은 명백히 드러났다는 것이다.

일부 트랜스휴머니스트들은 인간의 가장 심각한 제약은 기술이 아니라 사회적·문화적인 것이라는 사실을 이해하기 시작했다. 그러나 그들도 정치를 재구성할 때는 기술 중심적인 세계관과 마찬가지의 잘못을 저지른다. 그들은 보통 새로운 정치학의 양극은 좌파와 우파가 아니라 친기술파와 보수파, 또는 친기술파-진보파, 친기술파-자유주의, 친기술파-회의주의가 될 것이라고 주장한다. 퓰러와 리핀스카는 새로운 정치의 양극은 좌우가 아니라 상하로 나뉠 것이라고 주장했다. 하늘을 지배하고 강력한 힘을 손에 넣는 측과 지구와 생물 다양성을 보존하려는 측으로 나뉜다는 것이다. 그러나 이는 잘못된 이분법이다. 지구를 보존하지 않고 하늘을 지배할 수는 없다.

트랜스휴머니즘과 현대 자본주의는 ‘진보’와 ‘효율’을 무엇보다도 중시하는 두 가지 사고방식이다. 전자는 힘을 향한 수단으로, 후자는 이익을 향한 수단으로 여긴다는 점이 다를 뿐이다. 인간은 이 가치들을 실어나르는 수레 정도의 존재로 전락한다. 임박한 트랜스휴머니즘의 가능성 앞에서 정치는 인간적 가치를 보다 더 명료하게 규정해 구심점으로 삼고, 앞으로 일어날 변화를 통제할 수 있는 안전한 환경을 시급히 제공해야 한다.

기술은 우리가 문제로부터 벗어나게 해주지 않는다. 정치적 중립성을 가져다주지도 않는다. 오히려 그 반대다. 급진적 기술이 오고 있다는 사불레스쿠의 말은 맞다. 그러나 그 기술이 우리의 도덕성을 바로잡을 것이란 생각은 틀렸다. 도덕성을 반영할 것이다.

– 알렉산드라 토마스

※ [필자는 이스트런던대학 박사 과정 학생이다. 이 기사는 더컨버세이션에 먼저 게재됐다.]