초월적 대리인 국가와 국가의 모방자 기업은
어떻게 탄생했는가

바야흐로 AI의 시대다. 연일 AI와 관련된 상품 광고가 넘쳐나고 챗GPT는 이제 혼자서 책을 쓸 경지에까지 올랐다. 우리는 곧 다가올 AI 혁명과 그로 인해 변화될 세상을 ‘특이점’이라고 부르며 그때가 언제 올지 기대 반, 우려 반으로 기다리고 있다.

하지만 영국을 대표하는 정치학자, 케임브리지대학교 정치학 교수 데이비드 런시먼은 다소 다른, 특이한 주장을 펼친다. 우리는 이미 300년 동안 AI와 살아왔다는 것이다. 바로 ‘국가’와 ‘기업’이라고 하는 ‘인공 대리인’으로, 런시먼에 의하면 국가와 기업도 로봇이기 때문이다. 인간적인 한계로 인해 인류는 기계적이지만 스스로 작동하는 인공 대리인을 만들었는데, 이 인공 대리인이 작동하는 원리는 현재의 로봇 또는 AI와 다를 바가 없다는 것이다.

복제성, 긴 생명력,
인간이 감당할 수 없는 책임을 질 수 있는 능력

런시먼은 국가와 기업의 특징으로 크게 세 가지를 꼽는다. 복제성, 긴 생명력, 인간이 감당할 수 없는 부담과 책임을 질 수 있는 능력이다. 이는 AI의 특성이기도 하다.

현대의 국가와 기업은 저마다 다른 모습이긴 해도 큰 틀에서는 비슷한 시스템으로 움직인다. 그런 면에서 이들은 복제가 가능하며 확장 가능성 또한 매우 크다. 다국적 기업의 경우는 국가보다 훨씬 더 넓은 영역에서 활약하며 영향을 미치기도 한다. AI 역시 마찬가지다. 오히려 이들의 복제성과 확장성은 국가와 기업을 뛰어넘는다.

또한 현대의 국가와 기업은 인간보다 더 오래 산다. 이것이 우리가 국가와 기업이라는 인공 대리인을 만든 이유이기도 하다. 자연인인 인간은 언젠가는 병들고 죽게 마련이다. 하지만 국가와 기업은 아니다. 특히 국가는 특별한 이유가 없는 한 소멸하기가 대단히 어렵다. 그렇기에 인간의 의사결정이 세대를 넘어 지속될 수 있는 것이다. 기업 역시 인간이 자신의 일을 더 오래, 더 조직적이고 일관된 방식으로 할 목적으로 설립되었다. AI 또한 수명이 유한한 인간보다 오래 존속할 수 있다.

우리는 AI와 공존할 수 있을까?
그렇다면 우리 삶은 더 좋아질까, 아니면 나빠질까?

무엇보다 현대 국가와 기업의 가장 큰 특징은 ‘인간이 감당할 수 없는 부담과 책임을 질 수 있다’는 점이다. 대표적인 것이 부채와 전쟁이다. 국가와 기업은 모두 큰 금액의 부채를 장기적으로 감당할 수 있다. 싸게 빌려 오래오래 갚을 수 있는 것이다. 바로 그 때문에 국가와 기업은 대출받기에도 용이하다. 무엇보다 국가는 부채를 바탕으로 전쟁을 수행할 수 있다. 이러한 살상 능력은 개인이 짊어질 수 있는 것이 아니다.

전쟁과 장기적 부채를 부담할 수 있는 국가의 능력은 곧 혁신으로 이어졌다. 우리는 흔히 기술 혁신은 기업의 몫이라고 생각한다. 하지만 수많은 혁신 기술이 전쟁을 통해 가능해졌다. 국가는 전쟁에서 이기기 위한 기술 및 제품을 연구하고 발명하는 데 아낌없이 투자할 수 있기 때문이다. 이 세상에 국가보다 막대한 자원을 쏟아부을 수 있는 존재는 없다. 생각해 보라. 기업이 무너질 위기에 놓여 있을 때 기업을 구제해 주는 것도 결국 국가다. 국가는 그 특성상 기업보다 더 오래, 더 많이 돈을 빌리고 투입할 수 있다.

로봇과 AI 역시 마찬가지다. 이들은 인간의 신체적 능력을 뛰어넘어 인간의 활동 영역을 넓혀주며, 인간이 할 수 없는 일을 담당할 수 있다. 아주 간단하게 휴대폰을 생각해 보자. 휴대폰은 우리의 기억력을 보조해 준다. 다시 말해 우리가 뇌 기능의 일부를 외주 주고 있는 것이다. 이로 인해 우리는 일상생활에서든 업무에서든 더 큰 능력을 발휘할 수 있다. 물론 이러한 기계가 자신이 한 일에 대한 책임을 지는 것까지는 아직 먼 이야기지만 말이다.

인간 같은 기계가 지배하는 세계에 살게 될 우리에게
지금 꼭 필요한 미래 담론

우리는 초인적 능력을 가진 인공 대리인에게 우리의 권한을 이양함으로써 더 강해졌다. 빈곤을 정복하고, 질병을 퇴치하며, 평화를 유지하고, 몇 세대 전까지는 불가능했을 법한 부를 축적하게 되었다. 하지만 순기능만 있었던 것은 아니다. 이러한 편안함과 안락함을 위해 국가와 기업은 다른 국가 혹은 기업과 경쟁하고, 다른 지역의 자원과 주민들을 착취했으며, 자연을 파괴했다. 이로 인해 인간의 상태와 생활양식도 변해왔다.

이것이 바로 우리가 이미 경험한 것으로, 런시먼의 표현에 의하면 ‘첫 번째 특이점’이다. 지금 이러한 세계에 로봇과 AI가 진입하고 있다. 그렇다면 이 인위적인 존재들끼리 결합하면 우리는 어떻게 될까? 이들이 우리를 위해 일하게 될까, 아니면 우리가 이들을 위해 일하게 될까? 우리는 과연 이들을 통제할 수 있을까?

만약 국가 권력이 우리가 통제할 수 없는 방식으로 컴퓨터 권력과 결합하면 어떻게 될까? 이미 그런 일이 벌어지고 있을지도 모른다. 우리는 카드 하나만으로 우리의 동선이 드러날 수 있는 세상에 살고 있다. 조지 오엘의 《1984》에 나오는 사회가 지금 이 순간에도 펼쳐질 수 있다.

그런 세상이 온다면 과연 누가 우리를 구하러 올까? 국가와 기업, AI의 유사성을 탐구해야 하는 이유가 바로 여기에 있다. 런시먼은 우리가 만들어낸 인공 대리인, 즉 현대의 국가와 기업에 우리가 어떤 식으로 권력을 이양했는지를 살펴보고, AI 시대가 우리 사회를 어떻게 재구성할 것인지를 다각도로 예측한다. 그럼으로써 우리가 궁극적으로 나아가야 할 방향을 제시한다. 이를 통해 우리는 지금 우리가 가져야 할 자세가 무엇인지, 앞으로 어떤 미래를 그려가야 할지 진지하게 모색해 볼 수 있을 것이다.

들어가며: 국가와 기업 그리고 로봇은 닮았다

1장 국가, 초월적 대리인
집단, 인간의 또 다른 인공 세계 / 로봇 같은 국가 / 인공 인격과 대리인 / 만인에 대한 만인의 투쟁 상태 / 상상 속의 거인 / 국가와 기업

2장 집단 사고와 구성원의 의지
자체 의식을 가진 집단 / 군중의 지혜 / 결정, 또 결정 / 실수에 대한 책임지기

3장 인간보다 오래 사는 대리인들
지속 가능한 책임을 지는 국가 / 국가의 능력을 공유하는 기업 / 지속과 소멸 / 불쾌한 골짜기 / 또 다른 사회적 기계

4장 고대 제국과 현대 국가
인류사의 세 가지 분기점 / 제국의 명과 암 / 좁은 회랑으로 들어가기 / 국가도 회사도 아닌 기업국가

5장 위대한 변환
하키 스틱 모양의 그래프 / 꿈은 실현됐지만 / 맬서스의 덫 / 새로운 지질 시대

6장 누가 구축하는가
사업가로서의 국가 / 정부 보조금과 기술 혁명 / 커져라, 그리고 독점하라 / 인공지능의 세계

7장 국가를 넘어서
알 수 없는 움직임, 전장의 안개 / 경쟁과 통합 그리고 규제 / 스타트업 같은 국가 / 사물의 행정, 사람의 정부

8장 인간과 기계의 미래 세계
우리는 일자리를 잃게 될까 / 국가, 기계, 국민의 새로운 관계 / 로봇이 해결할 수 있을까 / 로봇에게도 권리가 있다면

나오며: 인간의 상태가 바뀌는 지점에서

감사의 말
주
그림 목록과 출처