인공지능은 처음에는 기본적으로 인간을 위한 기계와 도구로 여겨졌지만, 거기에 그치지 않고 인간의 지능과 능력을 강화시키는 시스템과 네트워크로 작동한다. 이 책이 여러 관점에서 시스템과 네트워크를 다루는 것도 바로 이 이유 때문이다. 인공지능은 분산된 지능 시스템의 가장 발달된 형태로서, 인간 지능이 전통적인 생물학적 한계를 넘어가도록 만들 것이다. 그리고 이것들과의 상관관계 속에서, 역설적이게도 인간이 잉여가 되는 복합적인 사건들이 일어날 것이다.─「서문」에서

이 책의 저자인 철학자 김진석은 30여 년간 ‘포월’ ‘소내’ ‘엉삐우심’등 독특한 모국어를 통해 기존의 철학적 개념을 현실에 맞게 재전유해왔으며, 가상 현실, 시스템과 네트워크 등 다양한 주제에 대해 독창적인 질문을 던져왔다. 이 책은, 사회에서 요구하는 지능의 성질이 통찰, 사유에 기반한 것이 아니라 데이터, 기계 학습에 의한 것으로 변해가고 있다고 역설하면서, 데이터의 홍수 속에서 인간 존재가 잉여가 되고 있는 복잡한 상황을 인문학, 철학의 관점으로 포착할 수 있을지 고민한다.
그러므로 이 책은 철학적 사유와 텍스트 분석을 바탕으로 논의를 전개할 뿐 아니라, 인공지능과 머신러닝이 발전해온 역사를 충실히 되짚는다. 또 니체의 ‘더 전체적인 인간’, 루만의 시스템이론, 라투르의 행위자-네트워크 이론, 해러웨이의 사이보그 선언, 캐서린 헤일스의 포스트휴먼 논의 등 다양한 분과의 이론을 분석에 끌어들이고 이를 당면한 논의에 알맞게 활용하고 변형시킨다. 자기 성찰이나 인간의 합리성과 같은 낡은 인간주의로 되돌아가는 미끄러운 함정에 빠지지 않고 인간 실존의 문제를 탐색하는 길을 이 책은 찾고자 한다.

인간주의를 벗어난 인간-사이보그 행위자의 가능성을 모색하다

기본적으로 지능과 인지 시스템이 발달함과 동시에 인간은 이미 사이보그cyborg로 존재하기 시작했다는 관점에서 이 책은 출발한다. 오로지 그리고 전적으로 인간적인 지능에 호소하는 일은 이론적으로 모호하고 만족스럽지 않다. 인간의 지능과 인지 시스템이 작동하기 위해서는 수많은 사물과 기계 장치가 그것에 연결되어 있어야 한다. 인간의 인지 시스템 자체가 이미 사이버 시스템 속에서 작동하고 있다는 것이다.(6쪽)

이 책은 인공지능과 머신러닝, 빅데이터의 발전을 역사적, 이론적으로 분석하는 1부, 인공지능의 구별법이 인간 지능에 대한 의식을 어떻게 변화시켰는지 다루는 2부, 그로 인해 근대 이후의 자유주의적 인간이 어떤 위기를 겪게 되었는지 다루는 3부, 그와 연결되어 생겨난 인간 강화와 인간 잉여의 패러독스를 다루는 4부로 구성되어 있다.
1부 「인공지능, 진부한 기계에서 진부하지 않은 기계로」는 인공지능과 머신러닝, 그리고 빅데이터가 발전해온 역사를 살피고 이론적으로 분석한다. ‘진부한 기계’와 ‘진부하지 않은 기계’는 사이버네틱스라는 학문의 발전 과정에서 기계를 구별하는 기준으로 작동했다. 이 구별을 소개하며 진부한 지능이 주는 안정성, 진부하지 않은 지능이 가져다줄 수 있는 창의성과 새로움의 가능성을 논하며 어느 한쪽이 언제나 더 우세한 지능이 아니라는 점을 짚는다.
2부 「인공지능의 구별과 사이버 행위자」는 인간 지능과 인공지능의 잠재력을 분석하면서 ‘약한 인공지능’과 ‘강한 인공지능’의 구별법을 소개한다. ‘강함’과 ‘약함’이라는 구분은 인공지능 이전부터 인간 존재를 비롯한 여러 유기체, 인지 시스템 등을 구별하고 분류하는 데 사용되어왔다. 이 역사를 살펴본 후 인공지능에 적용되는 ‘강함’과 ‘약함’의 구별이 어떠한 형태를 띠는지 탐색한다. 이 구별을 통해 인공지능의 가능성을 살펴보고 이 구별이 불러일으킬 수 있는 인간과 인공지능 사이의 갈등을 분석한다. 그리고 이 갈등을 피할 수 있는 대안으로서 사이버 행위자, 하이브리드 행위자 개념을 소환한다.

빅데이터는 ‘개인화’를 극단까지 몰고 가지만,
개인은 데이터의 흐름 속에서 한없이 허약해진다

3부 「자유주의적 인간의 위기와 인간 강화 프로젝트」는 과학기술이 발전하는 상황 속에서 인간을 비롯한 지능, 인지 시스템들이 힘과 권력의 실행 장치들과 연합하게 되는 상황에 주목한다. 특히 근대적이고 전통적인 인간의 위상은 놀랄 만한 변화와 직면하고 있다. 이러한 상황에서 힘과 권력을 단순한 위계질서의 관점에서 이해하는 전통적 관점에서 벗어나는 것이 필요하다. 또 인간이 도덕성의 최고 주체로 설정되었던 것을 비판하며, 과학기술이 발전하는 상황 속에서 인간이 온전한 책임을 지는 ‘주체’가 아니라 대행자로 맞물린 고리들의 일부가 되어가는 현상을 분석한다. 휴먼, 트랜스휴먼, 포스트휴먼의 관계도 분석한다.
4부 「인간 강화와 인간 잉여 사이의 패러독스」는 강한 인공지능이 발전하는 환경 속에서 강화의 기회들을 대면하는 인간이 동시에 잉여가 될 위험을 만나게 되는 현상을 다룬다. 인간이 단순히 무기력한 잉여 상태에 돌입하는 것은 아니다. 단순히 인공지능 및 로봇에 의해 일자리를 잃게 된다는 의미도 아니다. 시스템과 네트워크를 통해 스스로 강화하는 시도를 하는 와중에, ‘개인’의 실존을 홀로 감당해야 하는 상황을 마주하게 된다는 것이다. 결론부에서는 머신러닝과 빅데이터의 발전이 ‘개인화’ 과정을 극단으로 밀고 가지만 네트워크 내부의 개인은 점점 힘이 없어지며 불안한 위치에 놓이는 역설적인 상황에 주목한다.

나는 이론과 철학 차원에서는 더 이상 인간주의나 인본주의에 근거를 둔 모델 및 이상을 유일하다거나 또는 규범적인 목표·목적으로 일반화하기는 어렵거나 불가능하다고 생각한다. 여러 형태로 등장하는 사이보그들은 전통적인 인간성에 기반을 둔 지능과는 너무 차이 나기 때문이다. 그렇지만 사이버 행위자에 관한 이론은 인간주의에서 벗어나는 과정을 전제하며 그 전제가 받아들여져야 실제로 효과를 가진다. 사이버 행위자에 대한 관찰은 단순히 SF의 영역에 속하진 않는다.(8쪽)

자율주행차의 큰 효과는 단순히 인간 운전자가 사라진다는 데만 있지 않다. 그것은 이제까지 개인들이 차량을 소유하면서도 하루의 많은 시간 동안 그것을 사용하지 않고 세워놓는 태도 또는 습관을 변화시킨다는 데 있다. (…) 인공지능이 효과를 발휘하고 사회에 변화를 가져오려면 이른바 ‘사회 시스템’의 개입이나 그것과의 연합이 필수적이다.(26쪽)

집에 돌아온 주인이나 가족을 반기는 반려견은 단순히 애완견이 아니라 인간의 사회생활을 도와주며 동반하고 또 사회적 관계를 형성하는 역할을 한다. 쓸쓸함과 외로움을 느끼는 인간(앞으로는 인공지능 로봇도 그럴 수 있다)이 인간과 함께 있으면서 위안을 얻기보다 동물과 함께 있으면서 위안을 얻고 동반자의 관계를 유지한다면, 그 동반관계는 동물과 인간이라는 좁은 경계를 가로지르며 새로운 역할을 하는 셈이다.(209~210쪽)

인간 잉여란 다수의 개인이 의미 없는 잉여적 존재로 전락한다는 말이 아니고, 인간 잉여의 불안은 단순히 인간들이 일자리를 잃거나 찾지 못하는 데에서 오는 불안도 아니다. 오히려 이제까지의 역사에서 가장 높은 수준의 개인화 과정이 진행되면서 개인은 모두 자신의 자유와 평등을 실현하고 싶어 하지만, 동시에 현실 속에서 가장 위태로운 형태로 여겨지는 개인적 실존을 감당해야 하고 그것의 비용을 지불해야 하며 그것을 저 혼자 책임져야 한다. 여기서 인간 잉여의 불안이 기인한다.(349쪽)

사회 조직들은 점점 크고 복합적인 시스템이나 네트워크의 형태로 확대될 것이다. 조직은 빠른 속도로 늘어나면서 동시에 강력해진다. 개인이 효과적인 상호작용을 할 틈을 주지 않으면서, 자신의 자기참조적인 순환성에 사로잡힌 채 돌아간다. 기업이든 공공 기관이든 점점 조직화된 사회 시스템의 형태를 띠게 된다. 개인의 작업이 그 조직화된 사회 시스템에 전혀 반영되지 않는 것은 아니지만, 합리적이거나 인간주의적 방식으로 반영될 가능성은 점점 줄어든다.(363쪽)

실제 개인은 자신을 무수히 많은 연기자와 대리인들의 관계망 속에서 점점 순간적이고 임시적인 대체물로 느낄 수밖에 없는 상황과 직면한다. 조직과 시스템이 생산하는 데이터에 의해 생산되고 소비되는 결과물이 개인인 셈이다. 여기서 개인들은 조직과 시스템이 관리하고 통제하는 데이터의 한 뭉치일 뿐이며, 언제든지 다른 뭉치에 의해 대체될 수 있을 듯하다. 이것을 정확하게 언명하지는 못하더라도 개인들이 일상에서 겪는 엄청난 스트레스에서, 그리고 그 스트레스에서 벗어나는 것을 최대의 과제로 생각하는 그들의 움직임에서 이 불편한 사실이 드러난다.(407쪽)

목차
서문

1부 인공지능, 진부한 기계에서 진부하지 않은 기계로
1장 인공지능과 머신러닝의 발생 과정
2장 인공지능, 어떤 자율성을 확보했는가
3장 인공지능, 진부하지 않은 지능의 가능성

2부 인공지능의 구별과 사이버 행위자
4장 ‘약한’ 인공지능과 ‘강한’ 인공지능의 구별 문제
5장 ‘강한’ 인공지능에 대한 인간주의적 대응의 분석
-니체의 관점을 참조하여
6장 하이브리드 행위자, 사이버 행위자

3부 자유주의적 인간의 위기와 인간 강화 프로젝트
7장 의식과 지능에 대한 인간주의적 접근에서 벗어나기
8장 인공지능과 데이터, 자유주의를 뒤흔들다
9장 휴먼, 트랜스휴먼, 포스트휴먼

4부 인간 강화와 인간 잉여 사이의 패러독스
10장 빅데이터를 통한 개인화 과정 속에서 개인은 소멸한다
11장 인간 잉여의 불안과 인간 강화의 기대를 둘러싼 소용돌이
12장 나가며

참고 문헌
찾아보기