인공지능 시대 새로운 인간의 의미와 윤리를 탐색한다.

인공지능(AI)은 미래 핵심 기술로서 장차 인간의 활동 전반에 엄청난 변화를 초래할 것이다. 문제는 ‘인공지능’을 이해하는 방식이 너무 다양하다는 점이다. 인공지능은 단순한 기술이나 프로그램 혹은 소프트웨어일 뿐이라는 주장부터 인공지능을 하나의 주체(electronic person)로 간주해야 한다는 주장 역시 이제 낯설지 않게 되었다.
물론 인공지능을 하나의 주체로 간주해야 한다는 주장은 곧 인공지능의 정체성에 대한 공학적 논쟁을 넘어 ‘주체(person)’의 의미에 대한 전통적인 철학적 논쟁을 초래하며 광범위한 인문학적 성찰을 요구한다. 또한 인간에 매우 흡사한 소셜로봇의 경우 인간과 같은 존엄성을 지닌 것은 아니라 할지라도 모종의 도덕적 지위를 지닌 존재자로 대우할 필요성에 대한 논쟁을 촉발할 수밖에 없다.
인공지능 기술과 더불어 살아가는 이 시대에 제기되는 사회 윤리를 핵심에 두고 인문학, 과학기술학, 공학의 여러 분야 학자들이 전문 분야를 중심으로 성찰을 시도했다. 인공지능에 대한 성격을 규정하는 일부터 그로 인한 사회 변동의 실제는 어떠하며, 그 가운데서 제기되는 사회적이고 윤리적인 물음에 대한 성찰이 수록된 글에 공통된다. 각 글의 핵심 내용을 추리면 다음과 같다. 포스트휴먼 사회에 대비하여 사회적 규범 마련을 위한 포스트휴먼사이언스 시리즈의 네 번째 책이자 ‘인공지능과 포스트휴먼 사회의 규범’이라는 인문국책사업의 2년차 연구 성과이기도 하다.

1장
인공지능 기술의 발전에 따라 제기되는 핵심 문제는 인공지능을 일종의 인간으로 볼 수 있냐는 것이다. 백종현은 인공지능의 도덕적 위상은 매우 소극적으로 평가하지만, 인공지능의 활용 영역은 지속적으로 확장할 것으로 내다본다. 따라서 현재의 노동 기반 경제의 ‘붕괴’에 대비하여 새로운 소득분배 제도 수립의 필요성을 제기하며 ‘냉철한 머리와 따뜻한 가슴’의 조화를 인류에 주문한다.

2장
최근 인공지능 관련 논의 가운데 가장 열띤 강한 인공지능(strong AI, 범용인공지능)과 약한 인공지능(weak AI) 논의가 인간중심주의를 벗어나지 못했다고 박찬국은 평가한다. 인간과 인공지능의 본질적 차이를 인정하고 인공지능의 독자적인 발전을 이루어가는 것이 옳다고 전망하며, 유물론적 형이상학에 관한 비판적 검토에서 출발하여 동물과 인공지능, 인간과 인공지능의 존재론적 차이를 밝힌다.

3장
‘성찰’에 관한 개념을 살피는 데서 시작하여 인공지능에서 ‘성찰’에 관한 연구가 어떻게 이루어졌는지, 진화 사이버네틱(evolutionary cybernetic)의 관점과 구성적 인공지능의 입장에서 윤리의 가능성을 모색한다. 박충식은 새로운 목적을 설정하고 가치의 우선순위를 정하는 지능적 행위자의 관점에서 그리고 인식 논리를 기반으로 한 계산적 모델에서 인공지능의 윤리가 구현 가능하다고 보았다.

4장
소셜로봇 시대에 인공 감정과 인간 감정의 문제를 메를로-퐁티의 현상학적 관점에서 다룬다. 감정을 모델링하는 감성 컴퓨팅을 일별하고, 심리학의 보고에 기대어 로봇과의 정서적 교감을 고찰하며, 이러한 분석을 바탕으로 로봇과의 교감이 제기하는 철학적·사회적 문제를 논의한다. 박신화는 ‘불확실한’ 타인과의 교감이 ‘안전한’ 로봇과의 교감으로 대체되는 경우 사회성의 기초를 허물 수 있다고 경고한다.

5장
하대청은 인간의 노동과 인공지능의 노동이 뒤얽힌 지금의 현실을 ‘루프 속의 프레카리아트(불안정하다는 뜻의 ’precarious’와 무산계급을 뜻하는 ‘proletariat’의 합성어)’로 요약한다. 구글과 페이스북 등 거대 기술기업의 노동 현장을 살피고 인공지능을 작동시키기 위해 인간 노동이 수반되는 실제 모습을 그리면서 인공지능의 확산과 함께 저임금의 불안정한 노동이 양산되고 있다고 주장한다. 대량 실업과 같은 익숙한 미래 진단들에서 찾기 힘든 인간 노동에 관한 실제 파장과 충격을 눈앞에 제시한다. 여기에는 ‘노동의 비가시화’와 ‘경계 짓기의 정치경제’라는 기술정치가 작동하고 있다.

6장
인간의 평가와 통제를 벗어나 판단이 이뤄진다는 점에서 인공지능 기술의 성격을 ‘블랙박스’와 같다고 진단하면서, 손화철은 인공지능 기술이 모두가 원하는 바람직한 사회로 이끌 것인지 고민하는 수준으로 확장되어야 함을 전제로 대안적 과학기술 거버넌스의 실제 사례와 방법들을 제시한다. 인공지능과 인간의 번역 대결을 다룬 기사들을 분석하여 인공지능 담론의 의의와 한계를 살피고 과학기술 거버넌스의 기본 입장을 정리한다.

7장
정원섭은 인공지능 윤리에 대한 다양한 담론을 소개하면서 인공지능의 발전을 성급히 단정하여 인위적으로 규범을 도출하는 일을 우려한다. 오히려 인공지능 시스템을 실제로 구축하는 전문가들이 자율적으로 윤리 규범을 마련할 것을 제안한다. 이러한 인공지능 전문가 윤리는 단순히 법조문을 나열하는 방식이 아니라 그들 스스로가 자율적 활동이 가능하도록 길을 터주는 것이어야 한다는 주장이다. 이와 함께 전문가 윤리의 제정을 위한 사회적 전제를 구체적으로 살핀다.


글쓴이(가나다 순)
박신화 서울대학교 철학사상연구소 책임연구원
박찬국 서울대학교 철학과 교수
박충식 U1대학교(아산캠퍼스) 스마트IT학과 교수
손화철 한동대학교 교양학부 교수(철학)
정원섭 서울대학교 철학사상연구소 책임연구원
하대청 광주과학기술원(GIST) 기초교육학부 교수(과학기술학)

획기적인 인공지능의 기술 발달이 시민사회에 미치는 파장은 가히 ‘혁명적’일 것이다. 언필칭 ‘인공지능의 시대’에 사람이 무엇보다 힘써야 할 일은 무엇일까? …… 인간은 무엇보다도 균형 잡힌 통찰력, 곧 온화한 지성을 갖춰야 한다. 이러한 지성(intellectus)은 기민한 지능과는 달리 냉철한 머리와 따뜻한 가슴의 화합에서 온다. (1장)

우리가 심각하게 고려해야 하는 것은 혹자들이 주장하는 것처럼 인공지능의 권리를 인정하는 것이 아니라 오히려 그런 일이 절대로 일어나지 않는 방향으로 인공지능을 개발하는 것이다. 여느 과학적인 산물과 마찬가지로 인공지능은 인간에게 기회인 동시에 위험이기도 하다. (2장)

성찰은 기능적으로 의사 결정에 대한 설명에 관계되고 계획, 학습과 관련된다. 성찰의 구조는 (목적을 포함한) 상태로 기술되고 성찰의 기능은 평가, 가설, 시뮬레이션, 최적화, 계획으로 이루어진다. 이러한 성찰의 기능은 인식 논리를 기반으로 한 계산적 모델로 구현 가능할 수 있다. 성찰의 계산적 모델이 가능하다면, 인간과 동물을 포함한 생물계의 행위자이든 인공지능으로 만들어진 행위자이든 지능적 행위자의 윤리를 설명할 수 있는 또 다른 모델을 가지게 될 것으로 기대해볼 수 있다. (3장)

인간의 감정은 근본적으로 애매하고 하나의 감정이 반대의 감정들과 근본적으로 교차되어 있는 터라 교감의 불안정성이 정서적 삶의 조건이 된다. 반면 로봇과의 정서적 교감에는 확실성이 지배한다. 로봇과의 교감이 지니는 이러한 성격은 실로 왜 우리가 인간이 아니라 인간의 감정을 모방하는 로봇을 원하는지, 왜 인간의 관심이 아니라 로봇의 관심을 원하는지에 대한 답을 줄 수 있을 듯하다. (4장)

우리는 인공지능이 우리 인간을 도와줄 거라고만 생각하고 있지만, 사실은 보이지 않는 곳에서 인간이 인공지능을 도와주고 있다. 인공지능은 마치 인간인 양 일하고 있지만 정작 인간이 마치 인공지능인 양 일하고 있는 것이다. 인공지능을 작동시키는 알고리즘 루프(loop) 속에는 이처럼 항상 인간이 일하고 있기 때문에 이들은 ‘루프 속의 인간(human-in-the-loop)’이라고 불릴 만하다. (5장)

인공지능의 블랙박스적인 성격은 여러 가지 함의를 가진다. 사람의 마음도 블랙박스와 같아서 다른 사람들이 무슨 과정을 거쳐 일정한 결론에 이르는지 알 길이 없는 경우가 많다. 그렇기 때문에 우리는 다른 사람의 판단에 접하여 설명을 요구하고, 설명이 주어지지 않으면 그를 의심하거나 무시한다. 그런데 인공지능은 정확한 판단을 하는(돕는) 도구로 만들어졌기 때문에 일정한 효율성만 담보되면 더는 의심하거나 무시하지 않는다. 결국 문제는 설명을 요구하지도 않고, 요구할 수도 없다는 것이다. (6장)

인공지능 윤리는 단순히 지금까지 축적된 자료와 결과를 바탕으로 확보된 빅데이터를 넘어 이를 바탕으로 미래 지향적 가치들에 대한 성찰을 기반으로 현재에 대해 끊임없이 개입하는 과정을 거쳐야만 하는 것이다. 이 점에서 알고리즘을 구성하는 전문가들은 우리 시대정신과 무관한 단순한 기능인이 아니라 당면한 윤리적 요구에 민감해야 할 뿐만 아니라 장차 지향하고자 하는 가치에 대한 예민한 문제의식을 공유하는 자율적인 건강한 민주 시민으로 자리매김해야 한다. (7장)

책을 펴내며

서론 - 정원섭
1장 인공지능의 출현과 인간 사회의 변동 - 백종현
2장 인간과 인공지능의 미래: 인간과 인공지능의 존재론 - 박찬국
3장 성찰적 인공지능 - 박충식
4장 교감의 삶: 소셜로봇 시대에 인공 감정과 인간 감정 - 박신화
5장 루프 속의 프레카리아트: 인공지능 속 인간 노동과 기술정치 - 하대청
6장 인공지능 시대의 과학기술 거버넌스 - 손화철
7장 인공지능 윤리의 방향 - 정원섭

주석
부록: 미국 컴퓨터장비협회(ACM)의 〈행동규약〉(1980)
참고문헌
찾아보기
저자약력