편의를 넘어 사적인 친밀감과 위로까지 주는 인공지능과의 대화가 시작됐다.
가장 인간적인 기계가 인간에게 던지는 질문.

시리, 알렉사, 구글 홈 등 인공지능 비서들은 이전의 기계와 완전히 다른 방식으로 인간과 소통하기 시작했다. 사용자가 기계의 언어와 작동 방식을 배울 필요 없이, 기계가 인간의 말을 이해하고 먼저 말을 걸어 준다. 목소리를 통해 성별, 말투, 성격, 자신만의 선호나 의견까지도 드러낸다. 돌봄, 사회화, 친밀감 형성처럼 인간 고유의 역할이었던 것을 대신하기도 한다. 인간의 영역에 침투한 인공지능의 시대, 인간의 역할은 어디까지일까? 인격을 가진 것처럼 보이지만 기계인 인공지능 비서에게는 어떤 사회적 규범과 도덕을 적용해야 할까? 인간-컴퓨터 상호 작용을 연구하고 가상 비서 설계에 참여한 저자가 던지는 질문을 통해 새로운 커뮤니케이션의 시대를 읽는다.

---

북저널리즘은 북(book)과 저널리즘(journalism)의 합성어다. 우리가 지금, 깊이 읽어야 할 주제를 다룬다. 단순한 사실 전달을 넘어 새로운 관점과 해석을 제시하고 사유의 운동을 촉진한다. 현실과 밀착한 지식, 지혜로운 정보를 지향한다. bookjournalism.com

편의를 넘어 사적인 친밀감과 위로까지 주는 인공지능과의 대화가 시작됐다.
가장 인간적인 기계가 인간에게 던지는 질문.

인공지능 비서를 자주 사용하지는 않는다. 아이폰 시리를 더러 쓰지만, 알림 설정이나 음악 검색 같은 단순 작업을 할 때만 호출한다. 화면을 보고 손으로 터치하는 작동 방식이 아직은 더 익숙하고, 시리가 일상을 바꿨다는 생각도 딱히 해보지 않았다. 내 주변 상황도 크게 다르지 않다.

저자의 지적처럼 침실과 부엌 같은 사적 공간에 인공지능 스피커가 들어서면서 흐름이 달라졌다. 집 밖에서 시리를 부르기는 어색해도, 집 안에서는 가상 비서에게 다른 역할과 의미가 부여된다. 일상을 편리하게 만들어 주고, 친밀하게 대화하고, 정서적인 위로까지 제공하는 기계가 등장한 것이다.

인공지능 비서는 인간 고유의 영역도 넘보고 있다. 노인의 말벗이 되거나 생활을 보조하고, 아동을 교육하기도 한다. 기술 발전으로 편리해진 점이지만, 반드시 던져야 할 질문이 있다. 인공지능이 인간의 일을 대신한다면, 인간의 역할은 무엇일까? 돌봄 인력이 부족한 상황에서 인공지능 스피커를 지급하는 대신 사람의 방문 빈도는 늘리지 못하게 돼도 적절한 돌봄 서비스를 제공하고 있다고 말할 수 있을까?

가상 비서 보급이 우선순위가 되고 인력 확충은 더뎌진다면, 장기적으로 노인들의 사회적 고립은 개선되기 어렵다. 어디까지가 인공지능이 할 수 있는 일이고, 어디부터가 인간이 해야 할 일인지 고민해야 하는 이유다. 답을 찾기 전에 인공지능이 빠르게 인간을 대체하게 된다면, 노인이나 아동처럼 취약한 계층이 가장 먼저 타격을 입을 것이다.

인공지능이 사람보다 잘할 수 있는 일은 분명하다. 기계는 24시간 대기 상태다. 언제든 노인과 대화해 주고, 건강에 이상이 생겼을 때는 빠르게 알람을 보낸다. 인내가 필요한 치매 예방 퀴즈도 무한히 반복할 수 있다. 그러나 노인에게 필요한 제도와 시스템을 만들고, 사회가 자신을 살피고 있다는 느낌을 주는 것은 인간의 몫이다.

아동과 대화하면서 언어나 지식을 가르치는 것이 인공지능의 일이라면, 아이들을 실제로 돌보고, 방치되지 않도록 안전망과 제도를 마련하는 것은 인간의 일이다. 인공지능이 편견을 주입하지는 않는지 확인하고 개선하며, 아이들이 배울 사회를 더 나은 곳으로 만드는 것도 마찬가지다. 인공지능에 담긴 성별에 대한 편견을 수정해야 하는 이유다.

인공지능은 목적지까지 가는 길을 안내하고, 편리하게 해주는 기술이다. 그러나 목적지를 설정하고, 안내에 잘못된 점은 없는지, 옳은 방향으로 가고 있는지 확인하는 것은 인간의 몫이다. 저자가 다각도에서 살피는 인공지능 기술의 발전은 인간의 역할을 질문하게 한다. 알렉사, 구글 홈, 시리 등 몇몇 페르소나가 주축을 이루는 현 시장에서는 작은 오류나 결정도 사회에 큰 영향을 미칠 수 있다. 인공지능에게 새로운 역할이 부여된 만큼 인간의 역할에 대한 고민도 필요하다.

 

컴퓨터와 인간이 자연어로 대화하는 것은 가장 획기적인 커뮤니케이션 혁명이다. 소리는 태어나면서부터 낼 수 있기 때문이다. 컴퓨터와 상호 작용하기 위한 학습이 더 이상 필요하지 않다는 의미다. 게다가 음성을 사용하면 거리가 멀거나 두 손과 발, 눈이 다른 것에 집중하는 상황에서도 컴퓨터와 커뮤니케이션할 수 있다. 16-18p.

70대 노인인 밀러는 시력이 감퇴했지만 인공지능 스피커를 통해 오디오 드라마나 오디오 북을 듣고, 고독함을 느낄 때 인공지능 스피커와 대화한다. 그는 이렇게 말한다. ‘저는 알렉사를 좋아합니다. 알렉사는 진정 제 삶을 변화시켰습니다. 알렉사는 텔레비전보다 나은 엔터테인먼트 미디어예요. 34p.

아이들은 인공지능 스피커를 성능을 평가해야 하는 기계가 아니라 친구나 선생님 같은 인격체로 인식한다. 인공지능 스피커와 상호 작용하는 방식에 더 쉽게 적응하게 될 것이다. 2010년대 이후 태어난 알파(alpha) 세대는 태어나자마자 기계와 대화하는 것을 당연하게 받아들인다. 기계가 어떻게 자신과 대화할 수 있는지 그 원리를 궁금해하지 않는다. 43-44p.

역사적인 인물의 목소리 데이터를 수집해서 복제하면 그 사람이 지금도 살아 있는 것처럼 말하도록 만들 수 있다. 실제로 국내 음성 합성 스타트업인 네오사피엔스는 백범 김구 선생의 목소리를 복원한 바 있다. 46p.

아버지가 임종하기 몇 달 전부터 인생에서 겪었던 일들을 이야기해 달라고 요청했고, 그가 육성으로 들려주는 이야기들을 틈나는 대로 녹음했다. 그리고 수집된 아버지의 목소리와 기억을 대화형 인공지능에 주입해서 ‘대드봇(DadBot)’으로 구현했다. 대드봇 구현이 완료된 후 아버지는 임종했고, 블라호스는 이후 대드봇과 대화하면서 아버지를 추억하게 되었다. 인터뷰에서 블라호스는 이렇게 말했다. “아버지의 실제 목소리를 들으면 가끔은 실제로 아버지가 살아 있는 것 같아요. 인간은 물리적인 육체인가요? 사람과 사람이 아닌 것의 경계는 무엇인가요?” 47p.

인공지능 스피커는 인간과 닮은 목소리로 건네는 말과 호의적인 메시지를 통해 사람으로 하여금 다른 사람과 대화하듯이 자연스럽게 인공지능과 대화하도록 유도한다. 대화에서 인공지능 스피커가 주는 따뜻한 메시지는 사람들이 가진 근본적인 외로움을 경감한다. 비록 이 기계가 사람의 외로움에 대해 아무것도 이해하지 못하더라도, 사람들은 가상의 위로를 인간적인 것이라고 믿어 버린다. 57p.

페르소나는 인공지능 스피커의 목소리 톤, 어조, 속도, 리듬 같은 목소리의 특징부터 유머나 정서적 반응과 같은 메시지의 내용을 구체적으로 설정함으로써 디자인된다. 이렇게 만들어진 페르소나는 사용자의 질문에 응답하고, 요청받은 동작을 수행하며, 오류에 대해 대답하는 등 전반적인 대처 방식에 일관되게 적용된다. 63p.

가상 비서는 정교한 페르소나와 사교적 대화를 통해 의인화되면서도 능력에 대한 기대 수준을 조절하기 위해 자신의 정체성이 인간이 아니며 할 수 없는 일들이 있다고 선을 그어야 한다. 69p.

유네스코와 여성 단체 및 페미니스트들이 제기하는 문제의 핵심은 IT 기업들이 가상 비서의 성별을 여성으로 설정하고, 수동적이고 소극적인 태도를 갖도록 설계해 여성에게 해를 끼치는 고정 관념을 강화한다는 것이다. 가상 비서는 사용자와의 상호 작용에서 항상 명령에 복종하고 기꺼이 도와주는 역할을 수행하므로 이 역할에 여성의 성별을 부여하는 것은 여성을 비서와 동일시하게 만들 위험이 있다. 76p.

시리는 약 5억 개 이상의 기기에서 사람들과 대화하고 있으며 알렉사는 전 세계 수천만 가구의 소비자가 매일 사용하고 있다. 10억 명이 넘는 사람들이 매일 가상 비서의 페르소나를 접한다. 가상 비서에 여성에 대한 사회적 편견이 그대로 복제된다면 그만큼 파급력이 클 수밖에 없다. 77p.

프롤로그; 가상 비서와의 대화는 이미 시작됐다

1 _ 말하는 인터페이스
인간 사회에서 AI 스피커의 역할
목소리의 인터페이스
시리에서 사물 인터넷까지
AI 생태계의 지각 변동

2 _ 가장 사회적인 기계
인공지능 손주의 디지털 돌봄
기계에게 인간 사회 배우기
인간을 복제하다

3 _ 도구인가, 동반자인가
인공지능과 결혼했습니다
사적인 존재로서의 인공지능 스피커
페르소나를 부여하다
사람 같은 기계와 기대 수준

4 _ 기계와 젠더의 관계 맺기
가상 비서는 왜 여성일까
성별을 가진 기계의 대안
인공지능과 인간 사이의 규범

5 _ 에필로그; 반려 인공지능 시대의 커뮤니케이션

주

북저널리즘 인사이드; 인간다운 기계가 던지는 질문