출판사 서평
알고리즘으로부터 삶의 통찰력을 얻어야 하는 시대,
만물의 공식은 어떻게 구성되고, 작동하며, 인간을 정의하는가?
▼ 인간이 알고리즘을 정의하는가, 알고리즘이 인간을 정의하는가?
세상이 숨 가쁘게 변화하고 있다. 얼마 전 SF 영화나 소설 속에서 본 것들이 어느새 눈앞의 현실로 나타난다. 손 안의 컴퓨터가 되어버린 스마트폰, 음성이나 안면 인식으로 오픈되는 출입문, 피 한 방울로 온갖 질병을 알아내는 시대다.
영화 《마이너리티 리포트》를 기억하는가? 2054년의 워싱턴을 배경으로, 범죄가 일어나기 전에 이를 예언하는 선...
알고리즘으로부터 삶의 통찰력을 얻어야 하는 시대,
만물의 공식은 어떻게 구성되고, 작동하며, 인간을 정의하는가?
▼ 인간이 알고리즘을 정의하는가, 알고리즘이 인간을 정의하는가?
세상이 숨 가쁘게 변화하고 있다. 얼마 전 SF 영화나 소설 속에서 본 것들이 어느새 눈앞의 현실로 나타난다. 손 안의 컴퓨터가 되어버린 스마트폰, 음성이나 안면 인식으로 오픈되는 출입문, 피 한 방울로 온갖 질병을 알아내는 시대다.
영화 《마이너리티 리포트》를 기억하는가? 2054년의 워싱턴을 배경으로, 범죄가 일어나기 전에 이를 예언하는 선지자들에 의해 범죄를 막고 예비 범죄자에게 벌을 주는 범죄예방국 이야기다. 참으로 인상적이었던 이 영화는, 제목과는 달리 메이저급 히트를 쳤다. 영화가 개봉된 2002년 당시에는 미리 범죄를 예측한다는 것이 먼 미래의 이야기로만 생각되었다. 그러나 《만물의 공식》의 저자는 이것이 현재진행형이라고 말한다. 《마이너리티 리포트》에서처럼 홍채와 얼굴을 인식해 그 사람의 이름을 불러주며 친근하게 광고하는 세상이 멀지 않았다는 말이다.
물론 영화에서와 같은 선지자는 없지만, 우리에게는 알고리즘이 있다. 알고리즘은 우리 주변 곳곳에 파고들어 있다. 흔히 알고 있는 인터넷 검색뿐 아니라 오락, 연애, 결혼, 이혼, 법률을 비롯해 영화, 음악에 이르기까지, 인간의 삶을 모두 설명할 수 있을 만큼 알고리즘과 얽혀 있다. 곧 인간의 창조성과 정체성, 인간관계까지도 알고리즘이 규정할 날이 머지않았다. 우리는 어떻게 해야 하는가?
▼ 새로운 파놉티콘, 알고리즘
인간을 이루고 있는 물질을 짜내면 비누 세 장밖에 되지 않는다는 말도 있다. 우리는 자꾸 잊어버리곤 하지만, 인간은 물질, 즉 수분, 지방, 단백질 등으로 이루어져 있다. 인간만이 고유한 존재는 아니라는 뜻에서 나온 이야기였겠지만, 실제로 인간의 몸을 분석하고 수량화하는 사람들이 있다.
자신의 몸을 숫자로 측정하는 자기 수량화 운동Quantified Self은 열성적으로 자신의 몸을 감시하려는 사람들에 의해 시작되었다. 건강이 중요한 삶의 테마가 된 현대에 자신의 몸에 집중하는 것은 자연스러운 일인지도 모른다. 자기 수량화 운동에 참여하는 사람들을 셀퍼selfer라고 부르는데, 어떤 면에서 이들은 데카르트의 후예들이다. 그러나 데카르트가 인간의 의식을 나눌 수 없다고 생각한 것과는 달리, 셀퍼는 올바른 기술과 적절한 데이터가 있다면 개인을 리포트 몇 장으로 요약할 수 있다고 믿는다. 기분과 정신적 건강을 신체적인 상태를 통해 파악할 수 있다는 것이다.
이 개념에서 더 나아가, 인간의 행동을 분석하고 예측하는 알고리즘도 있다. 아마존과 같은 기업은 고객의 성향과 과거 구매 이력 등을 통해 어떤 소비 성향을 지니고 있는지 분석하고 이에 맞춰 광고를 보여준다. 안면 인식 기술을 통해 SNS 상의 개인 정보나 포스팅을 분석GO 맞춤형 광고를 보여주려는 기업도 생겨났다. 하다못해 콜센터에 전화를 걸어도 고객은 분류되고 분석되어 그에 맞는 콜센터 상담원에게 연결된다. 직원을 채용할 때도 트위터나 페이스북의 과거 포스팅 이력을 분석하는 실리콘밸리 기업이 늘고 있다. 알고리즘은 이 어려운 일을 인간보다 더 정확히 해낼 능력이 있다.
이렇게 인간은 점차 수량화되고, 분류된다. 그러나 과연 괜찮을까? 알고리즘은 가치 판단을 내리지 않지만, 이를 운용하는 사람의 편견과 성향은 작용한다. 예를 들어, ‘넝마주이 계층’의 고객에게는 질 낮은 서비스를, 돈이 되는 고객에게는 최상의 서비스를 제공한다면 이것은 명백한 차별이다. 기술과 인터넷의 발달로 우리는 모든 곳에서 감시당한다. 알고리즘에 의해 관리되는 우리는 새로운 형태의 파놉티콘에 갇힌 것일지도 모른다.
▼ 나는 측정한다 고로 존재한다
우리는 알고리즘을 단순히 수학과 기계의 문제로만 치부하는 경향이 있다. 그러나 알고리즘은 어디에나 있고, 무엇이나 한다. 이를테면, 알고리즘을 통해 엄청난 양의 문서를 빠른 시간 내에, 훨씬 정확히, 값싼 비용으로 처리할 수 있다. 그래서 초급 변호사들이 하던 소송의 사전 심리 절차인 증거 개시를 이제는 알고리즘으로 해결한다. 2012년 애플 대 삼성의 특허 소송에서도 사람의 손이 아닌 알고리즘으로 문서를 처리했다. 리걸줌이라는 자동문서조합시스템은 유언장, 회사 정관 등을 헐값에 작성하게 해준다. 위보스라는 이혼 서비스는 이혼 절차를 좀 더 매끄럽게 처리할 수 있도록 도와준다. 술을 마신 사람이 운전을 하지 못하도록 감지하는 자동차가 개발되고, 구글에서는 무인 자동차를 개발하고 있다. 또한 알고리즘은 안면 인식 기술로 테러리스트를 가려내기도 하고, 의료 보험이나 식량 배급표의 혜택을 주기도 한다.
이런 생활적인 측면뿐만 아니라, 예술에서도 알고리즘은 점점 인간의 창의성을 대신하고 있다. 에퍼고직스는 어느 영화가 성공을 거둘 것인지 분석해주고, 심지어 시나리오의 어느 부분을 보완하면 되는지 조언해준다. 아직은 부족하지만 구글 번역은 쓸 만한 수준이고 점점 나아지고 있다. 미술의 진품과 위작을 판별하는 자동미술비평 알고리즘도 개발 중이다. 런던 심포니 오케스트라는 이아모스라는 음악생성 알고리즘이 작곡한 음악을 연주했다.
그렇다면, 이제 인간이 할 수 있는 일은 없는 것일까? 알고리즘이 모든 일을 대신할까? 불행인지 다행인지는 모르겠지만, 아직 알고리즘은 완벽하지 않다. 일률적인 법 적용은 규칙과 기준의 문제를 제시한다. 80킬로미터 이상으로 달려서는 안 된다는 법을 규칙으로만 적용한다면, 도로나 운전자의 상황은 고려하지 않고 무조건적으로 범칙금을 물릴지 여부를 결정할 것이다. 무인 자동차가 대신한다면, 아무리 급한 환자가 있어도 구급차는 80킬로미터 이상으로 달릴 수 없을 것이다. 한편, 의료 보험을 적용하거나 식량 배급표를 배부할 때도 일률적인 규칙만 따른다면 수많은 예외 상황을 적용하기 어렵다. 알고리즘에 맞춘다면 점차 법률은 단순화되고 일률적으로 변해야 할 것이다.
예술의 문제는 좀 더 미묘하다. 과연 오리지널이라는 것이 어떤 의미를 지닐 것인가? 사람의 마음에 공감하지 못하는 알고리즘이 듣기 편하고 보기 좋은 작품을 생산한다고 해서, 그것이 우리를 감동시킬 수 있을 것인가? 이 부분에 대해서 저자는 우리에게 판단을 맡긴다.
▼ 알고리즘의 미래, 과연 어떻게 될 것인가?
알고리즘이 여전히 고전하고 있는 부분이 있다. 특히 인간에 맞먹는 인공지능의 연구에서 알 수 있듯이, 자동화할 수 있는 일이 있고 그럴 수 없는 일이 있다. 아직도 인간에게는 너무도 쉽고 당연한 것들은 어렵고, 어려운 것은 쉽다. 우리가 생각하기에 지능을 필요로 하는 일, 즉 의학적 진단이나 처방, 법률적인 조언은 인공지능이 뛰어난 부분도 있다. 그런데 오히려 교육 여부와 상관없이 인간이라면 누구나 할 수 있는, 혹은 동물이라도 할 수 있는 일들, 이를테면 명암을 구별하든가, 혼잡한 지형을 통과하든가, 컵을 컵으로 인식하는 것은 아직도 인공지능에는 부족한 부분이다. 그렇다면 주식 분석가나 공학자, 가석방 심사위원은 알고리즘으로 대체될 수 있을지 몰라도 정원사나 요리사, 안내원 등은 대체될 수 없는 직업이 될 것이다.
물론 앞으로의 사회에서 알고리즘은 많은 일을 대신할 것이다. 알고리즘을 생성하는 컴퓨터과학자와 수학자는 법률을 결정하거나 문화적 결정권을 획득하게 될 것이다. 알고리즘이 인간보다 더 정확하고 효율적으로 일할 수 있는 작업 공간에서는 아주 적은 수의 인간만이 노동하고 나머지는 모두 알고리즘의 몫으로 돌아갈 것이다. 알고리즘이 작업에 드는 비

고故 스티브 잡스라면 운명에 대해“그 문제를 해결할 앱이 있습니다”라고 말했을지도 모르겠다. 과학적 추론을 훈련받은 기술론자들이 지난 두 세기에 걸쳐 엄청난 노력을 기울인 것이 하나 있다면 캐나다의 철학자 이언 해킹이 말한 것처럼‘우연 길들이기’다. 세런디피티 개발자들은 이렇게 자부한다. “기술이 데이트 방식을 바꾸고 있습니다. 빨간 장미가 등장한 이래, 기술은 수줍은 싱글이 낭만적 사랑을 만나는 최고의 수단입니다.” - 105쪽

물론 오류 가능성을 배제할 수는 없다. 버크는 자신의 시스템으로 가석방된 사람이 미래의 어느 시점에 살인에 연루될 가능성을 75퍼센트 예측할 수 있다고 주장한다. 인상적인 수치이기는 하지만, 여전히 네 건 중 한 건은 틀린다는 뜻이다. 버크도 “예측이 아무리 정확해도 오류를 없앨 수는 없습니다. 누구나 잘못을 저지릅니다. 그렇다고 해서 저의 잘못이 덜해지는 것은 아니지만요”라고 인정한다. 범죄 예측의 허용 오차는 영화 〈마이너리티 리포트〉의 주제다. 이 제목은 범죄를 예견하는 예지자 세 명의 예언이 어긋날 때 무시되는 예언을 일컫는다. 존 앤더턴 국장(톰 크루즈 분)은 자신이 중요한 정보를 몰랐다는 사실을 알고서 이렇게 묻는다. “제가 무고한 사람을 체포했다는 겁니까?” 시스템을 개발한 박사가 대답한다. “이따금 용의자의 미래가 달라졌을 수도 있겠죠.” 이런 마이너리티 리포트의 존재를 대중에게 감추어야 하는 이유는 분명하다. 범죄예방국이 제 역할을 하려면 오류 가능성을 결코 인정해서는 안 된다. 사법 체계가 아무리 효과적이라 한들, 의심을 사면 누가 받아들이겠는가. - 158쪽

하버드 대학의 흑인 박사 라타냐 스위니의 사연을 예로 들어보자. 스위니는 어느 날 구글을 검색하다가 검색 결과 옆에 “체포되신 적이 있나요?”라는 광고 문구가 표시되는 것을 보고 소스라치게 놀랐다. 백인 동료가 검색했을 때는 이 광고가 표시되지 않았다. 스위니는 연구를 통해 구글 검색의 기계학습 도구가 흑인에게 흔한 이름을 체포 기록 광고와 연결함으로써 무심결에 인종주의적 편견을 드러냈음을 입증했다. -186쪽

어떤 서점에서 특정한 책이 유독 잘 나가자 주문을 더 넣어야겠다고 생각한다. 현재 이 책은 2위 책이 10부 팔릴 때마다 11부씩 팔리며 근소한 차이로 앞서고 있다. 그러나 신규로 주문한 책들이 도착하여 좋은 매대(이를테면 출입구 옆 탁자)에 진열되자 판매량이 곧 2위의 두 배로 뛰어오른다. 서점에서는 판매에 박차를 가하기 위해, 이윤을 낮추고 할인가에 책을 공급하여 신규 고객을 유치하려 한다. 이 시점에서 판매량은 2위의 네 배까지 증가했다. 고객들은 인기가 있으면 괜찮은 책이라고 생각하므로 판매량은 더더욱 증가한다. 심리학에서는 이를 단순 노출 효과mere-exposure effect라고 한다. 어느 시점에 책 판매량이 티핑포인트에 이르면 사람들은 흐름에 뒤처지지 않으려고 책을 산다. 어떤 드라마가 인구에 회자되면 궁금해서라도 채널을 맞추게 되는 것과 같은 이치다. - 215~216쪽

예술과 인문학에서 고정성이 사라지면 다른 곳에도 잠재적으로 해로운 영향을 미칠 수 있다. 킨들에서든 구글 도서에서든, 우리가 읽는 전자책은 온라인에 ‘원본’이 저장되어 클라우드를 통해 접근하게 되어 있으므로, 독자가 책을 사서 집에 가져간 뒤에도 출판사와 저자가 내용을 수정할 수 있다. 이 사실을 극명하게 보여주는 사건이 2009년에 일어났다. 아마존은 킨들 전자책으로 판매한 조지 오웰의 고전 소설 《1984》가 예상과 달리 저작권이 소멸되지 않았다는 사실을 뒤늦게 알게 되었다. 식겁한 아마존은 책을 모조리 삭제하기로 결정했다. 《1984》 전자책을 구매한 독자의 라이브러리에서 책이 사라진 것이다. 공교롭게도 《1984》는 막강한 권력 집단이 역사를 일상적으로 고쳐 씀으로써 대중을 조작하는 디스토피아적 미래를 묘사한 작품이다. 소설이 첫 출간된 지 60여 년이 지난 지금, 이렇듯 거대 서사를 수정하는 일이 기술적으로 가능해졌다. - 241쪽

무엇보다 중요한 일은 질문을 던지는 것이다. 간단한 대답을 기대해서는 안 된다. 슬라보이 지제크가 《마지막 때를 살아가기Living in End Times》에서 주장하듯, 쉽고 빠른 해결책을 추구하는 세상에서 필요한 것은 문제 자체를 문제화하는 급진적 사고방식이다. 이런 질문 중 하나는 알고리즘이 우리에게 해주고 있는 것이 무엇인가만이 아니라, 알고리즘이 애초에 무엇을 하도록 되어 있는가 하는 것이다. 이것은 난처한 질문이자, 특히 서비스가 이용자에게 공짜로 제공되는 것처럼 보이는 경우에는 꼭 물어야 할 질문이다. ‘적절하다’와 ‘뉴스 가치가 있다’ 같은 단어에는 숨겨진 의미가 있다. 누구에게 적절하고 뉴스 가치가 있는가 하는, 겉보기에 명백한 질문이 따라 나온다. - 293~294쪽

목차
감사의 글
인터뷰에 시간을 내준 사람들
들어가며: 제목의 의미와 그 밖의 사이버 허풍
1장 자기 수량화
숫자를 통한 자기 이해
세상의 사이보그화
쇼핑은 창조다
쾌락 사업
물결 이론
잠시만요, 알고?리즘 바꿔드릴게요
워비곤 호수 전략
인간의 잠재력을 수량화하다
트위터로 삶을 들여다보다
일종의 빅브라더
더 빨리, 더 행복하게 일하라
제거현실 서비스
넝마주이 퇴치
차별 공식?
모습 유지하기
2장 컴생연분
사랑 속 광기, 광기 속 이성
하모니를 찾아서
욕망을 분류하라
알고리즘 시대의 연애
이 관계를 정말 삭제하고 싶으십니까?
행운에서 행운을 잡다
손목에서 심장이 두근두근
술집 엿보기
성생활 모델링
사랑하는 시체들의 밤
욕망하는 기계
알고리즘과 나누는 사랑과 섹스
사랑의 코드
사랑의 불꽃을 수량화할 수 있을까?
3장 알고리즘은 전기법의 꿈을 꾸는가?
범죄는 왜 지진과 같을까?
도덕통계학자
진짜 마이너리티 리포트
다스 베이더인가, 루크 스카이워커인가?
변호사를 다 없애버려
이혼에도 알고리즘을
보이지 않는 집행자
공공장소의 정치학
너의 대사, 나의 대사
프리우스와 〈더 러닝 트리〉
규칙과 기준
한 사람의 발판은 다른 사람의 걸림돌
양육비 미지급 아버지 알고리즘
투명성 문제
판사, 배심원, 실행 코드
4장 예술가가 된 기계
어디에나 패턴이
영화의 미래
두 문화
평행우주
호소력의 역할
보편 매체 기계
그대 자신에게 참/거짓이 되라
읽는 기계
데이터테인먼트
소비에트 러시아에서는 영화가 나를 본다
움직이는 표적
디지털 문지기
취향의 표준화
예술의 비인간화
결론: 미래 예언
생각 없는 생각의 힘
세상을 알고리즘화하다
거대 구조조정
삽이 아니라 숟가락
기계 이후 시대의 객관성
알고리즘이 명예를 훼손할 수 있을까?
트위터는 왜 신문을 닮았을까?(구글은 왜 신문을 안 닮았을까?)
세상을 조직화하다
만물의 공식 세상에서 인간성을 지켜내려면?
참고도서
주
찾아보기