▼ 세상을 계산하는 기계, 알고리즘은 어떻게 세상을 지배하는가

\"포털의 뉴스 배열 알고리즘을 공개해야 한다. 어떤 기준을 근거로 뉴스가 배열되는지 사회적 관심이 높고, 이는 사회적 여론 형성에도 중요한 영향을 미친다.\"

2019년 9월 25일, 포털사이트의 알고리즘 공개 문제를 두고 국회 정책토론회에서 나온 말이다. 포털에서 가장 눈에 잘 띄는 기사가 언론사의 영향력, 나아가 여론의 향배를 뒤흔드는 것은 이미 오래된 현상이다. 이러한 영향력 때문에 포털의 편집권은 지속적으로 견제 받아왔고 이제는 그 역할을 알고리즘에 맡겼다 말한다. 그렇다면 알고리즘은 과연 객관적일까? 알고리즘이 실어 올린 기사를 우리는 아무런 의심 없이 봐야 하는 걸까? 조용하게 그 영향력을 키우고 있는 알고리즘이란 과연 무엇일까?
과학기술이 발달하면서 다양한 사회 현상을 수량화해 그 결과 값을 축적하고 이러한 축적을 바탕으로 미래를 예측하기까지 하는 알고리즘, 알고리즘은 이제 우리 모든 일상에 적용되기 시작했다. 《알고리즘으로 세상을 읽다》는 인터넷 검색뿐 아니라 오락, 연애, 법률을 비롯해 영화, 음악에 이르기까지, 지금까지는 전적으로 인간의 고귀한 행위에 맡겼던 일들을 알고리즘이 차지하기 시작하는 세상의 단면을 드러낸다. 이는 불완전한 인간이 저지를 오류와 실패를 극복할 수 있는 도구로 떠오르고 있지만 이 모든 것을 알고리즘에 내주는 것이 과연 정당한가에 대한 질문을 떠올리게 하는 것도 사실이다. 무엇보다도 알고리즘은 지금 이 순간에도 세상의 다양한 일들에 빠르게 적용되고 있으며, 알고리즘이 가득할 미래는 이미 다가왔다. 우리는 알고리즘의 시대에 어떻게든 대처해야만 한다. 대처의 시작은 알고리즘이 무엇인지, 알고리즘이 어떻게 세상에 적용되고 있는지 명확하게 들여다보는 것이다. 《알고리즘으로 세상을 읽다》는 알고리즘 시대를 선명하게 그려볼 첫걸음이 될 것이다.

▼ 스스로를 수량화하는 사람들
인간을 이루고 있는 물질을 짜내면 비누 세 장밖에 되지 않는다는 말이 있다. 우리는 자꾸 잊어버리곤 하지만, 인간은 물질, 즉 수분, 지방, 단백질 등으로 이루어져 있다. 인간만이 고유한 존재는 아니라는 뜻에서 나온 이야기였겠지만, 실제로 인간의 몸을 분석하고 수량화하는 사람들이 있다.
자신의 몸을 숫자로 측정하는 자기 수량화 운동Quantified Self은 열성적으로 자신의 몸을 감시하려는 사람들에 의해 시작되었다. 건강이 중요한 삶의 테마가 된 현대에 자신의 몸에 집중하는 것은 자연스러운 일인지도 모른다. 자기 수량화 운동에 참여하는 사람들을 셀퍼selfer라고 부르는데, 데카르트가 인간의 의식을 나눌 수 없다고 생각한 것과는 달리, 셀퍼는 올바른 기술과 적절한 데이터가 있다면 개인을 리포트 몇 장으로 요약할 수 있다고 믿는다.
이 개념에서 더 나아가, 인간의 행동을 분석하고 예측하는 알고리즘도 있다. 아마존과 같은 기업은 고객의 성향과 과거 구매 이력 등을 통해 어떤 소비 성향을 지니고 있는지 분석하고 이에 맞춰 광고를 보여준다. 안면 인식 기술을 통해 SNS 상의 개인 정보나 포스팅을 분석해 맞춤형 광고를 보여주려는 기업도 생겨났다. 직원을 채용할 때도 트위터나 페이스북의 과거 포스팅 이력을 분석하는 실리콘밸리 기업이 늘고 있다. 알고리즘은 이 어려운 일을 인간보다 더 정확히 해낼 능력이 있다.
이처럼 인간을 점차 수량화하고, 분류하는 것에 부작용은 없을까? 알고리즘은 가치 판단을 내리지 않지만, 이를 운용하는 사람의 편견과 성향이 여기에 작용할 수 있다. 예를 들어, 빈곤한 고객에게는 질 낮은 서비스를, 돈이 되는 고객에게는 최상의 서비스를 제공한다면 이는 명백한 차별이 아닐까? 알고리즘이 관리하는 세계는 새로운 형태의 파놉티콘일지도 모른다.

▼ 알고리즘은 법과 예술을 어떻게 바꿔놓을까?
알고리즘은 어디에나 있고, 무엇이나 한다. 이를테면, 알고리즘을 통해 엄청난 양의 문서를 빠른 시간 내에, 훨씬 정확히, 값싼 비용으로 처리할 수 있다. 그래서 초급 변호사들이 하던 소송의 사전 심리 절차인 증거 개시를 이제는 알고리즘으로 해결한다. 2012년 애플 대 삼성의 특허 소송에서도 알고리즘이 문서를 처리했다. 리걸줌이라는 자동문서조합시스템은 유언장, 회사 정관 등을 헐값에 작성하게 해준다. 위보스라는 이혼 서비스는 이혼 절차를 좀 더 매끄럽게 처리할 수 있도록 도와준다. 술을 마신 사람이 운전을 하지 못하도록 감지하는 자동차가 개발되고, 구글에서는 무인 자동차를 개발하고 있다. 또한 알고리즘은 안면 인식 기술로 테러리스트를 가려내기도 하고, 의료 보험이나 식량 배급표의 혜택을 주기도 한다.
예술에서도 알고리즘은 점점 인간의 창의성을 대신하고 있다. 에퍼고직스는 어느 영화가 성공을 거둘 것인지 분석하고, 심지어 시나리오의 어느 부분을 보완하면 되는지 조언해준다. 아직은 부족하지만 구글 번역은 쓸 만한 수준이고 점점 나아지고 있다. 미술의 진품과 위작을 판별하는 자동미술비평 알고리즘도 개발 중이다. 런던 심포니 오케스트라는 이아모스라는 음악생성 알고리즘이 작곡한 음악을 연주했다.
그렇다면, 이제 인간만이 할 수 있는 일은 없는 것일까? 불행인지 다행인지는 모르겠지만, 아직 알고리즘은 완벽하지 않다. 세상에는 아직 알고리즘이 판단하기 힘든 수많은 변수가 있다. 알고리즘에 80킬로미터 이상으로 달려서는 안 된다는 법을 규칙으로만 적용한다면, 무인 구급차는 아무리 급한 환자가 있어도 80킬로미터 이상으로 달릴 수 없을 것이다. 의료 보험을 적용하거나 식량 배급표를 배부할 때도 일률적인 규칙만 따른다면 수많은 예외 상황을 적용하기 어렵다.
예술의 문제는 좀 더 미묘하다. 과연 오리지널이라는 것이 어떤 의미를 지닐 것인가? 사람의 마음에 공감하지 못하는 알고리즘이 듣기 편하고 보기 좋은 작품을 생산한다고 해서, 그것이 우리를 정말 감동하게 할 수 있을까? 이는 우리가 앞으로 마주해야할 숙제이기도 하다.

▼ 알고리즘이 일상의 모든 문제를 판단하는 세상이 올까?
알고리즘이 여전히 고전하고 있는 영역이 있다. 알고리즘을 활용한 인공지능을 예로 들면, 인간에게는 너무도 쉽고 당연한 것들이 인공지능에는 넘을 수 없는 벽이 되는 경우가 많다. 의학적 진단이나 처방, 법률적인 조언에는 인공지능이 뛰어나지만 명암을 구별하든가, 컵을 컵으로 인식하는, 인간에게는 본능적인 일을 처리하는 데는 아직 서투르다.
물론 세상에서 알고리즘은 점차 더 많은 일을 해낼 것이다. 알고리즘을 생성하는 컴퓨터과학자와 수학자는 법률을 결정하거나 문화적 결정권을 획득하게 될 것이다. 알고리즘이 인간보다 더 정확하고 효율적으로 일할 수 있는 작업 공간에서는 아주 적은 수의 인간만이 노동하고 나머지는 모두 알고리즘의 몫으로 돌아갈 것이다. 어쩌면 더 이상 인간은 노동하지 않고도 살 수 있을지 모른다. 반드시 자발적인 것은 아니겠지만 말이다.
기술사학자 멜빈 크랜즈버그는 “기술은 좋지도, 나쁘지도, 중립적이지도 않다”고 말했다. 그러나 알고리즘을 설계한 이의 편견과 성향은 반드시 알고리즘에 반영된다. 그러므로 알고리즘이 적용되는 방식이 무조건 객관적일 수는 없다. 문제는 알고리즘이 미치는 영향력이 무척이나 광대하다는 것이다. 게다가 알고리즘은 너무 복잡해지면 이를 만들어낸 엔지니어조차 이해하지 못하는 순간이 올 수도 있다. 이해하지 못하는 알고리즘에 의해 움직이는 세상에서 윤리적으로 행동하는 것은 쉽지 않은 일이될 수도 있다.
이런 알고리즘의 영향력으로부터 벗어나기 위해 애쓰는 사람들이 있다. 이들은 인간을 분석하고 분류하려 드는 알고리즘의 시도를 방해하거나 끊어내는 전술을 개발한다. 그러려면 현대의 기술을 포기하고 공적 담론에서 소외될 위험을 감수해야 한다. 이런 불편을 감수할 것인가. 아니면 알고리즘의 투명성 문제에 집중하고, 알고리즘에 끊임없이 질문을 던질 것인가. 우리는 지금 알고리즘 시대를 앞두고 인간다움을, 인간성을 지킬 수 있는 방법을 고민할 순간에 와있다.

고故 스티브 잡스라면 운명에 대해“그 문제를 해결할 앱이 있습니다”라고 말했을지도 모르겠다. 과학적 추론을 훈련받은 기술론자들이 지난 두 세기에 걸쳐 엄청난 노력을 기울인 것이 하나 있다면 캐나다의 철학자 이언 해킹이 말한 것처럼‘우연 길들이기’다. 세런디피티 개발자들은 이렇게 자부한다. “기술이 데이트 방식을 바꾸고 있습니다. 빨간 장미가 등장한 이래, 기술은 수줍은 싱글이 낭만적 사랑을 만나는 최고의 수단입니다.” - 105쪽


하버드 대학의 흑인 박사 라타냐 스위니의 사연을 예로 들어보자. 스위니는 어느 날 구글을 검색하다가 검색 결과 옆에 “체포되신 적이 있나요?”라는 광고 문구가 표시되는 것을 보고 소스라치게 놀랐다. 백인 동료가 검색했을 때는 이 광고가 표시되지 않았다. 스위니는 연구를 통해 구글 검색의 기계학습 도구가 흑인에게 흔한 이름을 체포 기록 광고와 연결함으로써 무심결에 인종주의적 편견을 드러냈음을 입증했다. -186쪽

어떤 서점에서 특정한 책이 유독 잘 나가자 주문을 더 넣어야겠다고 생각한다. 현재 이 책은 2위 책이 10부 팔릴 때마다 11부씩 팔리며 근소한 차이로 앞서고 있다. 그러나 신규로 주문한 책들이 도착하여 좋은 매대(이를테면 출입구 옆 탁자)에 진열되자 판매량이 곧 2위의 두 배로 뛰어오른다. 서점에서는 판매에 박차를 가하기 위해, 이윤을 낮추고 할인가에 책을 공급하여 신규 고객을 유치하려 한다. 이 시점에서 판매량은 2위의 네 배까지 증가했다. 고객들은 인기가 있으면 괜찮은 책이라고 생각하므로 판매량은 더더욱 증가한다. 심리학에서는 이를 단순 노출 효과mere-exposure effect라고 한다. 어느 시점에 책 판매량이 티핑포인트에 이르면 사람들은 흐름에 뒤처지지 않으려고 책을 산다. 어떤 드라마가 인구에 회자되면 궁금해서라도 채널을 맞추게 되는 것과 같은 이치다. - 215~216쪽

예술과 인문학에서 고정성이 사라지면 다른 곳에도 잠재적으로 해로운 영향을 미칠 수 있다. 킨들에서든 구글 도서에서든, 우리가 읽는 전자책은 온라인에 ‘원본’이 저장되어 클라우드를 통해 접근하게 되어 있으므로, 독자가 책을 사서 집에 가져간 뒤에도 출판사와 저자가 내용을 수정할 수 있다. 이 사실을 극명하게 보여주는 사건이 2009년에 일어났다. 아마존은 킨들 전자책으로 판매한 조지 오웰의 고전 소설 《1984》가 예상과 달리 저작권이 소멸되지 않았다는 사실을 뒤늦게 알게 되었다. 식겁한 아마존은 책을 모조리 삭제하기로 결정했다. 《1984》 전자책을 구매한 독자의 라이브러리에서 책이 사라진 것이다. 공교롭게도 《1984》는 막강한 권력 집단이 역사를 일상적으로 고쳐 씀으로써 대중을 조작하는 디스토피아적 미래를 묘사한 작품이다. 소설이 첫 출간된 지 60여 년이 지난 지금, 이렇듯 거대 서사를 수정하는 일이 기술적으로 가능해졌다. - 241쪽

무엇보다 중요한 일은 질문을 던지는 것이다. 간단한 대답을 기대해서는 안 된다. 슬라보이 지제크가 《마지막 때를 살아가기Living in End Times》에서 주장하듯, 쉽고 빠른 해결책을 추구하는 세상에서 필요한 것은 문제 자체를 문제화하는 급진적 사고방식이다. 이런 질문 중 하나는 알고리즘이 우리에게 해주고 있는 것이 무엇인가만이 아니라, 알고리즘이 애초에 무엇을 하도록 되어 있는가 하는 것이다. 이것은 난처한 질문이자, 특히 서비스가 이용자에게 공짜로 제공되는 것처럼 보이는 경우에는 꼭 물어야 할 질문이다. ‘적절하다’와 ‘뉴스 가치가 있다’ 같은 단어에는 숨겨진 의미가 있다. 누구에게 적절하고 뉴스 가치가 있는가 하는, 겉보기에 명백한 질문이 따라 나온다. - 293~294쪽

감사의 글
인터뷰에 시간을 내준 사람들
들어가며: 제목의 의미와 그 밖의 사이버 허풍

1장 자기 수량화
숫자를 통한 자기 이해
세상의 사이보그화
쇼핑은 창조다
쾌락 사업
물결 이론
잠시만요, 알고리즘 바꿔드릴게요
워비곤 호수 전략
인간의 잠재력을 수량화하다
트위터로 삶을 들여다보다
일종의 빅브라더
더 빨리, 더 행복하게 일하라
제거현실 서비스
넝마주이 퇴치
차별 공식?
모습 유지하기

2장 컴생연분
사랑 속 광기, 광기 속 이성
하모니를 찾아서
욕망을 분류하라
알고리즘 시대의 연애
이 관계를 정말 삭제하고 싶으십니까?
행운에서 행운을 잡다
손목에서 심장이 두근두근
술집 엿보기
성생활 모델링
사랑하는 시체들의 밤
욕망하는 기계
알고리즘과 나누는 사랑과 섹스
사랑의 코드
사랑의 불꽃을 수량화할 수 있을까?

3장 알고리즘은 전기법의 꿈을 꾸는가?
범죄는 왜 지진과 같을까?
도덕통계학자
진짜 마이너리티 리포트
다스 베이더인가, 루크 스카이워커인가?
변호사를 다 없애버려
이혼에도 알고리즘을
보이지 않는 집행자
공공장소의 정치학
너의 대사, 나의 대사
프리우스와 <더 러닝 트리>
규칙과 기준
한 사람의 발판은 다른 사람의 걸림돌
양육비 미지급 아버지 알고리즘
투명성 문제
판사, 배심원, 실행 코드

4장 예술가가 된 기계
어디에나 패턴이
영화의 미래
두 문화
평행우주
호소력의 역할
보편 매체 기계
그대 자신에게 참/거짓이 되라
읽는 기계
데이터테인먼트
소비에트 러시아에서는 영화가 나를 본다
움직이는 표적
디지털 문지기
취향의 표준화
예술의 비인간화

결론: 미래 예언
생각 없는 생각의 힘
세상을 알고리즘화하다
거대 구조조정
삽이 아니라 숟가락
기계 이후 시대의 객관성
알고리즘이 명예를 훼손할 수 있을까?
트위터는 왜 신문을 닮았을까?(구글은 왜 신문을 안 닮았을까?)
세상을 조직화하다
만물의 공식 세상에서 인간성을 지켜내려면?

참고도서
주
찾아보기