○책속으로

‘또 다른 인간’을 만날 수 있을까?

서 문
인공지능이 학습하는 과정은 인류의 역사이자 산물인 데이터를 바탕으로 새로운 가치를 만들어가는 것이다. 이런 면은 저작권법상 공정이용 기준 중 하나인 변형적 이용(transformative use)과 유사하다. 데이터가 중요한 시대이기 때문에 데이터의 활용이 공정이용에 해당하는지 여부가 중요하다는 점을 인식한다면, 데이터 공정이용(fair use)에 대한 고민은 또 다른 인간을 만나기 위한 열쇠이다. 그러한 고민의 과정을 거치면서 언젠가는 인공지능이 인간을 대신하는 날이 올 것이다. 그렇다면,

“과학기술은 인간을 풍요롭게 하는가?”

과학기술이 가져오는 문제 또한 사람의 문제이기 때문에 사람의 문제로 보고, 풀어야 한다. 사람의 문제에 사람이 아닌 다른 객체가 참여하거나 대체되는 순간, 사람은 어느 곳에도 존재하지 않는 대상이 됨으로서, 책임져야 할 사람은 어디에도 없을 것이기 때문이다. 가습기 살균제 사건, 후쿠시마 원전 사건, 환경 파괴와 기후변화, 자율살상무기 등은 현재의 과학기술 수준에서는 면책을 받거나 또는 책임 주체를 확인하기 어려운 사안들이다. 이는 단순한 사건이 아닌 재앙과 다름없다. 기술을 방임하거나 악의적인 활용을 방치할 경우, 사람을 위한다는 기술이 오히려 사람을 괴롭히는 역설적인 상황을 경험하게 될 것이다. 아니, 지금 이 순간 경험하고 있는지도 모른다! 이러한 이유로, 과학기술로 인한 문제는 과학기술로 해결될 것이라는 낭만적(浪漫的)인 생각은 버려야 한다. 과학기술이 완벽한 것은 아니다. 많은 문제를 인류에게 던진 것도 사실이기 때문이다.
누구인지는 기억나지 않지만, 질문은 그 사람의 수준을 보여준다고 한다. 수십 년 전 대학 때 들었던 것인데, 이처럼 무의식 속에 남겨져있던 인식이 기억으로 내재하여 다시 생각으로 떠오른 것이다. 그것도 위 문장을 써내려간 순간, 갑자기 떠올랐다는 점에서 뇌 구조와 기능에 대해 경이롭다는 생각이다. 이러한 생각의 과정을 정보통신 및 과학기술을 통하여 밝히고자 많은 연구자들이 매달리고 있다. 그만큼 필요한 일일까 싶은 생각이 들기도 하지만, 부인할 수 없는 것은 호기심(好奇心)이 인류의 발전을 가져왔다는 사실이다. 앞으로도 호기심이 그렇게 인류의 발전을 이끌 것이다.
또 다른 기술인 인공지능은 어떠할까? 기술이라는 본질은 다르지 않겠지만, 인공지능으로 할 수 있는 일이 많다는 것은 이제 누구라도 안다. 그렇지만, 그것을 어떻게 잘할 것인지에 대해서는 의문을 갖는다. 주된 관심은 인공지능이 과연 인간을 넘어서는 능력을 가질 수 있는지에 대한 것이다. 바둑과 같은 특정 분야에서의 능력이야, 이미 인간을 넘어서고 있다. 그러나, 인간의 작동이나 지시, 명령이 처음 작용하기 전에는 그저 무형의 객체인 물건(物件)일 뿐이다. 인공지능 로봇은 스스로 작동을 시작하는 것이 어렵기 때문에 그 시작점을 사람이 알려줘야 한다. 즉, 시작 스위치를 작동시켜야 한다는 점이다.
인간은 인공지능과 직간접적인 관련을 맺는다. 인공지능이 제공하는 서비스를 이용하는 자로서 소비자, 인공지능 서비스를 제공하는 플랫폼사업자, 인공지능을 이용하는 이용자, 인공지능을 개발하는 개발자, 인공지능의 학습을 위해 데이터를 생성하거나 이용 및 거래에 제공하는 자, 인공지능으로 인하여 차별 등을 받는 자, 인공지능으로 인한 문제를 규제하고자 하는 규제권자, 입법권자 등 다양하다. 인공지능이 관여할 수 있는 수많은 분야가 있다. 법률도 마찬가지이다. 이처럼 인공지능은 여러 분야의 수많은 인간들과 관계를 맺는다.
인간의 능력을 넘어서는 일을 처리하는 것 이외에 인공지능의 장점은 무엇일까? 무엇보다, 인간이 개발한다는 점이다. 인간을 위해 어떠한 것이 필요한지를 알 수 있기 때문이다. 맹자(孟子)의 성선설(性善說)에 따르면 인간은 본래적으로 선하다. 선한 주체로서 인간은 그 성장과정에서 얻은 다양한 경험과 학습을 통하여 현재 모습을 이루게 될 것이다. 동의한다. 한 가지 유감스러운 점은 그 과정에서 제대로 학습 받을 기회조차도 얻지 못한 사람들도 있다는 것이다. 인공지능도 제대로 학습 받을 기회를 얻지 못했다면 어떠할까? 물론, 학습 받지 못한 모든 사람이 그릇된 결과를 가져오는 것도 아니고, 학습 받은 모든 사람이 올바른 행동을 하는 것도 아니다. 결국, 사람은 자신이 원하는 것을 선택하는 것이라는 결론도 가능하다. 적어도 현재의 수준에서 인공지능은 학습 받을 기회를 스스로 선택할 수 없다. 제대로 된 학습기회를 받지 못할 가능성도 배제하지 못한다. 제대로 된 학습기회를 갖는다면 학습과정에 관여된 많은 자원들을 기준으로 인공지능의 가치를 판단할 수 있을 것이다.
역사 이래로 창작 활동은 인간의 영역으로만 여겨졌지만, 이제는 인공지능이 저작물을 이용하고, 그 결과로써 인간 이상의 창작물을 만들어내는 지적 활동을 하고 있다. 인공지능이 보다 개선되고 합리적인 판단을 내릴 수 있도록 학습시키는 과정에서 중요한 것이 데이터(raw data)이다. 인공지능이 데이터를 학습하고 그에 따라 새로운 결과물을 생성함에 따라 제기되는 저작권 문제는 크게 2가지로 대별된다. 첫째는 인공지능을 학습시키기 위해 저작물을 이용하는 것이 저작권법이 추구하는 문화 창달을 위한 ‘문화의 향유’인지 여부이다. 둘째는 알고리즘(algorithm)이 인간의 의사결정을 대신할 수 있는 상황이 도래할 것으로 예견되는 바, 이러한 상황 하에서 저작권법이 이 인공지능 기술혁신을 저해하는지 여부이다. 인공지능과 문화의 향유가 각기 다른 층(layer)에 해석되고 적용되는 것으로 볼 수 있지만, 현실에서는 밀접하게 관련을 맺고 있다는 점에서 저작권법에 따른 검토 내지 방향에 대해 살펴볼 실익이 있다.
이러한 과정을 거치면서 또 다른 인간이 나타날 가능성은 커질 것이다. 그렇지만, 정말 인간과 같은 인지능력을 갖춘 경우는 언제일지 알 수 없다. 그렇기 때문에 이에 대한 다양한 논의가 이루어지는 것은 바람직하다. 이러한 논의는 기술이 선도(先導)해 가는 것이 중요하고, 그 기술이 바람직한 사회적 합의를 이끌어갈 수 있도록 법제도로 뒷받침해야 한다.
인공지능에 관한 연구는 행운이었다. 인간의 또 다른 모습을 그려볼 수 있었기 때문이다. 그리고, 인공지능과 관련된 다양한 법제도, 사회현상에 대해 고민할 수 있었기 때문이다. 2016년 알파고와 이세돌이 함께 한 세기의 대국 즈음부터 소프트웨어정책연구소(SPRi)에서 인공지능 관련 글을 쓰면서 시작한 ‘인공지능법 연구’의 제1막은 여기서 마친다. 2018년 12월, 국회 보좌관직을 의원면직하면서 이 책에 대해 고민하기 시작했다. 많은 시간이 흘러 언제까지 붙들고 있을 수는 없어 일단 마무리한다. 대전환 시대, 누구라도 인간다운 삶을 살 수 있어야 한다. 인공지능과의 공존도 중요하다. 이를 위한 윤리적 가이드라인이나 법제도의 설계가 중요한 이유이다. 이 한 권의 책이 보탬이 될 수 있기를 희망한다. 이 책이 나오기까지 애써주신 박영사 김명희 차장님, 김한유 대리님께 감사드린다.
2016년 3월, 알파고의 승리(勝利)에 놀라 울먹이던 작은 아이는 블록형 프로그래밍 언어인 스크래치(scratch)로 스스로 프로그래밍 하는 나이가 되었다. “인공지능이 인간을 위해 많은 것을 할 것”이라고 한다. 작은 아이의 바람처럼 인공지능이 인간을 위해 많은 것을 하길 바라고, 또 그렇게 되도록 노력하고자 한다. 사랑하는 아내와 그리고 아부지로서 아이들과 나눈 이야기가 많은 도움이 되었다. 감사하다.

2021.11.22.
양평 ‘도서관N’에서
쓰다.

○추천사
이재명(전 경기도지사)
법불아귀(法不阿貴), 그리고 억강부약(抑强扶弱)

인공지능시대, 어느 때보다 공정해야 합니다. 인공지능을 가진 자와 그렇지 못한 자는 지금과는 전혀 다른 세상을 살아가야 할 것이기 때문입니다. 법은 귀한 것에 아부하지 않고, 약한 자를 위해야 합니다.
김윤명 박사의 책, 〈BLACK BOX를 열기 위한 인공지능법〉은 법만이 아닌 인공지능 관련 다양한 정책적 이슈를 함께 다루고 있습니다. 제가 보기에 그 기저는 법불아귀(法不阿貴), 그리고 억강부약(抑强扶弱)의 위민정신이 함께 하고 있습니다. 이런 점에서 김윤명 박사는 법적인 면만을 보는 것이 아닌 보다 유연한 정책적 관점으로 대하고 있음을 알 수 있습니다.
아시는 것처럼, 인공지능의 효용은 누구나가 인정합니다. 많은 일들을 할 것이라는 점, 합리적인 의사결정을 내릴 수 있다는 점도 긍정적입니다. 이를 위해 인공지능은 프로그래밍 되기보다는 데이터를 기반으로 스스로 학습하는 기계학습의 결과물입니다.
그 과정에서 인공지능은 의도하거나 또는 의도하지 않게 왜곡되거나, 편향적인 경향을 가지게 됩니다. 블랙박스(black box)처럼 잘 보이지 않고, 또한 왜 그러한지 설명도 하지 못합니다. 물론, 인간도 자신의 결정에 대해 직관적인 판단을 할 경우에는 설명하지 못하곤 합니다. 인간의 의사결정은 취소하거나 또는 손해배상 등의 책임을 질 수 있지만, 인공지능은 그에 대한 책임을 지기 어렵습니다.
인공지능이 스스로 했다면 인공지능에게 책임을 물어야겠지만, 어떤 식으로 물어야 할지 어렵습니다. 지금은 인공지능을 개발하거나 조작한 사람에게 물을 수밖에 없습니다. 그렇지만, 언젠가는 인간의 능력을 넘어설 때, 그때는 어떻게 하면 좋을까요?
이제는 하나하나 준비를 해나가야 합니다. 인공지능에 대해 어떻게 법적 지위를 부여하고, 그와 동시에 책임과 의무의 주체로 인정할 것인지는 여간 고민스러운 것이 아닐 것입니다.
김윤명 박사의 주장대로, 인공지능이 인간과 공존해가는 시대에 전통적인 법체계는 인공지능을 염두에 둔 것은 아니기 때문에 법적용에 있어서 합리성을 찾기가 쉽지 않습니다. 인공지능에 대응하기 위한 법제가 없다는 이유로 인공지능과 관련된 문제해결에 손 놓고 있을 수만은 없을 것입니다.
또한, 인공지능은 노동의 변화도 가져오고 있습니다. 단순 노동을 인공지능이 대체하기 쉽다고 하나 전문 분야도 다르지 않을 것입니다. 그 결과, 양극화는 더욱 심해질 것으로 전문가들은 예측합니다. 이러한 상황에 대비하기 위한 것이 기본소득(basic income)입니다. 기본소득은 헌법상 최고의 기본권인 행복추구권을 구체적으로 구현할 수 있는 수단입니다.
김윤명 박사가 이 책의 마지막에서 적고 있는 위험사회에 대응할 수 있는 방안으로써 제시하고 있는 기본소득과 그 재원으로서 로봇세나 데이터배당은 필요한 정책적 과제입니다. 기존 일자리를 유지하고, 양질의 일자리를 만드는 것은 국가의 책무입니다. 이 책무에 대해 저는 오랫동안 고민하고 실천해왔습니다.
인공지능시대를 대비하기 위한 법제도의 수립이나, 이슈에 대한 해결을 등 정책적 관점에서 중요한 교과서라고 생각됩니다. 이 책이 작은 시도이겠지만, 인공지능시대를 위한 큰 반향을 가져올 것으로 기대합니다.
꿈은 함께 하면 이루어질 수 있습니다.
김윤명 박사와 함께 꿈꿀 수 있다면 좋겠습니다.

Chapter 01 인공지능을 위한 시론 / 1

서론 ▶ 왜, 인공지능법인가? 3
1. 인공지능법을 논해야 하는 이유 3
2. 문화, 그리고 생각이란 무엇인가? 4
3. 그렇다면, 왜 인공지능법인가? 9
제1절 ▶ 인공지능 일반: 인공지능과 사회변화를 중심으로 15
1. 제4차 산업혁명과 인공지능 15
2. 인공지능의 실체는 무엇인가? 20
3. 선의의 기술로서 인공지능 25
4. 인공지능과 사회변화 34
5. 공공영역에서의 활용 39
제2절 ▶ 인공지능 기술 45
1. 인공지능의 출발과 튜링머신 45
2. 인공지능 기술의 흐름과 전개: 다트머스 회의 49
3. 인공지능의 역사적 분기점 52
4. 인공지능과 기계학습 63
5. 인공지능 기술의 유형 및 분류 68
6. 기계학습 알고리즘 70
7. 오픈소스와 인공지능 73
제3절 ▶ 인공지능 기술과 법 77
1. 인공지능에게 법이란? 77
2. 법과 기술의 공진화 79
3. 기술을 둘러싼 법률문제 83
4. 연성법으로서 인공지능 윤리 86
5. 인공지능 관련 법제 현황 90
6. 인공지능을 위한 법 128

Chapter 02 인공지능의 책임과 의무 / 133

제4절 ▶ 인공지능(로봇)의 권리와 의무 135
1. 인공지능(로봇)을 선택한 이유 135
2. 인공지능(로봇)의 법적 실체 136
3. 창작자로서 인공지능(로봇) 137
4. 인공지능(로봇)의 권리 139
5. 권리의무의 주체로서 인공지능 로봇 142
6. 로봇의 법인격 145
7. 로봇의 권리부여와 법적 과제 152
8. 포스트휴먼과 인공지능 로봇 153
제5절 ▶ 인공지능의 오류와 책임 155
1. 인공지능의 오류가 가져올 수 있는 문제 155
2. SW로서 인공지능 오류 156
3. 인공지능 오류와 안전사고 158
4. 인공지능 오류에 따른 책임 161
5. SW의 안전과 제조물 책임 165
6. SW안전 법제와 인공지능 174

Chapter 03 인공지능과 데이터 / 179

제6절 ▶ 존재하는 모든 것으로서 데이터 181
1. 기술적 상상과 데이터 181
2. 데이터 시대, 변화하는 저작권법의 역할 184
3. 데이터의 편향성 191
4. 알고리즘과 결합된 데이터 윤리 195
제7절 ▶ 데이터경제와 데이터권 199
1. 데이터경제의 도래 199
2. 데이터를 둘러싼 법률관계 200
3. 데이터의 확보 및 가공 206
4. 2차적 데이터의 권리관계 210
5. 법조경합과 우선순위 212
제8절 ▶ 데이터 거래 214
1. 데이터 거래의 필요와 그 한계 214
2. 데이터 거래의 활성화 방안 215
3. 데이터 거래구조의 유형화 217
4. 데이터 거래 활성화를 위한 제도 설계 224
5. 데이터 거버넌스 236
제9절 ▶ 기계학습과 데이터 공정이용 241
1. 저작권법의 균형과 혁신으로서 공정이용 241
2. 혁신으로서 공정이용과 그 가치 243
3. 데이터 활용 기술의 공익성과 공정이용: TDM과 기계학습의 이용을 중심으로 250
4. 공정이용의 한계 266
5. 데이터 거버넌스와 공정이용 267

Chapter 04 인공지능과 지식재산 / 271

제10절 ▶ 인공지능과 창작 273
1. 왜, 인공지능의 창작인가? 273
2. 인공지능에 따른 지식재산의 변화 274
3. 딥러닝 과정의 저작권 문제 - 인공지능이 저작물을 학습에 이용하는 것은 어떠한가? 277
4. 인공지능이 만든 창작물의 저작권법적 검토 280
5. 인공지능 창작물에 대한 저작권법의 한계 290
제11절 ▶ SW특허와 인공지능 300
1. SW로서 인공지능 300
2. SW의 보호와 특허제도 304
3. 특허로서 SW 보호와 이를 둘러싼 이해관계 312
4. SW 및 인공지능에 대한 특허법과 저작권법의 쟁점 319
5. 인공지능 발명과 발명자권 333
6. 인공지능 발명과 제도적 과제 341
제12절 ▶ 인공지능과 지식재산권 침해 344
1. 인공지능은 지식재산권을 침해하는가? 344
2. 인공지능에 의한 저작권의 침해 345
3. 인공지능에 의한 특허권의 침해 353
4. 부정경쟁방지 및 영업비밀보호법 위반 357
5. 입법론적 대응 360

Chapter 05 인공지능 윤리와 프로파일링 / 363

제13절 ▶ 인공지능과 윤리 365
1. 왜, 알고리즘 윤리인가? 365
2. 인공지능 윤리에 대한 논의 367
3. 인공지능을 둘러싼 윤리 370
4. 인공지능 이용의 윤리 373
5. 인공지능 윤리의 한 축인 로봇윤리 377
6. 인공지능 윤리가 추구하는 가치 382
7. 인공지능 윤리 논의의 한계 384
8. 결론: 인공지능 또는 로봇윤리는 사람의 윤리이다. 389
제14절 ▶ 인공지능 프로파일링과 개인정보 392
1. 개인정보의 재산적 프레임 392
2. 개인정보자기결정권의 객체로서 개인정보 395
3. 개인정보자기결정권의 구현과 동의 399
4. 목적 제한의 원칙 403
5. 개인정보 비식별화 407
6. 프로파일링과 투명성 확보 411
7. 정보주체의 권리로서 설명요구권 415

Chapter 06 인공지능과 알고리즘 / 421

제15절 ▶ 인공지능과 알고리즘 공정성 423
1. 왜, 알고리즘 공정성에 대해 논의하여야 하는가? 423
2. 알고리즘에 대한 법적 고찰: 알고리즘 및 이에 부수하는 요소를 중심으로 428
3. 알고리즘 확산과 이에 따른 문제점 435
제16절 ▶ 알고리즘 규제 447
1. 알고리즘 규제와 그 필요성(또는 정당성) 447
2. 알고리즘의 사용과 알 권리 472
3. 알고리즘 규제 반론과 대응 475
4. 입법 방안과 정책적 고려 495
5. 전망과 과제 503

Chapter 07 인공지능 로봇과 자율무기 / 505

제17절 ▶ 지능형 로봇 507
1. 호모로보틱스(Homo Robotics)는 새로운 인류가 될 수 있을까? 507
2. 로봇의 정의와 범위 509
3. 로봇 정책 514
4. 로봇을 둘러싼 법적 쟁점 517
5. 로봇 안전 확보와 테스팅 520
6. 윤리를 넘어선 법적 책임 522
7. 로봇 규제 525
8. 의제된 인류로서, 호모로보틱스(Homo Robotics) 527
제18절 ▶ 인공지능과 자율주행차 529
1. 왜, 자율주행차인가? 529
2. 자율주행을 위한 법적 검토 531
3. 사고 대응을 위한 윤리적 결정 535
4. 자율주행차로 인한 사고 책임 537
5. 자율주행자동차사고조사위원회 543
6. 자율주행을 위한 정밀지도데이터 546
7. 지도데이터와 법적 이슈 548
제19절 ▶ 인공지능과 자율무기 555
1. 인공지능의 무기화는 바람직한가? 555
2. 자율무기의 문제점 557
3. 국제법적 대응 561
4. 자율무기에 대한 책임 논의 566
5. 자율무기에 대한 통제와 대응체계 569
6. 자율무기와 통제수단으로써, 킬스위치는 필요한가? 572
7. 경고, 자율무기는 필요악이 될 것인가? 576

Chapter 08 인공지능과 위험사회 / 579

제20절 ▶ 인공지능과 위험사회 581
1. 왜, 위험사회 대응이 필요한가? 581
2. 위험 유형 582
3. 인공지능과 위험관리 585
4. 사회적 안전 정책 587
5. 일자리와 로봇세 591
제21절 ▶ 보론: 인공지능 연구의 또 다른 출발선에서 597
1. 미래학으로서 인공지능법학 597
2. 아이들과의 대화 599
3. 선택 602
4. 예외와 제한 603

▶ 참고 문헌 / 605