박영사

SITEMAP
전체메뉴닫기
닫기
BLACK BOX를 열기 위한 인공지능법
신간
BLACK BOX를 열기 위한 인공지능법
저자
김윤명
역자
-
분야
법학
출판사
박영사
발행일
2022.01.01
개정 출간예정일
페이지
640P
판형
크라운판
ISBN
979-11-303-4019-7
부가기호
93360
강의자료다운
-
정가
35,000원

초판발행 2022.01.01


‘또 다른 인간’을 만날 수 있을까?
서 문


인공지능이 학습하는 과정은 인류의 역사이자 산물인 데이터를 바탕으로 새로운 가치를 만들어가는 것이다. 이런 면은 저작권법상 공정이용 기준 중 하나인 변형적 이용(transformative use)과 유사하다. 데이터가 중요한 시대이기 때문에 데이터의 활용이 공정이용에 해당하는지 여부가 중요하다는 점을 인식한다면, 데이터 공정이용(fair use)에 대한 고민은 또 다른 인간을 만나기 위한 열쇠이다. 그러한 고민의 과정을 거치면서 언젠가는 인공지능이 인간을 대신하는 날이 올 것이다. 그렇다면,

“과학기술은 인간을 풍요롭게 하는가?”

과학기술이 가져오는 문제 또한 사람의 문제이기 때문에 사람의 문제로 보고, 풀어야 한다. 사람의 문제에 사람이 아닌 다른 객체가 참여하거나 대체되는 순간, 사람은 어느 곳에도 존재하지 않는 대상이 됨으로서, 책임져야 할 사람은 어디에도 없을 것이기 때문이다. 가습기 살균제 사건, 후쿠시마 원전 사건, 환경 파괴와 기후변화, 자율살상무기 등은 현재의 과학기술 수준에서는 면책을 받거나 또는 책임 주체를 확인하기 어려운 사안들이다. 이는 단순한 사건이 아닌 재앙과 다름없다. 기술을 방임하거나 악의적인 활용을 방치할 경우, 사람을 위한다는 기술이 오히려 사람을 괴롭히는 역설적인 상황을 경험하게 될 것이다. 아니, 지금 이 순간 경험하고 있는지도 모른다! 이러한 이유로, 과학기술로 인한 문제는 과학기술로 해결될 것이라는 낭만적(浪漫的)인 생각은 버려야 한다. 과학기술이 완벽한 것은 아니다. 많은 문제를 인류에게 던진 것도 사실이기 때문이다.
누구인지는 기억나지 않지만, 질문은 그 사람의 수준을 보여준다고 한다. 수십 년 전 대학 때 들었던 것인데, 이처럼 무의식 속에 남겨져있던 인식이 기억으로 내재하여 다시 생각으로 떠오른 것이다. 그것도 위 문장을 써내려간 순간, 갑자기 떠올랐다는 점에서 뇌 구조와 기능에 대해 경이롭다는 생각이다. 이러한 생각의 과정을 정보통신 및 과학기술을 통하여 밝히고자 많은 연구자들이 매달리고 있다. 그만큼 필요한 일일까 싶은 생각이 들기도 하지만, 부인할 수 없는 것은 호기심(好奇心)이 인류의 발전을 가져왔다는 사실이다. 앞으로도 호기심이 그렇게 인류의 발전을 이끌 것이다.
또 다른 기술인 인공지능은 어떠할까? 기술이라는 본질은 다르지 않겠지만, 인공지능으로 할 수 있는 일이 많다는 것은 이제 누구라도 안다. 그렇지만, 그것을 어떻게 잘할 것인지에 대해서는 의문을 갖는다. 주된 관심은 인공지능이 과연 인간을 넘어서는 능력을 가질 수 있는지에 대한 것이다. 바둑과 같은 특정 분야에서의 능력이야, 이미 인간을 넘어서고 있다. 그러나, 인간의 작동이나 지시, 명령이 처음 작용하기 전에는 그저 무형의 객체인 물건(物件)일 뿐이다. 인공지능 로봇은 스스로 작동을 시작하는 것이 어렵기 때문에 그 시작점을 사람이 알려줘야 한다. 즉, 시작 스위치를 작동시켜야 한다는 점이다.
인간은 인공지능과 직간접적인 관련을 맺는다. 인공지능이 제공하는 서비스를 이용하는 자로서 소비자, 인공지능 서비스를 제공하는 플랫폼사업자, 인공지능을 이용하는 이용자, 인공지능을 개발하는 개발자, 인공지능의 학습을 위해 데이터를 생성하거나 이용 및 거래에 제공하는 자, 인공지능으로 인하여 차별 등을 받는 자, 인공지능으로 인한 문제를 규제하고자 하는 규제권자, 입법권자 등 다양하다. 인공지능이 관여할 수 있는 수많은 분야가 있다. 법률도 마찬가지이다. 이처럼 인공지능은 여러 분야의 수많은 인간들과 관계를 맺는다.
인간의 능력을 넘어서는 일을 처리하는 것 이외에 인공지능의 장점은 무엇일까? 무엇보다, 인간이 개발한다는 점이다. 인간을 위해 어떠한 것이 필요한지를 알 수 있기 때문이다. 맹자(孟子)의 성선설(性善說)에 따르면 인간은 본래적으로 선하다. 선한 주체로서 인간은 그 성장과정에서 얻은 다양한 경험과 학습을 통하여 현재 모습을 이루게 될 것이다. 동의한다. 한 가지 유감스러운 점은 그 과정에서 제대로 학습 받을 기회조차도 얻지 못한 사람들도 있다는 것이다. 인공지능도 제대로 학습 받을 기회를 얻지 못했다면 어떠할까? 물론, 학습 받지 못한 모든 사람이 그릇된 결과를 가져오는 것도 아니고, 학습 받은 모든 사람이 올바른 행동을 하는 것도 아니다. 결국, 사람은 자신이 원하는 것을 선택하는 것이라는 결론도 가능하다. 적어도 현재의 수준에서 인공지능은 학습 받을 기회를 스스로 선택할 수 없다. 제대로 된 학습기회를 받지 못할 가능성도 배제하지 못한다. 제대로 된 학습기회를 갖는다면 학습과정에 관여된 많은 자원들을 기준으로 인공지능의 가치를 판단할 수 있을 것이다.
역사 이래로 창작 활동은 인간의 영역으로만 여겨졌지만, 이제는 인공지능이 저작물을 이용하고, 그 결과로써 인간 이상의 창작물을 만들어내는 지적 활동을 하고 있다. 인공지능이 보다 개선되고 합리적인 판단을 내릴 수 있도록 학습시키는 과정에서 중요한 것이 데이터(raw data)이다. 인공지능이 데이터를 학습하고 그에 따라 새로운 결과물을 생성함에 따라 제기되는 저작권 문제는 크게 2가지로 대별된다. 첫째는 인공지능을 학습시키기 위해 저작물을 이용하는 것이 저작권법이 추구하는 문화 창달을 위한 ‘문화의 향유’인지 여부이다. 둘째는 알고리즘(algorithm)이 인간의 의사결정을 대신할 수 있는 상황이 도래할 것으로 예견되는 바, 이러한 상황 하에서 저작권법이 이 인공지능 기술혁신을 저해하는지 여부이다. 인공지능과 문화의 향유가 각기 다른 층(layer)에 해석되고 적용되는 것으로 볼 수 있지만, 현실에서는 밀접하게 관련을 맺고 있다는 점에서 저작권법에 따른 검토 내지 방향에 대해 살펴볼 실익이 있다.
이러한 과정을 거치면서 또 다른 인간이 나타날 가능성은 커질 것이다. 그렇지만, 정말 인간과 같은 인지능력을 갖춘 경우는 언제일지 알 수 없다. 그렇기 때문에 이에 대한 다양한 논의가 이루어지는 것은 바람직하다. 이러한 논의는 기술이 선도(先導)해 가는 것이 중요하고, 그 기술이 바람직한 사회적 합의를 이끌어갈 수 있도록 법제도로 뒷받침해야 한다.
인공지능에 관한 연구는 행운이었다. 인간의 또 다른 모습을 그려볼 수 있었기 때문이다. 그리고, 인공지능과 관련된 다양한 법제도, 사회현상에 대해 고민할 수 있었기 때문이다. 2016년 알파고와 이세돌이 함께 한 세기의 대국 즈음부터 소프트웨어정책연구소(SPRi)에서 인공지능 관련 글을 쓰면서 시작한 ‘인공지능법 연구’의 제1막은 여기서 마친다. 2018년 12월, 국회 보좌관직을 의원면직하면서 이 책에 대해 고민하기 시작했다. 많은 시간이 흘러 언제까지 붙들고 있을 수는 없어 일단 마무리한다. 대전환 시대, 누구라도 인간다운 삶을 살 수 있어야 한다. 인공지능과의 공존도 중요하다. 이를 위한 윤리적 가이드라인이나 법제도의 설계가 중요한 이유이다. 이 한 권의 책이 보탬이 될 수 있기를 희망한다. 이 책이 나오기까지 애써주신 박영사 김명희 차장님, 김한유 대리님께 감사드린다.
2016년 3월, 알파고의 승리(勝利)에 놀라 울먹이던 작은 아이는 블록형 프로그래밍 언어인 스크래치(scratch)로 스스로 프로그래밍 하는 나이가 되었다. “인공지능이 인간을 위해 많은 것을 할 것”이라고 한다. 작은 아이의 바람처럼 인공지능이 인간을 위해 많은 것을 하길 바라고, 또 그렇게 되도록 노력하고자 한다. 사랑하는 아내와 그리고 아부지로서 아이들과 나눈 이야기가 많은 도움이 되었다. 감사하다.

2021.11.22.
양평 ‘도서관N’에서
쓰다.

 김윤명(金潤命)
남도의 니르바나 해남에서 태어났다. 광주 인성고(仁星高)와 전남대학교를 졸업하고, 경희대학교에서 지식재산법으로 박사학위를 받았다. 네이버에서 정책수석으로 일했고, 소프트웨어정책연구소에서 SW·AI법에 대해 연구했다. 국회에서 (박정어학원의 그) 박정 의원 보좌관으로 입법과 정치에, 이재명 경기도지사 선거캠프 및 인수위인 새로운경기위원회에서 활동하고 있다. 모바일게임 애니팡 신화의 주역인 선데이토즈에서 법무와 대외협력 일을 했다. 현재는 대통령소속 국가지식재산위원회 AI-IP특별위원회 위원으로 활동하고 있다.
글쓰기를 좋아하여 게임법, 로보스케이프, 인공지능과 리걸프레임, 소프트웨어와 리걸프레임, 게임서비스와 법, 인터넷서비스와 저작권법 등의 책을 혼자 쓰거나 동료와 같이 썼다. 그 중 로보스케이프는 청소년 권장도서로, 게임서비스와 법 및 인터넷서비스와 저작권법은 우수 학술도서로 선정되기도 했다.
사는 곳은 물 맑은 양평이다. 아이들이 땅을 밟고 사는 삶을 원해서이다. 더 너른 땅에서 곡식과 나무를 심고 몸을 움직이는 일을 하고 싶은 마음이다. Go get it!으로 기억되는 라이코스(Lycos) 시절부터 개발자였던, 그리고 서울 사람으로 시골에서 생활해야 하는 아내에게는 늘 미안한 마음이다.
그래도, 시간이 남으면 시(詩)를 쓰고 사진을 찍는다. 아내와 아이들과 시고르자브종 리카, 동네 풍경, 하늘, 바람, 꽃 등이 피사체가 된다. 주변의 짠하고도 아심찬한 모습도 담는다. 집에 도서관N을 두었다. 정사서1급 자격증이 있지만, 도서관장은 아내이다. N의 컨셉은 네이버와 한게임의 합병법인 NHN(Next Human Network)의 Next에서 따왔다. 도서관엔(N) 뭐가 있을까? 도서관엔(N) 길이 있지! 도서관 다음엔(N) 뭘 만들지? 이런 따위의 장난스러운 도서관N으로 기억되길 바란다. 모든 이들을 위해 더 큰 도서관N을 만들고자 한다.
그리고 나서, 인공지능은 인간이 피할 수 없는 존재이기에 인공지능과의 동존(同存)을 위하여 고민했다. 이 책이 그 결과이다.
끝은 시작이다. 이젠 인공지능이 한 축이 될 문화시대를 위해 ‘문화예술과 법’에 집중하고자 한다. 오래전 기획을 마쳤고, 홀가분한 마음으로 시작하려 한다. 다음엔 ‘도서관법’이나 “SW법”으로 쓸 요량이다. 혹여, 연락하실 분은 digitallaw@naver.com으로 해주시길 바란다.

Chapter 01
인공지능을 위한 시론 / 1

서론 ▶ 왜, 인공지능법인가? 3
1. 인공지능법을 논해야 하는 이유 3
2. 문화, 그리고 생각이란 무엇인가? 4
3. 그렇다면, 왜 인공지능법인가? 9
제1절 ▶ 인공지능 일반: 인공지능과 사회변화를 중심으로 15
1. 제4차 산업혁명과 인공지능 15
2. 인공지능의 실체는 무엇인가? 20
3. 선의의 기술로서 인공지능 25
4. 인공지능과 사회변화 34
5. 공공영역에서의 활용 39
제2절 ▶ 인공지능 기술 45
1. 인공지능의 출발과 튜링머신 45
2. 인공지능 기술의 흐름과 전개: 다트머스 회의 49
3. 인공지능의 역사적 분기점 52
4. 인공지능과 기계학습 63
5. 인공지능 기술의 유형 및 분류 68
6. 기계학습 알고리즘 70
7. 오픈소스와 인공지능 73
제3절 ▶ 인공지능 기술과 법 77
1. 인공지능에게 법이란? 77
2. 법과 기술의 공진화  79
3. 기술을 둘러싼 법률문제 83
4. 연성법으로서 인공지능 윤리 86
5. 인공지능 관련 법제 현황 90
6. 인공지능을 위한 법 128


Chapter 02
인공지능의 책임과 의무 / 133

제4절 ▶ 인공지능(로봇)의 권리와 의무 135
1. 인공지능(로봇)을 선택한 이유 135
2. 인공지능(로봇)의 법적 실체 136
3. 창작자로서 인공지능(로봇) 137
4. 인공지능(로봇)의 권리 139
5. 권리의무의 주체로서 인공지능 로봇 142
6. 로봇의 법인격 145
7. 로봇의 권리부여와 법적 과제 152
8. 포스트휴먼과 인공지능 로봇  153
제5절 ▶ 인공지능의 오류와 책임 155
1. 인공지능의 오류가 가져올 수 있는 문제 155
2. SW로서 인공지능 오류  156
3. 인공지능 오류와 안전사고 158
4. 인공지능 오류에 따른 책임 161
5. SW의 안전과 제조물 책임 165
6. SW안전 법제와 인공지능 174


Chapter 03
인공지능과 데이터 / 179

제6절 ▶ 존재하는 모든 것으로서 데이터 181
1. 기술적 상상과 데이터 181
2. 데이터 시대, 변화하는 저작권법의 역할 184
3. 데이터의 편향성 191
4. 알고리즘과 결합된 데이터 윤리 195
제7절 ▶ 데이터경제와 데이터권 199
1. 데이터경제의 도래 199
2. 데이터를 둘러싼 법률관계 200
3. 데이터의 확보 및 가공  206
4. 2차적 데이터의 권리관계 210
5. 법조경합과 우선순위 212
제8절 ▶ 데이터 거래 214
1. 데이터 거래의 필요와 그 한계 214
2. 데이터 거래의 활성화 방안 215
3. 데이터 거래구조의 유형화 217
4. 데이터 거래 활성화를 위한 제도 설계 224
5. 데이터 거버넌스 236
제9절 ▶ 기계학습과 데이터 공정이용 241
1. 저작권법의 균형과 혁신으로서 공정이용 241
2. 혁신으로서 공정이용과 그 가치 243
3. 데이터 활용 기술의 공익성과 공정이용: TDM과 기계학습의 이용을 중심으로  250
4. 공정이용의 한계  266
5. 데이터 거버넌스와 공정이용 267


Chapter 04
인공지능과 지식재산 / 271

제10절 ▶ 인공지능과 창작 273
1. 왜, 인공지능의 창작인가? 273
2. 인공지능에 따른 지식재산의 변화 274
3. 딥러닝 과정의 저작권 문제  - 인공지능이 저작물을 학습에 이용하는 것은 어떠한가? 277
4. 인공지능이 만든 창작물의 저작권법적 검토 280
5. 인공지능 창작물에 대한 저작권법의 한계 290
제11절 ▶ SW특허와 인공지능 300
1. SW로서 인공지능 300
2. SW의 보호와 특허제도  304
3. 특허로서 SW 보호와 이를 둘러싼 이해관계 312
4. SW 및 인공지능에 대한 특허법과 저작권법의 쟁점 319
5. 인공지능 발명과 발명자권 333
6. 인공지능 발명과 제도적 과제 341
제12절 ▶ 인공지능과 지식재산권 침해 344
1. 인공지능은 지식재산권을 침해하는가? 344
2. 인공지능에 의한 저작권의 침해 345
3. 인공지능에 의한 특허권의 침해 353
4. 부정경쟁방지 및 영업비밀보호법 위반 357
5. 입법론적 대응 360


Chapter 05
인공지능 윤리와 프로파일링 / 363

제13절 ▶ 인공지능과 윤리 365
1. 왜, 알고리즘 윤리인가? 365
2. 인공지능 윤리에 대한 논의 367
3. 인공지능을 둘러싼 윤리 370
4. 인공지능 이용의 윤리 373
5. 인공지능 윤리의 한 축인 로봇윤리 377
6. 인공지능 윤리가 추구하는 가치 382
7. 인공지능 윤리 논의의 한계 384
8. 결론: 인공지능 또는 로봇윤리는 사람의 윤리이다.  389
제14절 ▶ 인공지능 프로파일링과 개인정보 392
1. 개인정보의 재산적 프레임 392
2. 개인정보자기결정권의 객체로서 개인정보 395
3. 개인정보자기결정권의 구현과 동의  399
4. 목적 제한의 원칙  403
5. 개인정보 비식별화 407
6. 프로파일링과 투명성 확보 411
7. 정보주체의 권리로서 설명요구권 415

Chapter 06
인공지능과 알고리즘 / 421

제15절 ▶ 인공지능과 알고리즘 공정성  423
1. 왜, 알고리즘 공정성에 대해 논의하여야 하는가? 423
2. 알고리즘에 대한 법적 고찰: 알고리즘 및 이에 부수하는 요소를 중심으로 428
3. 알고리즘 확산과 이에 따른 문제점 435
제16절 ▶ 알고리즘 규제 447
1. 알고리즘 규제와 그 필요성(또는 정당성) 447
2. 알고리즘의 사용과 알 권리 472
3. 알고리즘 규제 반론과 대응 475
4. 입법 방안과 정책적 고려 495
5. 전망과 과제 503


Chapter 07
인공지능 로봇과 자율무기 / 505

제17절 ▶ 지능형 로봇 507
1. 호모로보틱스(Homo Robotics)는 새로운 인류가 될 수 있을까? 507
2. 로봇의 정의와 범위 509
3. 로봇 정책 514
4. 로봇을 둘러싼 법적 쟁점 517
5. 로봇 안전 확보와 테스팅 520
6. 윤리를 넘어선 법적 책임 522
7. 로봇 규제 525
8. 의제된 인류로서, 호모로보틱스(Homo Robotics) 527
제18절 ▶ 인공지능과 자율주행차 529
1. 왜, 자율주행차인가? 529
2. 자율주행을 위한 법적 검토 531
3. 사고 대응을 위한 윤리적 결정 535
4. 자율주행차로 인한 사고 책임 537
5. 자율주행자동차사고조사위원회 543
6. 자율주행을 위한 정밀지도데이터 546
7. 지도데이터와 법적 이슈 548
제19절 ▶ 인공지능과 자율무기 555
1. 인공지능의 무기화는 바람직한가? 555
2. 자율무기의 문제점 557
3. 국제법적 대응 561
4. 자율무기에 대한 책임 논의 566
5. 자율무기에 대한 통제와 대응체계 569
6. 자율무기와 통제수단으로써, 킬스위치는 필요한가? 572
7. 경고, 자율무기는 필요악이 될 것인가? 576


Chapter 08
인공지능과 위험사회 / 579

제20절 ▶ 인공지능과 위험사회 581
1. 왜, 위험사회 대응이 필요한가? 581
2. 위험 유형 582
3. 인공지능과 위험관리 585
4. 사회적 안전 정책 587
5. 일자리와 로봇세 591
제21절 ▶ 보론: 인공지능 연구의 또 다른 출발선에서  597
1. 미래학으로서 인공지능법학 597
2. 아이들과의 대화 599
3. 선택 602
4. 예외와 제한  603

▶ 참고 문헌 / 605


QUICK