중판발행 2022.09.10

초판발행 2021.07.22

인공지능에 대한 관심이 크게 늘고 있다. 대학에서의 연구도 매우 활발하게 이루어지고 있고, 이를 상용화하거나 실제 기업 현장에 적용하기 위한 노력 또한 활발하게 이루어지고 있다. 인공지능이라는 이름으로 불릴 수 있는 기술은 실제로는 매우 다양한 기술을 포괄한다. 이 중에는 매우 초보적이고 간단한 유형의 기술도 있고, 다른 한편 전문가들도 이해가 쉽지 않은 복잡한 방식도 지속적으로 개발되고 있다.
인공지능 기술은 적지 않은 경우에 응용과정을 거쳐 우리가 일상적으로 이용하는 상품과 서비스에 반영된다. 인공지능은 대부분의 경우에 우리의 생활을 편리하게 해 주지만, 동시에 불안감을 야기하는 경우도 있다. 불안감이 나타나는 배경 이유 중 하나는 흔히 ‘블랙박스’라고 부르는 인공지능, 특히 딥러닝 인공지능의 속성에 있다.
그런데 ‘블랙박스’라는 표현을 통해, 인공지능이 인간의 인지능력을 뛰어넘는 ‘미지의 영역’에 속하는 것이라는 환상을 갖게 되는 것은 아닐까? 기술에 대한 비현실적 환상과 비합리적 불안감은 묘하게 연결되어 있는 것으로 보인다. 사실 복잡한 인공지능이라고 해도 작동방식이나 판단과정에 대한 이해가 전혀 불가능한 것은 아니다. 인공지능의 작동에 대해 속속들이 파악하는 것이 어렵다고 하더라도, 예를 들어, 어떤 유형의 모형이 활용되었는지를 통해 작동방식에 대해 개략적으로 가늠할 수 있는 면도 있고, 학습을 위해 어떤 데이터가 이용되었는지를 통해 부분적인 파악이 가능한 면도 있고, 또는 입력값과 결괏값을 분석하여 이해가 가능한 면도 있다. 그런 점에서, ‘블랙박스’라는 표현은 오해의 소지가 많은 표현이다.
이 책은 이러한 문제의식을 바탕으로 하여 인공지능의 원리에 대해 소개하는 것을 주목적으로 한다. 인공지능이 사회 여러 곳에 본격적으로 도입되는 과정에서 이용자들의 신뢰(trust)를 얻을 수 있는지 여부가 결국 기술의 장기적 성패를 가르는 핵심 요소라는 판단을 전제로, 이를 위한 전제 조건으로 흔히 언급되는 투명성(transparency), 설명가능성(explainability) 등의 개념을 어떻게 바라볼 것인지에 대한 저자들의 고민을 담은 것이다. 투명성과 설명가능성 등의 개념을 염두에 두고, 인공지능에 대한 일반적인 설명을 제공하는 동시에 설명가능성에 대한 최근의 연구 흐름을 담기 위해 노력하였다. 또한 관련 이슈들에 대한 법적 논의나 의학 영역에서의 현실적 응용도 포함하였다.
인공지능의 투명성과 설명가능성에 관해서는 몇 년 전부터 학계의 관심이 늘어나면서 매우 활발하게 연구가 진행되는 영역이다. 이 영역의 연구가 축적되면서 인공지능에 대한 사회적 신뢰의 확보에도 점차 더 많은 기여를 할 수 있을 것으로 본다.
집필진의 연구작업은 2018년에 시작되었다. 이 작업의 문제의식을 적절히 반영한 연구작업의 추진을 위해서는 다양한 학문배경을 가진 연구진의 구성이 필수적이었다. 그래서 공학, 통계학, 법학, 의학을 포함한 다양한 학문 영역의 소양을 가진 연구진이 꾸려졌고, 연구진 사이에 주기적으로 의견교환을 하는 자리가 마련되었다. 여러 영역의 연구진이 함께 작업을 하면서, 작업의 진전은 더디게 이루어졌다. 하지만 서로의 영역에 대한 이해도를 높이는 매우 소중한 기회로 작동하기도 하였다. 
이 작업은 다양한 학문 배경을 가진 연구진의 적극적 참여가 없이는 진전이 매우 어려운 작업이었다. 참여해 주신 연구진 여러분께 다시 한번 감사의 마음을 전한다. 작업의 진행과정에서 많은 역할을 한 박도현 박사에게 특히 고마운 마음을 전한다. 책자 발간을 위해 신경써 주신 박영사 조성호 이사님 그리고 멋진 책자를 만들어 내주신 윤혜경 선생님을 비롯한 편집 담당자 여러분께도 깊은 감사의 뜻을 전한다. 이 작업은 서울대학교 융?복합 연구과제의 일환으로 진행된 것이다. 다학제적 융합연구에 대한 지원 프로그램을 마련하고 지원해 주신 학교 측에도 감사드린다.

2021년 7월
저자를 대표하여
고학수

고학수
저자 고학수는 서울대학교 법학전문대학원(로스쿨) 교수로 재직 중이다. 서울대학교 경제학과에서 학사와 석사 학위를 취득했고, 미국 컬럼비아대학교 로스쿨(J.D.)과 경제학과(Ph.D.)에서 공부하여 각각 학위를 받았다. 공부를 마친 후 미국 월스트리트의 로펌 휴즈 허바드 앤드 리드에서 변호사로 근무한 바 있고, 귀국하여 법무법인 세종에서도 근무하였다. 그 후 연세대학교 법과대학에 재직한 바도 있다. 그 이외에 컬럼비아대학교, 싱가포르국립대학교, 함부르크대학교에서 강의한 경력이 있고, 브뤼셀자유대학교(VUB), UC 버클리, 프라이부르크 고등연구원의 방문학자 경력이 있다. 법경제학, 개인정보보호 및 프라이버시, 빅데이터, 인공지능, IT 정책 등의 영역에 관해 연구하고 강의한다. 현재 아시아법경제학회 회장, 한국인공지능법학회 회장, 서울대 아시아태평양법연구소 소장, 서울대 법과경제연구센터 센터장, 서울대 AI연구원 부원장, 서울대 인공지능정책 이니셔티브(SAPI) 공동디렉터 등 다양한 역할을 맡고 있다. 

김용대
저자 김용대는 서울대학교 통계학과 및 데이터사이언스대학원 데이터사이언스학과 교수이다. 미국 오하이오주립대학교에서 통계학으로 박사학위를 받고, 미국보건연구소 연구원(1997~1999)을 지냈다. 한국외국어대학교(1999~2001), 이화여자대학교(2001~2004) 교수를 역임했으며, 2004년부터 서울대학교에 재직 중이다. 학생들을 가르치며 생존분석, 베이지안 방법론, 데이터마이닝, 기계학습, 딥러닝 등을 연구하고 있다. 2002년 IEEE 데이터마이닝 학술대회 최우수상, 2003년 연구재단 우수연구 30선, 2007년 서울대학교 연구력 향상 공로상, 2007년 품질경영학회 우수논문상, 2014년 한국데이터정보과학회 공로상, 2017년 ICCM 학술대회 최고논문상, 2018년 한국통계학회 한국갤럽학술상 등을 수상했다. 2019년 국제이론통계학회의 펠로(Fellow)로 선정되었으며 2020년부터 한국데이터마이닝학회장을 맡고 있다.

윤성로
저자 윤성로는 서울대학교 전기정보공학부 교수로서, 데이터기반 인공지능을 연구하고 있으며 기계학습, 딥러닝 및 응용에 대한 강의를 담당하고 있다. 서울대학교에서 학사 학위를 취득한 후 미국 스탠포드대학교에서 비지도기계학습과 지능시스템을 연구하여 공학석사 및 박사학위를 받았다. 스탠포드대학교 박사 후 연구원 및 미국 인텔 선임연구원, 고려대학교 전기전자공학부 교수를 역임하였다. 2020년부터 2년간 대통령 직속 4차산업혁명위원회 위원장을 맡아 인공지능 및 데이터 관련 범부처 국가정책을 조율하였다.

김정훈
저자 김정훈은 서울대학교 의과대학 교수로 재직 중이다. 복부 영상의학 전문가로 복부 영역에서 이루어지는 초음파, CT(컴퓨터단층촬영), MRI(자기공명영상) 등 영상 검사의 판독과 환자 상황에 따라 정확한 검사가 진행될 수 있도록 검사 방법에 대한 자문을 하고 있다. 특히 복부 영역 중 간, 담도, 췌장 질환에 대한 연구에 관심을 가지고 다양한 연구를 진행하고 있다. 이전에는 주로 영상 소견 중 각 질환의 진단과 예후 판단에 도움을 주는 특징적인 소견을 발견하는 연구를 주로 진행하였으나, 최근에는 인공지능 기법을 이용해 다양한 질환의 진단과 예후 판단에 도움을 줄 수 있을지에 대한 연구를 진행 중이며 기존 영상 검사에 라디오믹스(radiomics)라는 새로운 기법을 적용하여 좀 더 정확한 진단과 예후 예측이 가능할지에 대해 연구 중이다.

이선구
저자 이선구는 연세대학교 언더우드국제대학에서 과학기술정책을 가르치고 있다. 조지타운대학교에서 보건의료법을 주제로 법학박사(SJD)를 취득하였고 미국 뉴욕주 변호사이다. 데이터프라이버시, 인공지능, 독성물질소송 등 과학기술과 보건정책이 교차하는 주제들에 관심을 가지고 연구 중이다.

박도현
저자 박도현은 제5회 변호사시험에 합격하고 박사학위 과정에 진학하여 인공지능과 법 분야를 위주로 다양한 연구를 수행하였고, 2021년 2월 법학박사학위논문 “인공지능과 해악: 창발적 해악론을 중심으로”를 발표하였다. 이외에도 “인공지능과 차별(공저)”, “인공지능과 고용차별의 법경제학(공저)”, “인공지능과 자율성의 역학관계”, “인공지능 윤리규범과 규제 거버넌스의 현황과 과제(공저)”, “인공지능 윤리의 두 가지 가치” 등의 논문을 학술지에 게재하였다.

김시원
저자 김시원은 서울대학교 전기정보공학부 연구원으로, 서울대학교 전기정보공학부에서 학사 학위를 취득했다. 해석가능한 투명한 인공지능 알고리즘을 고안하고 이를 자연어 처리, 이미지, 의료 및 바이오 데이터 등의 다양한 분야에 적용하는 연구를 진행 중이다. 주요 논문으로는 “Interpretation of NLP models through input marginalization” 등이 있다.

01  인공지능, 왜 설명가능성인가? [고학수, 박도현]
Ⅰ. 들어가며 3
Ⅱ. 인공지능의 개념정의 3
Ⅲ. 인공지능의 설명가능성 12
Ⅳ. DARPA의 설명가능 인공지능 프로젝트 18
Ⅴ. 설명가능성과 해석가능성 19

02  인공지능의 작동원리와 설명가능성에 대하여 [김용대, 윤성로]
Ⅰ. 서론 25
Ⅱ. 인공지능 작동원리 28
Ⅲ. 기계학습 알고리즘 소개 45
Ⅳ. 인공지능 모형의 해석/설명가능성 66

03  인공지능의 작동원리와 설명가능성에 대하여 -고급 인공지능 학습 및 해석/설명 방법론- [김시원, 윤성로, 김용대]
Ⅰ. 통계적 방법론의 학습 및 해석/설명가능성 83
Ⅱ. 딥러닝모형의 학습 및 해석/설명 101
[부 록] 독일 신용데이터(German credit data) 소개 135

04  인공지능의 투명성과 설명가능성에 대한 법철학적 고찰 [박도현]
Ⅰ. 논의의 출발점 143
Ⅱ. 인공지능의 투명성 146
Ⅲ. 인공지능의 설명가능성 153
Ⅳ. 맺음말 159

05  법적 관점에서 바라본 설명가능성: GDPR의 정보제공의무를 중심으로 [이선구]
Ⅰ. 서론 165
Ⅱ. GDPR의 정보제공의무 168
Ⅲ. 정보제공 이외의 제도적 방안 181
Ⅳ. 결론 187

06  의료 영역에서 인공지능의 활용과 설명가능한 인공지능의 필요성 [김정훈]
Ⅰ. 의료 영상 영역에서의 인공지능 연구 현황 197
Ⅱ. 의료 영상 영역에서 인공지능의 임상적용 현황 200
Ⅲ. 의료 영역에서 개발된 AI 기술이 실제로 임상 진료에 적용될 시 고려할 점  203
Ⅳ. 의료 영역에서 설명가능한 인공지능의 필요성 207

07  설명가능성을 넘어: 신뢰할 수 있는 인공지능을 위한 과제 [고학수]
Ⅰ. 들어가는 말: 인공지능 기술, 윤리, 법 215
Ⅱ. 인공지능 투명성(Transparency)과 설명가능성(Explainability) 218
Ⅲ. 설명가능성이 요구되는 이유 223
Ⅳ. 설명의 원칙 225
Ⅴ. 공정한 인공지능(Algorithmic Fairness) 229
Ⅵ. 결론 233