초판발행 2026.09.11

서문

인공지능 기술이 고도화되면서 우리 사회와 인류의 삶에 어떤 변화가 초래될지에 대한 다양한 논의가 이루어지고 있다. 본서는 인공지능을 인간과 같은 의식, 의지, 의도가 존재하지 않는, 해를 찾아가는 일종의 수학적 방정식의 결합체로 본다. 따라서 가까운 미래에 인간과 같은 욕구를 가진, 인간의 지능과 대등하거나 이를 초월하는 초인공지능 등은 출현할 가능성은 없거나 극히 낮다는 관점에 서 있다.

그러나 인공지능은 대규모의 시각적, 청각적 자료의 인식과 분류에 고도로 특화되어 있어 1차, 2차, 3차 산업 영역에서 인간이 수행해 오던 운송업, 제조업, 농수산업 활동, 단순 서비스업 및 분류와 관련된 전문 서비스업 등은 인공지능에 의해 상당 부분 대체될 가능성이 높다. 현재 헌법상 보장된 사생활의 비밀과 자유가 침해되는 사례가 빈발하고 있는 상황에서 인공지능 기술이 고도화되면서 기본권 침해의 가능성이 더욱 커지고 있다. 나아가, 인공지능 주권의 확보와 인공지능 기술과 윤리에 대한 국제규범과 국제표준을 선도하기 위한 국가 간 경쟁도 치열한 상황이다.

본서는 이러한 인공지능이 가져올 사회변화에 대응하기 위해 투명성 확보의 차원, 인간존엄성 존중을 위한 전제요건, 개인정보보호 및 안전성 확보를 위한 전제요건, 인공지능과 국가 및 국민생활에의 주도권 확보 등의 공법적 규율과 그 방향을 제시하고자 한다. 이러한 공법적 규율 방향을 제대로 구현하기 위해서는 행정조직의 구조와 그에 부여된 임무가 정책 목표 달성에 적합한 형태를 가져야 한다. 이를 위해 행정 조직의 기능적 분할과 통합의 요청으로서 실질적 행정조직법정주의를 제시한다.

인공지능 시대를 맞아 이로 인한 기본권 침해의 가능성을 최소화하면서 경쟁국 대비 기술적 우위를 확보할 수 있는 최적의 국가 구조 설계에 대한 고민은 앞으로도 지속되어야 하는 중요한 과제다. 경쟁국들의 정책과 규제 내용을 면밀하게 분석하여 상호주의의 원칙 등에 따라 국가의 정책과 규제 수준을 정밀하게 조정하고, 국제규범의 정립과 국제표준을 선도하여 원칙적으로 이를 통해 국가의 규제 목표를 달성할 수 있도록 하며, 국가 및 정부의 구조와 임무의 부여 방식 자체가 이러한 목표 달성에 적합하도록 설계되어야 한다.

본서는 저자가 연세대학교 박사학위 논문으로 제출한 글을 일부 수정하여 출판한 것이다. 지도교수이신 연세대학교 홍강훈 교수께서 매월 초안을 받아 검토해 주시는 수고를 마다하지 않으셨다. 연세대학교 김성수 교수께서는 뵐 때마다 집필을 독려하시며 격려를 아끼지 않으셨다. 김남철 교수께서 주신 여러 말씀과 가르침들이 여전히 귓가에 생생하게 들리는 것 같다. 고려대학교 수학과 오승상 교수의 인공지능 강의는 인공지능 기술의 바탕이 되는 수학적 구조를 이해하는 데 큰 도움이 되었다. 여러모로 부족한 저자로 하여금 여기까지 올 수 있도록 이끌어주신 은사님들과 심사를 맡아 귀중한 의견을 주신 심사위원 교수님들께 진심으로 감사드린다.

사회적참사특별조사위원회의 비상임위원과 10·29이태원참사 진상규명과 재발방지를 위한 특별조사위원회 비상임위원으로 역할을 수행하면서, 국가가 원하는 결과를 얻지 못하거나 정책 목표 달성에 실패하는 이유에 대해 천착하는 시간을 가질 수 있었다. 정책의 실패는 담당자들의 실수나 개인적 잘못에 주된 원인이 있다기보다는, 관련 구성원들이 소속된 조직의 구조와 조직 간 기능과 역할의 분담에 있다. 평가와 모니터링을 통한 환류 체계가 정상적으로 동작하는 국가가 되어야 한다. 더 안전한 대한민국을 위해 고민을 아끼지 않는 위원회의 위원님들, 조사관님들의 그간의 노고와 가르침에 깊이 감사드리고, 특히 이 자리를 빌어 유가족 분들께 깊은 위로의 말씀을 함께 전하고 싶다.

행정법과 법치주의 학회와 한반도 인권과 통일을 위한 변호사 모임에서 만난 공법학자와 변호사들은, 서로 생각이 다를 때도 있었지만 더 나은 체계와 시스템에 대한 고민과 열정은 누구보다 훌륭하신 분들이었다. 그분들과의 토론과 논의를 통해 저자는 여러 깨달음과 배움을 얻을 수 있는 기회를 가질 수 있었다.

아울러, 어려운 출판 환경 속에서도 책의 출판을 결정해 주신 박영사의 임직원분들과, 특히 편집을 맡아주신 최유라 선생님께도 감사드린다.

마지막으로 수험 기간 중에 있는 진, 채은, 그리고 행복과 존경의 마음으로 날 바라봐주고 아이들의 곁을 지켜주는 사랑하는 아내 수연에게 깊은 감사의 마음을 전한다.

저자 약력

이 민

학력

연세대학교 공과대학 학사 졸업(금속공학과)
연세대학교 법과대학 석사 졸업(법학과)
연세대학교 법과대학 박사 졸업(법학과)

경력

2004 제46회 사법시험 합격
2013 서울지방변호사회 법제연구원 연구위원
2015 대한변호사협회 검사평가특별위원회 위원
2015 대한변호사협회 법관평가특별위원회 위원
2015 행정법과법치주의학회 정회원
2016 한반도인권과통일을위한변호사모임 정회원
2018 법률사무소 헤아림 변호사
2019 서울시 환경분쟁조정위원회 위원
2020 한국의료분쟁조정중재원 감정위원(비상임)
2020 사회적참사특별조사위원회 위원(비상임)
2021 광운대학교 정책법학대학 겸임교수
2024 10·29이태원참사 진상규명과 재발방지를 위한 특별조사위원회 위원(비상임)

차례

제1장 서론

제1절. 연구의 목적과 범위 / 8
Ⅰ. 연구의 목적 / 8
Ⅱ. 연구의 방법과 범위 / 10
1. 연구의 방법 / 10
2. 연구의 범위 등 / 11
제2절. 용어의 정의 / 13

제2장 인공지능의 발전과 각국의 법적 대응

제1절. 인공지능의 발전 / 16
Ⅰ. 인공지능 등에 대한 정의 / 16
Ⅱ. 인공지능의 발전 / 19
1. 퍼셉트론 개념의 발견 / 22
2. 인공지능 기술 발전의 침체 - 제1차 AI 겨울 / 23
3. 기울기 소실(Vanishing Gradient) 문제 – 제2차 AI 겨울 / 25
4. 대규모 언어모델(LLM)의 급속한 발전 / 29
Ⅲ. 소결 / 30

제2절. 인공지능에 대한 각국의 법적 대응 현황 / 31
Ⅰ. EU 인공지능법(EU AI Act) / 31
1. 법의 목적과 네거티브 규제 방식의 채택 / 33
2. EU 인공지능법에서 AI의 정의와 적용범위 / 35
3. 위험 기반의 접근 / 37
4. 벌칙 및 규제 등 / 60
5. EU 인공지능법에 대한 검토 및 시사점 / 62
Ⅱ. 미국의 인공지능 관련 법제 / 68
1. 개요 / 68
2. 연방정부와 주정부 간 규제 권한에 대한 논란 지속 / 68
3. ‘미국 AI 행동계획’ / 71
4. 미국 인공지능 관련 법제에 대한 검토 및 시사점 / 74
Ⅲ. 중국의 인공지능 관련 법제 / 76
1. 생성형 인공지능 서비스 관리 임시방안의 주요 내용 / 77
2. “인공지능+” 행동심화실시의견의 주요 내용 / 79
3. ‘데이터 3법’의 주요 내용 / 81
4. 인터넷 정보 서비스 알고리즘 추천 관리 규정 / 87
5. 중국 인공지능 관련 법제에 대한 검토 및 시사점 / 89
Ⅳ. 일본의 인공지능 관련 법제 / 93
1. 개요 / 93
2. 인간중심의 AI 사회 원칙 등 / 94
3. 인공지능 관련 기술의 연구 개발 및 활용 추진에 관한 법률 / 98
4. 일본 인공지능 관련 법제에 대한 검토 및 시사점 / 101

제3장 인공지능이 야기할 사회적 변화 및 위험성과 법적 쟁점

제1절. 인공지능이 야기할 사회적 변화와 위험성 / 106
Ⅰ. 의식과 욕망이 있는 위험한 초인공지능의 등장 가능성에 관한 검토 / 106
Ⅱ. 인공지능의 한계에 대한 논의 / 111
1. 이해와 창의력의 결여 등 / 112
2. 다양성 등의 결핍 등 / 114
3. 현실 세계와의 상호작용의 결여 등 / 115
4. 학습능력의 한계 등 / 116
5. 소결 / 117

제2절. 인공지능에 대해 제기되는 법적 쟁점들 / 118
Ⅰ. 인공지능의 자유의지와 권리 주체성에 관한 논의 / 118
1. 인공지능의 자유의지 발현 가능성 / 119
2. 인공지능의 생명으로서 인정 가능성 / 124
3. 소결 / 127
Ⅱ. 인공지능의 위험성과 권리 침해의 가능성에 대한 논의 / 129
1. 개관 / 129
2. 인공지능의 판단과 윤리적 문제의 충돌 가능성 – 자율주행인공지능 모델을 중심으로 / 132
3. 프라이버시권과 국가에 의한 대규모 통제의 가능성 / 134
4. 인공지능의 편향성 문제 / 136
5. 인공지능에 대한 과신과 의인화의 문제 / 138
6. 노동권 위기의 촉발 가능성 / 140
7. 저작권 침해의 문제 / 144

제3절. 소결 / 146

제4장 인공지능에 대한 공법적 규율과 그 방향

제1절. 인공지능에 대한 공법적 규율의 내용과 방향에 대한 논의 / 148
Ⅰ. 개관 / 148
Ⅱ. 신행정법학과 행정법학 패러다임의 변화 / 151
Ⅲ. 공법적 규율의 방향 / 157
1. 투명성 확보의 차원 / 157
2. 인간존엄성 존중을 위한 전제요건 / 169
3. 개인정보보호 및 안전성 확보를 위한 전제요건 / 183
4. 인공지능과 국가 및 국민생활에의 주도권 확보 / 191
Ⅳ. 소결 / 199

제2절. 공법적 규율 방향의 구체적 실현 방안으로써 실질적 행정조직법정주의 / 200
Ⅰ. 개관 / 200
Ⅱ. 규제 패러다임의 변화와 거버넌스 / 203
1. 개관 / 203
2. 행정계획과 규제 이론 등 / 206
Ⅲ. 행정조직의 기능적 분할과 통합의 요청 – 실질적 행정조직법정주의 / 212
1. 행정조직 구성에 권력분립 원칙의 적용 등 검토 / 212
2. 행정 조직의 기능적 분할 / 214
3. 조직 신설 만능주의의 억제 – 중복 조직의 지양 / 216
4. 권한의 통합과 그 기준 / 218
Ⅳ. 소결 / 223

제3절. 향후 인공지능기본법의 개정 방향 제안 / 226
Ⅰ. 인공지능기본법 개관 / 226
Ⅱ. 인공지능기본법의 문제점 등 / 230
Ⅲ. 개정 방향 제안 / 234

제5장 결론

참고문헌 / 243