초판발행 2025.10.31

서문

인공지능(Artificial Intelligence, AI)은 다른 기술 영역에도 적용될 수 있는 범용성을 가진 대표적 기술이면서, 민간과 군사 영역 모두에서 활용될 수 있는 겸용(dual use)의 성격을 가진다. AI 기술은 빠른 속도로 진화하면서 인간 지능과 경쟁할 수준에 다가가고 있고, 그 잠재력만큼이나 위험성에 대한 우려 또한 커지고 있다.

이러한 배경에서 제정된 유럽연합(EU)의 AI법은 국제사회 최초의 포괄적인 AI 규제법으로서, AI가 초래할 수 있는 위험으로부터 인간의 건강·안전·기본권 보호를 주된 목적으로 한다. 제품 안전 규제에 기반한 이 법은 기술 발전과 규제의 균형을 모색하는 과정에서 EU 주요 기관, 27개 회원국, 그리고 학계·산업계·시민사회가 참여한 치열한 합의의 산물이다. 그 결과, 이 법은 한국이 2024년 제정한 「인공지능 발전과 신뢰 기반 조성 등에 관한 법률」을 포함해 여러 국가의 입법에 깊은 영향을 주고 있고, 향후 국제사회의 규제 논의에서도 중요한 준거점으로 작용할 것이다.

세계 3대 AI 강국을 지향한다는 한국의 AI에 관한 논의는 주로 산업 발전에 초점을 맞추고 있고, 산업계는 물론 정부나 전문가들 사이에서도 AI에 대한 규제를 부정적으로 보는 시각이 지배적인 듯하다. 그럼에도, 인류에게 이롭게 쓰여야 할 도구로서 AI 기술이 초래할 수 있는 해악으로부터 우리의 건강·안전·기본권을 지키는 일은 결코 소홀히 할 수 없다. 물론 안전을 중시하는 규제가 자칫 기술 발전을 저해할 수 있는 점에서 규제와 발전 간의 균형은 매우 어려운 정책적 과제이다. 그러나, AI 기술의 발전 초기 단계에서부터 필요한 최소한의 규제는 반드시 수용해야 할 것이다. 본서는 EU AI법의 복잡하고 정교한 규제 체계를 상세히 분석함으로써 국내의 AI 규제 논의와 발전에 의미 있는 참고가 되고자 한다. 

본서의 집필 과정은 저자에게 새로운 도전이었다. AI 기술에 대한 전문적 이해가 부족하고, 제품 안전 중심의 규제적 접근에 익숙하지 않아 어려움이 많았다. 그러나 고려대학교 법학전문대학원과 대학원 강의에서 학생들과의 열띤 토론을 통해 AI 규제에 관한 다양한 시각을 접하며 이해를 넓힐 수 있었다. 또한 지난 10여 년간 이어온 사이버안전과 개인정보보호 연구는 본서 집필에 중요한 자산이 되었다. AI는 방대한 데이터, 특히 민감한 개인정보를 처리하고, 사이버보안은 AI 규제의 불가피한 요소이기에 이 두 연구의 경험은 큰 도움이 되었다. 또한, 본서의 집필 과정에서 다양한 AI 서비스의 도움을 받았다. 비록 정확한 규정을 찾는 과정에서 혼란과 한계가 있었지만, AI 서비스는 저자의 AI에 대한 사고를 확장하고 오해를 교정하는 의미 있는 동반자(companion) 역할을 하였다.

우리의 삶은 다양한 일의 시작과 끝의 과정으로 이루어지는데, 특히 2024년 3월 이후 여러 시점의 과정에서 EU AI법을 공부하고 본서를 집필할 수 있었던 것은 큰 행운이었다. 같은 맥락에서 2024년 하반기 ‘AI의 국제규범 동향과 시사점’ 특별 시리즈 기고를 허락하신 한국경제인협회 한국경제연구원 정철 원장님께 깊이 감사드린다. 갈수록 어려워지는 출판 환경에서 본서의 출간을 기꺼이 맡아주신 박영사의 조성호 이사님과 어려운 편집을 맡아주신 최유라 선생님께도 감사드린다. 늘 미안하고 고마운 가족에게도 이 기회에 감사를 전한다.

아무쪼록 본서가 AI 규제의 현재와 미래를 이해하는 데 필요한 기초적 시각을 제공하고, 한국을 비롯한 국제사회의 관련 논의에 작은 기여를 할 수 있기를 기대한다.

2025년 10월

박노형

저자

박노형

박노형(朴魯馨) 교수는 고려대학교 법과대학을 졸업하고, 고려대학교 대학원(법학석사), 미국 Harvard Law School(LL.M.)과 영국 Cambridge University(Ph.D.)에서 국제법을 공부하였다. 1990년 9월부터 2024년 2월까지 고려대학교 법과대학/법학전문대학원에서 국제경제법을 중심으로 개인정보보호, 사이버안전, 디지털 통상에 관한 법 및 협상과 조정을 연구하고 교육하였다.

고려대학교 대학원 인문사회계 부장, 기획처장, 교무처장과 법학전문대학원 원장을 맡았고, 국제경제법학회 초대회장, 한국협상학회 회장, 한국조정학회 회장을 맡았으며, 현재 한국통상법제연구소 소장, 국제사이버법연구회 회장, 국제조정센터 이사장을 맡고 있다.

개인정보보호위원회 법령평가위원, 무역위원회 위원, 영상물등급위원회 위원, 농산물지리적표시심의위원회 위원장, 국가안보실 정책자문위원 등을 맡았다.

개인정보보호, 사이버안전, 디지털 통상, 협상과 조정 및 인공지능(AI) 분야에서 미국, EU, 일본, 중국, 러시아 등의 전문가들과 연구 협력을 정례적으로 수행하고, 정부와 업계의 자문을 맡고 있다.

차례

Chapter 1. EU AI법 개관

I. EU AI법은 무엇을 어떻게 규제하는가? / 2

II. EU AI법 개관 / 7

Chapter 2. EU AI법의 적용 범위

I. EU AI의 물적 적용 / 40

II. EU AI의 인적 적용 / 62

III. EU AI의 영토적 적용 / 85

Chapter 3. AI 시스템의 개념

I. AI / 96

II. AI 시스템 / 98

Chapter 4. AI 시스템과 모델의 유형

I. 금지된 AI 관행 / 139

II. 고위험 AI 시스템 / 193

III. 제한적 및 최소 위험 AI 시스템 / 242

IV. 범용 AI 모델 / 245

Chapter 5. AI 이해력

Chapter 6. AI 시스템 및 모델 제공자의 의무

I. 고위험 AI 시스템의 요건 / 276

II. 고위험 AI 시스템 제공자의 의무 / 327

III. 투명성 요건의 적용을 받는 AI 시스템 제공자의 의무 / 389

IV. 범용 AI 모델 제공자의 의무 / 398

V. 시스템적 위험이 있는 범용 AI 모델 제공자의 의무 / 418

Chapter 7. 공인 대리인

I. 고위험 AI 시스템 제공자의 공인 대리인 / 428

II. 범용 AI 모델 제공자의 공인 대리인 / 432

Chapter 8. EU AI법의 적용 범위

I. 고위험 AI 시스템 운영자의 의무 / 439

II. 투명성 요건의 적용을 받는 AI 시스템 운영자의 의무 / 460

참고자료 / 467

법령/조약 약칭 / 472