박영사

SITEMAP
전체메뉴닫기
닫기
생성형 AI와 법
신간
생성형 AI와 법
저자
이성엽 외
역자
-
분야
법학
출판사
박영사
발행일
2024.10.14
개정 출간예정일
페이지
632P
판형
크라운판
ISBN
979-11-303-4819-3
부가기호
93360
강의자료다운
-
색도
정가
30,000원

초판발행 2024.10.14


마치 살아 있는 생명 같은 느낌을 주는 기계, 더 나아가 인간의 사고능력, 즉 인지, 추론, 학습 등을 모방하는 기술을 인공지능(AI, artificial intelligence) 기술이라고 한다. 인간의 학습 능력과 추론 능력, 지각 능력, 자연언어의 이해 능력 등을 컴퓨터 프로그램으로 실현한 기술로 활용 가능한 데이터만 충분히 있다면 그동안 인간이 수행해 왔던 계산 기반의 지적 작업을 인간보다 더욱 빠르고 정확하게 대신할 수 있어 경제적으로 뛰어난 가치를 가지고 있다. 

AI 기술이 로봇 기술, 빅데이터 기술, 클라우드, IoT 기술과 결합되면서 지능정보사회로의 변화를 견인하고 있다. 컴퓨터와 인터넷 혁명으로 대표되는 정보사회와는 달리 지능정보사회에서는 판단의 주체가 점차 인간에서 기계로 바뀌어 기계가 자율적인 처리, 제어, 예측을 할 수 있는 사회이다. 산업혁명에서 기계가 인간의 육체노동을 대체했다면 지능정보사회에서는 기계가 인간의 정신노동을 대체하게 된다. 

2022년 12월 1일 미국 스타트업 ‘OpenAI’가 출시한 ChatGPT(Chat Generative Pre-Trained Transformer)가 글로벌 IT 생태계에 충격을 주고 있다. ChatGPT는 사람의 언어를 이해하는 것은 물론 사람의 질문에 꼭 맞는 유용한 답을 하는 대화형 생성 AI로 일반 대중에게 AI의 일상화라는 경험을 제공하고 있다. 

생성형 AI인 대표인 ChatGPT는 문장을 생성(Generative)하는 AI 모델로서사전학습(Pre-trained)을통해훈련을받았으며,트랜스포머(Transformer)라는 구조에 기반한 인공지능 언어모델이다. 생성이란 문장을 사람처럼 만들어낸다는 것이고, 사전학습이란 많은 데이터를 사전에 습득했다는 것이며, 트랜스포머란 단어 간 연관성 파악이 가능한 혁신적인 심층신경망이라는 것이다. 결론적으로 생성형 AI란 대규모 데이터의 패턴을 자기지도 학습하여 명령어(Prompt)에 따라 새로운 텍스트, 코드, 이미지, 음악, 영상 등의 콘텐츠를 생성하는 인공지능으로 정의할 수 있다. 패턴을 인식하고 예측하도록 설계된 기존 AI 시스템과 달리 생성 AI는 이미지, 텍스트, 오디오 등의 형태로 새로운 콘텐츠를 생성한다.

생성형 AI 모델의 특성은 다음 몇 가지로 제시할 수 있다. 첫째, 대규모 언어모델(Large Language Model)이라는 점이다. 우선 언어모델은 문장 생성을 위해 단어의 순서에 다음에 올 수 있는 확률을 할당하는 모델로, 기존 통계적 방법에서 인공신경망 방법으로 발전했다. 둘째, 콘텐츠를 창조한다는 것이다. 기존의 AI는 이용자의 특정 요구에 따라 결과를 생성한다. 즉, AI의 역할은 데이터 분석, 활용 등 인간의 행위를 대체하거나 보완하는 데 그친다. 생성형 AI는 자기 학습 알고리즘으로 새로운 디지털 이미지, 영상, 음성, 텍스트, 프로그램 코드 등을 ‘창조’한다. 기존 검색엔진과 달리 생성형 AI는 사용자 질문에 대해 새로운 정보를 생성하는 기능이 있다. 셋째, 기존 검색모델과의 차별성이다. 검색모델이 키워드 검색을 통해 정보를 제공하지만, 생성형 AI는 인공지능 기술인 언어 모델링을 사용하여 사용자 질문에 대한 답변을 생성하며, 검색모델이 키워드 검색을 통한 정보 제공으로 사용자와의 상호작용은 없지만, 생성형 AI 모델은 사용자 친화적인 상호작용을 통해 질문을 이해하고 대답하는 방식이다. 나아가 생성형 AI는 범용인공지능(Artigicial General Intelligence, AGI)으로 발전하고 있다. 이는 인간처럼 종합적으로 사고·학습·추론하는 인공지능으로 텍스트 이해·생성, 자연어처리, 이미지 분류, 예측, 추론 등 다양한 태스크를 동시에 처리하는 인공지능이다.

생성형 AI의 발전 속도가 빠르다는 것과 생성형 AI의 성능과 인류에 대한 영향이 지대하는 것에 대해서 공감대가 이루어지고 있다. 이에 생성형 AI에 대한 법의 관심도 증가하고 있다. 이는 기본적으로 생성형 AI가 인간을 자율성, 독립성을 생성형 AI가 침해할 가능성이 있다는 점에 대한 기존 법률의 관심이다. 즉, 인간을 권리주체로 보고 구축된 기존의 법체계에 어떤 변화가 필요한지에 대한 관심이다. 또한 생성형 AI가 야기하는 문제점이나 부작용에 대한 법규제 이슈가 등장하고 있다. 

이런 이슈로는 생성형 AI의 결과물의 진실성의 문제로 인한 허위조작 정보의 문제, 생성형 AI가 데이터를 학습하는 과정에서 저작권과 개인정보를 침해할 가능성, 사이버 공격에 생성형 AI를 이용하는 경우, 생성형 AI를 이용할 수 있는 계층, 국가와 그렇지 못한 계층, 국가 간 소외, 불평등 심화, 법치주의와 민주주의에 대한 위협, 생성형 AI 시장 성장에 따라 자본력을 갖추고 시장을 선점한 소수 거대 글로벌 플랫폼의 독점 심화에 대한 우려 등이 있다. 

이런 이슈들에 대해 규제받지 않는 AI는 인류에게 위협이 될 것이기 때문에 통제할 수 없는 상황이 오기 전에 미리 규제 논의를 서둘러야 한다는 입장과 이는 과도한 우려에 불과하며 AI 개발을 진행하면서 부작용을 최소화하려는 것으로 충분하다는 입장이 대립하고 있다. 

전자의 입장에서 EU, 미국, 한국 등은 AI 규제 입법을 시도하고 있다. 대부분 고위험 AI에 대해 사전 고지, 영향평가, 신뢰성과 안전성 조치의무 등 사전적 규제를 포함하고 있는 것이 특징이다. 다만 제기된 이슈들은 이미 플랫폼, 데이터 경제 시대에도 존재하던 것으로 사전적, 사후적 정책적 대응이 필요한 것이지 반드시 사전적 규제가 필요하다고 보기는 어려운 것들이다. 아직 EU를 제외하면 플랫폼에 대해서도 규제입법이 가시화되지 않고 있다.

오히려 기술 진보를 사전적으로 예측하고 선제적으로 법제를 도입하는 것은 자칫하면 현실적 집행이 곤란한 규제를 양산할 수 있으며, 기술 혁신으로 인한 편익을 저해할 수도 있다. 사전 규제, 사후 규제, 정부 규제, 자율 규제 등 다양한 규제방식 중에서 기술 진보에 유용하게 대응하면서 사회적 위험을 최소화할 수 있는 유연하고 탄력적인 방식을 채택할 필요가 있다. 

스탠포드 연구소의 의견대로 생성 AI 모델이 산업과 사회, 우리 삶에 미치는 영향은 매우 클 것이다. 한편으로는 인간의 노동력을 보완하여 우리 삶이 더 생산적이고 창의적일 수 있도록 할 것이나, 다른 한편으로는 우리의 편견을 강화시키거나, 정보에 대한 신뢰를 떨어뜨릴 수 있다. 결국 기술의 양면성은 보편적인 것이며 어떻게 기술을 인간에 유용하게 사용할 것이냐가 중요한 것이다. AI가 인간을 대체하는 것에 대해서도 적절한 대응이 필요하지만, AI를 이용하지 않는 자가 이용하는 자에 의해 대체될 가능성에 대해서도 유의해야 할 것이다. 

본서는 이런 문제의식에 기반해 생성형 AI 도입, 확산에 따른 법적 이슈를 망라적으로 다루고 있다. 본서는 총 4장으로 구성되어 있다. 제1장에서는 생성형 AI에 대한 포괄적 이해를 위해 생성형 AI의 기술적 이해, 생성형 AI 시장과 산업의 동향과 전망, 생성형 AI가 가져올 변화와 정책과제, 생성형 AI의 규제원칙에 관해 다룬다. 제2장은 본서의 핵심적인 내용으로 생성형 AI 관련 법규범의 이슈를 본격적으로 다룬다. 글로벌 AI 규제 동향과 한국의 AI 규제 정립 방안, EU의 AI 규제법과 AI 규제 방향, 생성형 AI 활용의 지식재산 쟁점, 생성형 AI의 저작권법 이슈와 과제, 생성형 AI의 개인정보의 이슈와 과제, 생성형 AI의 경쟁법상의 이슈와 과제, 생성형 AI에서 허위정보 이슈와 과제, 생성형 AI에서 알고리즘 규제 이슈와 과제가 포함되어 있다.

다음 제3장에서는 기존 헌법, 민법, 형법, 행정법, 금융법 등 주류 법학에서 생성형 AI의 쟁점을 다룬다. 생성형 인공지능 시대의 계약자유 원칙과 문제점, 생성형 인공지능을 활용한 행정의 이론적 문제와 대응, 생성형 인공지능을 활용한 해킹 범죄의 위험성과 대책, 생성형 AI 이용범죄의 쟁점과 규제방안-딥페이크 범죄를 중심으로, 생성형 AI와 금융법의 과제, 생성형 AI의 기술발달에 따른 헌법적 관점에서의 기본권 보장에 관한 연구가 포함되어 있다. 끝으로 제4장에서는 기타 중요한 생성형 AI 관련 법정책적 쟁점으로 생성형 AI의 오남용 문제와 사이버보안, 생성형 AI와 법률서비스의 이슈 및 동향, 생성형 AI 및 글로벌 통상환경의 변화와 전망을 다룬다. 

바쁘신 일정에도 불구하고 본서 집필에 참여해 주신 교수, 변호사 등 총 24분에게 감사드린다. 특히 이번 작업에는 여러 전공의 법학자 외에도 공학, 미디어학, 경제학 전공 학자분과 이 분야 최고 실무 전문가 변호사분들이 참여해서 이론과 실무가 연계되고 여러 학문 간 통섭적 접근을 수행했다. 또한 박영사 김한유 과장님은 처음부터 이 책이 출간될 수 있도록 지원해 주셨으며, 박세연 님은 이 책의 편집을 위해 아낌없는 노력을 기울여 주셨다. 이 자리를 빌려 깊이 감사드린다. 

개인적으로 데이터와 법, 플랫폼의 법과 정책, 마이데이터와 법에 이어 생성형 AI와 법이라는 새로운 분야를 여러 훌륭한 동학과 함께 개척해 가는 기회를 가진 것도 큰 행운이었다. 그리고 법조인의 꿈을 펼치기 위해 노력 중인 아이에게도 행운이 있기를 바라고 아이의 꿈을 열심히 응원하고 있는 아내에게도 감사를 표한다.

본서가 AI, 데이터 경제를 선도하는 한국의 관련 학계, 법조계, 기업, 정부는 물론 국민에게 생성형 AI와 법 이슈에 대한 나침반이 될 수 있기 바란다. 


감사합니다.


2024.10


고려대학교 연구실에서 편저자 이성엽

PART 1  생성형 AI에 대한 이해


1. 생성형 AI의 기술적 이해

▶ 배주호 한국외국어대학교 교수

서강대학교 공과대학 컴퓨터공학과 졸업 후 동 대학에서 컴퓨터공학 석박사 학위를 취득하였다. 금융사의 AI analyst, 국방부 전산사무관을 거쳐 현재 한국외국어대학교 Global Business & Technology학부에서 교수로 재직 중이다. 주요 연구 분야는 금융, 국방, 법률 등의 전문 분야를 위한 딥러닝 기술의 적용이다. 한국저작권보호원 저작권 보호 미래 포럼 위원으로 활동하고 있다.


2. 생성형 AI 시장과 산업의 동향과 전망

▶ 오장민 성신여자대학교 AI융합학부 부교수

서울대 컴퓨터공학부를 졸업 후 동 대학원에서 자연어처리와 인공지능으로 석박사 학위를 취득하였다. 이후 NAVER와 스타트업 참여 과정에서 검색 랭킹 모델링, 게임 개발, AI 연구 개발 총괄 등 IT와 AI 상용화에 대한 실무를 경험하였다. 2020년부터 성신여자대학교 AI융합학부에서 부교수로 재직 중이다. 주요 연구 분야는 생성형 AI 모델의 실증에 대한 것으로 추천 시스템, 금융 공학, 언어 모델의 개선에 대한 논문 발표와 프로젝트를 수행하고 있다. 정보통신정책연구원 디지털 정책 포럼 자문위원에 참여 중이며, 한국정보과학회 심사위원, 한국인공지능학회 편집위원 등 학술 활동에도 참여 중이다.


3. 생성형 AI가 가져올 변화와 정책과제

▶ 이경선 정보통신정책연구원 연구위원

고려대학교 재료공학과를 졸업한 후 Purdue University에서 산업공학 석사 및 경영학 박사 학위를 취득하였다. 2000년부터 2004년까지 미국계 생활용품 기업인 P&G에서 시스템 애널리스트 및 매니저로 근무하였으며 2012년부터 정보통신 정책연구원(KISDI)에서 연구책임자로 재직 중이다. 주요 연구 분야는 데이터, 인공지능(AI), 플랫폼 정책으로, 디지털 신기술이 가져올 사회경제적 영향, 기회 및 위협 등을 분석하여 정책적 대응전략을 도출하는 연구를 수행하고 있다.


4. 생성형 인공지능(AI) 규제원칙에 관한 연구

▶ 이성엽 고려대학교 기술경영전문대학원 교수

고려대 법학과, 서울대 행정대학원, 미네소타대학교 로스쿨을 거쳐 서울대 법학박사를 취득했으며 하버드 로스쿨 방문학자를 거쳤다. 제35회 행정고시에 합격 후 정보통신부 서기관, 김·장 법률사무소 변호사(뉴욕주)를 거쳐 고려대 교수로 재직 중이며, 기술법정책센터장과 데이터, AI법센터 대표를 겸하고 있다. 행정규제법 및 ICT법정책을 연구하고 있으며, 사) 한국데이터법정책학회 회장, 사)한국공법학회 부회장, 대통령 소속 디지털플랫폼정부위원회 자문위원, 국무총리 국가데이터정책위원회 위원, 개인정보보호위원회 규제심사위원장으로 활동하고 있다.



PART 2  생성형 AI 규범의 이슈


5. 글로벌 AI 규제 동향과 한국의 AI 규제 정립 방안

▶ 이승민 성균관대 법학전문대학원 부교수

서울대 법과대학 졸업 후, 동 대학원에서 석사·박사학위(행정법)를, 하버드 로스쿨에서 LL.M을 각 취득하였다. 제46회 사법시험 합격 후 육군 법무관, 법무법인(유) 율촌 변호사를 거쳐 현재 성균관대 법학전문대학원에서 부교수로 재직 중이다. ICT/TMT, 디지털 플랫폼 등 다양한 분야의 규제에 대해 연구 중이며, 『메타버스와 법: 그 물음표(?)와 느낌표(!)』를 저술하였고, 『플랫폼의 법과 정책』에 공저자로 참여하였으며, 규제행정 분야에서 다수의 논문을 발표하였다. 가상융합경제 활성화 포럼 법제도분과 위원장, 개인정보보호위원회 미래포럼 위원 등을 맡고 있으며, 디지털 산업과 법·정책 연구회를 운영하고 있다.


6. EU의 AI 규제법과 AI 규제의 방향

▶ 양천수 영남대학교 법학전문대학원 교수

일주학술문화재단 장학생(11기)으로 독일 유학길에 올라 프랑크푸르트대학교 법과대학에서 법학박사 학위를 취득하였다. 현재 영남대학교 법학전문대학원에서 기초법 전임 교수로 학생들을 가르친다. 급속하게 발전하는 과학기술이 현대사회와 법체계에 어떤 영향을 주는지에 관심이 많다. 이에 관한 책으로 『빅데이터와 인권(2016)』, 『제4차 산업혁명과 법(2017)』, 『인공지능 혁명과 법(2021)』, 『데이터와 법(공저 2021)』 등을 썼다. 이외에도 『삼단논법과 법학방법(2021)』, 『단체의 법이론(2022)』, 『책임과 법(2022)』, 『인권법이론(2023)』 등 다수의 책과 논문을 썼다.


7. 생성형 AI의 활용과 지식재산 쟁점

▶ 손승우 한국지식재산연구원 원장

미국 Wisconsin 주립대학 로스쿨에서 법학박사를 취득한 후 단국대학교 법과대학 교수를 거쳐 최근까지 중앙대학교 산업보안학과 교수로 재직하였으며, 현재 특허청 산하 한국지식재산연구원 원장으로 재직 중이다. 단국대학교 산학협력단장과 창업지원단장, 한국지적재산권경상학회장, 한국데이터법정책학회 부회장, 국가지식재산위원회 전문위원, 유엔국제상거래법위원회(UNCITRAL) 방문교수, 지식일자리포럼 회장 등을 역임했다. 『지식재산법의 이해(2023)』, 『데이터법(공저 2022)』, 『산업보안학(공저 2022)』 등 저서와 함께 경제안보, 데이터, 지식재산 등을 중심으로 활발히 연구하고 있다.


8. 생성형 AI의 저작권법 이슈와 과제

▶ 정원준 한국법제연구원 부연구위원

성균관대 법학과 졸업 후 고려대 법학석사와 박사학위를 취득하였다. 정보통신정책연구원을 거쳐 현재 한국법제연구원에서 연구책임자로 재직 중이다. 주요 연구 분야는 IT법, 개인정보보호법, 지식재산권법, 그리고 과학기술법이며, 해당 분야에서 다수의 저서와 논문을 발표하였다. 현재 대통령 소속 국가지식재산위원회, AI전략최고위협의회, 보건의료데이터심의위원회, 메타버스 자율규제위원회, 규제개혁 및 적극행정위원회 등 정부위원을 비롯, 한국데이터법정책학회 총무이사, 개인정보보호법학회 국제이사, 한국경영법률학회 학술이사, 한국인공지능법학회 이사 등을 맡고 있다.


9. 생성형 AI의 개인정보 이슈와 과제

▶ 박광배 법무법인(유) 광장 파트너 변호사 

서울대학교 법과대학을 졸업 후 미국 Georgetown Law Center 법학석사 (LL.M)를 취득하였다. 제27회 사법고시 합격, 한국 및 미국 뉴욕주 변호사 자격을 취득하였다. 1991년부터 법무법인(유) 광장에서 재직 중이며, 25여 년간 IT·방송통신 및 개인 정보, 정보보안 분야 업무를 담당하여왔다. Chambers Asia Pacific, Legal500, Asia Law 등에서 TMT 분야를 리드하는 전문 변호사로 선정되었고, 과학기술정보통신부 규제심사위원, 한국인터넷진흥원, 데이터산업진흥원의 비상임 이사를 역임하였고, 개인정보보호위원회 국외이전전문위원회 위원, 개인정보분쟁조정위원회 위원 등으로 활동하고 있다.


▶ 이일신 법무법인(유) 광장 파트너 변호사

서울대학교 법과대학을 졸업하고 미국 University of Southern California에서 법학석사(LL.M)를 취득하였다. 사법연수원(제40기) 수료 후 2014년부터 법무법인(유) 광장에서 재직 중이다. 주요 자문 분야는 개인정보, TMT, AI, 디지털금융 등이다. The Legal 500 Asia Pacific의 2023, 2024 TMT Rising Star를 수상하였다. 『AI 산업 발전을 위한 데이터 법제의 주요 쟁점과 개선방향』, 『The Financial Technology Law Review(South Korea)』 등을 집필하고, 서울대학교 데이터사이언스대학원 빅데이터 핀테크 과정에서 강의하였다. 과학기술정보통신부 인공지능법제정비단 제4기 위원으로 활동하고 있다.


10. 생성형AI의 경쟁법상의 이슈와 과제

▶ 정영진 김·장 법률사무소 변호사

서울대학교에서 법학을 전공하고 사법시험, 행정고시, 외무고시를 합격한 후 미국 예일대학교 법과대학원에서 법학석사(LL.M) 및 법학박사(JSD) 학위를 취득하였고 현재 김·장 법률사무소에서 변호사로 재직 중이다. 정 변호사는 국제경제법학회 회장을 역임하였고, 미국 듀크 대학교 로스쿨, 조지타운 대학교 로스쿨 및 서울대학교 법학전문대학원에서 강의하였다. 『탈세계화시대의 경쟁법규제(박영사, 2024)』 등 다수의 저서 및 논문이 있다. 


▶ 노태영 김·장 법률사무소 변호사

한국과학기술원 전자공학학사, 서울대학교 법학전문대학원에서 법학전문석사, 미국 컬럼비아대학교에서 LL.M 학위를 취득하였고 현재 김·장 법률사무소에서 변호사로 재직 중이다. 업무 분야는 공정거래, IT·방송통신 분야이며 AI 윤리·신뢰성 포럼 위원, 인공지능 법제 정비단 분과위원, 윤리정책 개발 과제 자문위원 등 인공지능 분야의 위원회 및 연구반에서도 활동하고 있다. 한국 및 뉴욕주 변호사 자격을 취득하였다. 


▶ 황혜선 김·장 법률사무소 변호사

이화여자대학교에서 언론정보학사, 같은 대학교 법학전문대학원에서 법학전문석사, 미국 컬럼비아 대학교에서 LL.M 학위를 취득하였고 삼성전자 법무실을 거쳐 현재 김·장 법률사무소에서 변호사로 재직 중이다. 주요 업무 분야는 공정거래, IT·방송통신 분야로, 현재 한국공정거래조정원 외부법률자문단을 역임하고 있으며 한국경쟁법학회, 한국공정경쟁연합회, 한국아시아경쟁연합 등 다수의 학회에서도 활동하고 있다. 한국 및 뉴욕주 변호사 자격을 취득하였다.


11. 생성형 AI에서 허위정보 이슈와 과제

▶ 박아란 고려대학교 미디어학부 부교수

서울대학교 경영학과 졸업 후 서울대 언론정보학과에서 석사를, 미국 오리건대학교 저널리즘· 커뮤니케이션스쿨에서 박사학위를 취득했다. 성신여대 커뮤니케이션학과 조교수, 한국언론진흥재단 책임연구위원을 역임했다. 주요 연구 분야는 미디어법과 언론윤리, 디지털 저널리즘이다. 『Media Law in South Korea』, 『인공지능 시대의 미디어윤리』, 『미디어와 명예훼손』, 『인터넷 표현의 자유』 등의 저서를 집필했으며 미디어법 관련 다수의 논문을 국내외 학술지에 발표했다. 한국언론법학회 부회장 및 한국언론학회 연구이사 등을 맡고 있다.


12. 생성형 AI에서 알고리즘 규제 이슈와 과제

▶ 손도일 법무법인(유) 율촌 변호사

서울대학원 정치학과 졸업 후 미국 UCLA Law School에서 법학석사(LL.M.) 취득, 사법연수원(제25기)을 수료하였다. 현재는 법무법인(유) 율촌의 IP & Technology 융합부문장을 맡아 M&A, ICT 관련 규제, 개인정보보호 업무를 담당 중이다. 국가데이터정책위원회의 위원(유통분과장 겸임) 등 관련 부처의 고문변호사 및 위원으로 활동하고 있다. 현재 세계변호사협회(IBA) Technology Law Committee의 위원장, 환태평양 변호사협회(IPBA)의 방송통신위원법 위원회 위원장을 맡고 있다. Asian Legal Business에 의하여 Asia의 Super TMT Lawyer 50, Chambers/Legal 500/Who’s Who Legal에서 선정하는 TMT/Data/Fintech 분야의 Leading Lawyer 및 National Leader로 선정된 바 있다.


▶ 안다연 법무법인(유) 율촌 변호사

연세대학교 경영학 학사 및 동 대학 법학전문대학원에서 법학전문석사를 취득하였다. 금융 및 핀테크 회사 사내변호사로 경력을 쌓은 후 현재 법무법인(유) 율촌의 파트너 변호사로 재직 중이다. 주요 업무 분야는 인공지능, 데이터와 개인정보 보호, 핀테크 등이며, 인공지능 분야에서는 주로 인공지능에서의 데이터 처리 및 활용 등에 관한 자문을 하고 있다.



PART 3  생성형 AI와 법 분야별 쟁점


13. 생성형 인공지능 시대의 계약자유 원칙과 문제점

▶ 황원재 전남대학교 법학전문대학원 부교수

고려대학교 법과대학 졸업 후 고려대학교 일반대학원에서 법학석사를 취득하고, 독일 Osnabrück 대학교에서 LL.M. 및 법학박사 학위를 취득하였다. 계명대학교 법학과에서 조교수로 근무하였고, 현재 전남대학교 법학전문대학원에서 부교수로 재직 중이다. 주요 연구 분야는 민법, 약관법, 소비자법, 개인정보보호법이다. 『민법사례연습』, 『온주 전자상거래등에서의소비자보호에관한법률』, 『주석 방문판매등에 관한 법률』의 집필에 참여하였고, 다수의 논문을 집필하였다. 한국소비자법학회 기획이사, 민사법의 이론과 실무학회 학술이사, 한국경영법률학회 섭외이사 등의 활동을 하고 있다. 


14. 생성형 인공지능을 활용한 행정의 이론적 문제와 대응

▶  양천수 영남대학교 법학전문대학원 교수

6장 참고


15. 생성형 AI를 활용한 해킹 범죄의 위험성과 대책

▶ 이원상 조선대학교 법학과 교수

고려대학교에서 법학학사와 석사학위를 취득하였고, 독일 뷔르츠부르크 대학 법과대학에서 형법(사이버범죄)을 전공하여 박사학위를 취득하였다. 한국형사법무정책연구원에서 국제 사이버범죄 팀장을 역임하였으며, 현재 조선대학교 법학과 교수이다. 주요 연구 분야는 형사법·형사 소송법·형사정책 이론, 사이버범죄, 인공지능 법 등이며, 2016년 미래창조과학부(현 과학기술정보통신부) 장관 표창을 수상하였다. 현재 형사법·디지털포렌식·4차산업혁명 등과 관련된 다수 학회의 상임이사, 법무부·검찰청·경찰청·전남도청·한국형사법무정책연구원 등 국가·지역 및 공공기관의 자문위원으로 활동하고 있다.


16. 생성형 인공지능 이용범죄의 쟁점과 규제방안 - 딥페이크 범죄를 중심으로

▶ 주현경 충남대학교 법학전문대학원 교수

고려대학교 법과대학을 졸업하고, 동 대학원에서 법학석사를, 독일 프랑크푸르트대학교에서 법학박사를 취득하였다. 현재 충남대학교 법학전문대학원 교수로 재직하며 형법, 형사소송법, 형사정책 등을 교육, 연구하고 있다. 형사법 관련 정책에 도입되는 과학기술의 활용 문제에 관심을 가지고 있으며, 인공지능과 법정책, 자율주행 관련 법제, 인공지능 위험평가 프로그램 등을 다루는 연구를 진행하고 『인공지능과 법(공저)』 외 다수의 논문을 발표하였다.


17. 생성형 AI와 금융법의 과제 

▶ 이정수 서울대학교 법학전문대학원 조교수

서울대학교 경제학과 졸업 후 동 대학원에서 법학석사와 법학박사 학위를 취득하였다. 미국 노스웨스턴대 로스쿨 및 동 켈로그 경영대학원에서 수학하였다. 제42회 행정고시(재경)와 제41회 사법시험에 합격 후 사법연수원을 거쳐 김앤장 법률사무소에서 변호사로 근무하였으며, 현재는 서울대학교 법학전문대학원에서 금융법을 가르치고 있다. 주요 연구 분야는 금융규제, 금융거래 등이며, 금융법 관련 다수의 저서와 논문을 집필하였다. 금융위원회 금융발전심의회, 금융감독원 제재심의위원회 등 금융 관련 정부위원회에 참여하였고, 그 외 대한변협 사법평가위원회 등 법조관련 위원회에서도 역할을 하고 있다. 또한 다수 학회에서 연구이사 등으로 활동하고 있다.


18. AI의 기술발달에 따른 헌법적 관점에서의 기본권 보장에 관한 연구

▶ 조수영 숙명여자대학교 교수

숙명여자대학교에서 법학박사 학위를 취득하였으며, 숙명여자대학교에서 2007년도부터 ‘헌법의원리와통치구조’, ‘기본권론’, ‘초연결사회와개인정보보호’, ‘제4차산업혁명과법’ 등을 강의하고 있다. 방송통신위원회 개인정보자율규제·개인정보법령자문위원회 위원과 행정안전부의 평가·자문위원, 국방보안연구소 융합보안 자문위원, 서울시 개인정보보호 심의위원, 한국인터넷진흥원 자문위원·가명정보전문가, 한국지능정보사회진흥원 자문위원, 교육학술정보원 자문위원, 그 밖의 다수 공공기관 등에 데이터 및 정보보호· 보안에 대한 자문 및 연구 활동을 하고 있다. 행정안전부장관상, 개인정보보호위원회장관상, 한국인터넷진흥원 원장상을 수상하였다.



PART 4  기타 생성형 AI 관련 법적, 정책적 관점


19. 생성형 AI의 오남용 문제와 사이버보안

▶ 김승주 고려대학교 정보보호대학원 교수

‘명견만리’, ‘차이나는 클라스’, ‘쌤과 함께’, ‘집사부일체’에 출연하는 등 가장 대중적인 정보보호 및 블록체인 전문가로 꼽힌다. 현재 고려대학교 정보보호대학원 교수로 재직 중이며, 대통령 직속 4차산업혁명위원회, 국방혁신위원회 및 국가인공지능위원회 민간위원으로 임명되기도 하였다. 특히 윤석열 정부 시절 대통령을 설득해 망분리 정책 개선을 이끌어 냈으며, 국방 분야에 사이버보안 위험관리(K-RMF) 제도를 도입한 선구자로도 꼽힌다.


20. 생성형 AI와 법률서비스의 이슈 및 동향

▶ 정채연 포스텍 인문사회학부 교수

고려대학교에서 법학사, 법학석사 및 법학박사 학위를 취득했고, 뉴욕대학교 로스쿨에서 LL.M. 학위를 취득했으며, 현재 뉴욕주 변호사이다. 대법원 사법정책연구원의 연구위원과 한국과학기술원 미래전략대학원의 연구조교수를 거쳐, 현재 포항공과대학교 인문사회학부 대우부교수로 재직 중이다. 기초법의 이론을 다양한 실천적 분야들에 적용하면서 바람직한 법제화 방향을 고안하는 데 관심을 기울여 왔다. 최근에는 지능정보사회에서 새로이 제기되는 법적 쟁점들과 그에 따른 탈근대적 담론의 성장에 주목하고 있으며, 인공지능 및 포스트휴먼과 법담론, 지능로봇과 윤리담론, 블록체인 기술과 탈중심적 거버넌스를 다루는 저서와 논문을 발표한 바 있다.


21. 생성형 AI 및 글로벌 통상환경의 변화와 전망

▶ 이주형 서울시립대학교 법학전문대학원 부교수

사법연수원 36기를 수료하고, 스위스 국제개발대학원 법학석사 및 이화여대 법학박사 학위를 취득하였다. 외교부에서 국제통상협상 및 조약 업무를 담당하고, 대법원, 김·장법률사무소에서 근무한 바 있다. 연구 분야는 디지털통상, 기후변화와 국제환경법 등으로 ‘데이터와 법’, ‘디지털통상론’, ‘Research Handbook on Digital Trade’ 등 다수 저서를 공동집필하고, ‘디지털 통상의 국제규범화 현황과 쟁점: 국경 간 데이터 이동 및 데이터 보호를 중심으로’란 논문으로 2021년 한국무역학회 학술대상을 수상했다. 현재 산업통상자원부 통상조약 국내대책위원회 위원, APEC 디지털분과 자문위원 등을 맡고 있고, 한국무역학회 부회장, 한국통상정보학회 부회장 등 다수 학회에서 활동 중이다.

목차


PART Ⅰ

생성형 AI에 대한 이해



CHAPTER 1

  생성형 AI의 기술적 이해 5



Section 01 | 서론 5

Section 02 | 생성형 AI 기술의 근간 9

Section 03 | 생성형 AI의 기술적 문제와 대응방안 14

Section 04 | 결론과 향후 과제 27




CHAPTER 2

  생성형 AI 시장과 산업의 동향과 전망 34



Section 01 | 주요 빅테크 기업의 생성형 AI 서비스 현황 34

Section 02 | 이미지 생성 및 음악 생성 서비스 46

Section 03 | 전망 52

Section 04 | 결론 57



CHAPTER 3

  생성형 AI가 가져올 변화와 정책과제 59



Section 01 | 생성형 AI 기술의 주요 특징 및 진화방향 60

Section 02 | 생성형 AI 기술이 가져올 변화 65

Section 03 | 정책과제 74




CHAPTER 4

  생성형 인공지능(AI) 규제원칙에 관한 연구 86



Section 01 | 서론 86

Section 02 | 생성형 AI의 개념과 특성 88

Section 03 | 신기술 규제의 일반 원칙 92

Section 04 | 생성형 AI의 규제원칙 101

Section 05 | 결론 110



PART Ⅱ

생성형 AI 규범의 이슈





CHAPTER 5

  글로벌 AI 규제 동향과 한국의 AI 규제 정립 방안 119



Section 01 | 들어가며 119

Section 02 | 글로벌 AI 규제 동향 120

Section 03 | 한국의 AI 규제 정립 방안 129



CHAPTER 6

  AI 규제법과 AI 규제의 방향 135



목차


Section 01 | 서론 135

Section 02 | 유럽연합 인공지능법의 배경 137

Section 03 | 유럽연합 인공지능법의 입법 과정 144

Section 04 | 유럽연합 인공지능법의 주요 내용 149

Section 05 | 인공지능 규제의 방향 163




CHAPTER 7

  생성형 AI의 활용과 지식재산 쟁점 168



Section 01 | 쟁점 제기 168

Section 02 | AI 창작물 보호와 발명자성 170

Section 03 | 생성형 AI를 활용한 창작과 저작권 분쟁 180

Section 04 | 딥페이크 기술의 활용과 퍼블리시티권 문제 185

Section 05 | 데이터 수집의 문제와 데이터 분석 면책 187




CHAPTER 8

  생성형 AI의 저작권법 이슈와 과제 195



Section 01 | 생성형 AI의 출현과 저작권 문제의 제기 195

Section 02 | AI 산출물에 대한 저작권법적 보호 가능성 198

Section 03 | AI 학습과 결과물 산출이 저작권 침해인가에 관한 쟁점 203

Section 04 | 향후의 대응과제 215






CHAPTER 9

  생성형 AI의 개인정보 이슈와 과제 219



Section 01 | 서론 219

Section 02 | 생성형 AI와 개인정보 보호법의 적용 한계 220

Section 03 | 생성형 AI와 개인정보 보호의 주요 쟁점 222

Section 04 | 생성형 AI에서의 개인정보 보호 강화 방안 239

Section 05 | 결론 243




CHAPTER 10

  생성형 AI의 경쟁법상의 이슈와 과제 245



Section 01 | 머리말 245

Section 02 | 경쟁법 측면에서 생성형 AI 산업의 특수성 249

Section 03 | 생성형 AI 산업 및 시장의 핵심적인 요소 256

Section 04 | 생성형 AI와 경쟁법적 이슈 261

Section 04 | 맺음말 279




CHAPTER 11

  생성형 AI에서 허위정보 이슈와 과제 283



Section 01 | 머리말 283

Section 02 | 허위정보의 개념과 역사 285

Section 03 | 허위정보와 법률적 대응 290

Section 04 | 인공지능과 사회적 혼란 296

Section 05 | 인공지능과 혐오표현 298




CHAPTER 12

  생성형 AI에서 알고리즘 규제 이슈와 과제 302



목차


Section 01 | 들어가는 말 302

Section 02 | 생성형 인공지능에 대한 이해 303

Section 03 | 생성형 인공지능의 알고리즘 규제 논의 307

Section 04 | 결론 – 생성형 인공지능 알고리즘 규제의 과제 322





PART Ⅲ

생성형 AI와 법 분야별 쟁점





CHAPTER 13

  생성형 인공지능 시대의 계약자유 원칙과 문제점 329



Section 01 | 서론 329

Section 02 | 인공지능과 법 330

Section 03 | 인공지능의 자율성과 의사표시의 문제 335

Section 04 | 인공지능의 등장과 계약자유 원칙의 변화 343

Section 05 | 결론 349




CHAPTER 14

  생성형 인공지능을 활용한 행정의 이론적 문제와 대응 353



Section 01 | 서론 353

Section 02 | 생성형 인공지능의 등장 354

Section 03 | 행정의 의의 358

Section 04 | 행정에 대한 인공지능 활용 필요성과 문제 364

Section 05 | 자동적 행정의 문제에 대한 대응 368

Section 06 | 자동적 행정의 규제 방안 373

Section 07 | 맺음말 380




CHAPTER 15

  생성형 AI를 활용한 해킹 범죄의 위험성과 대책 384



Section 01 | 들어가며 384

Section 02 | 생성형 AI의 발전과 해킹 범죄 386

Section 03 | 해킹 범죄 처벌을 위한 법률체계와 한계 393

Section 04 | AI를 활용한 해킹 범죄에 대한 대응방안 402

Section 05 | 나가며 412




CHAPTER 16


  생성형 인공지능 이용범죄의 쟁점과 규제방안- 딥페이크 범죄를 중심으로 415



Section 01 | 들어가며 415

Section 02 | 딥페이크의 정의 및 이용방법 417

Section 03 | 딥페이크 이용 범죄 421

Section 04 | 딥페이크 관련 국내외 입법 동향 424

Section 05 | 악의적 딥페이크 사용에 대한 대응 과제 432

Section 06 | 맺음말 – 딥페이크 이용 범죄의 규제 439




CHAPTER 17

  생성형 AI와 금융법의 과제 445



Section 01 | 서론 445

Section 02 | 인공지능과 금융 및 금융법의 관계 447

Section 03 | 인공지능 이용에 대한 금융법의 쟁점 453

Section 04 | 인공지능 발전에 따른 금융법의 새로운 과제와 규제방향 464

Section 05 | 결론 473




CHAPTER 18


  AI의 기술발달에 따른 헌법적 관점에서의 기본권 보장에 관한 연구 478



Section 01 | 서론 478

Section 02 | AI와 기본권과의 관계 480

Section 03 | 쟁점별 검토 및 헌법적 관점에서의 기본권 보장 방안 493

Section 04 | 결론 508




PART Ⅳ

기타 생성형 AI 관련 법적, 정책적 쟁점





CHAPTER 19

  생성형 AI의 오남용 문제와 사이버보안 517



Section 01 | 머리말 517

Section 02 | AI를 이용한 해킹 공격과 방어 520

Section 03 | AI를 이용한 가짜뉴스와 금융사기 525

Section 04 | 인공지능을 교란시키는 적대적 AI 기술 529

Section 05 | AI 슈퍼파워의 등장과 데이터 독점 537




CHAPTER 20

  생성형 AI와 법률서비스의 이슈 및 동향 541



Section 01 | 들어가며: ChatGPT의 등장과 법률서비스 541

Section 02 | 법률서비스에서 생성형 AI의 수용과 발전 543

Section 03 | 생성형 AI와 변호사의 윤리적 의무 및 책임 552

Section 04 | 생성형 AI를 통한 사법접근성 제고 564

Section 05 | 맺음말: 생성형 AI 시대의 로여링(lawyering)과 법학교육의 방향성 570




CHAPTER 21

  생성형 AI 및 글로벌 통상환경의 변화와 전망 577



Section 01 | 들어가며 577

Section 02 | 각국의 규범 관련 동향 579

Section 03 | 주요 국제기구의 논의 동향 584

Section 04 | 국제규범화 관련 동향 588

Section 05 | 나가며 599