[AI와 미래] AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제

IT동아

2024.11.29 10:57:27

조회 181 추천 0 댓글 0

인공지능(AI) 기술의 급속한 발전으로 우리의 일상과 산업 전반에 큰 변화가 일어나고 있다. 본 기고에서는 AI로 인해 변화할 미래와 이에 대비하는 우리의 자세에 대해 다각도로 살펴보고자 한다.

AI 창작 콘텐츠, 보호받을 수 있을까? https://it.donga.com/106071/

기존 저작물은 AI 학습에 어디까지 활용할 수 있을까? https://it.donga.com/106146/

AI 창작 콘텐츠, 법적·윤리적 도전과 해결 과제 https://it.donga.com/106218/

[IT동아]

지난 5월 개봉한 할리우드 영화 ‘스턴트맨’은 AI 딥페이크 기술의 양면성을 명확하게 보여준다. 영화에서 AI 기술은 대역 배우 얼굴을 스타 배우 얼굴로 자연스럽게 바꿔 위험한 액션이나 젊은 시절 모습을 완벽하게 구현하는데 기여한다. 반면 범죄에 악용되어 제3자에게 살인 누명을 씌우는데 활용되기도 한다.

AI 딥페이크 기술의 악용 사례는 현실에서도 어렵지 않게 찾을 수 있다. 유명 연예인 얼굴을 성착취물에 합성해 무단으로 배포하거나, 가족의 목소리를 제작해 보이스피싱에 이용하기도 한다. 정치인 선거에 가짜 뉴스를 양산하는 사례도 있다.

딥페이크 영상에 대한 경고 메시지. 생성형 AI 서비스 달리로 제작 / 출처=옥다혜 변호사

AI 딥페이크 콘텐츠가 야기할 수 있는 법적 문제는 크게 세 가지로 나눌 수 있다. 물론 AI 창작 콘텐츠나 AI 창작 콘텐츠 관련 문제를 직접적으로 규제하는 법률은 없으나 기존 법률로도 상당 부분 위법성을 가늠할 수 있다.

첫째 동의 없는 인격 도용이다. AI 기술로 유명인의 목소리, 얼굴 등을 학습해 그들의 사진, 영상을 제작 및 배포했다면 초상권, 퍼블리시티권 침해가 될 수 있다.

둘째 허위 정보 생산과 유통의 문제다. AI 기술로 실제와 구분하기 어려운 가짜 이미지나 영상을 만들어 배포하는 경우 정보통신망법상 허위 사실 적시 명예훼손에 해당할 수 있다. 또한 AI 기술로 성착취물 영상을 제작했다면, 성폭력처벌법 허위 영상물 등의 반포에 해당할 수 있다.

셋째 윤리적 편향과 차별의 재생산이다. AI 기술은 학습 데이터에 포함된 편견을 그대로 반영하거나 증폭시킬 수 있다. 예를 들어 특정 성별이나 인종에 대한 고정관념을 담은 이미지를 무분별하게 생성하거나, 편향된 서사를 담은 텍스트를 만들어낼 수 있다. 이 부분은 아직 법적 규제가 명시되지 않은 영역이다.

출처=셔터스톡

이러한 문제에 대해 세계 각국은 어떻게 대응하고 있을까? 유럽연합(EU)은 ‘AI법(AI Act)’을 통해 AI 창작 콘텐츠에 AI 기술로 제작한 사실을 반드시 표시하도록 규정하고 있다. 중국은 지난해 ‘딥페이크 관리 규정’을 제정해 AI 창작 콘텐츠의 제작 및 유통을 엄격히 관리하고 있다. 미국은 법적 규제보다 자율 규제에 방점을 두고 있다. 구글, 메타 등 주요 AI 기업은 ‘AI 생성 콘텐츠 원칙’을 발표하고, AI 워터마크 기술 도입, 콘텐츠 검증 시스템 구축 등을 자발적으로 추진하고 있다.

우리나라도 AI 창작 콘텐츠에 대한 법적 규제 도입을 추진하고 있다. 정부는 AI 창작 콘텐츠의 식별 표시 의무화, 퍼블리시티권 보호 강화, 허위 정보 유통 방지 등을 위한 구체적인 법적 기준 마련을 위해 법 제정 및 가이드라인 발표를 진행할 것이라고 밝혔다. 기술적 해결 방안 도입도 준비하고 있다. 한국정보통신기술협회(TTA)는 올 연말을 목표로 AI 워터마크 적용 가이드라인을 발표할 예정이다.

AI 창작 콘텐츠는 새로운 표현과 혁신의 도구가 될 수 있지만, 동시에 심각한 법적, 윤리적 문제를 야기할 수 있다. 이에 이러한 문제를 예방할 방법과 향후 도입할 규제의 적합성에 대해 함께 고민해야 한다. 앞서 언급한 정부의 법 제정 및 가이드라인 발표, 기술적 해결 방안의 도입과 함께 출처 추적 기술, 콘텐츠 진위 판별 시스템 등 다양한 기술적 보호 조치의 도입 및 의무화 방안을 검토해야 한다. 또한 윤리 가이드라인 수립과 교육도 간과하지 말아야 한다. 창작자와 이용자 모두 준수해야 할 윤리적 원칙을 수립하고, 이에 대한 인식을 높여야 한다.

글 / 옥다혜 법무법인 미션 변호사

법무법인 미션 공공거버넌스팀 소속으로, 새로운 산업의 등장에 따라 새로운 제도를 입법 및 설계하도록 정부, 공공기관 등에 자문하고 있다. 경기콘텐츠진흥원 법률 지원 사업의 일환으로 AI 시대에 콘텐츠 스타트업과 창작자들의 권리에 대해 고민하면서 기고를 진행하고 있다.

정리 / IT동아 한만혁 기자 (mh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [부산창경 BEF 2024] 히어로웍스 “숙박 시설의 업무 자동화에 기여합니다”▶ [고려대 미래내일] 청년 일경험 우수 팀 “연구 구체화, 실무 경험 값진 시간”▶ [생성 AI 길라잡이] 양질의 전문 자료를 깔끔하게 정리해 보여주는 ‘틀루토’

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	가수에서 배우로 전향 했지만 기대에 못 미치는 스타는?	운영자	25/02/24	-	-
4950	[리뷰] ‘폰카’로 ‘작품’ 찍는 짐벌, DJI 오즈모 모바일 7 시리즈	IT동아	11:51	19	0
4949	배재인 다쏘시스템코리아 CRE본부장 “韓 로봇 시장 급성장…스타트업 혁신 적극 지원”	IT동아	09:35	24	0
4948	‘버추얼 트윈’ 기술로 시간당 200개 햄버거 패티 굽는 로봇 개발 '에니아이’ [6]	IT동아	05:21	1051	0
4947	‘다쏘시스템’ 솔루션에 ‘애플 비전 프로’ 접목…새로운 방식의 협업 기대	IT동아	02.26	55	0
4946	다쏘시스템 “설계 효율 높일 AI 챗봇 ‘아우라’ 오는 7월 도입”	IT동아	02.26	55	0
4945	[주간스타트업동향] 픽플리, AI 활용 실태 조사 “AI, 활용도 높지만 신뢰성은 아직”	IT동아	02.26	50	0
4944	[생활 속IT] 화면을 더 부드럽게, 120Hz 주사율 설정하는 법 [2]	IT동아	02.26	4563	4
4943	[크립토 퀵서치] 업비트는 왜 3개월 영업 일부 정지 조치를 받나요?	IT동아	02.26	49	0
4942	이통3사, MWC 2025서 선보일 AI 전략 차이점은?	IT동아	02.26	1384	0
4941	다양한 종류의 디지털 카메라, 무엇에 초점을 두고 선택할까? [2]	IT동아	02.26	120	0
4940	스테이블코인 협의회 출범 ‘실효성 있는 규제 환경 조성에 기여’	IT동아	02.25	98	0
4939	다쏘시스템 "버추얼 트윈 기술로 지속 가능한 선순환 구조 형성할 것"	IT동아	02.25	100	0
4938	국내외 인공지능 기업의 시선, ‘휴머노이드’로 이동 중 [2]	IT동아	02.25	698	0
4937	[르포] 美 유인 우주 계획의 본거지 ‘NASA 존슨 우주 센터’ 가보니	IT동아	02.25	669	4
4936	"채굴 가고 인공지능 왔다" 지포스 RTX 50 구매 대란, 굳이 지금 사야되나? [2]	IT동아	02.25	1919	0
4935	[리뷰] 2.5G에 관리 기능까지 더한 특별한 스위치, 넷기어 MS305E	IT동아	02.24	124	0
4934	배터리 부풀어 오를 때는 이렇게! [이럴땐 이렇게!]	IT동아	02.24	5350	5
4933	바이비트, 약 2조 원 규모 해킹 피해 ‘역대 최대 규모’ [3]	IT동아	02.24	930	4
4932	[주간투자동향] 라이드, 40억 원 규모 시리즈A 투자 유치 外	IT동아	02.24	108	0
4931	[리뷰] 기본기, 완성도에 집중한 그래픽 카드, 인텔 아크 B580	IT동아	02.24	110	0
4930	[투자를IT다] 2025년 2월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	02.21	5679	1
4929	[생성 AI 길라잡이] 신형 PC의 특권? 윈도우 그림판 AI 기능 활용하기 [7]	IT동아	02.21	5162	6
4928	[생활 속 IT] 알고리즘의 축복, 유튜브 ‘인급동’ 기준은?	IT동아	02.21	199	0
4927	화물차 차주에게는 주차공간을, 유휴부지 소유주에게는 수익을…‘트럭헬퍼’ [2]	IT동아	02.21	4430	1
4926	[리뷰] 성능과 배터리 효율의 극적인 조화, 삼성 갤럭시 북5 프로 [3]	IT동아	02.21	4331	18
4925	[크립토 퀵서치] 100만 원 미만 가상자산 출금 방식이 변경된 이유는?	IT동아	02.21	173	0
4923	[IT하는법] 신뢰할 수 있는 장소에서 '잠금 해제 유지'하는 방법	IT동아	02.21	173	0
4922	[민관협력 오픈이노베이션 지원사업] 큐빅 “SKT와의 협업으로 새로운 기회·가능성 발견”	IT동아	02.21	150	0
4921	레노버 “기업의 AI 도입, ‘무작정’ 아닌 ‘제대로’가 중요” [1]	IT동아	02.20	238	0
4920	우버 택시 “CEO가 직접 택시 운전하며 피드백 수렴…서비스 대상 확대 박차”	IT동아	02.20	1520	0
4919	[2024 고려대 초창패] 케미컴퍼니, '진정성 있는 인연, 하트트래블이 맺어드립니다'	IT동아	02.20	639	0
4918	세종창조경제혁신센터, 스타트업 생존전략 강화 및 피봇팅 성과 발표	IT동아	02.20	174	0
4917	[2024 고려대 초창패] 파이브지코퍼레이션 “AI 체형 분석으로 최적 침구 찾아주는 딥몽”	IT동아	02.20	171	0
4916	2025년 3월 출범하는 대체거래소 넥스트레이드, 장점과 아쉬운 점	IT동아	02.20	176	0
4915	기능을 포기하고 99만 원... 애플 아이폰 16e 공개 [2]	IT동아	02.20	708	0
4914	컬러 산업의 리더 모인 ‘2025 컬러 & 디자인 세미나 서울’ 성료 [1]	IT동아	02.19	499	0
4913	라스베이거스 초대형 돔 스피어는 어떻게 구동되나	IT동아	02.19	173	0
4912	험난한 야외 환경 견딜 필드용 로봇 위한 ‘전자파 내성 센서’ 개발	IT동아	02.19	159	0
4911	엔슬파트너스+동아닷컴+아이티동아, 'K-스타트업' 해외 홍보를 위한 업무협약 체결	IT동아	02.19	3778	0
4910	[ETF 기본기 다지기] ETF 투자하는 동안 발생하는 비용	IT동아	02.19	1443	0
4909	[주간스타트업동향] 레드브릭, UAE 국부펀드 운영 ‘HUB71’ 선정 外	IT동아	02.19	155	0
4907	‘항공 사진과 GPS로 정확하게’ 드론이 바꿀 건축ㆍ측량 산업	IT동아	02.19	1386	0
4906	시놀로지 “쉽고 빠른 기업 데이터 관리, '액티브프로텍트'가 정답”	IT동아	02.18	163	0
4905	[스타트업-ing] 이티에프랩 “초보 투자자를 위한 ETF 정보 제공, 케이이티에프”	IT동아	02.18	158	0
4904	[자동차와 法] 수소차 보급과 법·제도: 친환경 모빌리티 시대의 과제 [1]	IT동아	02.18	4355	0
4903	포털 ‘줌’, AI 가상자산 분석 서비스 제공	IT동아	02.18	143	0
4902	[신차공개] ‘기아 EV4’ 외장 공개·’로터스 25년형 에미라’ 출시	IT동아	02.17	204	0
4901	비행기에 리튬이온 배터리 갖고 탈 땐 이렇게! [이럴땐 이렇게!] [2]	IT동아	02.17	5701	2
4900	당근으로 집 산다? 부동산 직거래 플랫폼, 안전하게 이용하려면	IT동아	02.17	194	0
4899	[투자를IT다] 2025년 2월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	02.14	303	0
뉴스	한매연 측 “뉴진스(NJZ) 일방적 전속계약 해지 선언 및 독자적 활동, 매우 위험”	디시트렌드	14:00