'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아 갤러리

1/3

싱글벙글 백종원의 군 급식비 인상에 대한 생각.jpg 어휴 작성자 : 최강한화이글스팬

'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아

2023.12.12 14:18:50

조회 951 추천 6 댓글 10

[IT동아 남시현 기자] 현지시간 12월 9일, 유럽연합 이사회 의장단과 유럽의회 협상단이 ‘인공지능 법’에 대한 잠정 합의에 도달했다. 관련 투표는 내년 초 개최 예정이며, 2025년은 되어야 공식 발효될 전망이다. 전 세계적으로 인공지능 개발이 속도를 내고 있는 가운데, 정부 차원에서 인공지능에 대한 규제를 성문화한 것은 세계 최초다. 규정 초안은 유럽 시장에 배치되는 인공지능을 개발하는 규칙을 담고 있으며, 원격 생체 인식이나 기본권 영향 평가 등을 의무적으로 수행한다.

EU AI법, 책임감 있는 AI 만들도록 강제한다

이번 EU AI법은 인공지능 개발에서 등외시되고 있는 ‘책임감 있는 AI’를 강제적으로 이행하게 만든다는 점에서 의의가 크다. 지난 2017년, 전 세계 경제, 법률, 윤리, 철학 분야의 100여 명 이상의 리더 및 연구자들이 캘리포니아 주 아실로마 콘퍼런스 그라운드에서 AI 연구를 위한 24가지 아실로마 AI 원칙을 제정했다.

해당 이미지는 어도비의 생성형 AI를 활용해 만들어진 이미지다 / 출처=유럽의회

원칙은 연구 이슈(5개 항), 윤리와 가치(13개 항), 장기 이슈(5개 항)까지 총 3개 범주로 구성돼 있고, 물리학자 스티븐 호킹이나 컴퓨터 공학자 레이 커즈와일, 오픈AI의 샘 알트만, 일론 머스크 등 2천300여 명이 서명했다. 하지만 주요 참여 인력이었던 오픈AI가 인공지능에 대한 안전보다 기술적 알 권리를 내세워 챗GPT를 공개했고, 이로인해 구글과 메타AI, 마이크로소프트 등도 잇달아 인공지능을 공개하면서 무한 경쟁이 시작됐다.

그렇게 지난해 11월 갑자기 등장한 챗GPT는 세상을 바꿔놓았고, 연이어 등장한 생성형 AI와 대형 언어 모델은 1년도 되지 않아 전 세계 모든 산업 생태계를 바꿔놓기 시작했다. 문제는 속도가 지나치게 빨라 곳곳에서 경제, 윤리, 개인정보 보호, 지속가능성 등에 대한 우려가 터져나오는 상황이다.

강제력 없는 블레츨리 선언, 강제력 갖춘 EU AI법

이에 대응해 전 세계 28개국은 지난 11월 2일 영국 블레츨리 파크에서 ‘AI 안전 정상회의’를 열고 인공지능의 위험성을 평가하고 관리하는 ‘블레츨리 선언’을 발표했고, 2021년 4월에 제출된 EU AI법이 합의 끝에 법제화를 시작하면서 무분별한 인공지능 개발에도 제동 장치가 마련됐다.

블레츨리 선언의 경우 미국, 영국 두 국가가 주도하며, ‘국가 AI 연구 자원’을 통해 전 세계 AI 연구자들을 위한 클라우드를 제공함과 더불어 AI가 도입되는 다양한 분야에서 표준과 정의를 수립하는 데 주력한다. 예를 들어 비전 인식 분야에서는 개인 안면 인식 등의 표준화를 만들고, 자율주행 측면에서는 도덕적 딜레마 등의 원칙을 세우는 것이다.

11월 2일, 윤석열 대통령이 영국에서 열린 제 1차 AI 안전 정상회의에 화상으로 참석했다 / 출처=대한민국 대통령실

EU AI법은 블레츨리 선언보다 훨씬 더 면밀하고 정확하며, 처벌 규정까지 담고 있다. 합의된 초안은 향후 시스템 위험을 초래할 수 있는 영향력이 큰 범용 AI 모델, 그리고 고위험 AI 시스템에 대한 규칙을 수립하며, EU 수준에서 운영 차원에 집행 권한을 갖는다. 또 금지 목록을 만들고, 공공장소에서 법 집행 기관이 원격 생체 인식을 사용할 수 있도록 허용한다. 또한 고위험 AI 개발사는 기본권 영향 평가를 의무적으로 수행해 대상사 권리를 보호한다.

대신 민감 데이터의 적절한 취급, 업무 능력의 보존 등의 내용을 담은 적합성 평가를 통과했을 경우 문제없이 사용할 수 있고, 이를 위해 투명성 의무를 준수해야 할 것을 주문한다. 만약 AI 법을 위반할 경우 글로벌 연간 매출액의 7% 또는 3500만 유로(약 495억 원)의 벌금을 내게 된다. 유럽의회는 표결 이후 약 2년 뒤부터 해당 법안을 발효할 예정이다.

GDPR 절차 밟는 EU AI법, 우리나라는 지지부진해

EU AI법은 유럽 일반 개인정보 보호법(GDPR)과 동일한 절차를 밟을 것으로 보인다. GDPR은 EU 내에서 사업하는 조직 및 기관이 EU 시민의 데이터와 개인정보를 저장 및 전송 등을 규제하는 법안이며, 매출의 4% 또는 2000만 유로(283억 원)를 벌금으로 납부하는 강제력이 있다. 이로 인해 전 세계 모든 기업들이 GDPR에 맞는 개인정보 보호 방안 절차를 마련했고, 자연스레 취급 방안이 표준화됐다. EU AI법은 더 큰 강제력을 갖췄으며, 소수의 개발 기업들을 겨냥한 입법이어서 더 강력하게 작용할 것이다.

국회의사당 전경 / 출처=국회자료실

문제는 우리나라다. 우리 국회는 2021년 이루다 사태 등 개인정보 보호 위반 사례를 계기로 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’로 규제안을 마련했지만, 지난 2월 과방위 법안 소위 통과 이후 지지부진한 상황이다. 심지어 신뢰성 검증과 사전 적정성 검토제가 제대로 논의되지 않아 법안 자체의 허점이 큰 상황이다. 전 세계적으로 AI에 대한 강력한 규제가 마련되고 있는 만큼, 무분별한 AI 개발을 막기 위해서라도 대책이 시급하다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’▶ 샘 올트먼 복귀로 끝난 오픈AI 쿠데타…'AI 개발론'에 무게추 ▶ 'AI 철학' 갈등이 쿠데타로…오픈AI서 무슨 일이 있었나

고정닉 1

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
이슈	[디시人터뷰] 라이징 스타로 인정받은 걸그룹, ‘리센느(RESCENE)’	운영자	24/11/08	-	-
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
3453	[뉴스줌인] AI∙콘텐츠 작업용 노트북, ‘MSI 프레스티지 16 AI Studio’ 이모저모	IT동아	02.14	424	0
3452	[EV 시대] 전기차 시대 디자인 변화상 살펴보니	IT동아	02.13	118	0
3451	다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”	IT동아	02.13	124	0
3450	빗썸, 이더리움 멀티체인 지원 등 ‘입출금 서비스 개선’	IT동아	02.13	1022	0
3449	[주간투자동향] 클라우드호스피탈, 20억 원 규모 프리 시리즈A 투자 유치	IT동아	02.13	148	0
3448	[스타트업-ing] 레디큐어 “디지털 엑스선, 치매 환자·가족에게 희망을”	IT동아	02.13	92	0
3447	스마트폰 보호필름 선택은 이렇게![이럴땐 이렇게!] [2]	IT동아	02.12	344	0
3446	우주의 신비 푸는 디지털 카메라들	IT동아	02.12	571	0
3445	늘어나는 '와이파이 7' 지원··· 2024년 와이파이 전환 원년 될까? [17]	IT동아	02.12	7017	6
3444	주목할 만한 올해 출시 예정 전기차 살펴보니	IT동아	02.08	124	0
3443	스마트폰 업계, 2023 부진 인공지능으로 씻는다	IT동아	02.08	198	0
3442	플로우 “생기부 작성, 입시지도 업무에도 AI 활용하는 시대 온다”	IT동아	02.08	151	0
3441	‘14인용 LG 디오스 오브제컬렉션 식기세척기’ 출시, 대용량 제품군 강화	IT동아	02.08	149	0
3440	거래소 점유율 좌우하는 ‘거래 수수료’	IT동아	02.08	930	0
3439	‘AI 기반 학업성취도 평가·분석’…기술 고도화 나선 교육업계	IT동아	02.07	121	0
3438	가상자산 신고센터 사례로 보는 이용자 유의사항 5가지	IT동아	02.07	344	0
3437	[리뷰] 프레임 확장으로 활용도·가성비↑ AMD 라데온 RX 7600 XT [4]	IT동아	02.07	1050	0
3436	존 모리스 씨게이트 CTO “30TB 장벽 넘은 드라이브, 데이터센터 혁신 이끌 것	IT동아	02.06	166	0
3435	[자동차와 法] 도로상 장애물로 인한 교통사고의 법률적 문제와 해결방안	IT동아	02.06	327	1
3434	설 연휴 맞이 무상점검 실시하는 車 제조사	IT동아	02.06	119	0
3433	PC 부팅 실패나 오류를 고치려면 이렇게![이럴땐 이렇게!]	IT동아	02.06	843	2
3432	[뉴스줌인] 실속형 무선청소기 LG 코드제로 ‘A9 에어’, 고급형 모델 대비 차이점은? [3]	IT동아	02.05	1213	1
3431	[리뷰] 가성비 맞춘 전동형 책상, 핏쳐 L1 모션 데스크	IT동아	02.05	134	0
3430	[스타트업 법률실무 마스터링] 스타트업 법률실무 (2) 스톡옵션 부여 및 행사 관련 분쟁 방지	IT동아	02.05	115	0
3429	라온로드 “클라우드 기반 교통체계 시장은 블루오션, 우리가 개척 중”	IT동아	02.05	109	0
3428	빗썸, ‘창업 경진대회’ 유망기업 10개 선정···1위 반프 수상	IT동아	02.05	116	0
3427	반세기 이상 이어진 역사…BMW 5시리즈 발자취 살펴보니 [5]	IT동아	02.05	871	3
3426	[시승기] 8세대에 걸친 진화…수입차 1위 탈환의 주역 ‘BMW 뉴 5시리즈’	IT동아	02.02	139	0
3425	[리뷰] 넓은 공간감과 보강된 저음, 젠하이저 레퍼런스 헤드폰 ‘HD490 프로’	IT동아	02.02	132	0
3424	대기업과의 협업 기회 제공 ‘창업도약패키지(대기업 협업형)’ 참여 기업 모집	IT동아	02.02	186	0
3423	애플, 올 연말에 '생성형 AI' 윤곽 제시한다 [4]	IT동아	02.02	1145	0
3422	"부산 워케이션 센터, 모두에게 열린 최적의 업무 공간"	IT동아	02.02	119	0
3421	"BGF리테일의 신속성과 업무 효율, 협업 툴 플로우에서 비롯됐죠" [3]	IT동아	02.02	433	1
3420	30kg 무게 들어 올리는 '고하중 협동로봇' 선보인 ‘유니버설 로봇’	IT동아	02.01	133	0
3419	'2024년의 키워드는 AI'··· 주목할 만한 각국의 AI 하드웨어 기업은? [4]	IT동아	02.01	1004	2
3418	백승학 치과교정학회장 “치아교정, 충분한 경험과 지식 갖춘 의사가 중요”	IT동아	02.01	102	0
3417	[리뷰] 휴대성-성능 모두 챙긴 비즈니스 노트북, 에이수스 엑스퍼트북 B9	IT동아	01.31	120	0
3416	[IT애정남] 한쪽 이어폰을 교체한 경우, 양쪽 이어폰을 연결하려면? [3]	IT동아	01.31	651	0
3415	[IT애정남] 휴면회원이 활성 회원으로··· 왜 자꾸 안내가 올까요? [4]	IT동아	01.31	1965	9
3414	푸조 “올해 ‘E-408·E-5008 전기차 투입’과 ‘챗GPT 적용’으로 승부수” [2]	IT동아	01.31	758	1
3413	[KTVF] 원컴 “궁극형 QiFi 솔루션으로 무선 충전 기술 보편화에 앞장서겠습니다”	IT동아	01.31	112	0
3412	[EV 시대] ‘영국 EV 인프라’ 살펴보니...가로등에도 충전시설 구축 [3]	IT동아	01.30	508	0
3411	[IT하는법] 외부 앱 설치 차단으로 스마트폰 피싱 막는 법 [4]	IT동아	01.30	1471	0
3410	LG전자, 중기부와 함께 ‘디지털 헬스케어’ 스타트업 찾는다	IT동아	01.30	154	0
3409	IBM-한국퀀텀컴퓨팅, IBM 왓슨x 및 양자 컴퓨터 국내 도입 위해 협력 [6]	IT동아	01.30	840	2
3408	[KTVF] 칼렛바이오 “글로벌 포장 산업의 표준이 되겠습니다”	IT동아	01.30	102	0
3407	[혁신스타트업 in 홍릉] 픽셀로 “눈 건강 관리, 안구 질환 예방하는 아이케어 솔루션”	IT동아	01.30	159	0
3406	[뉴스줌인] 본격 출시 시작한 ATX 3.1 파워 서플라이, 바뀐 점은?	IT동아	01.30	511	0
3405	[리뷰] 온디바이스 AI를 위한 중견급 CPU, AMD 라이젠 5 8600G	IT동아	01.29	119	0
3404	[주간투자동향] 에니아이, 157억 원 규모의 프리-시리즈A 투자 유치	IT동아	01.29	145	0