딥페이크 넘어 AI 확산 우려 '청소년 범죄'...이용률 급증, 교육

파이낸셜뉴스

2024.09.10 08:47:53

조회 735 추천 1 댓글 15

전국 중·고생 생성형 AI 교육받은 비율 35.7% 불과
딥페이크 피의자 33명 중 31명이 10대 청소년, 텔레그램 10대 이용자 한 달 새 10만명 폭증
전문가 "좋고 나쁨이 아니라, 다양한 교육이 필요"

(출처=뉴시스/NEWSIS) /사진=뉴시스

[파이낸셜뉴스] 텔레그램 등 사회관계망서비스(SNS)를 악용한 딥페이크 성범죄물의 무분별 생성·유포되는 사태가 사회문제로 부각하면서 윤리 교육 강화 필요성에 대한 목소리도 커지고 있다. 심각성이 알려진 딥페이크 이미지뿐만 아니라 인공지능(AI)으로 만든 음란물·가짜뉴스 등도 확산될 가능성이 높은 만큼 대비가 필요하다는 지적이다. 그러나 현실은 아직 이를 따라가지 못하고 있다.

10일 최근 한국청소년정책연구원이 내놓은 '청소년 디지털 인재를 어떻게 양성할까' 보고서에 따르면 지난해 7∼8월 전국 중·고등학교에 다니는 청소년 2261명 대상으로 설문한 결과 올해 6월까지 학교에서 '생성형 AI 기술 활용 교육'을 받은 비율은 35.7%에 불과했다.

보고서에서 한 중학생은 "딥페이크나 디지털 범죄가 심각하다고 생각하지만, 학교에서 예방 교육을 받아본 적이 없다"며 "한때 딥페이크에 관한 범죄 예방이 화제가 됐다가 사라진 적이 있는데, 이것이 심각한 문제라는 사실을 학생들한테 인지시켜 줬으면 좋겠다"고 제안했다.

반면 경찰이 내놓은 수치는 딥페이크 범죄물에서 가장 취약한 계층은 청소년이라는 것을 보여준다. 경찰 집중단속이 이뤄진 지난달 26일부터 30일까지 5일간 딥페이크 범죄 피의자로 특정된 33명 중 31명이 10대였다. 경찰은 이 가운데 7명을 검거했다. 청소년은 6명이다. 올해 1∼7월 딥페이크 등 범죄 혐의로 입건된 피의자 총 178명을 연령별로 구분해 봐도 10대가 131명(73.6%)으로 가장 많았다.

실제 경기 안산상록경찰서는 딥페이크 성착취물을 만들어 판매한 혐의(청소년성보호법상 아동·청소년성착취물제작 및 배포 등)로 대구·경북지역 고등학생 A군을 지난 5일 입건해 조사하고 있다. 경찰은 A군의 자택 압수수색과 휴대전화 디지털포렌식을 통해 딥페이크 성착취물 317장을 발견해 압수했다.

여기다 팁페이크 발생의 주요 근원지로 지목된 텔레그램에서 10대 이하 월간 활성 이용자는 7월 41만1754에서 8월 51만1734으로 한달 새 10만명 가까이 급증했다. 전체 증가 폭에서 차지 비중은 32.1%에 달했다.

문제는 아직 AI를 올바르게 사용하기 위한 정부 차원의 구체적인 교육 가이드라인은 아직 마련되지 않은 상황이라는 점이다.

경기 부천의 30대 교사 A씨는 "AI 관련해서 교육하고 싶어도 정확한 가이드라인이 없어 교사들끼리 자체적으로 머리를 맞대고 있는 상황"이라며 "단순히 '딥페이크가 나쁘다' 수준을 넘어 AI 윤리와 관련된 다양한 측면의 교육이 필요하다"고 조언했다.

전문가들도 선제적인 AI 윤리 교육의 필요성을 강조했다.

김대근 한국형사법무정책 연구원은 "AI가 가지는 편향성, 확장성의 측면을 넘어 딥페이크 성범죄 사례와 같은 인격을 침해하는 새로운 범죄 행위가 발생하고 있는 상황"이라며 "AI를 소재 또는 매개로 하는 다양한 형태의 문제가 발생함에 따라 사용자들이 준수해야 할 새로운 윤리가 필요한 시점"이라고 말했다.

미국·유럽 등 해외 국가도 딥페이크를 포함한 다양한 AI 관련 문제에 대해 고민하고 있다. 미국의 경우 AI 연구를 맡고 있는 대학 기관 등이 학생들과 일반인들을 위한 윤리 교육 가이드를 자체적으로 만들어 배포하기도 했다.

wongood@fnnews.com 주원규 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ 불륜 남편과 10년 만에 동침한 이혜정, 이불 속에서...▶ '빚 190억' 임채무 충격 고백 "재혼후 놀이공원 화장실서..."▶ 배우 지진희도 생활고? 뜻밖 폭로 "아내가 주는 용돈이..."▶ 원주시 도로 수로서 60대女 숨진채 발견, 주변에...소름 ▶ 중년 여성들, 놀라운 고백 "남편 장례식 치른 뒤에 꼭..."

고정닉 0

원본 첨부파일 1

202409031738315225_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
이슈	[디시人터뷰] 라이징 스타로 인정받은 걸그룹, ‘리센느(RESCENE)’	운영자	24/11/08	-	-
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
14385	"어머니 괴롭혔다" 70대 아버지 살해한 30대 아들 긴급체포	파이낸셜뉴스	11.01	147	0
14384	'명품백 사건' 맡은 송창진 공수처 수사2부장 사의	파이낸셜뉴스	11.01	148	0
14383	74년만에 찾은 '6·25 전사 경찰관' 현충원 잠들다 [6]	파이낸셜뉴스	11.01	4784	13
14382	이별통보 받고 교제 여성·딸 살해…박학선 1심 무기징역	파이낸셜뉴스	11.01	170	0
14381	[속보]'강남 오피스텔 모녀 살해' 박학선, 1심 무기징역	파이낸셜뉴스	11.01	162	0
14380	검찰, '코인 시세조종' 피의자 자택 압수수색	파이낸셜뉴스	11.01	151	0
14379	"무섭다..." 징역 20년 전청조 최후진술…이달 21일 선고	파이낸셜뉴스	11.01	154	0
14378	광고탑서 한달간 고공농성 벌인 건설노조 2명 체포 [8]	파이낸셜뉴스	11.01	1876	2
14377	"정부 운영자금 증식?" 있지도 않은 걸로 80대 노인 등쳐 40억여	파이낸셜뉴스	11.01	124	0
14376	문다혜 오늘 소환될까? 파장 다른 '불법지원 의혹'	파이낸셜뉴스	11.01	135	0
14375	"전동 스쿠터는 괜찮겠지?" 연말연시 큰 코 다친다	파이낸셜뉴스	11.01	133	0
14374	[르포]참사 2주기 이태원, 핼러윈이지만 '엄숙' [11]	파이낸셜뉴스	10.31	2372	2
14373	'손태승 친인척 부당대출' 우리은행 전직 임원 구속	파이낸셜뉴스	10.31	146	0
14372	'소녀상에 입맞춤' 美 유튜버, 마약 혐의로 출국정지	파이낸셜뉴스	10.31	199	0
14371	"후진적 정경유착"...檢, '쌍방울 대북송금' 이화영에 징역 15년	파이낸셜뉴스	10.31	144	0
14370	"단속강화·인식개선 정책 병행해야"[죽음을 부르는 질주 음주운전]	파이낸셜뉴스	10.31	136	0
14369	檢, '손태승 부당대출 의혹' 우리은행 전현직 임원 2명 구속영장 청	파이낸셜뉴스	10.31	134	0
14368	'리걸테크' 성장 힘 받나, 멈추나…차기 변협 회장에 쏠린 눈	파이낸셜뉴스	10.31	132	0
14367	'평화의 소녀상 입 맞춘 美유튜버', 결국 경찰 수사... 편의점 난	파이낸셜뉴스	10.31	131	0
14366	석방된 카카오 김범수 "조사에 성실히 임할 것"	파이낸셜뉴스	10.31	135	0
14365	법무법인 지평, 헝가리 사무소 개설 기념 세미나 개최[로펌소식]	파이낸셜뉴스	10.31	127	0
14364	[속보] 'SM엔터 시세조종' 카카오 김범수 "성실히 조사 임할 것"	파이낸셜뉴스	10.31	121	0
14363	법무법인 화우, 하나은행 출신 신탁전문가 영입[로펌소식]	파이낸셜뉴스	10.31	110	0
14362	'강남 한복판서 술 마시고, 차 훔치고, 무면허 음주 운전' 주한미군	파이낸셜뉴스	10.31	118	0
14361	"건강했던 36주 태아, 살해 고의성 있다" 임산부 유튜버 등 살인 [39]	파이낸셜뉴스	10.31	1954	11
14360	'경영권 분쟁' 바디프랜드 창업주·최대주주 구속 기로	파이낸셜뉴스	10.31	103	0
14359	"보증금 3억원" 법원, 'SM 시세조종' 카카오 김범수 보석 허가	파이낸셜뉴스	10.31	99	0
14358	[속보]법원, 'SM 시세조종' 카카오 김범수 보석 허가	파이낸셜뉴스	10.31	101	0
14357	검찰, '이정근 취업청탁 의혹' 김현미 전 국토부장관 보좌관 압수수색	파이낸셜뉴스	10.31	104	0
14356	중국인에 가짜 양주 주고 600만원 결제, "술값 안내면 폭력 쓴다"	파이낸셜뉴스	10.31	119	0
14355	'경찰관 추락사' 용산 집단 마약 주범 2명 징역형 확정	파이낸셜뉴스	10.31	111	0
14354	"손님 늘리려고 마약 판매" 강남 '쩜오' 유흥업소 운영자 검거 [6]	파이낸셜뉴스	10.31	738	2
14353	내달부터 연말연시 음주·마약운전 특별단속	파이낸셜뉴스	10.31	98	0
14352	"뇌물 받고 경선 조작한 혐의'...검찰, 신영대 의원 구속영장 청구	파이낸셜뉴스	10.31	103	0
14351	檢, '코인 상장 뒷돈' 혐의 성유리 남편 안성현에 징역 7년 구형	파이낸셜뉴스	10.31	96	0
14350	윤관석 前의원 징역 2년 확정...'돈봉투 의혹' 관련 대법 첫 판단	파이낸셜뉴스	10.31	79	0
14349	"의견 표명으로 봐야"…대법, 이학수 정읍시장 당선무효형 파기환송	파이낸셜뉴스	10.31	69	0
14348	[속보] '민주당 돈봉투' 윤관석 유죄 확정…징역 2년 실형	파이낸셜뉴스	10.31	76	0
14347	30대 女운전자 "벌레 잡다가"…폐지수거 노인 충돌 사망 [1]	파이낸셜뉴스	10.31	118	0
14346	檢, '보좌관 성추행 혐의' 박완주 전 의원에 징역 5년 구형	파이낸셜뉴스	10.31	58	0
14345	"골프·외제차·미술품...회삿돈이 내 돈" 기막힌 증권사 일당 [2]	파이낸셜뉴스	10.31	275	0
14344	재판부는 왜 '서울대 N번방'에 중형 내리며 호통을 쳤을까? [8]	파이낸셜뉴스	10.31	381	1
14343	윤관석 前의원 실형 확정될까...'민주당 돈봉투 의혹' 첫 대법 판단	파이낸셜뉴스	10.31	66	0
14342	농구선수 허웅, 前연인 변호사 무고교사 등 혐의로 고소	파이낸셜뉴스	10.30	99	3
14341	문태갑 전 한국신문협회장 별세	파이낸셜뉴스	10.30	84	0
14340	"바뀌는 정책에 지친다. 실효성 없다" 일회용 컵 보증금제에 뿔난 자	파이낸셜뉴스	10.30	127	0
14339	"잘 나가는 여성에 열등감" 서울대 N번방' 주범 징역 10년 선고한	파이낸셜뉴스	10.30	121	0
14338	'日 AV 배우와 하룻밤 250만원' 韓 원정 성매매 '열도의 소녀들 [67]	파이낸셜뉴스	10.30	12146	30
14337	박유천, '6억여원' 前 매니저 손해배상 청구 소송 승소 [9]	파이낸셜뉴스	10.30	6623	7
14336	"마약류 범죄 근절, 국제 공조 중요" 28개국 수사기관 모였다.	파이낸셜뉴스	10.30	88	0