경찰, 딥페이크 탐지 소프트웨어 개발…선거 여론조작 소탕

파이낸셜뉴스

2024.03.05 06:00:13

조회 1779 추천 0 댓글 9

/사진=뉴시스

[파이낸셜뉴스]경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다.

5일 경찰에 따르면 인공지능(AI) 기술의 급격한 발달과 함께 딥페이크 이용 범죄의 위협이 증대되고 있으며, 특히 제22대 총선을 앞두고 딥페이크 영상을 이용한 허위정보 유포 또는 여론조작에 대한 우려가 심화되고 있다.

이에 개정 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동을 금지했으며, 경찰 또한 해당 범죄에 대한 엄정 대응 기조를 천명한 바 있다.

해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5분~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다.

기존에 만들어진 딥페이크 탐지 모델은 해외에서 제작돼 서양인 위주의 데이터로 구성된 것이 대부분이었으며, 따라서 한국인을 대상으로 합성된 영상에 대해서는 탐지율이 떨어지는 문제점이 있었다. 이번에 개발한 ‘딥페이크 탐지 소프트웨어’는 인물 5400명의 데이터 520만점(한국인 데이터 100만점 및 아시아 계열 인종 데이터 13만점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌으며, 기존에 학습된 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 인공지능(AI) 모델을 적용했다.

해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용한다. 아울러 딥페이크와 관련한 새로운 기술이 끊임없이 개발.전파되고 있는 만큼, 딥페이크 영상 선거범죄에 대해서는 학계, 기업 등 인공지능(AI) 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 해당 소프트웨어의 오탐지 가능성도 최소화할 예정이다.

경찰청은 "딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다"며 "향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄·합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다"고 밝혔다.

beruf@fnnews.com 이진혁 기자

※ 저작권자 ⓒ 파이낸셜뉴스. 무단 전재-재배포 금지

▶ "남편과 텐트서 자는데 남성 7명이 들어오더니..." 끔찍 ▶ 배우 남친에 잠수 이별 당한 女 "관계 엄청했고, 신체 사진도.."▶ 아파트에서 발견된 남녀 시신, 둘 관계 알고보니..▶ 티아라 출신 아름 "전 남편이 대소변을..." 충격 주장 ▶ '전국노래자랑' 김신영에 돌연 하차 통보, 후임은...

고정닉 0

원본 첨부파일 1

202403041936058965_l.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
14841	檢, '미공개 정보 이용' LS증권 임직원 3명 구속영장 청구	파이낸셜뉴스	12:26	5	0
14840	'의료계 블랙리스트' 사직 전공의 혐의 부인…"스토킹 아냐"	파이낸셜뉴스	12:23	6	0
14839	'계곡살인' 이은해·조현수, 범인도피교사 혐의 '무죄' 이유는[서초카	파이낸셜뉴스	12:12	8	0
14838	검찰, '선거법' 이재명 징역 1년 집유에 항소..."사실오인·양형부	파이낸셜뉴스	11:12	10	0
14837	조국, 내달 12일 '운명의 날'…입시비리 의혹 대법 선고	파이낸셜뉴스	11:10	10	0
14836	[속보] 대법, 조국 '입시비리' 내달 12일 선고...의원직 박탈	파이낸셜뉴스	10:54	11	0
14835	운전석에서 신발 신다가 식당 돌진…4명 경상 [2]	파이낸셜뉴스	10:49	373	0
14834	'불법집회 혐의' 양경수 경찰 출석..."경찰 탄압 기획된 것"	파이낸셜뉴스	10:48	10	0
14833	법무법인 광장, 아시아 IP 어워드서 국내 최초 2관왕[로펌소식]	파이낸셜뉴스	10:42	9	0
14832	'백현동 수사무마 의혹' 총경 출신 변호사 오늘 1심 결론	파이낸셜뉴스	06:00	22	0
14831	‘뒷돈 수수 혐의’ 한국자산신탁 전 임직원 3명 구속	파이낸셜뉴스	11.21	36	0
14830	연세대·동국대·이화여대 교수 시국선언…"민주주의 위기"	파이낸셜뉴스	11.21	52	0
14829	'150억 부당대출 혐의' 김기유 전 태광 의장 구속영장 또 기각	파이낸셜뉴스	11.21	42	0
14828	이재명, ‘공직선거법 위반’ 2라운드 간다...법원에 항소장 제출[종 [1]	파이낸셜뉴스	11.21	56	0
14827	[속보]이재명, 공직선거법 사건 '의원직 상실형' 불복해 항소	파이낸셜뉴스	11.21	44	0
14826	박성재 장관, 태국 하원 외교위원장과 출입국·이민 상호 협력 논의	파이낸셜뉴스	11.21	39	0
14825	'아들 특혜채용 의혹' 김세환 전 선관위 사무총장 내일 구속기로	파이낸셜뉴스	11.21	45	0
14824	동덕여대, 남녀공학 전환 논의 잠정중단	파이낸셜뉴스	11.21	51	0
14823	경찰, '티메프 사태' 해피머니 발행사 압수수색	파이낸셜뉴스	11.21	43	0
14822	법무법인 율촌, '우크라이나 재건사업 진출전략' 세미나[로펌소식]	파이낸셜뉴스	11.21	63	0
14821	검찰, '검사 3명 추가 탄핵'에 "사유 있는지 의심...소추권 남용	파이낸셜뉴스	11.21	39	0
14820	'성별 바꾼 사기극' 전청조 2심서 징역 13년…"재범 위험성 높아"	파이낸셜뉴스	11.21	42	0
14819	시민단체, '백지신탁 불복 사퇴' 문헌일 전 구로구청장 고발	파이낸셜뉴스	11.21	37	0
14818	초콜릿포장지 마약 포장, 20만명분 밀반입 [6]	파이낸셜뉴스	11.21	5044	4
14817	어려운 사건은 수두룩, 처우는 밑바닥 [서민 '법조력자' 국선변호인	파이낸셜뉴스	11.21	35	0
14816	'친인척 부당대출' 손태승 우리금융지주 전 회장 이틀째 소환	파이낸셜뉴스	11.21	35	0
14815	10대 몰던 차량 청와대 분수광장 '쾅' [11]	파이낸셜뉴스	11.21	5798	1
14814	中에 '2400억 규모' 핵심기술 빼돌린 전직 연구원 재판행	파이낸셜뉴스	11.21	44	0
14813	상사 지시받고 "강제추행 본 적 없다"…위증 밝혀낸 검찰	파이낸셜뉴스	11.21	43	0
14812	철도노조 내달 5일 총파업, "노동자 안전이 시민 안전"	파이낸셜뉴스	11.21	41	0
14811	'금품 수수' 한국자산신탁 전 임직원, 오늘 구속 기로	파이낸셜뉴스	11.21	44	0
14810	'화천대유 고문활동' 권순일 첫 재판 순식간에 종료	파이낸셜뉴스	11.21	55	0
14809	업비트서 1조4700억원 이더리움 탈취, 범인은 북한이었다.	파이낸셜뉴스	11.21	69	0
14808	이재명 '위증교사' 선고도 생중계 안 한다…"법익 고려"	파이낸셜뉴스	11.21	50	0
14807	[속보] 법원, 이재명 '위증교사' 1심 생중계 않기로 [1]	파이낸셜뉴스	11.21	54	0
14806	남의 얼굴에 '두꺼비' 합성한 유튜버…대법 "모욕죄"	파이낸셜뉴스	11.21	86	0
14805	남성에게 흉기 휘두른 40~50대 여성들 이유가...	파이낸셜뉴스	11.21	74	0
14804	화재 취약한 전기차..."화재 확산 방지 대책 세워야" [2]	파이낸셜뉴스	11.21	239	0
14803	[단독] 법률플랫폼 가입 변호사 징계 재추진...서울회, '조사특위'	파이낸셜뉴스	11.20	73	0
14802	'수업 중 욕하고, 유튜브 영상 구독 강요하고' 중학 진로담당 교사	파이낸셜뉴스	11.20	108	0
14801	"왜 안 만나줘" 주차장서 70대男에 흉기 휘두른 50대女 [1]	파이낸셜뉴스	11.20	92	0
14800	세종대로서 전농·민노총 집회...물리적 충돌 없어 [종합]	파이낸셜뉴스	11.20	67	0
14799	"농정 실패 정권 퇴진해야"...세종대로에 모인 농민들	파이낸셜뉴스	11.20	69	0
14798	'분당 서현역 흉기난동' 최원종 무기징역 확정	파이낸셜뉴스	11.20	67	0
14797	'부산 180억 전세사기' 징역 15년 확정…법정 최고형	파이낸셜뉴스	11.20	75	0
14796	'공학 전환' 두고 강대강 치닫는 동덕여대…"재학생 99% 전환 반대	파이낸셜뉴스	11.20	101	0
14795	'尹 명예훼손 혐의' 김만배·신학림 석방…구속 5개월여만	파이낸셜뉴스	11.20	67	0
14794	노래방서 처음 만난 40대 남녀 '쌍방폭행', 여성은 흉기 휘둘러	파이낸셜뉴스	11.20	72	1
14793	붉은색 래커칠에 멍든 여대...'민·형사상 책임 가능성 높아' [48]	파이낸셜뉴스	11.20	6686	27
14792	법원, 연세대 이의신청 기각...'문제 유출' 논술시험 효력 정지 유	파이낸셜뉴스	11.20	74	0
뉴스	음공협, 암표 근절 캠페인 진행... 정동원→에이티즈 힘 보탠다	디시트렌드	11.21