가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’

IT동아

2023.05.25 19:26:34

조회 1973 추천 1 댓글 11

[IT동아 정연호 기자] 명령어(프롬프트)를 입력하면 글과 사진 등 콘텐츠를 만드는 인공지능(이하 AI)이 세계 곳곳에서 인기다. 동시에 AI 콘텐츠로 만든 가짜뉴스를 우려하는 목소리도 커졌다. 실제로 최근에는 AI로 만든 정교한 가짜뉴스가 부쩍 늘었다. 이에 업계는 AI로 제작한 콘텐츠를 감별하는 기술들을 개발하지만, 완성도를 더 높여야 한다는 분석이 나온다.

글, 사진, 영상을 만드는 AI 기술은 빠른 속도로 발전한다. 이제 오픈AI의 챗GPT는 사람이 쓴 것 같은 글을 작성한다. 사진 제작 AI인 미드저니(Midjourney)의 결과물을 실제 사진으로 착각하는 사람도 있다. 비디오 제작 AI 기업 런웨이의 ‘젠-2’가 만든 영상은 아직 해상도가 낮고 피사체 움직임도 어색하다. 하지만, 글, 사진을 만드는 AI처럼 기술이 빠르게 발전할 것이라는 전망이 나온다.

이러한 AI 기술은 다양한 콘텐츠를 만들 때 진입 장벽을 낮춘다는 장점이 있지만, 단점도 있다. AI를 악용해 정교한 가짜뉴스를 만드는 것이 쉬워졌다. 실제로 AI로 만든 가짜뉴스들이 사회관계망서비스(SNS)에 범람하는 중이다.

지난 22일(현지시각) 트위터에 미국 펜타곤(국방부 청사)의 화재 사진이 올라왔다. AI로 제작한 가짜 사진으로 만든 가짜 뉴스였다. 러시아의 해외 선전매체인 RT와 유명 경제뉴스 계정들이 이 사진을 공유했다. 많은 사람들이 펜타곤 화재를 실제 상황으로 받아들였다.

트위터에 올라온 펜타곤 화재 사진, 출처=WhaleChart

이에 펜타곤 주변을 관할하는 버지니아주 알링턴카운티의 소방당국은 공식 트위터 계정에서 “펜타곤 근처에서 발생한 화재는 없다.”라고 밝혔다.

AI 전문가들은 이러한 가짜뉴스의 진위를 판별하려면 우선 디지털 포렌식(디지털 정보를 분석해 범죄 단서를 찾는 수사 기법)이 필요하다고 말한다. 글, 사진, 영상 속 조작의 흔적을 발견해야 한다는 것이다.

디지털 포렌식 전문가들은 펜타곤 화재 사진에도 AI가 만든 사진의 특성이 나타난다고 말한다. 사진을 살펴보면 어색한 부분이 보이는 것이다. 해니 파리드 버클리 캘리포니아대 교수는 AP통신에 “사진 속 울타리는 불규칙하게 배열됐고, 건물의 창문도 실제 펜타곤 건물의 창문과 다르다.”라고 말했다.

문제는 디지털 포렌식에 능한 사람이 많지 않다는 점이다. 게다가 AI 기술이 발전하면서, 가짜뉴스를 구별하는 것이 어려워졌다. 가짜뉴스의 폐해를 걱정하는 목소리가 나오는 이유다. 특정 집단이 AI로 만든 가짜뉴스로 선거를 포함한 중요한 행사에 조작을 가할 우려가 크다.

이러한 불안을 해소하기 위해서, 업계는 AI로 만든 콘텐츠를 감별하는 기술을 개발하고 있다. 콘텐츠를 AI와 사람 중 누가 만들었는지 알려주는 기술이다. 주로 사람과 AI의 콘텐츠가 어떻게 다른지 학습한 AI를 활용한다.

오픈AI는 챗GPT 감지기인 ‘클래시파이어’를 내놨다. 글을 입력하면, AI가 작성했을 가능성이 얼마나 되는지 알려준다. 다만, 아직 정확도가 낮다. 오픈AI 자체 테스트에 따르면, 클래시파이어는 AI가 쓴 글 가운데 26%만 ‘AI가 작성했을 가능성이 있다.’로 판단했다.

오픈AI의 클래시파이어, 출처=IT동아

AI로 제작한 그림과 영상을 감별하는 기술도 있다. 미국의 AI기업 옵틱은 AI가 만든 사진인지를 판별해 주는 사이트(aiornot)를 공개했다. 역시 정확도는 높지 않다. AI로 만든 도널드 트럼프 전 미국 대통령의 사진을 ‘AI가 아닌 사람이 제작했다’라고 판단했다.

옵틱의 aiornot사이트, 출처=IT동아

미국의 AI 기업 딥미디어는 영상을 분석해 화면, 음성에 조작이 있는지를 확인한다. 인텔도 가짜 영상을 탐지하는 ‘페이크캐쳐’를 개발했다. 영상 속 사람이 실제 사람이라는 ‘증거’, 예컨대 얼굴의 혈류가 진짜인지 확인하는 것이다.

이처럼 다양한 AI 감별 기술이 나왔지만, 대부분 정확도는 높지 않다. 이에 일부 AI 기업들은 정확도를 높일 방법으로 콘텐츠에 워터마크(기업의 상표를 숨겨두는 기술)를 삽입하는 기술을 개발한다. 워터마크는 사진과 영상 콘텐츠에만 대입 가능한 한계가 있지만, 그럼에도 지금 단계에서의 AI의 악용 사례를 줄이는 데에는 도움이 될 것이라는 분석이 나온다.

스타트업 프렌들리AI의 창업자인 전병곤 서울대학교 컴퓨터공학부 교수는 “특정 AI 기업의 기술로 콘텐츠를 만들었다는 워터마크를 넣는 것이 대안이다. 텍스트도 문장에 패턴을 넣는 식으로 워터마크를 넣는다. 이를 기본으로 AI로 만든 콘텐츠를 감별하는 기술의 정확도를 높일 수 있다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI에 진심인 MS, 윈도에도 AI 비서 '코파일럿' 탑재 ▶ 구글, 인공지능으로 장애인 접근성 높인다 ▶ 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야”

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	연인과 헤어지고 뒤끝 작렬할 것 같은 스타는?	운영자	24/04/22	-	-
3737	[KESIA 시드팁스] 디써클, AI 기반 R&D 플랫폼 ‘알앤디써클’로 전 세계 기업과 연구간 가교 꿈꾼다	IT동아	04.24	22	0
3736	TG삼보, 인포플라와 AI 분야 MOU 체결	IT동아	04.24	28	0
3735	메타, 라마 3 LLM도 오픈소스로 공개··· '시장 장악력 더 높아질 듯'	IT동아	04.24	27	0
3734	더길, 상위 10% 프리미엄 셀러 위한 지원 솔루션 선보인다	IT동아	04.24	3666	0
3733	카파바이오사이언스, 신소재 ‘Vita-SPMD’ 글로벌 시장 공급 발판 마련	IT동아	04.24	27	0
3732	플러스닷, NIPA 호치민IT지원센터 2024년 입주기업에 선정	IT동아	04.24	37	0
3731	교수창업기업 ‘럭스바이옴’, 마이크로바이옴 기반 신제품 출시 임박	IT동아	04.24	36	0
3730	‘체계적인 e스포츠 대면 강의 제공할 것’ 게임프로, e스포츠 오프라인 강의실 5월 말 개소 [8]	IT동아	04.24	1868	1
3729	삼성전자, 업계 최초 '9세대 V낸드' 양산	IT동아	04.23	117	0
3728	[스타트업-ing] 더길 “e커머스 초보자도 ‘상생’하며 함께 성장하는 플랫폼”	IT동아	04.23	49	0
3727	세일즈포스, '데이터, AI, CRM, 신뢰가 디지털 혁신의 열쇠'	IT동아	04.23	49	0
3726	윌리엄앤코, 영유아 영어교육 키트 ‘텔리’ 조달청 등록 추진	IT동아	04.23	50	0
3725	시향 플랫폼 기업 ‘퍼퓸투데이’…BM 확장 및 투자 유치 나서 [1]	IT동아	04.23	1580	0
3724	[IT신상공개] 실시간 온체인 데이터 분석·시각화로 업무 효율 높인다, 쟁글ERP	IT동아	04.23	4355	0
3723	안창욱 GIST AI연구소장 “이노디테크 AI 시스템, 합성형 AI로 구축했습니다”	IT동아	04.23	61	0
3722	CRT게임즈, 서울과기대 초기창업패키지 최우수 기업 선정	IT동아	04.23	67	0
3721	[리뷰] 애플 M3로 실성능 끌어올린 '애플 맥북에어 13'	IT동아	04.22	278	0
3720	[시승기] 브랜드 첫 쿠페형 SUV…’제네시스 GV80 쿠페’	IT동아	04.22	66	0
3719	IBM “ESG 솔루션으로 지속가능성·비즈니스 성과 높인다”	IT동아	04.22	213	0
3718	[리뷰] ‘AI 시대’가 낳은 차세대 TV, 2024 LG 올레드 evo G4 [3]	IT동아	04.22	1232	1
3717	오렌지바이오메드, 품질경영시스템 ISO 9001 인증 획득	IT동아	04.22	61	0
3716	[주간투자동향] 비즈플레이, 30억 원 규모 전략적 투자 유치	IT동아	04.22	55	0
3715	레몬사운드, 콘테스트 기반 음악 제작∙제공 서비스로 게임 업계 ‘성과’	IT동아	04.22	61	1
3714	AI 품은 LG전자 에어컨, 판매량 청신호	IT동아	04.19	233	0
3713	[생성 AI 길라잡이] 전문 지식 없어도 음원 제작 거뜬 ‘AI 작곡’ [8]	IT동아	04.19	7720	7
3712	god의 길·촛불하나 M/V, 영국서 리메이크로 재탄생 [1]	IT동아	04.19	212	1
3711	나띵프로젝트, 캐릭터로 더 친근해진 '플랍플랍 버블바스' 입욕제 출시	IT동아	04.19	103	0
3710	[KESIA 시드팁스] 메이커런스 “아이와 부모, ‘반차’로 함께 힐링하세요” [1]	IT동아	04.19	848	0
3709	디지포레 “대기업 위주 디지털트윈 생태계, 중소기업 확산 위한 교두보 마련”	IT동아	04.19	820	0
3708	아웃도어 플랫폼 '데얼스', 2024 스포츠산업 창업 도약 기업 선정	IT동아	04.19	93	0
3707	클랫폼, 스마트팜 활용 도농 융복합단지 조성 추진	IT동아	04.19	91	0
3706	박스테이션, 주차 요금 핸즈프리결제 솔루션 상용화에 박차	IT동아	04.19	87	0
3705	제이쓰리씨, 해양 시뮬레이터 개발로 ‘대한민국 우수기업’ R&D 대상 수상	IT동아	04.19	91	0
3704	단독질주 엔비디아, 추격나선 인텔·AMD... '변수는 1nm 파운드리'	IT동아	04.19	405	0
3703	[농업이 IT(잇)다] 팜비오스 “LED 조명·인도어팜 솔루션으로 기후·인력난 문제 해결”	IT동아	04.19	76	0
3702	AI가 이끄는 설계·엔지니어링 혁신…’카티아 유저데이’ 현장	IT동아	04.18	102	0
3701	블록체인 산업 트렌드·발전 방향 확인하는 자리, 2024 BCMC	IT동아	04.18	93	0
3700	핀카(FINCA), 3D 초개인화 서비스 '마리테'로 침구 시장 공략	IT동아	04.18	723	1
3699	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 7	IT동아	04.17	120	0
3698	[뉴스줌인] LPDDR5X 시장, 삼성전자 신제품 개발로 경쟁 ‘후끈’	IT동아	04.17	187	0
3697	모니터암·전동식 책상·의자가 사무실 '필수'로 떠오르는 이유는? [1]	IT동아	04.17	1550	1
3696	[스타트업-ing] 씨지인사이드 “법률·규제 인공지능 도우미 전파”	IT동아	04.17	134	0
3695	'성능ㆍ휴대성' 겸비한 고성능 노트북 PC들이 온다 [1]	IT동아	04.17	708	1
3694	[자동차와 法] 공공기관의 친환경차 의무구매제도 현황에 대하여 [1]	IT동아	04.16	392	0
3693	티맵에 숨어 있는 유용한 기능 활용해 보니	IT동아	04.16	127	0
3692	로보락 “품질·편의성으로 고객 중심 가치 구현할 것” [3]	IT동아	04.16	921	0
3691	[뉴스줌인] RDIMM 메모리 출시한 커세어, 일반 메모리와의 차이점은?	IT동아	04.15	145	0
3690	인공지능 활용한 게임 내 그래픽 가속, 현재와 미래	IT동아	04.15	154	0
3689	[월간자동차] 24년 3월, 신차·중고차 판매 모두 상승…기아 쏘렌토 1위 고수	IT동아	04.15	929	0
3688	‘카드부터 신분증까지’ 갤럭시 스마트폰 쓴다면 지갑 말고 이렇게![이럴땐 이렇게!] [4]	IT동아	04.15	1294	3