디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’

IT동아갤로그로 이동합니다. 2023.05.25 19:26:34
조회 1991 추천 1 댓글 11
[IT동아 정연호 기자] 명령어(프롬프트)를 입력하면 글과 사진 등 콘텐츠를 만드는 인공지능(이하 AI)이 세계 곳곳에서 인기다. 동시에 AI 콘텐츠로 만든 가짜뉴스를 우려하는 목소리도 커졌다. 실제로 최근에는 AI로 만든 정교한 가짜뉴스가 부쩍 늘었다. 이에 업계는 AI로 제작한 콘텐츠를 감별하는 기술들을 개발하지만, 완성도를 더 높여야 한다는 분석이 나온다.

글, 사진, 영상을 만드는 AI 기술은 빠른 속도로 발전한다. 이제 오픈AI의 챗GPT는 사람이 쓴 것 같은 글을 작성한다. 사진 제작 AI인 미드저니(Midjourney)의 결과물을 실제 사진으로 착각하는 사람도 있다. 비디오 제작 AI 기업 런웨이의 ‘젠-2’가 만든 영상은 아직 해상도가 낮고 피사체 움직임도 어색하다. 하지만, 글, 사진을 만드는 AI처럼 기술이 빠르게 발전할 것이라는 전망이 나온다.

이러한 AI 기술은 다양한 콘텐츠를 만들 때 진입 장벽을 낮춘다는 장점이 있지만, 단점도 있다. AI를 악용해 정교한 가짜뉴스를 만드는 것이 쉬워졌다. 실제로 AI로 만든 가짜뉴스들이 사회관계망서비스(SNS)에 범람하는 중이다.

지난 22일(현지시각) 트위터에 미국 펜타곤(국방부 청사)의 화재 사진이 올라왔다. AI로 제작한 가짜 사진으로 만든 가짜 뉴스였다. 러시아의 해외 선전매체인 RT와 유명 경제뉴스 계정들이 이 사진을 공유했다. 많은 사람들이 펜타곤 화재를 실제 상황으로 받아들였다.


트위터에 올라온 펜타곤 화재 사진, 출처=WhaleChart



이에 펜타곤 주변을 관할하는 버지니아주 알링턴카운티의 소방당국은 공식 트위터 계정에서 “펜타곤 근처에서 발생한 화재는 없다.”라고 밝혔다.

AI 전문가들은 이러한 가짜뉴스의 진위를 판별하려면 우선 디지털 포렌식(디지털 정보를 분석해 범죄 단서를 찾는 수사 기법)이 필요하다고 말한다. 글, 사진, 영상 속 조작의 흔적을 발견해야 한다는 것이다.

디지털 포렌식 전문가들은 펜타곤 화재 사진에도 AI가 만든 사진의 특성이 나타난다고 말한다. 사진을 살펴보면 어색한 부분이 보이는 것이다. 해니 파리드 버클리 캘리포니아대 교수는 AP통신에 “사진 속 울타리는 불규칙하게 배열됐고, 건물의 창문도 실제 펜타곤 건물의 창문과 다르다.”라고 말했다.

문제는 디지털 포렌식에 능한 사람이 많지 않다는 점이다. 게다가 AI 기술이 발전하면서, 가짜뉴스를 구별하는 것이 어려워졌다. 가짜뉴스의 폐해를 걱정하는 목소리가 나오는 이유다. 특정 집단이 AI로 만든 가짜뉴스로 선거를 포함한 중요한 행사에 조작을 가할 우려가 크다.

이러한 불안을 해소하기 위해서, 업계는 AI로 만든 콘텐츠를 감별하는 기술을 개발하고 있다. 콘텐츠를 AI와 사람 중 누가 만들었는지 알려주는 기술이다. 주로 사람과 AI의 콘텐츠가 어떻게 다른지 학습한 AI를 활용한다.

오픈AI는 챗GPT 감지기인 ‘클래시파이어’를 내놨다. 글을 입력하면, AI가 작성했을 가능성이 얼마나 되는지 알려준다. 다만, 아직 정확도가 낮다. 오픈AI 자체 테스트에 따르면, 클래시파이어는 AI가 쓴 글 가운데 26%만 ‘AI가 작성했을 가능성이 있다.’로 판단했다.


오픈AI의 클래시파이어, 출처=IT동아



AI로 제작한 그림과 영상을 감별하는 기술도 있다. 미국의 AI기업 옵틱은 AI가 만든 사진인지를 판별해 주는 사이트(aiornot)를 공개했다. 역시 정확도는 높지 않다. AI로 만든 도널드 트럼프 전 미국 대통령의 사진을 ‘AI가 아닌 사람이 제작했다’라고 판단했다.


옵틱의 aiornot사이트, 출처=IT동아



미국의 AI 기업 딥미디어는 영상을 분석해 화면, 음성에 조작이 있는지를 확인한다. 인텔도 가짜 영상을 탐지하는 ‘페이크캐쳐’를 개발했다. 영상 속 사람이 실제 사람이라는 ‘증거’, 예컨대 얼굴의 혈류가 진짜인지 확인하는 것이다.

이처럼 다양한 AI 감별 기술이 나왔지만, 대부분 정확도는 높지 않다. 이에 일부 AI 기업들은 정확도를 높일 방법으로 콘텐츠에 워터마크(기업의 상표를 숨겨두는 기술)를 삽입하는 기술을 개발한다. 워터마크는 사진과 영상 콘텐츠에만 대입 가능한 한계가 있지만, 그럼에도 지금 단계에서의 AI의 악용 사례를 줄이는 데에는 도움이 될 것이라는 분석이 나온다.

스타트업 프렌들리AI의 창업자인 전병곤 서울대학교 컴퓨터공학부 교수는 “특정 AI 기업의 기술로 콘텐츠를 만들었다는 워터마크를 넣는 것이 대안이다. 텍스트도 문장에 패턴을 넣는 식으로 워터마크를 넣는다. 이를 기본으로 AI로 만든 콘텐츠를 감별하는 기술의 정확도를 높일 수 있다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ AI에 진심인 MS, 윈도에도 AI 비서 '코파일럿' 탑재▶ 구글, 인공지능으로 장애인 접근성 높인다▶ 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야”



추천 비추천

1

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는? 운영자 24/06/10 - -
2805 [IT신상공개] 뇌파로 스트레스·수면장애 다스린다 ‘LG전자 브리즈’ [4] IT동아갤로그로 이동합니다. 23.07.17 1673 3
2804 ‘발암가능물질’된 아스파탐, 적당히 먹는 건 괜찮다지만… [174] IT동아갤로그로 이동합니다. 23.07.14 9944 15
2803 국가 중요시설에 날아드는 드론…"초정밀 위치 파악·고유식별정보로 대응" [1] IT동아갤로그로 이동합니다. 23.07.14 242 0
2802 수면 추적·제어로 충분한 수면 돕는 슬립테크 솔루션 IT동아갤로그로 이동합니다. 23.07.14 196 0
2801 생성형 AI로 위상 높아진 CVPR, 그 자리를 빛낸 국내 스타트업 세 곳은? IT동아갤로그로 이동합니다. 23.07.14 115 0
2800 [스케일업] 아일로 [1] “디지털 굿즈 올인원 플랫폼 ‘하플’을 아시나요?” IT동아갤로그로 이동합니다. 23.07.14 99 0
2799 [농업이 IT(잇)다] 닥터트루 “스테비아·스윗비아, 無설탕 건강한 식탁” [4] IT동아갤로그로 이동합니다. 23.07.14 962 0
2798 서울진로직업박람회에서 만난 확장현실 체험 공간 IT동아갤로그로 이동합니다. 23.07.13 118 0
2797 [SCS] 현대산업개발·웍스메이트가 ‘건설업 디지털 전환’하는 이유 IT동아갤로그로 이동합니다. 23.07.13 100 0
2796 [스케일업] 내일의쓰임 [2] 더볼트 김보라 대표 “커뮤니티 기반 친환경 플랫폼 되어야” IT동아갤로그로 이동합니다. 23.07.13 95 0
2795 [IT 신상공개] 갤럭시Z폴드 대항마, 아너 매직 V2 성능은? [17] IT동아갤로그로 이동합니다. 23.07.13 1936 2
2794 뒷면에 더 눈길? ‘낫싱 폰(2)’ 한국 상륙 [17] IT동아갤로그로 이동합니다. 23.07.12 2504 6
2793 [IT 신상공개] 구직자와 기업 담당자가 직접 소통하는 커리어 플랫폼 IT동아갤로그로 이동합니다. 23.07.12 95 0
2792 [뉴스줌인] 썬더볼트4 독과 똑 닮은 USB 멀티 허브, 쓸 만할까? [1] IT동아갤로그로 이동합니다. 23.07.11 1593 2
2791 [혁신스타트업 in 홍릉] 티아이 “오차 없는 백내장 수술…핵심은 절개 장치 규격화” IT동아갤로그로 이동합니다. 23.07.11 196 0
2790 국회 통과한 가상자산법, 규제 공백 채워 이용자 보호 [3] IT동아갤로그로 이동합니다. 23.07.11 1138 3
2789 서울과기대 해커톤 개최, '환경 문제 대한 젊은이들의 열정과 기술 펼쳤다' IT동아갤로그로 이동합니다. 23.07.11 102 0
2788 [스케일업] 챕터서울 [2] 케이브레인 “교육 사업, 현장 수요 찾아 신뢰 줘야” IT동아갤로그로 이동합니다. 23.07.11 97 0
2787 메타 스레드 ‘가짜 앱’ 주의하세요 [4] IT동아갤로그로 이동합니다. 23.07.11 2157 0
2786 민세희 경기콘텐츠진흥원 원장, "콘텐츠 업계에 공공의 역할 중요··· 퇴임 후에도 기여할 것" IT동아갤로그로 이동합니다. 23.07.11 101 0
2784 휴일/야간에 병원이나 약국을 찾아야 한다면 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 23.07.10 904 3
2782 [농업+IT=스마트팜] 7. 나만의 스마트팜 본격 구축하기 (2) IT동아갤로그로 이동합니다. 23.07.10 99 0
2780 GS25이어 이마트까지, ‘금 자판기’ 경쟁 막 올랐다 IT동아갤로그로 이동합니다. 23.07.07 222 0
2779 [농업이 IT(잇)다] 그라스메디 “의학의 힘으로 반려동물 삶의 질 높인다” IT동아갤로그로 이동합니다. 23.07.07 123 0
2778 [IT강의실] 뼈로 듣는다 ‘골전도 이어폰’ [7] IT동아갤로그로 이동합니다. 23.07.07 1282 3
2777 [스케일업] 리하베스트 [1] 리너지 가루 앞세워 업사이클링 대표주자로 IT동아갤로그로 이동합니다. 23.07.07 113 0
2776 동국대 창업기술원 유광호 원장, “스타트업의 질적 성장을 고민합니다” IT동아갤로그로 이동합니다. 23.07.07 113 0
2775 [리뷰] ‘디아블로4’도 어디서나 플레이, 에이수스 ROG ALLY [11] IT동아갤로그로 이동합니다. 23.07.07 794 2
2774 K뷰티, ‘가성비’ 넘어 ‘프리미엄’ 노릴 때[K비즈니스 가이드] IT동아갤로그로 이동합니다. 23.07.06 95 0
2773 전북콘텐츠융합진흥원 최용석 원장, “전북에는 콘텐츠 정책 전문가가 있습니다” IT동아갤로그로 이동합니다. 23.07.06 262 0
2772 AWS 이기혁 총괄 "’정글’은 우리의 MVP, 더 나은 프로그램 되도록 고민할 것” IT동아갤로그로 이동합니다. 23.07.06 107 0
2771 귀를 막지 않아 편한 이어폰, 샥즈 오픈핏 [10] IT동아갤로그로 이동합니다. 23.07.05 3026 0
2770 에어컨 대신 제습기 써볼까? 제습기 구매 전 알아야 할 '포인트' [10] IT동아갤로그로 이동합니다. 23.07.05 1950 1
2769 자동차 속에서 콘텐츠를 보고, 듣고, 즐기는 미래 IT동아갤로그로 이동합니다. 23.07.05 141 0
2768 [스케일업] 지엠씨랩스 [1] “쉽고 편한 가상자산 자동매매 시스템” IT동아갤로그로 이동합니다. 23.07.05 111 0
2767 [IT애정남] 취미용 영상 편집 위한 노트북, 골라주세요 [6] IT동아갤로그로 이동합니다. 23.07.04 1029 1
2766 AWS “스타트업·중소기업 클라우드 비용 부담 줄인다” IT동아갤로그로 이동합니다. 23.07.04 124 0
2765 [IT애정남] 어느 순간 흐리게 보이는 렌즈, 문제는 광축 틀어짐? [3] IT동아갤로그로 이동합니다. 23.07.04 843 1
2764 유클리드 우주선, 제임스 웹과 은하의 신비 푼다 [3] IT동아갤로그로 이동합니다. 23.07.04 494 3
2763 마우스 고장? 키보드로 마우스 조작은 이렇게![이럴땐 이렇게!] [13] IT동아갤로그로 이동합니다. 23.07.03 3614 15
2762 인공지능으로 RISC-V 반도체 자체 개발··· '인간의 천 배 속도로 설계' IT동아갤로그로 이동합니다. 23.07.03 125 0
2761 [스케일업] 니어브레인 [1] AI·VR 뇌혈류 예측, 뇌혈관질환 극복 선봉 IT동아갤로그로 이동합니다. 23.07.03 115 0
2760 [주간투자동향] 팀블랙버드, 85억 원 규모의 시리즈A 투자 유치 IT동아갤로그로 이동합니다. 23.07.03 1291 1
2759 [뉴스줌인] 생성형 AI가 바꾸고 있는 일상 [2] IT동아갤로그로 이동합니다. 23.07.03 3762 1
2758 [뉴스줌인] 지포스 RTX 4060에 적합한 드라이버는 게임 레디? 스튜디오? [12] IT동아갤로그로 이동합니다. 23.06.30 271 2
2757 티빙, 웨이브, 왓챠… 벼랑 끝 몰린 토종 OTT [5] IT동아갤로그로 이동합니다. 23.06.30 245 0
2756 [리뷰] 서서 일하는 습관을 위한 책상, 카멜 핏쳐 모션데스크 S1 [2] IT동아갤로그로 이동합니다. 23.06.30 1215 3
2755 에코백스 “기술력·서비스·가격으로 로봇가전 1위 달성하겠다” IT동아갤로그로 이동합니다. 23.06.30 115 0
2754 [농업이 IT(잇)다] 주식회사딜라 “누구나 HMR 셰프 되는 플랫폼, 맛좀봐라” IT동아갤로그로 이동합니다. 23.06.30 115 0
2753 징크스에 또 운 구글…픽셀 폴드 초기불량 속출 [17] IT동아갤로그로 이동합니다. 23.06.30 1304 2
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2