[IT강의실] 생성형 AI의 최대 난제, '할루시네이션'

IT동아

2024.03.29 18:07:54

조회 189 추천 0 댓글 0

[IT동아 남시현 기자] 지난 3월 17일에서 21일 사이 미국 캘리포니아주 세너제이에서 엔비디아의 연례 개발자 회의 ‘GTC 2024’가 열렸다. 젠슨 황 엔비디아 최고경영자는 기자간담회에서 5년 내에 인간 수준의 인공지능(이하 AI)이 현실화할 것이라고 말해 주목을 받았고, AI의 할루시네이션(환각)에 대해서도 개발자의 코딩 문제이기 때문에 검색 강화 생성 절차로 해결될 것이라고 말했다.

‘인공지능의 모습과 AI 할루시네이션을 형상화’라는 프롬프트를 넣은 생성형 AI 이미지 결과 / 출처=MS 코파일럿, 어도비 파이어플라이 복합 사용

앞서 GTC 2023에서 젠슨 황과 일리야 서츠케버 오픈AI 공동창업자는 대담에서 ‘환각 문제가 2년 안에 크게 줄어들 것’이라고 얘기했는데, 1년이 지난 지금은 많이 나아졌지만 여전히 해결의 실마리는 잡지 못한 상태다. 오늘날 AI 개발의 최대 난제로 떠오른 ‘할루시네이션’이란 무엇이며, 왜 AI는 환각을 일으킬까?

‘환각’ 의미하는 할루시네이션, 어떤 형태로 나타날까

할루시네이션은 환각 또는 망상 등으로 불리며, AI가 생성한 정보에 허위 또는 날조된 정보가 포함되는 현상이다. 할루시네이션은 실제 사실과 AI를 거친 정보가 다른 내재성 환각과 실제로 존재하지 않는 사실을 창작해서 제공하는 외재적 환각으로 나뉜다. 챗GPT에 질문을 했는데 역사적 사실을 왜곡하거나, 이미지 생성 시 현실 법칙에 위배된 이미지 등을 제공하는 게 할루시네이션의 영향이다.

빙 AI에 의류기업 갭(Gap)의 실적 보고서 요약을 부탁했으나, 할루시네이션으로 인해 사실과 다른 결과를 도출하는 사고가 있었다 / 출처=마이크로소프트

예를 들어 지난해 2월 마이크로소프트가 빙 AI를 공개할 당시, 빙 AI에게 의류기업 갭(Gap)의 수익 보고서를 분석하라고 요청했다. 빙 AI는 갭의 영업이익률이 5.9%라고 답했는데, 보고서에 5.9%라는 수치는 없으며 실제 이익률은 4.6%였다. 또한 희석 주당 순이익도 0.42달러라고 말하고, 매출도 두 자릿수 증가할 수 있다고 말했다. 실제 보고서에는 0.42달러라는 단어가 없었고, 매출도 한 자릿수 중반으로 감소할 것이라는 내용이었다.

자연어 처리에서 할루시네이션이 발생하는 주된 이유는 데이터의 문제다. 수집한 데이터 자체가 잘못된 사실을 다루고 있거나, 데이터를 혼합하는 과정에서 문제가 생긴다. 대다수 생성형 AI는 사전에 훈련된 데이터를 바탕으로 응답하지만, 통계적으로 불완전한 모델이 생성되면서 할루시네이션이 나타날 수 있다. 이외에도 문장의 상관관계를 잘못 학습하면서 생기기도 하고, 내장된 지식 중 앞서 사용된 정보를 중복 사용하다가 꼬여서 생기기도 한다.

자연어 처리 넘어 어떤 분야든 발생하는 문제

할루시네이션은 자연어 처리를 넘어 거의 모든 AI 분야에서 발생한다. 예를 들어 사람이나 물체를 감지하는 AI가 사람을 전혀 다른 사물로 인지하거나, 제3의 사물을 사람으로 인식할 수 있다. 이런 문제는 단순히 오류에 가깝다. 반면 할루시네이션이 개입하면 존재하지 않는 객체를 인식한다거나, 피사체를 전혀 다른 물체로 판단해 오작동을 일으킬 수 있다.

최근 공개된 오픈AI의 텍스트-비디오 생성 AI ‘소라’에서도 할루시네이션이 관측된다. 해당 영상은 2층 지붕 위 1층을 내려다보며 등장인물들을 조명한다. 하지만 영상 초반에 원근법으로 층 수를 나눠놨지만, 물리적으로 구분되지 않아 주요 인물들이 시장 상인들보다 몇 배나 큰 거인이어야 가능한 영상이 만들어졌다. 아래 영상 역시 좌측 강변의 도로가 최소 네 번 이상 바뀌고, 주요 인물들 앞에 걷다가 가게로 들어가는 사람들과의 원근법도 맞지 않는다.

아직 오픈AI가 소라를 개발하는 단계라서 원근법 계산의 오류일 수 있으나, 지금 상황으로는 할루시네이션에 가깝다. 최근에는 동영상 생성형 AI로 학습 데이터를 만들어 비전 인식 AI를 고도화하려는 시도도 시작됐는데, 여기에 할루시네이션이 개입하면 오류 데이터로 학습될 여지도 있다. 그 자체로 예측할 수 없는 결과를 낳는 셈이다.

할루시네이션 줄이려면 RAG 등 출처 기반 작업해야

사용자 입장에서 외재성 환각은 구분하기 쉽지만, 교묘하게 숫자나 출처가 바뀐 내재성 환각은 구분이 어렵다. 앞서 갭 수익 보고서처럼 숫자만 다르거나, 요약하라고 하면 원본 데이터와 대조해보지 않고서는 사실 여부를 판단하기가 어렵다. 특히 GPT-3처럼 데이터가 한정된 생성형 AI일수록 할루시네이션 발생이 심하다.

지난해 3월 미국 맨해튼 연방법원에서도 변호사 두 명이 GPT로 조사한 판례를 제출했다가, 최소 6건이 실존하지 않는 사건인 게 드러나며 징계를 받았고, 한 미국의 응급의학 전문의는 챗GPT가 실존하는 학술지와 실존인물의 이름을 빌려 디지털 인증 번호까지 위조한 허위 논문을 생성해 제공한 사례를 공개했다. 전문가도 명백한 출처를 확인해야 할 정도다.

챗GPT4에 내장된 컨센서스 활용 예시. 할루시네이션을 방지하기 위해 논문 검색 시 출처가 확실한 정보만을 활용하는 게 특징이다 / 출처=IT동아

할루시네이션을 최대한 피하기 위해서는 데이터의 출처를 확실히 해야 한다. 유료 서비스인 GPT4는 웹 연동 서비스를 통해 매개변수를 포함한 웹 기반 데이터도 검색하는 기능이 있다. 또 GPT4에 내장된 컨센서스 등의 툴을 활용하면 논문 검색 시 실존하고 출처가 확실한 자료만으로 찾는다.

프롬프트를 정밀하게 입력하는 것도 도움이 된다. AI의 답변은 정보를 나열했을 뿐, 이해하고 제공하는 게 아니다. 따라서 질문할 때 ‘공식 보고서나 논문 검색 등을 인용해서’ 설명해 달라고 하거나, ‘최근 5년 간, 국내에서 기사로 확인할 수 있는 내용’ 같은 문장을 덧붙이면 정확성이 향상된다.

AI 처리 과정에서 발생, 앞으로도 큰 난제

안타깝게도 아직까지 AI에서 할루시네이션이 발생하는 원인은 완전히 파악되지 않았다. 심지어는 AI가 결과를 도출하는 과정도 미지수다. 우리가 AI에 주문을 내리면, 컴퓨터가 학습한 데이터로 연산을 처리한 뒤 결론을 도출한다. 문제는 어떤 데이터가 어떻게 상호 영향을 미쳤는지 인과관계를 파악하기 어렵고, 이 과정에서 할루시네이션이 발생한다.

제약 회사에서 AI를 활용해 혁신적인 신약 후보물질을 만들었다고 가정하자. 이때 신약 물질을 만드는 수식을 명령으로 내렸고, 신약 후보 물질의 구조를 만드는 것까지는 확인할 수 있다. 하지만 AI 내부에서 어떤 데이터를 활용하고 조합했을지까지는 완벽하게 분석할 수 없다. 이 문제를 블랙박스 현상이라고 하며, 최근에는 도출 과정까지 명확하게 확인할 수 있는 설명 가능한 AI(Explainable AI)에 대한 연구가 이어지고 있다.

엔비디아가 오픈소스로 공개한 ‘네모 가드레일’은 할루시네이션을 줄이기 위해 신뢰할 수 있는 출처만 결과에 쓸 수 있도록 하는 기능이 있다 / 출처=엔비디아

할루시네이션은 AI를 신뢰하고 활용하기 위해 반드시 해결해야 할 과제다. 업계에서는 검증된 데이터만 사용해 정확하게 상황을 인식하고 응답하는 검색 증강 생성(RAG)이 답이 될 것으로 보며, 또 엔비디아 네모 가드레일처럼 부정확한 결과를 제외해 정확성을 끌어올리는 방식도 주목한다

할루시네이션은 AI의 구조적 문제이므로 해결되지 않을 것이라는 시각도 있고, 데이터 정렬과 수집을 통해 차츰 나아질 것이라는 시각도 있다. 확실한 것은 설명 가능한 AI가 발전해야 할루시네이션도 해결될 수 있다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI 기술이전 프로그램으로 ETRI-중소기업 상생∙동반성장 ‘기대’▶ [생성 AI 길라잡이] 인공지능으로 색다른 그림을 그려보자 – 크레아 AI ▶ AI PC 생태계 선점 나선 인텔…“AI 전환 주도할 수 있는 조건 갖춰”

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3656	골드문트, 하이파이 스피커 라인업 출시 ‘새로운 사운드·성능 제공’	IT동아	04.04	288	0
3655	티맵 “2000만 데이터 학습한 AI 앞세워 초개인화 서비스 나설 것”	IT동아	04.04	389	0
3654	AI 하드웨어 생태계의 시작이자 기준, 'MLPerf'란 무엇인가?	IT동아	04.04	1011	0
3653	[스타트업人] 스타트업의 동반자, 서울창조경제혁신센터 '창업 액셀러레이터' 이야기	IT동아	04.04	261	0
3652	삼성전자, 알아서 챙겨주는 '비스포크 AI' 가전 생태계 선보여	IT동아	04.03	433	0
3651	[기고] 시급한 위성항법시스템 구축과 제반 기술 경쟁력 강화	IT동아	04.03	210	0
3650	빗썸, 출금 수수료 인하·신규 기능 추가 ‘거래 편의 강화’	IT동아	04.03	221	0
3649	갤럭시 S23에도 적용된 AI 기능, S24와 비교하면? [5]	IT동아	04.03	2818	1
3648	[자동차와 法] 자동차 튜닝…어디까지 합법일까? [1]	IT동아	04.03	1681	0
3647	‘측면으로 부족해’ PC 케이스 시장 대세는 다 보이는 어항형 케이스 [16]	IT동아	04.03	1058	1
3646	포르쉐, 3세대 신형 파나메라 출시…’효율·주행 성능·편의성’ 강화	IT동아	04.02	228	0
3645	[IT신상공개] 악기·AV 기기 기술 집약, 야마하 하이파이 앰프·스피커	IT동아	04.02	203	0
3644	글로벌 거래소 크립토닷컴 ‘4월 29일 한국 서비스 론칭’	IT동아	04.02	280	0
3643	[2024 고려대 초창패] 반려견과 보호자를 위한 산책 메이트 ‘달려갈개’ [6]	IT동아	04.02	4113	4
3642	[KESIA 시드팁스] 아타드 박영선 대표 "미래를 바꿀 힘, 데이터에 있습니다"	IT동아	04.02	1523	1
3641	[뉴스줌인] 해상도∙주사율 원터치 전환? 신형 LG 게이밍 모니터 이모저모	IT동아	04.02	482	0
3640	[IT애정남] 테무·알리익스프레스 이용··· 개인 정보는 안전한가요?	IT동아	04.01	925	0
3639	LG유플러스 "소상공인 AX 솔루션으로 27년까지 매출 2000억 달성"	IT동아	04.01	176	0
3638	봄 꽃 나들이·여름 휴가 갈 때 참조할 만한 서비스는? [이럴땐 이렇게!]	IT동아	04.01	842	0
3637	안랩, 유명인 사칭 SNS 및 투자 채팅방으로 돈 뜯는 ‘온라인 스캠’ 경고	IT동아	03.31	305	0
3636	삼성전자, '갤럭시 AI' 지원 확대, S23·폴드5·플립5등에 업데이트 실시	IT동아	03.31	260	0
3635	차트 분석을 위한 모니터, 선택부터 구성까지 어떻게? [24]	IT동아	03.30	7373	6
3634	[뉴스줌인] 삼성의 신형 인덕션, ‘국내 유일’ 원격 제어 기능 탑재? 정말?	IT동아	03.30	207	0
3633	[생성 AI 길라잡이] 인공지능으로 색다른 그림을 그려보자 – 크레아 AI	IT동아	03.29	189	0
3632	업계 "건설근로자 도울 기능등급제 전파"	IT동아	03.29	203	0
3631	AI 기술이전 프로그램으로 ETRI-중소기업 상생∙동반성장 ‘기대’	IT동아	03.29	173	0
	[IT강의실] 생성형 AI의 최대 난제, '할루시네이션'	IT동아	03.29	189	0
3629	[IT애정남] 복잡한 쇼핑몰에서 ‘실내지도’는 정말 유용할까요?	IT동아	03.29	167	0
3628	[농업이 IT(잇)다] 히즈 “한국적 원료로 만든 웰니스 뷰티 ‘리솔츠’로 해외 프리미엄 시장 공략”	IT동아	03.29	168	0
3627	[IT강의실] 가상자산 시장 흐름 알 수 있는 ‘가상자산 지수’	IT동아	03.29	1763	0
3626	‘롤스로이스’ 청담 쇼룸 새단장…개관 20주년 기념 차량 '청담 에디션' 선봬 [5]	IT동아	03.29	1256	4
3625	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 4 [6]	IT동아	03.29	1965	0
3624	[KESIA 시드팁스] 전기화학 기반 이산화탄소 포집 기술 개발하는 ‘비욘드캡처’	IT동아	03.28	155	0
3623	비트코인 상승세에 가상자산 사기 기승, 주의 사항은?	IT동아	03.28	726	0
3622	인텔, AI PC 가속화 프로그램 확대··· '하드웨어 지원도 추가' [1]	IT동아	03.28	617	0
3621	수리비 비싸서, 모델 적어서…국내 폴더블폰 시장 ‘주춤’ [7]	IT동아	03.27	1157	3
3620	[IT애정남] 오래된 디지털 카메라, 제대로 된 제품 고르는 방법은?	IT동아	03.27	399	0
3619	벤틀리와 한국 현대미술의 만남…‘컨티넨탈 GT 코리아 에디션’	IT동아	03.27	302	0
3618	레노버, 인텔·MS와 손잡고 AI PC 시대 연다 [3]	IT동아	03.27	1023	4
3617	‘NPU가 핵심’ 인텔ㆍAMD, 온-디바이스 AI 경쟁 본격화	IT동아	03.27	145	0
3616	레노버, 96 코어 품은 워크스테이션, ‘씽크스테이션 P8’ 출시	IT동아	03.26	177	0
3615	[EV 시대] 사용자 중심으로 진화하는 모빌리티	IT동아	03.26	141	0
3614	반독점법 피소된 애플... 왜 美 정부는 애플을 때릴까? [6]	IT동아	03.26	480	1
3612	[KESIA 시드팁스] 기술로 부동산 투자 대중화 꿈꾸는 스타트업 ‘원컵’	IT동아	03.26	155	0
3611	[2024 고려대 초창패] 마이허브 “마이링크를 이용하면 의료 AI 솔루션 도입이 수월합니다” [1]	IT동아	03.26	893	1
3610	인공지능 PC의 완성은 그래픽카드? ‘전원공급장치’도 신중히 골라야 [7]	IT동아	03.26	630	1
3609	삼성전자, 필터 값 안 드는 공기청정기 출시, 성능과 디자인은 그대로?	IT동아	03.25	276	0
3608	"지금 내 혈당은 얼마?"…카카오가 만든 AI 혈당 관리 앱 써보니 [1]	IT동아	03.25	297	0
3607	NHN클라우드, 2.0 전략으로 'AI 주권' 발판 마련한다	IT동아	03.25	130	0
3606	[리뷰] 청소 설정과 급수·배수까지 자동, 나르왈 프레오 X 울트라	IT동아	03.25	146	0
뉴스	다비치, 새 미니앨범 'Stitch' 발매…한층 깊어진 감성+하모니 기대	디시트렌드	11.21