‘환각’ 의미하는 할루시네이션, 어떤 형태로 나타날까

자연어 처리 넘어 어떤 분야든 발생하는 문제

최근 공개된 오픈AI의 텍스트-비디오 생성 AI ‘소라’에서도 할루시네이션이 관측된다. 해당 영상은 2층 지붕 위 1층을 내려다보며 등장인물들을 조명한다. 하지만 영상 초반에 원근법으로 층 수를 나눠놨지만, 물리적으로 구분되지 않아 주요 인물들이 시장 상인들보다 몇 배나 큰 거인이어야 가능한 영상이 만들어졌다. 아래 영상 역시 좌측 강변의 도로가 최소 네 번 이상 바뀌고, 주요 인물들 앞에 걷다가 가게로 들어가는 사람들과의 원근법도 맞지 않는다.

아직 오픈AI가 소라를 개발하는 단계라서 원근법 계산의 오류일 수 있으나, 지금 상황으로는 할루시네이션에 가깝다. 최근에는 동영상 생성형 AI로 학습 데이터를 만들어 비전 인식 AI를 고도화하려는 시도도 시작됐는데, 여기에 할루시네이션이 개입하면 오류 데이터로 학습될 여지도 있다. 그 자체로 예측할 수 없는 결과를 낳는 셈이다.

할루시네이션 줄이려면 RAG 등 출처 기반 작업해야

AI 처리 과정에서 발생, 앞으로도 큰 난제

▶ AI 기술이전 프로그램으로 ETRI-중소기업 상생∙동반성장 ‘기대’▶ [생성 AI 길라잡이] 인공지능으로 색다른 그림을 그려보자 – 크레아 AI▶ AI PC 생태계 선점 나선 인텔…“AI 전환 주도할 수 있는 조건 갖춰”