https://www.theguru.co.kr/news/article.html?no=79857

MIT를 중심으로 한 연구팀이 현재의 생성형 AI 모델의 한계점을 지적하는 논문을 발표했다. 하버드대학교, 코넬대학교 연구원들과 함께 진행한 이 연구는 생성형 AI가 실제 세상의 복잡한 시스템을 제대로 이해하지 못하고 있다는 점을 밝혀냈다.

연구팀의 분석에 따르면, 현재의 LLM은 인간의 지능을 모방하여 설득력 있는 답변을 제공하는 것처럼 보이지만, 이는 단순히 주어진 텍스트 문맥에서 최적의 단어를 예측해 내놓는 것에 불과하다. 이는 노벨물리학상 수상자인 제프리 E. 힌튼 교수의 "챗봇이 지능적이지 않으면서도 극도로 설득력 있는 텍스트를 생성할 것"이라는 경고와 맥을 같이 한다.

실제 검증을 위해 연구팀은 트랜스포머 모델을 대상으로 '뉴욕 거리에서 운전하기'와 '오델로 게임하기' 테스트를 진행했다. 일반적인 상황에서는 정확한 결과를 보여줬으나, 우회로와 같은 변수가 추가되자 성능이 급격히 저하되었으며, 심지어 존재하지 않는 도로를 안내하는 등의 오류를 보였다.

이러한 연구 결과는 현재의 생성형 AI가 특정 작업에서는 뛰어난 성능을 보일 수 있지만, 실제 세상에 대한 진정한 이해는 부족하다는 것을 시사하며, 이는 단순히 헛소리를 자동화하는 수준에 그칠 수 있다는 우려를 낳고 있다.