디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 67 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
818664 일반 한국놈들 멍청한걸 개탄하지 마라 러갤러(121.187) 11.21 55 3
818663 일반 오이오이 조센징 벌써 잊은 거냐? [5] ㅇㅇ(192.166) 11.21 117 7
818661 일반 미사일 1000개 정도는 날려야 대공습이지 ㅇㅇ(124.49) 11.21 99 1
818660 일반 우크라이나 불땅해 하며 기부하던 병신들 지금 어떤기분일까 ㅋㅋ [1] ㅇㅇ(221.164) 11.21 108 5
818659 일반 이번 개정된 러시아 핵독트린으로 러갤러(175.123) 11.21 89 0
818658 일반 영국 미사일로 러 본토 공격... 대사관 줄줄이 폐쇄 러갤러(122.44) 11.21 205 0
818657 일반 바이든이거 러시아랑 한 통속 아니냐? 러갤러(211.36) 11.21 103 5
818656 일반 괜히 북한 도움 받으려다 망했네 ㅋㅋㅋ [4] ㅇㅇ(221.142) 11.21 227 5
818655 일반 럭크만 동지 복음설교 케말파샤갤로그로 이동합니다. 11.21 49 0
818654 일반 [깜놀] 서방세계 발트해 해저 케이블 손상에서 러시아 흔적 발견 러갤러8(118.235) 11.21 144 6
818652 일반 언론에 농락당하는 사람들이 안타깝다. [2] Hospitaller갤로그로 이동합니다. 11.21 119 3
818650 일반 중화사상에 푹 절여진게 짱깨 평균이라 답이 없다ㅋㅋ [2] 러갤러(118.235) 11.21 58 0
818646 일반 조센징의 열등함은 두가지로 분류될 수 있다 [1] ㅇㅇ(192.166) 11.21 72 2
818645 일반 원조 받던 나라에서 원조 주는 나라로 할랄포크갤로그로 이동합니다. 11.21 75 0
818644 일반 핵전쟁 나는거냐 [1] 러갤러(126.254) 11.21 154 0
818643 일반 바이든이 자꾸 저러는건 똥글로의 본능임 ㅋ [2] 러갤러(121.187) 11.21 105 4
818642 일반 조센징의 열등한 인식이 형성되는 과정 [2] ㅇㅇ(192.166) 11.21 86 2
818641 일반 이게 조센징의 90%가 가진 보편적 인식이라니까 ㅇㅇ(192.166) 11.21 87 3
818640 일반 찾아보니 중앙아시아도 사실상 공산주의네 [3] 러갤러(126.254) 11.21 130 0
818639 일반 예수 안믿는 모든 나라에 핵공격을 가해야 한다 케말파샤갤로그로 이동합니다. 11.21 48 0
818638 일반 예수 안믿으면 장애인 케말파샤갤로그로 이동합니다. 11.21 50 0
818637 일반 의대생 이천공을 주차장에서 실습시키자 ㅇㅇ(192.166) 11.21 63 1
818636 일반 이스라엘은 하나님이 직접 세우신 나라 [1] 케말파샤갤로그로 이동합니다. 11.21 70 1
818635 일반 러시아계 일리야가 본 한국 종특 [1] 카자흐스탄대통령갤로그로 이동합니다. 11.21 157 0
818634 일반 동양에서 여자는 등장 안하는데 유럽은 왜 귀부인드레스 패션이 유명함? [1] 러갤러(175.204) 11.21 64 0
818633 일반 미국 여권의 현실 카자흐스탄대통령갤로그로 이동합니다. 11.21 131 0
818632 일반 미국 망한다는 이론은 틀린 이론임 [1] 카자흐스탄대통령갤로그로 이동합니다. 11.21 213 5
818631 일반 해리스가 이겼으면 한국도 러우전에 빨려들어가겠군 [1] ㅇㅇㅇ(218.238) 11.21 143 4
818630 일반 영국, 러시아의 국가별 하이브리드 공격 계획 입수 [1] 러갤러(175.120) 11.21 162 1
818629 일반 덴마크, 해저케이블 파손혐의로 중국화물선 정지 명령 러갤러(175.120) 11.21 121 0
818628 일반 금인칙서갤로 놀러와. ㅇㅇ갤로그로 이동합니다. 11.21 58 0
818627 일반 결국엔 러시아가 졌네.. ㅇㅇ(220.65) 11.21 209 1
818626 일반 이스라엘, 가자지구, 서안지구 합병 하겠다 러갤러(175.120) 11.21 127 0
818625 일반 ㅡㅡㅡㅡㅡ 예언가의 핵전쟁시간 ㅡㅡㅡㅡㅡ [1] 러갤러(211.36) 11.21 158 2
818624 일반 빠르면 오늘새벽에, 위기재난경보 뜹니다. 러갤러(211.36) 11.21 215 4
818623 일반 영국미사일 + 독일미사일 모스크바 타격 ㅋㅋㅋㅋㅋ [4] 러갤러(211.36) 11.21 339 2
818622 일반 러시아의 좆선문화축제 러갤러(119.201) 11.21 66 0
818621 일반 ㅋㅋ 영국 스톰섀도우미사일 러시아본토타격 ㅋㅋ 러갤러(211.36) 11.21 165 0
818620 일반 2024년 1~9월 전세계 전기차 배터리 기업 점유율 ㅇㅇㅈ(99.238) 11.21 173 1
818615 일반 핵전쟁날거면 1달안에난다 러갤러(126.254) 11.21 174 0
818611 일반 트럼프는 선택받은 자 ㅇㅇ(118.235) 11.21 140 0
818609 일반 "푸틴, 트럼프와 평화 협상 의향…우크라 나토 포기 조건" [2] ㅇㅇ(210.99) 11.20 300 5
818608 일반 NEWS) 동덕여대 시위 복구비 서울시에서 전액지원.jpg 러갤러(113.192) 11.20 188 1
818605 일반 경제성장은 천박한 일 케말파샤갤로그로 이동합니다. 11.20 81 0
818604 일반 나 특징 케말파샤갤로그로 이동합니다. 11.20 48 0
818603 일반 푸틴은 핵안쏴도 뒤짐 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [3] 러갤러(211.36) 11.20 190 2
818601 일반 확실히 요즘 전쟁은 개쫄보들 싸움인듯 러갤러(106.101) 11.20 85 2
818600 일반 챗GPT발) 현재 반독점 기업 명단 [1] 러갤러(117.111) 11.20 201 2
818599 일반 팩트는 핵안쏴도 전범책임지고 뒤지고 [5] ㅇㅇ(59.2) 11.20 203 1
818598 일반 푸틴이 핵쏘면 그댓가로 [1] ㅇㅇ(117.110) 11.20 99 1
뉴스 BTS, 블랙핑크로 한국 알았는데… ‘비상계엄’으로 두 얼굴 드러나 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2