디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 73 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2956 설문 나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는? 운영자 24/12/09 - -
2957 이슈 [디시人터뷰] ‘피의 게임3’ 게임판을 흔드는 플레이어, 유리사 운영자 24/12/09 - -
819260 일반 트럼프, 백악관 안보직에 1기 대북협상가 발탁…북미대화 신호? ㅇㅇ(118.41) 11.23 69 0
819259 일반 다문화가 미래인 한국과 조선은 통일없지 ㅇㅇ(61.106) 11.23 46 0
819258 일반 냉전시대때 생각해바 러갤러(115.88) 11.23 58 4
819257 일반 1995년 이등휘때부터 대만포위 군사훈련했지 ㅇㅇ(61.106) 11.23 53 1
819256 일반 한국의 분단은 행운이었음 [6] 러갤러(115.88) 11.23 111 6
819254 일반 모택동이 졌으면 한반도에 전쟁은 없었을 거야. [5] 384865(112.168) 11.23 90 0
819253 일반 팔레스타인 팔리우드와 트럼프 상황...JPG [14] 러갤러(14.138) 11.23 1004 24
819252 일반 수십년전부터 대만부근에서 해마다 군사훈련했는데 [1] ㅇㅇ(61.106) 11.23 57 1
819251 일반 중국은 코앞의 금문도도 치지않는데 왜? [2] ㅇㅇ(61.106) 11.23 76 1
819250 일반 우크라이나 -> 동덕여대생 4천만명 모아둔거 아님? 러갤러(114.29) 11.23 61 3
819249 일반 빨리 전쟁 끝나고 로시아 우크 여자애들 다시 한국에 대거 넘어와야 ㅇㅇ(118.235) 11.23 54 0
819248 일반 대만 상륙같은소리하고 자빠졋네 ㅋㅋㅋ 러갤러(115.88) 11.23 60 0
819247 일반 2022년 2월에 우크라이나군이 12만 대군을 돈바스 접경지역에 집결시킴 384865(112.168) 11.23 64 0
819245 일반 일본이 2차 세계대전때 미국에 양보하고 물러나 사태를 관망했다면... [1] 384865(112.168) 11.23 72 0
819244 일반 지난 달에 중국 대만 딱 때릴려고 했다 [3] 러갤러(112.162) 11.23 120 0
819243 일반 경제건설에는 타이밍이 아주 중요하다. [2] 384865(112.168) 11.23 100 0
819242 일반 러우전이 미국이 발작할만한게 [9] EE갤로그로 이동합니다. 11.23 217 7
819240 일반 제조업 점유율은 떨어지면서 증시는 상승중인 미국 [3] EE갤로그로 이동합니다. 11.23 126 2
819239 일반 미군의 검증 된 실전 능력 = 땅개들 허세충 가오충 냠냠꾼(77.111) 11.23 80 1
819238 일반 100대 대기업, 시총으로 러시아 경제 평가하는 게 무의미한 이유 [3] EE갤로그로 이동합니다. 11.23 201 1
819237 일반 근래에는 중국군은 실전능력을 한번도 보여준 적이 전혀 없지? [4] 384865(112.168) 11.23 95 0
819236 일반 인생 성공 해서 자살한 사람 많지. 팝의 황제, 팝의 여왕 등등 냠냠꾼(77.111) 11.23 89 0
819235 일반 중국어 하티크바 케말파샤갤로그로 이동합니다. 11.23 69 0
819233 일반 아이유,카리나,장원영은 인생이 천국인데 ㄷㄷ(112.165) 11.23 88 0
819232 일반 블레셋 족속들은 3400년간 이스라엘을 대적해왔다 [1] 케말파샤갤로그로 이동합니다. 11.23 88 0
819230 일반 푸틴 ㅋㅋㅋㅋ [3] 러갤러(115.88) 11.23 118 2
819229 일반 가자지구는 지금도 전투중이노? [2] 384865(112.168) 11.23 86 0
819228 일반 바이든이 대중국 정책을 바꿀 거란 기대에 올인했다가 파산하고 감옥까지. [2] 384865(112.168) 11.23 88 0
819227 일반 러뽕 병신들 또 나대네 ㅋㅋ [3] 러갤러(115.88) 11.23 90 3
819226 일반 한국인들이 학창시절에 왕따인애한테 한것들 [3] ㄷㄷ(112.165) 11.23 104 0
819225 일반 군첩이 이스라엘 얘기가 쑥들어간 이유 러갤러(211.36) 11.23 123 4
819224 일반 냠냠꾼 아옷치 개새끼 [1] ㅇㅇ(223.39) 11.23 53 0
819223 일반 물 마시마시 Hospitaller갤로그로 이동합니다. 11.23 67 1
819221 일반 러시아군에 자원입대한 중국인들 근황.....JPG [16] ㅇㅇ(58.122) 11.23 1134 22
819220 일반 러시아 좆밥이네 ㅋㅋㅋㅋ [5] ㅇㅇ(223.39) 11.23 129 3
819219 일반 전쟁국가라고 오해받는 로마도 불필요한 전쟁 극혐했음 [2] 러갤러(121.187) 11.23 91 3
819218 일반 결론은 정치 지도자들도 한방에 뒤질수 있으면 평화가 온다는거네? [3] 러갤러(106.102) 11.23 114 6
819217 일반 러시아는 이번 러우전에서 세계 군사력순위의 무용함을 보여줌 [2] 러갤러(106.102) 11.23 205 3
819215 일반 이번 러시아 미사일이 서구에 충격을 준 이유는 [2] 러갤러(204.77) 11.23 203 4
819213 일반 러-센관계 복원 이지랄www [2] ㅇㅇ(45.94) 11.23 148 3
819212 일반 병신들 아침부터 잘들논다 니들은 민주당시민단체들이 사육하는 개돼지야ㅋㅋ [3] ㅇㅇ(221.140) 11.23 77 0
819211 일반 우크라이나가 망했다니 이 무슨 청천벽력이노? [2] 러갤러(149.40) 11.23 130 2
819210 일반 중요한건 이 시국에 윤두창 지지율이 폭등한다는 사실이지 [2] ㅇㅇ(45.94) 11.23 120 1
819209 일반 한국놈들은 진심 주댕이 징기스칸 아가리 한니발인듯 ㅋ [2] 러갤러(185.107) 11.23 86 7
819208 일반 냠냠꾼 아옷치 개새끼 ㅇㅇ(223.39) 11.23 26 1
819207 일반 일단 한국은 러시아뿐 아니라 동맹국서도 지위내려갈듯하다 [5] 러갤러(211.36) 11.23 124 6
819206 일반 근데 농담아니고 유럽 미국 ㅅㄲ들 아가리 다 닫았네 [9] 러갤러(211.36) 11.23 150 3
819205 정보 러세갤 똥게이 자폐페미 주파딱 폭로 시리즈 5 도배분탕의 정체 ㅇㅇ(212.102) 11.23 55 3
819203 일반 달러, 금 사라 [3] Hospitaller갤로그로 이동합니다. 11.23 105 0
819201 추측/ 러세갤완장새끼들은 정통성 확립을 이해 못함 [4] ㅇㅇ(212.102) 11.23 86 5
뉴스 알리, ‘불후의 명곡’ 최다 우승자 등극... 정동하와 행복한 집안싸움 디시트렌드 18:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2