디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 74 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2956 설문 나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는? 운영자 24/12/09 - -
2957 이슈 [디시人터뷰] ‘피의 게임3’ 게임판을 흔드는 플레이어, 유리사 운영자 24/12/09 - -
819361 일반 ㅉㅉ 2차대전중 미국이 물량을 안보여줫니 뭐니.. ㅇㅇ(118.235) 11.23 96 1
819360 일반 라틴아메리카 불법이민추방때문에 반미가 많다 ㅇㅇ(61.106) 11.23 55 0
819359 일반 랜드리스같은 sf 프로파간다 믿는 능지니 군첩이나하지 ㅋㅋ 러갤러(211.36) 11.23 115 5
819358 일반 바이든, 중남미 전투에서 시진핑에 패배 (FT) 시타갤로그로 이동합니다. 11.23 178 2
819357 일반 군첩들아 뭐 빠는 소리말고 2차대전에 미국이 물량전보여준거 있으면 밀해봐 [5] 러갤러(211.36) 11.23 161 6
819356 일반 2차세계대전은 독일이 소련의 바그라티온 작전에 의해 패하면서 끝났지 [1] 러갤러(49.246) 11.23 158 1
819355 일반 군첩들은 이제 2차대전 독소전도 날조하네 [12] 러갤러(117.111) 11.23 586 19
819354 일반 아, 그거 디게 웃기네 거 ㅋㅋㅋ Hospitaller갤로그로 이동합니다. 11.23 85 0
819353 일반 "우크라 때리는 북한 미사일서 전기회로망 등 서방 부품 포착" ㅇㅇ(119.201) 11.23 96 1
819352 일반 ㅋㅋㅋㅋ [2] Hospitaller갤로그로 이동합니다. 11.23 66 1
819351 일반 ㅎㅎ [2] Hospitaller갤로그로 이동합니다. 11.23 58 1
819350 일반 니뽄이 캐나다 잠수함 사업 포기했어? [2] 돌아온형(175.127) 11.23 131 1
819349 일반 트럼프, 의무총감 등 의료 수장 발표…'백신 음모론자' 대거 포진 [5] ㅇㅇ(119.201) 11.23 145 0
819348 일반 문재인 = 젤렌스키 = 바이든 = 존나 무능한 븅신 [1] 러갤러(110.10) 11.23 88 0
819347 일반 홍대에 러시아녀 발견..스파시바!!!!!! [1] 돌아온형(175.127) 11.23 211 1
819346 일반 홍대 가바라..전부 똥꼬팬티 입고 클럽은 콩나물이다 [2] 돌아온형(175.127) 11.23 180 2
819345 일반 광화문 집회? 이것이 오늘자 홍대상황이다 [1] 돌아온형(175.127) 11.23 206 0
819343 일반 제2의 광우뻥 뇌숑숑 선동치니 진보가 안되는거임 [1] 돌아온형(175.127) 11.23 63 1
819342 일반 윤두창이 가는 곳마다 몰려들어 환호하는 조센징의 인파 [6] ㅇㅇ(194.195) 11.23 117 1
819341 일반 미사일 발사전에 미국에 통보를 당연 하는거다 러갤러(180.66) 11.23 80 0
819340 일반 탄핵은 명분이 잇어야된다..선동으로 탄핵안되 [3] 돌아온형(175.127) 11.23 103 0
819339 일반 람잔 카디로프 "서방님 하고 싶은거 다 하게 해줄게" [5] ㅇㅇ(194.195) 11.23 227 3
819338 일반 오늘자 광화문 쥴리특검 윤두창탄핵집회 인파.jpg [5] ㅇㅇ갤로그로 이동합니다. 11.23 180 2
819336 일반 2차 대전 연합국 승리 공헌도는 대충 이럼 [12] 러갤러(115.137) 11.23 212 0
819333 일반 국뽕은 머리를 나쁘게 만든다. [6] Hospitaller갤로그로 이동합니다. 11.23 94 1
819331 일반 조센징에게 민주주의라는건... [4] ㅇㅇ(194.195) 11.23 126 1
819329 일반 외국인들이 경제난에 한국에 몰릴 이유 [7] Hospitaller갤로그로 이동합니다. 11.23 168 1
819327 일반 인구는 다시 증가하게 될 거야. [1] Hospitaller갤로그로 이동합니다. 11.23 135 1
819326 일반 우구라 무기구걸특사에 열정적으로 대처해야 하는이유 [3] 러갤러(138.199) 11.23 104 1
819325 일반 여긴 사탄마귀 들이 너무많음.. [1] ㅇㅇ(59.6) 11.23 103 0
819324 일반 Gm이랑 포드가 예전만 못해도 [2] 러갤러(59.4) 11.23 127 0
819323 일반 누구 말이 맞는거냐? [2] 러갤러(14.35) 11.23 119 0
819321 일반 그니까 이런게 한국의 박사수준이란거잖아 ㅋ [1] 러갤러(121.187) 11.23 119 2
819320 일반 요즘 여자들한테 인기 많은 남자 특징 [1] 케말파샤갤로그로 이동합니다. 11.23 160 1
819319 정보 우크라 무기구걸특사에 냉정하게 대처해야하는 이유 [2] ㅇㅇ(211.205) 11.23 131 5
819318 일반 오레슈닉 미사일 탄착 보고 느끼는거....ㄷㄷㄷ [1] 러갤러(180.70) 11.23 195 2
819317 일반 하나님이 마지막때 일본을 부흥시키시고 케말파샤갤로그로 이동합니다. 11.23 58 0
819316 일반 무식한 러뽕, 낮은 고도로 간 신형 탄도 미사일 타령을 보고 [29] 러갤러(39.112) 11.23 276 3
819315 일반 북한은 누구를 처형했으면 처형했다고보도함 87체제공범(118.235) 11.23 78 0
819314 일반 북한 현영철 인민무력부장 이 김정은옆에서 졸아서 처형당했다는건 87체제공범(118.235) 11.23 91 0
819313 일반 미국은 동맹국 안지켜줘. [1] Hospitaller갤로그로 이동합니다. 11.23 79 3
819312 일반 본인 국힘당 싫어하지만 이재명은 절대 안뽑음 [6] 러갤러(110.10) 11.23 118 3
819311 일반 러시아, 나토 국가의 군사시설 공격시 사전 경고할것 [4] 러갤러(175.120) 11.23 160 6
819309 일반 가장 정의로운 일본인 [1] 케말파샤갤로그로 이동합니다. 11.23 72 0
819308 일반 BYD 정저우 공장과 테슬라 기가 팩토리 5 시타갤로그로 이동합니다. 11.23 92 3
819307 일반 GM 포드는 망했지만 테슬라는 건재하다 코닭갤로그로 이동합니다. 11.23 80 0
819306 일반 담주에 우크라 구걸단 올텐데 [2] ㅇㅇ(211.205) 11.23 125 4
819305 일반 한국 조선업은 미국을 살릴까 한국 vs 중국 [2] ㅇㅇㅈ(99.238) 11.23 97 2
819304 일반 gm 포드 망한게 언젠데, 뒷북 치노 냠냠꾼(77.111) 11.23 58 0
819303 일반 러시아조차 자국 s-500이 icbm 요격할 수 있다고 주장함 [6] 러갤러(39.112) 11.23 190 1
뉴스 [포토] 박규영, 사랑스러운 볼 하트 포즈 디시트렌드 12.09
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2