디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 64 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
818205 일반 중국인들 욕먹는게 바로 装逼 (허세)때문이지 [3] ㅇㅇ(61.106) 11.19 92 0
818204 일반 젤렌스키는 핵전쟁 유도중임 [2] 러갤러(211.186) 11.19 168 0
818203 일반 2찍은 탈출은 지능순 ㅋㅋ [2] ㅇㅇ(118.235) 11.19 90 1
818202 일반 국짐 쥴창 2찍들이 이재명 싫어하는 이유 [7] 이재명이왔어요갤로그로 이동합니다. 11.19 573 25
818201 일반 이번 전쟁 끝나면 나토와 EU는 해체코스로 갈 수 밖에 없지. ㅋ [1] 러갤러(115.137) 11.19 125 0
818200 일반 17일에 폐막된 주하이 에어쇼 이모저모 [4] 시타갤로그로 이동합니다. 11.19 119 1
818199 일반 러시아 크렘린궁 , 미국 향해 ICBM 발사허가 [7] ㅇㅇ(51.158) 11.19 1247 30
818198 일반 히틀러에게 대들다가 모가지 멍강된 독일여자 러갤러(119.201) 11.19 102 0
818197 일반 지금 러남충은 입대하는게 이득임? [2] 러갤러(106.102) 11.19 71 0
818196 일반 삼성전자 주식을 봐봤는데 [2] ㅇㅇ갤로그로 이동합니다. 11.19 150 0
818194 일반 시발 재밌겠노 ㅋㅋㅋㅋㅋㅋㅋ 러갤러(119.201) 11.19 126 0
818192 일반 러, 핵교리 개정…"핵보유국 지원받은 비핵보유국에도 핵 사용" ㅇㅇ(118.41) 11.19 146 3
818191 일반 아니 시발 러시아가 왜 g20에 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ [2] 러갤러(119.201) 11.19 158 2
818190 일반 개좆선 새끼들 특징 아직도 시발 러시아 개조또 모름 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 러갤러(119.201) 11.19 55 0
818188 일반 핵무기는 러시아보다는 한반도에 떨어질꺼 같지않냐? [1] 러갤러(1.209) 11.19 96 3
818187 일반 푸틴 지금열받아서 사르마트 쏜다고 히로시마 원폭2천배... [2] 러갤러(122.44) 11.19 140 2
818185 일반 성매매 합법화가 더 시급하다. 러갤러(1.209) 11.19 59 1
818184 일반 대마초 합법화하면 성매매도 합법화 해야 하는거아님? [1] 러갤러(1.209) 11.19 54 0
818183 일반 우리나라 일본 핵처맞으면 대응못함... 미국 우리보고 협상하라고 할텐데. 러갤러(122.44) 11.19 61 0
818181 일반 한국 곧 대마초 합법화 되겠네. ㄷㄷ [3] 카자흐스탄대통령갤로그로 이동합니다. 11.19 197 6
818180 일반 영국 어지간히 러시아 싫어하나보네... 러갤러(122.44) 11.19 103 0
818179 일반 짱깨새끼들 하이~♥ ㅇㅇ(223.39) 11.19 32 0
818178 일반 러시아군부를 제어하고 있는게 푸틴임 [1] ㅇㅇㅇ(218.238) 11.19 99 2
818177 일반 러시아 빡쳤나보네... [1] 러갤러(122.44) 11.19 163 1
818176 일반 국짐지지자들이 좋아하는 방사능 한도초과 일본식재료 [2] 이재명이왔어요갤로그로 이동합니다. 11.19 70 2
818175 일반 [속보] 푸틴, 러시아 '핵무기 사용 교리' 개정 승인 [4] 러갤러(122.44) 11.19 199 5
818174 일반 중, 러시아 극동-상하이 간 가스 파이프라인 완공 [1] 시타갤로그로 이동합니다. 11.19 117 2
818172 일반 인도네시아, BRICS 가입 의지 재확인 ㅇㅇㅇ(211.235) 11.19 100 4
818171 일반 [속보] 울산 현대차서 차량 테스트 중 질식사고…3명 사망 [2] ㅇㅇ(118.41) 11.19 121 2
818170 일반 "중국인은 2명 모이면 시끄러운 빌런" [17] 러갤러(211.195) 11.19 694 29
818167 일반 극초음속미사일은 중러가 미영보다 훨씬 위 아닌가? [2] 코닭갤로그로 이동합니다. 11.19 114 3
818165 일반 이제 과거의 한국과는 안녕이다~ Hospitaller갤로그로 이동합니다. 11.19 87 0
818163 일반 유대인은 피해자에서 가해자로 된것뿐 러갤러(117.111) 11.19 77 2
818161 일반 7세에 IT기업 임원 제안받은 러시아 천재 "IT계의 모차르트" [1] ㅇㅇ(118.41) 11.19 81 0
818160 일반 EU 외무장관들, '이스라엘과 외교 대화 중단' 거부 [2] ㅇㅇ(118.41) 11.19 117 0
818158 일반 친중은 조선족만 하는 게 아니다 [5] 러갤러(112.171) 11.19 69 2
818157 일반 가을이 가고 이따 Hospitaller갤로그로 이동합니다. 11.19 31 0
818155 일반 트럼프는 예전부터 반민주주의, 권위주의, 심하면 파시즘에 경도된 인간이음 [3] 러갤러(112.171) 11.19 67 1
818154 일반 지뢰 밟고 족발 날리믄 쥴리괴뢰군 그새끼도 병신이지 [2] ㅇㅇ(194.195) 11.19 76 0
818153 일반 어차피 곧 전쟁 끝남 [1] ㅇㅇ(218.150) 11.19 108 0
818152 일반 난 천안함인지 쥴리함인지 하는 쥴리괴뢰 수군이 이해가 안가는게 [7] ㅇㅇ(194.195) 11.19 108 1
818151 일반 미군철수는 우리의 역사적 사명 할랄포크갤로그로 이동합니다. 11.19 66 0
818150 일반 짱깨새끼들 하이~♥ [2] ㅇㅇ(223.39) 11.19 62 0
818149 일반 중국, "트럼프 시대 고립피하자"...영국, 호주와 정상회담 ㅇㅇ(118.41) 11.19 69 0
818146 일반 “이스라엘·가자지구 가보긴 했어요?”...대답 못한 UCLA 운동권 대학 [2] ㅇㅇ(118.41) 11.19 136 0
818145 일반 짱깨도 인정하는 "우크라전쟁은 미국,영국의 외교 승리" [4] 러갤러(37.120) 11.19 116 0
818137 일반 미국, 영국·호주와 극초음속 미사일 개발 협력…중·러 추격나서 [2] ㅇㅇ(118.41) 11.19 144 2
818135 일반 영국 없엇으면 세상은 지옥이엇다.. [1] ㅇㅇ(59.6) 11.19 90 2
818128 일반 尹, 러 면전서 러북협력 직격탄…美·日·EU도 릴레이 비판 [1] ㅇㅇ(118.41) 11.19 123 0
818124 일반 민주주의 자본주의 끝 [2] ㅇㅇ(118.41) 11.19 106 0
뉴스 ‘별들에게 물어봐’ 공효진·이민호, ‘짠한형’ 출연 [공식] 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2