디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 70 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2956 설문 나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는? 운영자 24/12/09 - -
819066 일반 이재명님 욕하는 못배운 2찍 벌레들은 살처분이 답 ㅇㅇ(121.163) 11.22 64 4
819065 일반 러시아 미사일 광고 잘하노 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [1] 러갤러(119.201) 11.22 111 2
819064 일반 개쌍도는 분리독립해서 일본에 합병된다 ㅇㅇ(118.235) 11.22 61 2
819063 일반 중국, ‘네타냐후 체포영장 발부’에 “ICC, 법에 따라 직권행사하길” [2] ㅇㅇ(118.41) 11.22 147 3
819062 일반 이거만 보더라도 러뽕이 될수밖에 없다니깐?ㅋㅋㅋ [1] ㅇㅇ갤로그로 이동합니다. 11.22 114 0
819061 일반 이건 또 무슨 개소리냐? [2] 384865(112.168) 11.22 67 0
819060 일반 러시아가 쏜 미사일 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [4] 러갤러(119.201) 11.22 166 0
819059 일반 감성 치유 Hospitaller갤로그로 이동합니다. 11.22 43 0
819058 일반 산동반도에서 평택항으로 해저가스관 설치하는 거 얼마나 걸리것냐? 384865(112.168) 11.22 57 0
819057 일반 인권 떄문에 남에 나라 침략하겠다는 미국 러갤러(175.123) 11.22 60 1
819056 일반 우리도 러시아 가스 열심히 사들이네. [4] 384865(112.168) 11.22 150 2
819054 일반 반미, 친러 채널 하나 소개한다. Hospitaller갤로그로 이동합니다. 11.22 85 1
819052 일반 미사일 한방으로 도시 8개 한꺼번에 날아간다고? [6] 러갤러(175.120) 11.22 152 0
819051 일반 민희진 아일릿 소속사 명예훼손으로 고소 !!!! ㅇㅇ(118.235) 11.22 77 0
819050 추측/ 밤톨좌가 폭로한 레디컬레즈페미정치조직과 러세갤 주딱 모르페간 연관성 의혹 [11] ㅇㅇ(212.102) 11.22 184 13
819049 추측/ 우크라이나는 결국 6.25 전쟁꼴로 강제 휴전당할려나??????? [4] 淸太宗皇太極.. ■x■x(121.167) 11.22 90 0
819048 일반 내가 정리함, 우크라이나에 쏘인 것은 mrbm 추정, 푸틴은 irbm [18] 러갤러(39.112) 11.22 210 2
819046 일반 이뇨속드롸~ 정신 바짝 차리고 살자. Hospitaller갤로그로 이동합니다. 11.22 34 0
819045 일반 러시아 성명 발표 Hospitaller갤로그로 이동합니다. 11.22 104 1
819044 일반 [속보] 중국, 한국·일본 등 38개국에 무비자…입국 기간 15→30일로 [1] ㅇㅇ(118.41) 11.22 174 0
819043 일반 “북한군, 드론 조작법 몰라 추락…동료 다수 사상” ㅇㅇ(118.41) 11.22 71 0
819042 일반 중국에서 러시아로 이어지는 가스관이 완성되었는데 [7] 러갤러(175.123) 11.22 106 0
819041 일반 일본 GDP 앞으로 영국한테도 따일 가능성 있음? [3] ㅇㅇ갤로그로 이동합니다. 11.22 101 0
819040 일반 여기 모든 2찍들은 나한테 팩트로 쳐맞고 도망쳤다 하프앤하프갤로그로 이동합니다. 11.22 77 4
819038 일반 갑자기 북한 소식 존나 나오는거보니 러갤러(175.223) 11.22 90 0
819037 일반 대선에서 문재인 이재명 안뽑은 사람 특 하프앤하프갤로그로 이동합니다. 11.22 93 6
819036 일반 러시아는 그냥 악마깡패 국가라고 보면된다.. [1] ㅇㅇ(59.6) 11.22 72 1
819035 일반 이번에 푸틴이 쏜 오레쉬니크의 의미 러갤러(115.137) 11.22 94 0
819029 일반 국방부 장관이라는 놈이 저렇게 기본 상식도 없으니 [1] 러갤러(175.123) 11.22 72 0
819023 일반 [속보] 신원식 "러시아 실제 핵무기 사용은 굉장히 어렵다" [3] ㅇㅇ(118.41) 11.22 149 0
819022 일반 태영호 장남, 마약 투약 혐의로 고발돼…경찰 수사 ㅇㅇ(118.41) 11.22 75 0
819021 일반 美뒷마당 브라질서 머스크의 스타링크에 도전장 낸 中 '관심' ㅇㅇ(118.41) 11.22 70 0
819020 일반 이재명님 욕하는 못배운 2찍 벌레들은 살처분이 답 ㅇㅇ(121.163) 11.22 58 3
819019 일반 러우갤의 일부 병신들을 보면 러갤러(175.123) 11.22 45 0
819018 일반 제1 경제법칙 , 보수 집권때마다 경제 폭락 이재명이왔어요갤로그로 이동합니다. 11.22 51 3
819017 일반 못배울수록 2찍일 확률이 높음 이재명이왔어요갤로그로 이동합니다. 11.22 65 6
819016 일반 중국 짱퀴시나징 패는 념글 하루 1개씩 올리는데 [1] 러갤러(125.132) 11.22 75 0
819015 일반 안보리, EU의 北식량지원 돕는 伊기업에 '대북송금' 허용 ㅇㅇ(118.41) 11.22 51 0
819014 일반 이란, IAEA 결의에 반발…"신형 원심분리기 가동할 것" ㅇㅇ(118.41) 11.22 52 0
819013 일반 주북 스웨덴 대사 최룡해에 신임장 제정…본격 활동 개시 ㅇㅇ(118.41) 11.22 65 0
819012 일반 엔비디아를 뒤에서 지원해주는 세력 러갤러(211.36) 11.22 74 0
819009 일반 북한, 무장장비 전시회 개막 ㅇㅇ(118.41) 11.22 103 0
819007 일반 북한, 무장장비 전시회 기념음악회 개최 ㅇㅇ(118.41) 11.22 50 0
819006 일반 中, 알츠하이머 증상개선/진행완화 수술법 개발 [1] 시타갤로그로 이동합니다. 11.22 110 1
819005 일반 유럽 최대 배터리업체 노스볼트, 미국에서 파산보호 신청 ㅇㅇ(118.41) 11.22 126 0
818998 일반 텔레그램 추천좀여 awlqpz갤로그로 이동합니다. 11.22 54 0
818996 정보 오랜만에 클린턴 부부(킬러리) 주변 의문사를 아라보자!! 러갤러(106.101) 11.22 107 1
818995 일반 中, 업계 최초 12인치 'SiC 웨이퍼' 개발 시타갤로그로 이동합니다. 11.22 130 5
818994 일반 토요타, 현대기아, 중국기술로 전기차 만들다 [4] ㅇㅇㅈ(99.238) 11.22 149 3
818992 일반 러시아 새로운 미사일 만들었네 [2] ㅇㅇ갤로그로 이동합니다. 11.22 149 1
뉴스 [TVis] “그만 살아야지”... 조혜련, 과거 우울증 고백 (강연자들) 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2