디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 69 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2956 설문 나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는? 운영자 24/12/09 - -
818953 일반 전세계를 이스라엘과 중국이 반씩 나눠먹어야 한다 [1] 케말파샤갤로그로 이동합니다. 11.22 62 1
818951 일반 이코노미스트 표지 눈코입이 있네??? 러갤러(106.101) 11.22 125 1
818950 일반 낙서 ㅎㅎ [1] Hospitaller갤로그로 이동합니다. 11.22 37 1
818949 일반 인류의 마지막 양심 세 국가 [1] 케말파샤갤로그로 이동합니다. 11.22 108 0
818948 일반 너 고양이 아니지? ㅎㅎ [2] Hospitaller갤로그로 이동합니다. 11.22 71 2
818947 정보 3차 대전을 준비하고 있구나 러갤러(106.101) 11.22 177 3
818946 일반 자유 Hospitaller갤로그로 이동합니다. 11.22 29 0
818945 일반 상법개정 , 금투세반대하는 2찍들 다 빨갱이임 ㅇㅇ(118.235) 11.22 53 0
818944 일반 전화위복 [2] Hospitaller갤로그로 이동합니다. 11.22 48 1
818942 일반 그나마 영국이 잇어서 다행 아니냐?? [2] ㅇㅇ(59.6) 11.22 84 1
818941 일반 으잉? ㅎㅎ [2] Hospitaller갤로그로 이동합니다. 11.22 34 0
818940 일반 눈눈눈 [2] Hospitaller갤로그로 이동합니다. 11.22 49 1
818939 일반 우크라이나 주장 21일 러시아 ICBM 드니프로 공격 [1] 흰콩갤로그로 이동합니다. 11.22 132 2
818938 일반 이번 ICBM 발사의 의미 [5] Hospitaller갤로그로 이동합니다. 11.22 162 3
818923 일반 [속보] 尹지지율 20%…20대 6%[갤럽] ㅇㅇ갤로그로 이동합니다. 11.22 71 0
818922 일반 러시아, 비우호국가의 북극항로 접근을 차단하겠다 [2] 러갤러(175.120) 11.22 122 2
818921 일반 동덕 학생회 ㅋㅋ [1] Hospitaller갤로그로 이동합니다. 11.22 88 1
818920 일반 러시아, 2050년부터 석유 가스 수출하지 않겠다 러갤러(175.120) 11.22 123 2
818919 일반 우크라이나가 이대로 패전해도 미국이랑 유럽은 이득인가? 러갤러(223.38) 11.22 78 0
818918 일반 ICC가 유엔보다 먼저 무너지겠네. 러갤러(175.113) 11.22 74 0
818917 일반 [속보] 우크라 영토 절반 양보 레오(106.102) 11.22 203 0
818916 일반 2찍들 살처분 해야된다 생각하면 개추 ㅋㅋ ㅇㅇ(121.163) 11.22 108 8
818914 일반 국짐지지자들이 좋아하는 방사능 한도초과 일본식재료 이재명이왔어요갤로그로 이동합니다. 11.22 57 3
818913 일반 여기 조센징의 90%가 윤두창을 숭배한다고 올라오면 ㅇㅇ갤로그로 이동합니다. 11.22 58 0
818912 일반 극초음속 중거리 탄도미사일 Oreshnik도착 영상 [11] ㅇㅇ갤로그로 이동합니다. 11.22 626 15
818911 일반 트럼프 당선과 북-러 조약을 볼 때 확연해진 한-러 관계. ㅇㅇ(220.116) 11.22 67 0
818910 일반 도태의 힘 , 저학력 , 일베 , 틀딱 << 2찍 ㅇㅇ(118.235) 11.22 37 1
818909 일반 윤석열 지지하는 틀딱 새끼들 병신인게 하프앤하프갤로그로 이동합니다. 11.22 48 2
818908 일반 러시아와 이란이 같다고 하는 애덜도 있는데 러갤러(175.123) 11.22 54 0
818907 일반 못배운 틀딱들 최후의 보루 국짐 지지 ㅋㅋㅋㅋㅋㅋㅋ ㅇㅇ(118.235) 11.22 37 1
818906 일반 못배울수록 2찍일 확률이 높음 이재명이왔어요갤로그로 이동합니다. 11.22 78 6
818905 일반 푸틴 러시아 대통령 성명 ㅇㅇ갤로그로 이동합니다. 11.22 123 3
818904 일반 트럼프가 미국무기 버리고 러시아 무기 도입 지시ㅋㅋㅋ [2] ㅇㅇ(128.1) 11.22 840 16
818902 정보 미국, 트럼프 취임 전 우크라 부채 6조 원 탕감 추진 흰콩갤로그로 이동합니다. 11.22 99 0
818901 일반 김정은 존나 짜증날듯 ㅋㅋㅋ [2] 러갤러(115.88) 11.22 127 0
818900 일반 러시아 구형 ICBM 생산년도가 러갤러(175.123) 11.22 91 3
818899 일반 헛소리 하는 새끼들 존나 많네 [1] 러갤러(175.123) 11.22 73 0
818898 일반 G20과 G7은 무슨 차이노? [1] 384865(112.168) 11.22 54 0
818897 일반 멍청한 우뽕 개돼지들은 뭐가 중요한 건지 몰라요. [1] 384865(112.168) 11.22 61 0
818896 일반 조센징은 이런 역겨운 망상을 아주 당연하게 생각하지 [3] ㅇㅇ(64.224) 11.22 83 2
818894 일반 중화인민공화국 ♥대한민국 [2] ㅇㅇ(223.39) 11.22 171 1
818893 일반 이번에 러시아가 ICBM 사용한 이유는 [9] 러갤러(192.228) 11.22 151 1
818891 일반 한국이 g7에 가입한다는건 [2] 러갤러(115.88) 11.22 145 11
818890 일반 이래서 디시 묻으면 망한다는거야 러갤러(112.162) 11.22 71 0
818889 일반 푸틴이 빡쳐서 핵 쏴주기만 기다리고 있어! ㅇㅇㅇㅇ(39.117) 11.22 52 0
818887 일반 러시아가 우구라에 ICBM을 발사했답니다www [1] ㅇㅇ(64.224) 11.22 136 2
818886 일반 난 얼마 못살거 같아 러갤러(112.154) 11.22 64 0
818885 일반 앵글로 유대인들은 가장 저열한 민족임 [1] 러갤러(192.228) 11.22 113 0
818884 일반 조센징들이 앵글로유대인들의 지배방식을 비판한다는거 자체가 모순일텐데 [1] ㅇㅇ(221.140) 11.22 111 2
818883 일반 빛재명님 김동연님 김여정님 감사합니다 아멘 ㅇㅇ갤로그로 이동합니다. 11.22 53 0
뉴스 잘 나가는 블랙핑크…‘불장난’ MV 9억뷰 돌파 [공식] 디시트렌드 12.08
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2