디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 61 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
817691 일반 교황 "이스라엘 가자전쟁 '제노사이드'인지 조사해야" ㅇㅇ(118.41) 11.17 84 1
817689 일반 지금 러우 어케 싸워 ? [1] 러갤러(39.7) 11.17 72 0
817688 일반 이갤 그래도 한때는 좀 아는놈이 조금아니마 있었는데 저능아러뽕민주병신들이 ㅇㅇ(221.140) 11.17 64 0
817686 일반 돈이 무서운 이유 [3] Hospitaller갤로그로 이동합니다. 11.17 105 1
817685 일반 레닌 [1] 러갤러(222.103) 11.17 42 0
817684 일반 예수 안믿으면 장애인 [1] 케말파샤갤로그로 이동합니다. 11.17 48 0
817683 일반 6개월인가 여기서 트럼프는 대통령이 못된다고 외친 병신이 있었지. ㅋ [5] 러갤러(115.137) 11.17 245 2
817682 일반 아는척 멍청이을 위해 중.고교 과정 기초 수요와 공급 쉽게 가르쳐준다.. [3] 러갤러(39.112) 11.17 101 0
817681 일반 그래도 독일 숄츠는 참신한 업적이라도 있지 [3] ㅇㅇ(194.195) 11.17 112 2
817680 일반 러시아 부동산 폭망중 ww ㅇㅇ(211.234) 11.17 142 4
817679 일반 大纪元에서 또 장유쌰 어찌구 调侃 唠嗑하는데 [3] ㅇㅇ(61.106) 11.17 69 0
817678 일반 소위 민주주의체제는 한계가 있지 [3] ㅇㅇ(61.106) 11.17 75 1
817677 일반 '일대일로 빚더미' 라오스 물가 급등에 생활고 극심 [1] ㅇㅇ(118.41) 11.17 197 0
817676 일반 미영프는 언론들이 전부 억만장자품에 들어감 ㅇㅇ(222.104) 11.17 66 0
817675 일반 미국대선이후 푸틴과 트럼프가 대화 나눈적 없대 ㅇㅇㅇ(218.238) 11.17 111 1
817674 일반 한·일 오간 항공 승객 2천만 명 돌파…올해 역대 최다 갱신 전망 ㅇㅇ(118.41) 11.17 67 0
817672 일반 트럼프 인수팀, 아프간 철군 대참사 관련 '살생부' 작성 ㅇㅇ(118.41) 11.17 193 2
817671 일반 미국,영국,독일,일본 전부 정권교체됐노 ㅋㅋㅋ [1] 러갤러(222.104) 11.17 106 3
817669 일반 한국 전쟁은 없어도, 전쟁같은 경제난은 있어. [5] Hospitaller갤로그로 이동합니다. 11.17 82 2
817668 일반 중국이 미국에 선관세 못 때리는 이유는 소비시장 대비 과잉생산 때이지.. [14] 러갤러(39.112) 11.17 139 3
817667 일반 이재명 살아돌아올수 있어? [2] 러갤러(180.66) 11.17 115 0
817666 일반 마소가 중국에서 철수하면 중국 전산망이 초토화 된데. ㅋㅋㅋ [10] 러갤러(115.137) 11.17 164 2
817665 일반 일본은 지금 곰때문에 난리네? [9] 13567(39.117) 11.17 137 0
817664 일반 병신들이 화장지 물티슈 우습게 보이나 보네. ㅋ 러갤러(115.137) 11.17 121 2
817663 일반 식료품값 치솟는 일본…엥겔계수 G7 중 1위 ㅇㅇ(118.41) 11.17 90 0
817662 일반 미국에 공장 안지으면 목졸라버리면 된다. [1] ㅇㅇ(211.234) 11.17 53 0
817661 일반 친중 한다면 댓가를 알려줘야지 ㅇㅇ(211.234) 11.17 62 0
817660 일반 인도 "자체 개발 극초음속 미사일 시험발사 성공" [2] ㅇㅇ(118.41) 11.17 137 1
817659 일반 곧 다가올 새로운 세계질서를 설명해주는 사진 [6] ㅇㅇ(194.195) 11.17 157 1
817658 일반 te스트 [2] ㅇㅇ(194.195) 11.17 66 1
817657 일반 솔직히 영국 미국이 원하는건 각 지역들 분쟁나는거지 [1] 러갤러(1.243) 11.17 111 2
817656 일반 퇴임 2개월 앞둔 바이든, APEC 단체사진서 뒷줄에 [5] ㅇㅇ(118.41) 11.17 192 0
817655 일반 "보호무역주의가 빈곤 불러온다" 트럼프 저격한 베트남 대통령 [4] ㅇㅇ(118.41) 11.17 177 0
817654 일반 트럼프가 코레아 조선소 밀어준다는거 솔직히 모르겠다 [7] 마사지형(110.12) 11.17 135 0
817652 일반 “서울 불바다” 도발하던 北무기, 우크라군에 쓰나…‘주체포’ 등 70문, [2] ㅇㅇ(118.41) 11.17 143 2
817651 일반 러, 우크라 전력 시설 대규모 공습…'나토' 폴란드 전투기 출격 [2] ㅇㅇ(118.41) 11.17 165 1
817650 일반 호주 호위함 입찰에서 코레아 탈락했어? [1] 마사지형(110.12) 11.17 66 0
817649 일반 美·日·호주, 방위협의체 신설 합의…합동 훈련도 확대 [1] ㅇㅇ(118.41) 11.17 68 0
817648 일반 러시아 규탄하며 행진하는 체한 우크라이나인 ㅇㅇ(118.41) 11.17 111 0
817647 일반 미국이 부활하는법 [1] 러갤러(182.172) 11.17 64 0
817645 일반 빠데리 (스웨디시형) 또 와서 개소리 싸질러놨네 [1] ㅇㅇㅈ(99.238) 11.17 96 4
817644 일반 지금 미국 주류언론에서 털시 개버드 간첩이라고 난리래 [4] 러갤러(180.66) 11.17 105 0
817643 일반 시총퍼거 개념글이 지겨우신가요? [2] ㅇㅇ갤로그로 이동합니다. 11.17 71 1
817641 일반 윤석열 "나라 밖 'SOS'신호 망신살 세계로 뻗친다" 러갤러(223.38) 11.17 115 1
817640 일반 윤석열 의혹 불기소 유엔에 긴급 개입 요청 ㅎㄷㄷㅋㅋ 러갤러(223.38) 11.17 82 1
817639 일반 비트크인 사는 정부 있냐? [1] Hospitaller갤로그로 이동합니다. 11.17 81 1
817638 일반 김건희 윤석열 명태균 천공 공화국 [2] ㅇㅇ(121.163) 11.17 54 1
817637 일반 러시아와 푸틴이 위대한점이 한두개가 아니지만 러갤러(121.158) 11.17 82 0
817636 일반 3만명 가까이 사형당한 1차 엄타严打를 유발한 사건 [3] ㅇㅇ(61.109) 11.17 97 0
817635 일반 서방세계가 중국 제재하면 뒤지는건 한국인데 [3] 러갤러(211.36) 11.17 115 1
뉴스 영화인연대 "윤 대통령 즉시 퇴진하라" 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2