디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 63 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
818039 일반 아무리 생각해도 친중의 여지는 남겨놔야 함 [5] 러갤러(112.171) 11.19 97 3
818038 일반 솔직히 난 친중도 고려해야 한다고 생각함 [5] 러갤러(112.171) 11.19 112 3
818037 일반 러중이 식량안보 챙기고 있음 ㅇㅇㅇ(218.238) 11.19 109 2
818035 일반 Believe on the Lord Jesus Christ 케말파샤갤로그로 이동합니다. 11.19 38 1
818034 일반 “민주주의 퇴행 … 윤석열 정권 퇴진을” ㅇㅇ(119.194) 11.19 48 0
818033 일반 북괴 돼지 부녀 삽질 중.jpg 냠냠꾼(77.111) 11.19 112 0
818032 일반 TK도 시국선언 확산...국립안동대 교수 33명 "윤석열 퇴진" ㅇㅇ(119.194) 11.19 91 0
818031 일반 반환점 돈 尹정부… 일손 놓은 공무원 [6] ㅇㅇ(119.194) 11.19 138 1
818030 일반 윤두창 숭배율은 90%대 맞다니까 [8] ㅇㅇ(194.195) 11.19 98 1
818028 일반 박지원, “김경수 빨리 귀국해, 이재명 1심 위기 앞에 똘똘 뭉치자” ㅇㅇ(119.194) 11.19 186 0
818027 일반 이젠 우구라도 후지토라당하네 ㅇㅇ(194.195) 11.19 95 1
818025 일반 믿지않는 자의 팔을 밟고 해머로 으깨셔 부수시는 하나님 케말파샤갤로그로 이동합니다. 11.19 58 0
818024 일반 예수 안믿으면 장애인 케말파샤갤로그로 이동합니다. 11.19 42 0
818022 일반 의외의 사실.) ㅇㅇ(212.102) 11.19 81 0
818021 일반 클로이 모레츠도 레즈비언 되었던데 냠냠꾼(77.111) 11.19 105 0
818020 일반 간달프 영국 배우 인데 게이짓 할려고 미국 으로 왔데 냠냠꾼(77.111) 11.19 92 1
818019 일반 정상적인 사람이 보기엔 러시아가 억지를 쓰고 있음 [1] ㅇㅇ(124.49) 11.19 106 1
818018 일반 이분이있다 ㅋㅋ 젖괴님과갤로그로 이동합니다. 11.19 84 0
818016 정보 중국이 근본국가인 이유 ㅇㅇ(211.234) 11.19 77 1
818015 일반 빠르면 이번달에 핵전쟁날듯 올해안에는 100%남 [1] 러갤러(211.36) 11.19 89 0
818014 일반 디즈니표 pc범벅 백살공주 냠냠꾼(77.111) 11.19 91 0
818013 일반 독일, 우크라에 'AI 유도 드론' 4천대 곧 지원 [1] ㅇㅇ(118.41) 11.19 105 0
818012 일반 동양에도 공주있었다면서 왜 서양드레스가 공주옷 인식있음? 러갤러(125.177) 11.19 39 0
818011 일반 젤새끼 참수사진 어디 sns에 걸어놓을데 없냐? 러갤러(210.95) 11.19 59 0
818010 일반 평평지구 안믿으면 지옥 간다 [1] 케말파샤갤로그로 이동합니다. 11.18 54 0
818009 일반 "하마스 간부들, 카타르 떠나 튀르키예로 거처 옮겨" ㅇㅇ(118.41) 11.18 72 0
818008 일반 개스라엘 새끼들은 먼 주제넘게시리 한반도 핵좌표 넣은거냐? 러갤러(210.95) 11.18 74 0
818007 일반 트럼프, '불체자 추방에 軍동원 계획' SNS글에 "사실이다" [2] ㅇㅇ(118.41) 11.18 153 1
818006 일반 3차대전터지면 젤렌스키새끼는 사지를 찢어죽여야 러갤러(210.95) 11.18 56 0
818005 일반 아틀란티스가 북극 쪽 어딘가 라는 가설을 세울 수 있다. 냠냠꾼(77.111) 11.18 68 0
818004 일반 팔 구호기구 "가자지구서 구호품 트럭 98대 약탈당해" [1] ㅇㅇ(118.41) 11.18 82 0
818003 일반 팩반이가 2년넘게 필사적으로 외면하는것 [1] 러갤러(218.50) 11.18 73 1
818002 일반 딥스는 핵전쟁을 원하지는 않음 러갤러(175.123) 11.18 81 0
818001 일반 멋있네 여장군 [1] 푸하하하하하하하하하(112.157) 11.18 128 0
818000 일반 전쟁 다 남자 때문 아님? ㅇㅅㅇ... ㅇㅇ(223.38) 11.18 52 0
817996 일반 북괴 돼지 부녀 삽질 중.jpg 냠냠꾼(77.111) 11.18 128 0
817995 일반 찢 징역 15년형, 당에서 제명, 피선거권 영구 박탈 냠냠꾼(77.111) 11.18 138 7
817994 일반 금인칙서갤에 놀러와. ㅇㅇ갤로그로 이동합니다. 11.18 65 0
817993 일반 국짐지지자들이 좋아하는 방사능 한도초과 일본식재료 이재명이왔어요갤로그로 이동합니다. 11.18 102 3
817992 일반 와 속보다, 페루가 미쳐따~ [2] Hospitaller갤로그로 이동합니다. 11.18 190 2
817991 일반 후쿠시마 잔류 방사능마냥 남아있는 잔류왜구 추방 ㅇㅇ(118.235) 11.18 78 0
817990 일반 윤석열이 일본에 나라 팔기전에 탄핵해야되는데 하프앤하프갤로그로 이동합니다. 11.18 129 9
817989 일반 예수 안믿으면 매맞고 감옥간다 [1] 케말파샤갤로그로 이동합니다. 11.18 61 0
817988 정보 흐린눈하는 조센징들 하이~ [2] ㅇㅇ(212.102) 11.18 96 4
817986 일반 달의 이상을 보고, 전쟁 이후를 예상해 본다. [2] Hospitaller갤로그로 이동합니다. 11.18 114 1
817985 일반 러시아 전면전 선포 촉구 탄원서 서명부탁한다 (링크올림) ㅇㅇ갤로그로 이동합니다. 11.18 120 3
817984 일반 러시아가 전면전? 택도 없다 돌아온형(175.127) 11.18 101 1
817983 일반 러시아가 조만간 우구라 전면전선포한다던데 ㅇㅇ(106.101) 11.18 109 1
817982 일반 문재앙의 문제점=북한비핵화가 가능하다고 생각 [4] 돌아온형(175.127) 11.18 93 1
817980 일반 북진?..미국행님 옵션에 있기는 하냐? 돌아온형(175.127) 11.18 60 0
뉴스 '보고타' 송중기 "용암처럼 뜨겁고 욕망 가득한 캐릭터" 디시트렌드 12.06
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2