디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 60 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
817643 일반 시총퍼거 개념글이 지겨우신가요? [2] ㅇㅇ갤로그로 이동합니다. 11.17 71 1
817641 일반 윤석열 "나라 밖 'SOS'신호 망신살 세계로 뻗친다" 러갤러(223.38) 11.17 115 1
817640 일반 윤석열 의혹 불기소 유엔에 긴급 개입 요청 ㅎㄷㄷㅋㅋ 러갤러(223.38) 11.17 82 1
817639 일반 비트크인 사는 정부 있냐? [1] Hospitaller갤로그로 이동합니다. 11.17 81 1
817638 일반 김건희 윤석열 명태균 천공 공화국 [2] ㅇㅇ(121.163) 11.17 54 1
817637 일반 러시아와 푸틴이 위대한점이 한두개가 아니지만 러갤러(121.158) 11.17 82 0
817636 일반 3만명 가까이 사형당한 1차 엄타严打를 유발한 사건 [3] ㅇㅇ(61.109) 11.17 97 0
817635 일반 서방세계가 중국 제재하면 뒤지는건 한국인데 [3] 러갤러(211.36) 11.17 115 1
817634 일반 미국 경제제재의 변화 러갤러(121.158) 11.17 71 1
817632 일반 중국범죄중 혼자서 대량살상 사건 일으키는거 많지 ㅇㅇ(61.109) 11.17 65 0
817631 일반 미중이 서로 맞 제제 해봐야 [2] 러갤러(39.7) 11.17 80 0
817630 일반 삼성이 뒤진건 별 이유없음 ㅋㅋ [1] 러갤러(211.36) 11.17 262 2
817629 일반 앞으로 한국 대기업 대부분 망한다고 봐야 함 ㅇㅇㅇ(211.235) 11.17 111 0
817628 일반 갤플좀 돌려봐라..뭐 없냐? 스웨디시형(110.12) 11.17 47 0
817627 일반 트황이..중궈 우회수출 통로 멕시코도 조지겟다는데 [3] 스웨디시형(110.12) 11.17 99 0
817626 일반 루비오 의원이..catl 존나 싫어하는데.. [2] 스웨디시형(110.12) 11.17 84 1
817625 일반 미국이 중국 수출 막는걸로 제재하는데 [15] 러갤러(39.7) 11.17 147 1
817624 일반 제메이형 내려가면 민주진영에 누가 있는데? [2] 스웨디시형(110.12) 11.17 72 0
817623 일반 영국이 대영제국이라면서 왜 서유럽 문화는 프랑스가 많이나옴? [1] 러갤러(220.87) 11.17 40 0
817622 일반 샘슝도 망하고..이젠 하이닉스가 해줘야 한다 스웨디시형(110.12) 11.17 54 0
817621 일반 제메이형은 끝난거지 다들 알잔아 [2] 스웨디시형(110.12) 11.17 64 1
817620 일반 중궈 칼부림 사건 떳다 [1] 스웨디시형(110.12) 11.17 92 0
817619 일반 트럼프도 유럽, 미국 주식랠리 못막음 [2] 코닭갤로그로 이동합니다. 11.17 78 0
817618 일반 태국,말레이,브루나이에도 화교 많이살고있는데 [2] CMePTb(39.118) 11.17 76 0
817617 일반 미국이 먼저망하는지 짱개가망하는지 러갤러(175.113) 11.17 53 0
817616 일반 짱개 망하면 사람들 짱개 다 떠날까 러갤러(175.113) 11.17 36 0
817610 정보 지도로보는 세계의 중심 러갤러(211.36) 11.17 80 0
817609 일반 엔비디아, AMD 만든사람이 다 대만인임 러갤러(211.36) 11.17 78 3
817607 일반 트럼프가 임명한 백악관 통신주임 중국계 장씨 [1] ㅇㅇ(61.106) 11.17 105 0
817605 일반 바이든 대만독립 지지안한다고 선포 [1] ㅇㅇ(61.106) 11.17 87 2
817604 일반 망한다는 중국에서 2026년 APEC개최 [2] ㅇㅇ(61.106) 11.17 74 0
817603 일반 날리믄 날리믄 씐나는 노래www [1] ㅇㅇ(194.195) 11.17 94 3
817602 일반 트럼프의 실패는 예정된 거네. [4] 13567(39.117) 11.17 149 2
817593 일반 여기 찢갈이들은 손가락만 놀리지 말고 분신해라. [1] 러갤러(39.112) 11.17 79 2
817590 일반 마지막 저격조가 대기 중인 거냐? [1] 13567(39.117) 11.17 86 0
817589 일반 [속보] 시진핑, 바이든에 "한반도 충돌·혼란 허용 안해" [4] ㅇㅇ(211.235) 11.17 156 0
817588 일반 요즘 중동쪽은 소식이 뜸한듯? [1] 김정1(118.235) 11.17 50 0
817587 일반 김여정 개씨발련은 통일되면 산채로 쫙 찢어야 해 [1] 러갤러(49.1) 11.17 53 0
817586 일반 자동차급을 시계와 비교하면? [3] 러갤러(211.36) 11.17 101 0
817583 일반 한녀를 사귀면 안되는 이유 jpg 러갤러(118.235) 11.17 68 2
817581 일반 ㅋㅋ 중공 사건 올리니까 0.5초만에 삭제되네 ㅇㅇ(118.41) 11.17 55 0
817579 일반 이란이 보기에도 트럼프가 곧 뒈질 것 같나보네 [7] ㅇㅇ(194.195) 11.17 226 2
817578 일반 뜨앗 Hospitaller갤로그로 이동합니다. 11.17 81 0
817577 일반 뜨아 Hospitaller갤로그로 이동합니다. 11.17 52 0
817575 일반 진짜 유죄.jpg 하프앤하프갤로그로 이동합니다. 11.17 70 1
817573 일반 ‘대지진 전조’ 3개월 전 발견됐던 산갈치…美 캘리포니아서 또 발견 ㅇㅇ(118.41) 11.17 70 0
817572 일반 찢짜이밍 지지하는 세력이 조선족이라는게 확실해짐 ㅇㅇ(61.72) 11.17 46 0
817570 일반 영국이 대영제국이라는데 왜 유럽풍문화는 프랑스가 많이나옴? [4] 러갤러(121.132) 11.17 43 0
817569 일반 우왓 Hospitaller갤로그로 이동합니다. 11.17 28 0
817568 일반 국민의 40% 이상이 지지하는 후보를 사법부가 유죄? [2] 러갤러(180.70) 11.17 112 2
뉴스 한국영화제작가협회상에 김성수 감독 '서울의 봄' 디시트렌드 12.05
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2