디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 62 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
817789 일반 장거리 미사일 허용??? [5] 러붕이(121.158) 11.18 166 1
817788 일반 경기침체 중국 흉기난동 다발...JPG [18] ㅇㅇ(211.210) 11.18 655 30
817787 일반 국짐당이 북한에게 돈주고 자국군 총으로 쏴달라한 사건 [1] ㅇㅇ(121.163) 11.18 66 1
817786 정보 적과 내통하는 쓰레기 국짐당 걍 해체해라 *총풍사건 ㅇㅇ(121.163) 11.18 47 2
817785 일반 이재명 유죄라는 2찍의 문제점 [3] ㅇㅇ(118.235) 11.18 95 2
817784 일반 우크라이나 제대로 못이기면서 3차대전 하겠냐? 러갤러(122.44) 11.18 61 2
817783 일반 대역죄인 박근혜 탄핵 ㅇㅇ(121.163) 11.18 47 0
817782 일반 세계대전 일어나면 툰베리 소환할꺼임... [3] 러갤러(122.44) 11.18 71 0
817781 일반 야후재팬 메인도 우크라 장가리 미사일 허용이네 레오(106.102) 11.18 66 0
817780 일반 변기에 식은밥 넣고 비벼먹으면 한끼 뚝딱임 ㅇㅇ(118.235) 11.18 32 0
817779 일반 尹지지율 23.7%…與 31.6%·민주 47.5% [1] ㅇㅇ(118.33) 11.18 89 0
817778 일반 이재명 유죄라는 새끼 특 ) 가족범죄단임 ㅇㅇ(128.1) 11.18 41 0
817776 일반 러시아는 그동안 장거리 미사일 안날렸냐?? [1] 레오(106.102) 11.18 110 1
817775 일반 미 여군이 강조하는 전투여군이 필요한 이유 할랄포크갤로그로 이동합니다. 11.18 96 0
817774 일반 미역이? Hospitaller갤로그로 이동합니다. 11.18 100 0
817773 일반 면역체계 Hospitaller갤로그로 이동합니다. 11.18 32 0
817772 일반 ㅋㅋ Hospitaller갤로그로 이동합니다. 11.18 30 0
817771 일반 몽골 제국과 미국의 차이 러갤러(147.79) 11.18 91 1
817770 일반 쿨래식도 좀 듣고 살쟈 Hospitaller갤로그로 이동합니다. 11.18 35 0
817769 일반 이란은 더 늦기전에 핵실험하고 전쟁준비 해야지 [5] 러갤러(180.70) 11.18 94 0
817768 일반 트뽕들 헛소리가 지겨워? ㅇㅇ갤로그로 이동합니다. 11.18 55 0
817767 일반 시리아가 왜 좃됫는줄 아노? ㅋㅋ 러갤러(115.88) 11.18 96 1
817766 일반 난 푸틴 사탄과 딥스의 후계자 되는데 6개월봄 ㅇㅇ갤로그로 이동합니다. 11.18 52 0
817765 일반 그 강경파 이란 대통령 사고로 죽었을때 러갤러(115.88) 11.18 57 0
817764 일반 러시아가 이란을 왜 양보하냐 이 병신아 ㅇㅇ갤로그로 이동합니다. 11.18 78 2
817763 일반 밑에 말 잘했네 [1] 러갤러(115.88) 11.18 61 0
817762 일반 트럼프 임기 와도 이란 안뒤짐 [1] 러갤러(118.45) 11.18 95 3
817760 일반 Ai 럭키 심심이 맞는듯 ㅇㅇ(211.234) 11.18 52 1
817759 일반 트럼프 시대, 이란은 뒤질거 같음.. [2] 러갤러(115.88) 11.18 111 1
817758 일반 이뇨속드롸~~!!!!!!! Hospitaller갤로그로 이동합니다. 11.18 39 0
817757 일반 서양은 러갤러(147.79) 11.18 47 0
817756 일반 돈은 그렇게까진 중요하진 않대 Hospitaller갤로그로 이동합니다. 11.18 50 0
817755 일반 미좆 본토에 미사일 날리면 됨? [7] ㅂㄴ(106.102) 11.18 132 7
817754 일반 이란이 일론머스크 만났다는건 구라같음 [1] ㅇㅇ(59.12) 11.18 54 0
817752 일반 Mädchen 케말파샤갤로그로 이동합니다. 11.18 43 0
817751 일반 페미 15만명 우크라이나 파병 준비중 [2] Hospitaller갤로그로 이동합니다. 11.18 113 1
817750 일반 물마시 [1] Hospitaller갤로그로 이동합니다. 11.18 66 1
817748 일반 조센징 꼬라지 정말 역겹네 ㅇㅇ(194.195) 11.18 118 3
817747 일반 Know ye that earth art flat? [1] 케말파샤갤로그로 이동합니다. 11.18 59 0
817746 일반 우크라이나 미사일 허용에 대한 개인적 추측.txt [1] ㅇㅇ(119.198) 11.18 142 6
817742 일반 똥꼬메리카 민주주의 근황 [1] ㅇㅇ(194.195) 11.18 139 4
817741 일반 오데사 두들려패는 러시아군 ㅇㅇㅇ(211.235) 11.18 134 1
817740 일반 미국 '뒷마당'의 중국 스마트 항구 [2] 시타갤로그로 이동합니다. 11.18 143 3
817739 일반 해리스가 되었으면 러우전에 한국군인 파견했을듯... [1] ㅇㅇㅇ(211.235) 11.18 116 3
817738 일반 민주주의의 결점을 단적으로 입증한 최근 사례 [1] ㅇㅇ(194.195) 11.18 87 1
817737 일반 와.. 오데사까지 먹히면 우크라이나는 사실상 시체인디 ㅇㅇ(59.12) 11.18 110 2
817735 일반 아직도 러우전이 협상으로 평화롭게 끝난다고 믿으셔? [1] ㅇㅇ(194.195) 11.18 119 1
817734 일반 민주주의가 좆같은 이유 [5] EE갤로그로 이동합니다. 11.18 108 1
817733 일반 처녀가 요즘 시대에 없는 이유... ㄹㅇ... [1] ㅇㅇ(223.38) 11.18 125 1
817732 일반 미사일 허용 과연 트뽕들이 말한것 처럼 [2] ㅇㅇ갤로그로 이동합니다. 11.18 133 0
뉴스 “우린 모두 평등”... 밴드 설 ‘숲’, 뮌헨 뮤직비디오 어워즈 3관왕 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2