디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 68 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2956 설문 나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는? 운영자 24/12/09 - -
818914 일반 국짐지지자들이 좋아하는 방사능 한도초과 일본식재료 이재명이왔어요갤로그로 이동합니다. 11.22 57 3
818913 일반 여기 조센징의 90%가 윤두창을 숭배한다고 올라오면 ㅇㅇ갤로그로 이동합니다. 11.22 58 0
818912 일반 극초음속 중거리 탄도미사일 Oreshnik도착 영상 [11] ㅇㅇ갤로그로 이동합니다. 11.22 625 15
818911 일반 트럼프 당선과 북-러 조약을 볼 때 확연해진 한-러 관계. ㅇㅇ(220.116) 11.22 67 0
818910 일반 도태의 힘 , 저학력 , 일베 , 틀딱 << 2찍 ㅇㅇ(118.235) 11.22 37 1
818909 일반 윤석열 지지하는 틀딱 새끼들 병신인게 하프앤하프갤로그로 이동합니다. 11.22 48 2
818908 일반 러시아와 이란이 같다고 하는 애덜도 있는데 러갤러(175.123) 11.22 54 0
818907 일반 못배운 틀딱들 최후의 보루 국짐 지지 ㅋㅋㅋㅋㅋㅋㅋ ㅇㅇ(118.235) 11.22 37 1
818906 일반 못배울수록 2찍일 확률이 높음 이재명이왔어요갤로그로 이동합니다. 11.22 78 6
818905 일반 푸틴 러시아 대통령 성명 ㅇㅇ갤로그로 이동합니다. 11.22 123 3
818904 일반 트럼프가 미국무기 버리고 러시아 무기 도입 지시ㅋㅋㅋ [2] ㅇㅇ(128.1) 11.22 839 16
818902 정보 미국, 트럼프 취임 전 우크라 부채 6조 원 탕감 추진 흰콩갤로그로 이동합니다. 11.22 99 0
818901 일반 김정은 존나 짜증날듯 ㅋㅋㅋ [2] 러갤러(115.88) 11.22 126 0
818900 일반 러시아 구형 ICBM 생산년도가 러갤러(175.123) 11.22 91 3
818899 일반 헛소리 하는 새끼들 존나 많네 [1] 러갤러(175.123) 11.22 73 0
818898 일반 G20과 G7은 무슨 차이노? [1] 384865(112.168) 11.22 54 0
818897 일반 멍청한 우뽕 개돼지들은 뭐가 중요한 건지 몰라요. [1] 384865(112.168) 11.22 61 0
818896 일반 조센징은 이런 역겨운 망상을 아주 당연하게 생각하지 [3] ㅇㅇ(64.224) 11.22 83 2
818894 일반 중화인민공화국 ♥대한민국 [2] ㅇㅇ(223.39) 11.22 171 1
818893 일반 이번에 러시아가 ICBM 사용한 이유는 [9] 러갤러(192.228) 11.22 151 1
818891 일반 한국이 g7에 가입한다는건 [2] 러갤러(115.88) 11.22 145 11
818890 일반 이래서 디시 묻으면 망한다는거야 러갤러(112.162) 11.22 71 0
818889 일반 푸틴이 빡쳐서 핵 쏴주기만 기다리고 있어! ㅇㅇㅇㅇ(39.117) 11.22 52 0
818887 일반 러시아가 우구라에 ICBM을 발사했답니다www [1] ㅇㅇ(64.224) 11.22 136 2
818886 일반 난 얼마 못살거 같아 러갤러(112.154) 11.22 64 0
818885 일반 앵글로 유대인들은 가장 저열한 민족임 [1] 러갤러(192.228) 11.22 113 0
818884 일반 조센징들이 앵글로유대인들의 지배방식을 비판한다는거 자체가 모순일텐데 [1] ㅇㅇ(221.140) 11.22 111 2
818883 일반 빛재명님 김동연님 김여정님 감사합니다 아멘 ㅇㅇ갤로그로 이동합니다. 11.22 53 0
818882 일반 홍콩영화가 망한건 90년부터임. [5] 러갤러(115.137) 11.22 131 0
818880 일반 우크 내 미 바이오랩, 양심 기자 [1] Hospitaller갤로그로 이동합니다. 11.22 101 3
818879 일반 홍콩에서는 식민지근대화론 인정할 거 같음 [5] 귀여운사자갤로그로 이동합니다. 11.22 95 1
818878 일반 이스라엘 반대하는 나라들에 핵무기 사용 찬성하면 추천 [1] 케말파샤갤로그로 이동합니다. 11.22 68 0
818877 일반 앵글로가 좋은 점이라니 ㅎㅎ [2] 러갤러(106.102) 11.22 75 1
818876 일반 20세기 역사에서 가장 감격스러운 순간 케말파샤갤로그로 이동합니다. 11.22 69 0
818874 일반 북한이랑 언제 종전할려나 [1] ㅇㅇ(211.114) 11.22 71 0
818873 일반 그래도 앵글로색슨을 인정할수 밖에 없는 부분 [1] 러갤러(149.88) 11.22 73 1
818872 일반 국제정세는 쳐알아서 뭐하게 케말파샤갤로그로 이동합니다. 11.22 75 0
818871 일반 씨발 볼것도 없다 ㅇㅇ(121.129) 11.22 90 1
818870 일반 프랑스, 폭설로 항공·육상 교통 마비…23만여 가구 정전 [1] ㅇㅇ(118.41) 11.22 162 0
818869 일반 우크라전 격화에 유럽 가스값 1년만에 최고 [1] ㅇㅇ(118.41) 11.22 101 0
818868 일반 [속보] 비트코인, 9만8000달러도 돌파…10만달러 눈앞 ㅇㅇ(118.41) 11.22 66 0
818867 일반 푸틴 쫄보놈이 이란이랑 똑같은 헛짓거리 하는 중ㅋㅋㅋ [3] cirnohello갤로그로 이동합니다. 11.22 135 0
818865 일반 푸틴 방송 연설, 핵미사일 사용시 사전 경고하겠다 러갤러(175.120) 11.22 200 5
818864 일반 맷 게이츠 법무장관 후보 지명 철회했네 [2] 러갤러(180.66) 11.22 129 1
818862 일반 [속보] 푸틴 "미사일 테스트 성공적" [3] 777(175.120) 11.22 238 0
818861 일반 속보)러시아, 우크라이나군이 화학탄 투하 MOPP 4단계 [15] ㅇㅇ(165.22) 11.22 1091 21
818860 일반 그냥 푸틴하고 젤렌스키 2명잡아다가 공동 사형시키고 [5] ㅇㅇ(117.110) 11.22 140 0
818859 일반 오바마 뒤에 누가 있는지 진짜 모르나? ㅋ 러갤러(115.137) 11.22 178 0
818856 일반 병신 좌좀 찢갈이 대깨문 새끼들은 왜 깝치는겨? ㅋㅋㅋ [1] 러갤러(116.34) 11.22 79 2
818855 일반 내전 각오하고 오바마 얘 감옥 보내야 함 [23] 러갤러(116.34) 11.22 240 3
뉴스 고현정, 촛불 들었다… ‘비상계엄’ 성명문에 ‘불꽃’ 지지 디시트렌드 12.08
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2