디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 76 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2956 설문 나라가 위기에 처하면 가장 먼저 나설 것 같은 스타는? 운영자 24/12/09 - -
2957 이슈 [디시人터뷰] ‘피의 게임3’ 게임판을 흔드는 플레이어, 유리사 운영자 24/12/09 - -
819522 일반 탄핵 사유는 충분한데.... 이재명으론 안됨 [1] ㅇㅇ(121.88) 11.24 69 1
819521 일반 우크라이나 대포밥이 왜 없냐? ㅇㅇ(121.175) 11.24 47 0
819520 일반 탄핵을 하려면 확실한 법률위반 사유가 있어야 함 [13] 러갤러(115.137) 11.24 150 0
819519 일반 러시아 알만한 기업없는건 소련 붕괴탓이 큼 코닭갤로그로 이동합니다. 11.24 48 0
819518 일반 탄핵 타령 하지마 병신들아. ㅉㅉ [7] ㅇㅇ(121.175) 11.24 104 0
819517 일반 러시아가 쏜 mrbm은 신기술인가? 아닌가?의 개인적 생각. [20] 러갤러(39.112) 11.24 213 0
819516 일반 영국, 우크라 총동원 요구/ 370만 대포밥 러갤러(118.176) 11.24 104 0
819515 일반 북한, 파병 대가로 러시아 5세대 스텔스 전투기 도입하나 ㅇㅇ(14.45) 11.24 144 1
819514 일반 러뽕병신들 진짜 아무것도 모르는 병신이였구나ㅋㅋ [1] 러갤러(221.140) 11.24 88 2
819512 일반 미국은 우리 한국전쟁을 통해 세계 지존이 된 거다. [4] 13567(39.117) 11.24 92 0
819511 일반 그런데 제대로된 엘리트 찐파병은 러갤러(59.4) 11.24 49 0
819510 일반 푸틴, 성전환 허용 국가로의 러시아 아동 입양 금지 러갤러(175.120) 11.24 56 0
819509 일반 지금 윤두창 탄핵소리 나오는 이유가 이거면 어쩔거냐? [9] 러갤러(211.105) 11.24 109 1
819508 일반 [속보] 신원식 "김정은 방러 가능성 배제할 수 없어" ㅇㅇ(14.45) 11.24 61 0
819507 일반 배터리업체 노스볼트 파산 후폭풍…골드만삭스 1조원 손실직면 ㅇㅇ(14.45) 11.24 207 0
819506 일반 쿠르스크 스톰섀도 공격에 북한군도 피해…"500명 사망" 보도도 [4] ㅇㅇ(14.45) 11.24 134 0
819505 일반 네탄야후에게 체포영장이 발부된 이유 러갤러(115.137) 11.24 107 0
819503 일반 기술봉건주의 (야니스 바루파키스) [1] 시타갤로그로 이동합니다. 11.24 114 1
819502 일반 오레슈닉 발사만 봐도 푸틴이 얼마나 한국놈에게 자비로운지 [6] 러갤러(121.187) 11.24 175 9
819501 일반 드디어 와따 ㅎㅎ Hospitaller갤로그로 이동합니다. 11.24 49 0
819499 일반 예수 안믿는 개인과 사회는 어떤 운명에 쳐해지는가 케말파샤갤로그로 이동합니다. 11.24 42 0
819498 일반 러시아 정부부채 역대 최고치 도달 [3] EE갤로그로 이동합니다. 11.24 152 3
819497 일반 곧 삼포세대의 시대 Hospitaller갤로그로 이동합니다. 11.24 59 0
819495 일반 냠냠꾼 아옷치 개새끼 ㅇㅇ(223.39) 11.24 16 0
819494 일반 우하하 가을이 간다 Hospitaller갤로그로 이동합니다. 11.24 37 0
819493 일반 날씨 좋다. 천왕성 작전 하기 좋은 날씨네. [1] 냠냠꾼(77.111) 11.24 63 0
819492 일반 권위주의 국가특) 잘사는 땅 먹으면 잘살게될줄암 러갤러(175.192) 11.24 54 2
819491 일반 중공 중공 그러는 애들은 지능이 얼마냐? [2] 러갤러(39.7) 11.24 81 1
819490 일반 오레슈닉이 뭔 의미인지 아직도 모르는 병신들 많네. ㅋ 러갤러(115.137) 11.24 146 6
819489 일반 팩트는 스탈린이 영미 언제 상륙하냐고 졸랐다는거임 [1] 러갤러(175.192) 11.24 61 2
819488 일반 근데 러시아, 중공 이런 나라들은 천재들만 수입한다는 얘기가 맞음 [7] 러갤러(121.162) 11.24 94 0
819487 일반 미좆과 북괴가 WWE 하고 있는데 돼정은 참수? 꿈 깨라! [1] 냠냠꾼(77.111) 11.24 47 1
819485 일반 러시아는 그냥 공업 자체가 90년대에 멈춰있다니까? [6] 러갤러(117.111) 11.24 111 1
819484 일반 오레슈니크 빠는 애들은 밀덕이 아닌거다 [3] ㅇㅇ(117.111) 11.24 115 5
819483 일반 졸렬 세환은 북괴 신형 대전차 미사일 이야기 빼곤 볼것 없다. 냠냠꾼(77.111) 11.24 65 1
819482 일반 김정은 참수.검거작전이 가능하냐? [1] 러갤러(119.197) 11.24 60 1
819481 일반 러시아의 진군 속도가 느린 이유 [2] 러갤러(175.120) 11.24 114 1
819480 일반 "북한 신형 ICBM '화성-19형', 단탄두·다탄두 2종 추정" ㅇㅇ(118.41) 11.24 88 0
819479 일반 러시아가 꾸준히 발전하려면 공업능력을 키워야함. 러갤러(37.19) 11.24 75 1
819478 일반 러세갤의 페미니즘, lgbt, 유대인 옹위하던 과거이유 저격 러갤러(218.147) 11.24 68 2
819477 일반 ASML 신형장비 기술력보소 ㅋㅋ [4] 러갤러(211.36) 11.24 240 2
819476 일반 꼬라지보니 몇년후에 청룡영화제 이런데서 러시아어 쓸일 멀지 않았네 [1] 러갤러(211.36) 11.24 71 1
819475 일반 북한군 고위 장군 부상설 진위 추정 러갤러(175.120) 11.24 62 0
819473 일반 러시아 에서 명태 수입하지않음? [1] 87체제공범(118.235) 11.24 58 1
819471 일반 무기 공학만 발달하면 뭐함? [1] ㅇㅇ(218.50) 11.24 61 1
819470 일반 샤를 세환은 왜 이번 러시아의 신병기에 대해 암쏘리도 안하냐? [9] 13567(39.117) 11.24 166 2
819469 일반 ㅋㅋ [2] Hospitaller갤로그로 이동합니다. 11.24 38 1
819468 일반 무능한 우파와 부도덕한 좌파 러갤러(117.111) 11.24 42 1
819467 일반 좆주당 지지자들이 착각하는거 한가지 [1] 러갤러(110.10) 11.24 62 0
819466 일반 러시아, 우크라이나의 독립국가 지위 종식이 목표다 [4] 러갤러(175.120) 11.24 106 1
뉴스 로다주 이어 캡틴도…크리스 에반스 ‘어벤져스5’로 MCU 복귀 [왓IS] 디시트렌드 14:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2