디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 65 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
818502 일반 이 번은 단순미사일도 피해 클 느낌 러갤러(221.167) 11.20 90 1
818501 일반 [단독] “국가가 상고할까 두려워” 스스로 목숨 끊으려 한 형제복지원 피 [2] ㅇㅇ(118.41) 11.20 272 0
818473 일반 중국이 깔아 놓은 일대일로가 러시아에게도 요긴하게 쓰일 거다. [1] 384865(112.168) 11.20 83 1
818472 일반 트럼프 : 젤렌스키 안 만나 러갤러(221.167) 11.20 117 2
818471 정보 바이든이 해냈다!! 우크라에 대인지뢰 공급승인!!! [4] 러갤러(106.101) 11.20 198 0
818470 일반 미국이 우크라이나 죽여버리라고 미사일에 필요한 부품들을 러갤러(221.167) 11.20 92 0
818469 일반 美뒷마당·개발국 침투한 中일대일로 시타갤로그로 이동합니다. 11.20 95 4
818468 일반 디즈니 왜 사기 치냐? [1] 냠냠꾼(77.111) 11.20 134 4
818467 일반 미 의회 위원회, 중국에 부여한 ‘정상무역관계(PNTR) 지위’ 철회 권 ㅇㅇ(118.41) 11.20 71 0
818466 일반 중국에 대한 태도 바꾼 아르헨티나 [1] 시타갤로그로 이동합니다. 11.20 154 2
818465 일반 미좆 포함한 서구 군대 새끼들은 그냥 전쟁 절대 못 이겨 ㅋㅋㅋㅋ [1] 러갤러(211.36) 11.20 107 2
818464 일반 진짜 npt에따라 핵쏜국가 핵보복으로 지도에서 지울 수 있을까 [2] ㅇㅇ(223.39) 11.20 103 0
818463 일반 동덕여대생 ‘남녀 공학전환 반대’ 99.9%… 찬성은 ‘0명’ ㅇㅇ(118.41) 11.20 70 0
818462 일반 영국대사관을날려야지 ㅇㅇ(118.235) 11.20 89 1
818459 일반 EU, 중국 기업에 기술이전 요구 (FT) [1] 시타갤로그로 이동합니다. 11.20 206 4
818458 일반 중국이 대만 치기 전에 미국시선 돌리려 북한 보낼거같지 않냐? 러갤러(126.254) 11.20 62 0
818457 일반 [속보] 키이우 미 대사관 “대규모 러 공습 가능성…직원 대피 지시” [3] ㅇㅇ(118.41) 11.20 349 4
818454 일반 우크라 러 본토 공격 시작 [1] 러갤러(126.254) 11.20 193 0
818453 일반 유럽이 중국에 받아낼 기술이 있을줄은 몰랐는데? [1] 러갤러(115.137) 11.20 97 1
818452 일반 스케일 ㅈㄴ 커지네 ㅋㅋ [3] 러갤러(126.254) 11.20 315 0
818451 일반 "어떤 바나나도 있어선 안 돼!" 스웨덴 장관의 이상한 공포증 [2] ㅇㅇ(118.41) 11.20 159 2
818450 일반 한·프랑스 해군, 부산 동방 해상서 연합협력 훈련 [2] ㅇㅇ(118.41) 11.20 127 3
818449 일반 네타냐후, 인질 한 명당 현상금 500만 달러 주겠다 러갤러(175.120) 11.20 76 0
818448 일반 러시아 여대생 "북한군에게 집단 성폭행 당했다" [3] ㅇㅇ(118.41) 11.20 275 6
818447 일반 미국이 핵무기 만들어줬음 어캐 해야 하네? 핵무력을 냠냠꾼(77.111) 11.20 66 0
818445 일반 석열이가 국제회의석상에서 러시아에 호통 쳤다며? [3] 384865(112.168) 11.20 136 2
818444 일반 저능아야 북괴에 핵무기 만들어준게 미국 이야 [1] 냠냠꾼(77.111) 11.20 83 0
818443 일반 북핵도 미국만 믿고 있다가 허용당한 거 아녀? [2] 384865(112.168) 11.20 78 1
818442 일반 유럽에 팔려면 기술이전해라 ㅇㅇ(59.11) 11.20 60 1
818441 일반 어떻게든 한러관계만 다시 풀어내면 정은이는 엿되는 거여. [2] 384865(112.168) 11.20 69 0
818440 일반 러시아 IT산업은 핀란드만도 못하지않음? [26] 크리미널갤로그로 이동합니다. 11.20 221 13
818439 일반 오은영 이나 전청조나지, 돈미새 오은영이 사기 친게 한두개냐 냠냠꾼(77.111) 11.20 70 3
818438 일반 [속보] 국정원" 북한군, 러 해병대 속해 드론 훈련…일부는 전투 참여" [2] ㅇㅇ(118.41) 11.20 142 0
818437 일반 북괴 퍼주기? 미국일본 이야긴가? 냠냠꾼(77.111) 11.20 66 0
818436 일반 바이든이 미친거 vs 굿캅 배드캅? [3] 러갤러(118.235) 11.20 75 0
818435 일반 파병했다고 그냥 끝까지 우기기로 한 미정부와 [3] 위대한조선족갤로그로 이동합니다. 11.20 101 0
818434 일반 근디 영국은 왜케 착한거임?? ㅇㅇ(59.6) 11.20 60 0
818433 정보 북한 퍼주기는 진짜 노답인듯 [21] 러갤러(175.192) 11.20 595 30
818432 일반 오은영년이 정신과전문의? 박사? 사기꾼들 하고나 어울렸던데 [1] 냠냠꾼(77.111) 11.20 90 1
818431 일반 이제는, 대한민국이 NPT를 탈퇴할때 러갤러(115.88) 11.20 59 1
818430 일반 [속보] 국정원 "北, 러시아에 자주포·방사포 등 추가 수출 확인" [1] ㅇㅇ(118.41) 11.20 87 0
818429 일반 체코 "韓, 우크라에 포탄 지원 안 해…공동구매에도 불참" ㅇㅇ(118.41) 11.20 129 0
818428 일반 찢 보다 더한 사기꾼이 임용한 인데 그 새끼 고소 하면 냠냠꾼(77.111) 11.20 80 0
818427 일반 북괴 돼정은도 사실상 미제간첩임 냠냠꾼(77.111) 11.20 63 0
818426 일반 러 “우크라 군인 훈련시킨 프랑스도 참전국으로 간주” [1] ㅇㅇ(118.41) 11.20 113 2
818424 일반 케말파샤 남페미인듯 [2] ㅇㅇ(118.235) 11.20 68 2
818423 일반 젤렌스키 "美지원 끊기면 패배…트럼프, 푸틴보다 훨씬 강해" [1] ㅇㅇ(118.41) 11.20 138 0
818421 일반 윤석열 임금님께 질문을 하는 것은 무례한 짓www ㅇㅇ(192.166) 11.20 48 1
818420 일반 태국의 똥덕여대 냠냠꾼(77.111) 11.20 86 0
818419 일반 동덕여대 시위를 이해 못하면 조센징 도태한남춍 인증이지 ㅇㅇ(192.166) 11.20 53 1
뉴스 스트레이 키즈, 스포티파이 ‘글로벌 톱 K팝 아티스트’ 3위... 4세대 보이그룹 中 최고 디시트렌드 12.07
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2