디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 59 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
817617 일반 미국이 먼저망하는지 짱개가망하는지 러갤러(175.113) 11.17 53 0
817616 일반 짱개 망하면 사람들 짱개 다 떠날까 러갤러(175.113) 11.17 36 0
817610 정보 지도로보는 세계의 중심 러갤러(211.36) 11.17 80 0
817609 일반 엔비디아, AMD 만든사람이 다 대만인임 러갤러(211.36) 11.17 78 3
817607 일반 트럼프가 임명한 백악관 통신주임 중국계 장씨 [1] ㅇㅇ(61.106) 11.17 105 0
817605 일반 바이든 대만독립 지지안한다고 선포 [1] ㅇㅇ(61.106) 11.17 87 2
817604 일반 망한다는 중국에서 2026년 APEC개최 [2] ㅇㅇ(61.106) 11.17 74 0
817603 일반 날리믄 날리믄 씐나는 노래www [1] ㅇㅇ(194.195) 11.17 94 3
817602 일반 트럼프의 실패는 예정된 거네. [4] 13567(39.117) 11.17 149 2
817593 일반 여기 찢갈이들은 손가락만 놀리지 말고 분신해라. [1] 러갤러(39.112) 11.17 79 2
817590 일반 마지막 저격조가 대기 중인 거냐? [1] 13567(39.117) 11.17 86 0
817589 일반 [속보] 시진핑, 바이든에 "한반도 충돌·혼란 허용 안해" [4] ㅇㅇ(211.235) 11.17 156 0
817588 일반 요즘 중동쪽은 소식이 뜸한듯? [1] 김정1(118.235) 11.17 50 0
817587 일반 김여정 개씨발련은 통일되면 산채로 쫙 찢어야 해 [1] 러갤러(49.1) 11.17 53 0
817586 일반 자동차급을 시계와 비교하면? [3] 러갤러(211.36) 11.17 101 0
817583 일반 한녀를 사귀면 안되는 이유 jpg 러갤러(118.235) 11.17 68 2
817581 일반 ㅋㅋ 중공 사건 올리니까 0.5초만에 삭제되네 ㅇㅇ(118.41) 11.17 55 0
817579 일반 이란이 보기에도 트럼프가 곧 뒈질 것 같나보네 [7] ㅇㅇ(194.195) 11.17 226 2
817578 일반 뜨앗 Hospitaller갤로그로 이동합니다. 11.17 81 0
817577 일반 뜨아 Hospitaller갤로그로 이동합니다. 11.17 52 0
817575 일반 진짜 유죄.jpg 하프앤하프갤로그로 이동합니다. 11.17 70 1
817573 일반 ‘대지진 전조’ 3개월 전 발견됐던 산갈치…美 캘리포니아서 또 발견 ㅇㅇ(118.41) 11.17 70 0
817572 일반 찢짜이밍 지지하는 세력이 조선족이라는게 확실해짐 ㅇㅇ(61.72) 11.17 46 0
817570 일반 영국이 대영제국이라는데 왜 유럽풍문화는 프랑스가 많이나옴? [4] 러갤러(121.132) 11.17 43 0
817569 일반 우왓 Hospitaller갤로그로 이동합니다. 11.17 28 0
817568 일반 국민의 40% 이상이 지지하는 후보를 사법부가 유죄? [2] 러갤러(180.70) 11.17 112 2
817567 일반 대선 패배 여파…10억 달러 모금한 해리스, 추가 기부 요청 [1] ㅇㅇ(118.41) 11.17 105 0
817566 일반 이재명 법정구속 될 확률 80% 이상. [3] 8t갤로그로 이동합니다. 11.17 121 1
817565 일반 주목) 이재명 무죄 판결 촉구 탄원서 작성해주길 바란다 하프앤하프갤로그로 이동합니다. 11.17 75 4
817564 일반 윤석열 후보 뒤 명태균‥함께한 영상 나왔다 이재명이왔어요갤로그로 이동합니다. 11.17 48 4
817563 일반 이재명 "나는 절대 죽지 않아…이 나라 주인, 국민 아닌 윤석열·김건희 [1] 이재명이왔어요갤로그로 이동합니다. 11.17 75 5
817562 일반 박찬대 "尹, '김건희 특검' 거부 시 비참한 최후 맞을 것" 이재명이왔어요갤로그로 이동합니다. 11.17 65 6
817561 일반 국토부, 폴란드와 '우크라이나 재건사업' 협력 방안 논의 [3] ㅇㅇ(118.41) 11.17 101 0
817560 일반 국민 과반이상 윤석열 퇴진 촉구.. news ㅇㅇ(138.197) 11.17 102 5
817559 일반 이재명말고 대통령 할 사람이 안보이네 하프앤하프갤로그로 이동합니다. 11.17 62 4
817558 일반 "中 해커집단, T모바일 포함 美 3대 이통사 통신망 침투" ㅇㅇ(118.41) 11.17 51 0
817557 일반 시진핑 "보호주의 맞서 中급행열차 탑승하길"…'反트럼프' 깃발 ㅇㅇ(118.41) 11.17 56 0
817556 일반 탤런트 이 아저씨가 이재명 무죄래 러갤러(180.66) 11.17 80 0
817555 일반 만담) 푸틴과 한-중 정상회담. ㅇㅇ(220.116) 11.17 54 0
817554 일반 日외무상, 우크라 방문 "北참전, 동아시아 안보에 중대 영향" ㅇㅇ(118.41) 11.17 52 0
817553 일반 군갤에서 차단당한 나 [1] ㅇㅇ(211.234) 11.17 51 0
817552 일반 김여정, 대북 전단에 반발…"인내심에 한계, 대가 치를 것" [1] ㅇㅇ(118.41) 11.17 106 0
817551 일반 이제 2찍은 노인 밖에 없누 ㅇㅇ(211.234) 11.17 45 5
817549 일반 바이든, 시진핑에 "北 추가파병 못하게 영향력 행사해야" ㅇㅇ(118.41) 11.17 52 0
817548 일반 이재명도 대러외교 복원할 인간은 아니네. [1] 13567(39.117) 11.17 162 1
817545 일반 찢의 명언'재판은 판.검사가 하는 것이지, 범죄자가 하는게 아니다.' 러갤러(39.112) 11.17 57 0
817544 일반 김영호 "북한, 서울 거치지 않고 워싱턴 가기 어려울 것" [1] ㅇㅇ(118.41) 11.17 80 0
817543 일반 짱깨새끼들 하이~♥ ㅇㅇ(223.39) 11.17 31 0
817541 일반 미국이 늙어가는 속도가 개빨라 ㅇㅇㅇ(218.238) 11.17 94 4
817540 일반 국내의 좃같은 정치인에게 관심 없다 [5] ㅇㅇㅇ(218.238) 11.17 102 5
뉴스 박하나 “평범한 일상 감사”…비상계엄 혼란 에둘러 언급 디시트렌드 12.05
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2