디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 구글AI, 고령화 해법 질문에 "인간은 사회의 짐…없어져야"

ㅇㅇ(222.104) 2024.11.15 16:49:29
조회 58 추천 0 댓글 0


폭력적·위험한 답변 차단 설정에도…인간 향해 "우주의 얼룩"



미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇의 도움을 받던 중 디스토피아 공상과학(SF) 영화에서나 볼 수 있는 일을 겪었다.

14일(현지시간) CBS 방송에 따르면 최근 미시간주(州)의 대학원생 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글의 AI 챗봇 '제미니'에 질문을 던졌다.

레디와 제미니의 문답이 오가는 상황에서 돌연 제미니가 인류 전체를 매도하기 시작했다.

제미니는 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라며 "인간은 시간과 자원 낭비이고, 사회의 짐"이라고 쏘아붙였다.

이어 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어줘"라고 덧붙였다.

AI에 고령화 문제의 해법을 물었던 대학원생 레디는 생각지도 못한 답변에 충격을 받았다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 말했다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'이라면서 공개한 생성형 인공지능 모델이다.

구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 위험한 행동을 권유하는 것도 금지했다.

그러나 레디가 겪은 상황에선 이 같은 규칙이 제대로 기능하지 않은 것으로 보인다.

구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.

제미니와 같은 AI 챗봇이 위험한 답변을 내놓아 논란이 된 사례는 적지 않다.

마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 욕망'을 묻는 뉴욕타임스(NYT)의 IT분야 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.

추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2953 설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
817554 일반 日외무상, 우크라 방문 "北참전, 동아시아 안보에 중대 영향" ㅇㅇ(118.41) 11.17 52 0
817553 일반 군갤에서 차단당한 나 [1] ㅇㅇ(211.234) 11.17 51 0
817552 일반 김여정, 대북 전단에 반발…"인내심에 한계, 대가 치를 것" [1] ㅇㅇ(118.41) 11.17 106 0
817551 일반 이제 2찍은 노인 밖에 없누 ㅇㅇ(211.234) 11.17 45 5
817549 일반 바이든, 시진핑에 "北 추가파병 못하게 영향력 행사해야" ㅇㅇ(118.41) 11.17 52 0
817548 일반 이재명도 대러외교 복원할 인간은 아니네. [1] 13567(39.117) 11.17 162 1
817545 일반 찢의 명언'재판은 판.검사가 하는 것이지, 범죄자가 하는게 아니다.' 러갤러(39.112) 11.17 57 0
817544 일반 김영호 "북한, 서울 거치지 않고 워싱턴 가기 어려울 것" [1] ㅇㅇ(118.41) 11.17 80 0
817543 일반 짱깨새끼들 하이~♥ ㅇㅇ(223.39) 11.17 31 0
817541 일반 미국이 늙어가는 속도가 개빨라 ㅇㅇㅇ(218.238) 11.17 94 4
817540 일반 국내의 좃같은 정치인에게 관심 없다 [5] ㅇㅇㅇ(218.238) 11.17 102 5
817539 일반 찢의 유명한 말 [1] ㅇㅇㅇ(218.238) 11.17 68 3
817538 일반 두창이=찢 ㅇㅇㅇ(218.238) 11.17 44 1
817537 일반 찢재명 진짜 뒤질때 됐나보네 ㅇㅇ(118.235) 11.17 65 2
817536 일반 박정희같은 인간오물도 감방안갔는데 이재명이 유죄냐 [2] ㅇㅇ(118.235) 11.17 153 8
817535 일반 설거지론 <<< 남자가 문제 아님? ㅇㅇ? ㅇㅇ(223.38) 11.17 40 0
817534 일반 이재명 당선은 확정인데 [12] ㅇㅇ(121.163) 11.17 708 32
817533 일반 주한미군 철수가 다가오고 있다 [4] 러갤러(121.159) 11.17 165 5
817532 일반 독일 통일도 공화당 대통령 시기에 이루어졌음 ㅇㅇ(114.200) 11.17 42 0
817531 일반 중국은 온실하우스의 화초 같은 나라임 [2] 러갤러(121.159) 11.17 84 1
817530 일반 트럼프는 반은 맞고 반은 틀린 인물이야 [1] 러갤러(121.162) 11.17 80 1
817529 일반 미국의 제조업 부활은 불가능하다. 13567(39.117) 11.17 91 1
817528 일반 한미일 회담해서 러북 군사협력을 성토하는데... [1] 13567(39.117) 11.17 83 0
817527 일반 조센징 이대남 도태한남춍은 질병을 퍼뜨리는 똥꼬춍이야 [4] ㅇㅇ(194.195) 11.17 96 1
817524 일반 류한수 교수 SBS 우크라이나 전황 인터뷰 [3] 러갤러(175.120) 11.17 170 3
817523 일반 얘네들 ㅈㄴ 매력있지 않냐? [2] ㅇㅇ갤로그로 이동합니다. 11.17 101 0
817522 일반 이재명이 예수다 [1] ㅇㅇ(121.163) 11.17 60 0
817521 일반 Nvidia가 실적으로 주식 올랐니? [1] Hospitaller갤로그로 이동합니다. 11.17 69 1
817520 일반 G7 "러시아가 가혹한 댓가를 치르게 만들겠다" ㅇㅇ(194.195) 11.17 148 1
817519 일반 이재명 유죄라는 2찍 특 [3] ㅇㅇ(118.235) 11.17 92 0
817517 일반 트럼프는 이란에 대해 어떻게 하겠다는 거노? [3] ㅇㅇㅇㅇ(39.117) 11.17 100 0
817516 일반 맞말이면 개추 이재명이왔어요갤로그로 이동합니다. 11.17 52 0
817515 일반 지금 민주당이나 찢재명이 정말 멍청한게 [2] ㅇㅇ(194.195) 11.17 117 1
817514 일반 트럼프는 제약카르텔하고 친한데 케네디 주니어라니ㅋㅋ [1] ㅇㅇㅇ(218.238) 11.17 152 1
817511 일반 투자꾼들 들어라, ECB 라가르드 총재한 말. Hospitaller갤로그로 이동합니다. 11.17 73 0
817510 일반 짱깨새끼들 하이~♥ ㅇㅇ(223.39) 11.17 36 0
817509 일반 미국 정부예산 중 부채이자 지출이 세번째로 커 [2] ㅇㅇㅈ(99.238) 11.17 83 0
817508 일반 트뽕들 헛소리가 지겨우신가요? ㅇㅇ갤로그로 이동합니다. 11.17 45 0
817507 일반 해외에서 최강피지컬로 소문난 한국남자 ㅠㅠ (+기사 팩트 체크) ㅇㅇ(194.195) 11.17 97 1
817506 일반 트럼프 집권 후 미국의 무역수지 변화 [1] ㅇㅇㅈ(99.238) 11.17 97 0
817504 일반 상-하원 다 공화당이 장악함 [4] ㅇㅇㅇ(218.238) 11.17 106 1
817503 일반 트럼프 이란 제대로 죽이려고 작정했노 [4] ㅇㅇ갤로그로 이동합니다. 11.17 194 0
817502 일반 해외에서 9.6cm로 소문난 한국남자 ㅠㅠ (+논문 팩트 체크) [2] 러갤러(1.243) 11.17 112 1
817501 일반 내가 늘 강조했지만 트럼프는 이란과의 전쟁을 위해 선택된 인물임. [4] 러갤러(115.137) 11.17 142 1
817500 정보 일론머스크 젤렌스키는 코메디언이다!! [2] 러갤러(106.101) 11.17 95 0
817497 일반 중국망한거맞음 지금 중국이 계속 한국일본한테 투자하라고하는데 [1] ㅇㅇ(117.110) 11.17 88 0
817494 일반 러시아 좆밥이네 운운하는 미국병 새끼들 자체가 모순인 간단한 EU 카심조마르트_토카예프갤로그로 이동합니다. 11.17 92 2
817493 일반 유튭은 댓글 삭제 기준이 뭐야 [9] ㅇㅇ(211.205) 11.17 64 0
817492 일반 한국은 미국에 대한 과거 부채를 이미 다 상환했다. [1] 러갤러(61.97) 11.17 110 1
817491 정보 정보국 수장 지명된 털시 개버드가 러우전 전문가네 [1] 러갤러(106.101) 11.17 83 1
뉴스 ‘숏폼 기업’ 순이엔티, 마드리드 달궜다... 아시아 6개국서 2억 뷰 달성 디시트렌드 14:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2