폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 17073 추천 40 댓글 217

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	지금 결혼하면 스타 하객 많이 올 것 같은 '인맥왕' 스타는?	운영자	24/10/28	-	-
271919	[싱갤] 대한민국에서 순문학이 발전 못 하는 이유 [642]	단풍단풍	10.12	27828	114
271917	[대갤] 중국의 댓글 공작 방법 [784]	대갤러(121.129)	10.12	26592	560
271915	[싱갤] 싱글벙글 천원 아끼려다 200만원을 날리는 촌 [605]	썅년	10.12	46399	529
271913	[부갤] 중국 인터넷에 글 잘못쓰면 생기는 일 ㄷㄷ [668]	부갤러(210.113)	10.12	34301	508
271909	[야갤] "느그 서장 남천동 살재?", 수갑 채우자 나온 말.jpg [307]	ㅇㅇ	10.12	25138	167
271907	[싱갤] 달달순애 동창회에서 만난 학창시절 첫사랑.manga [203]	김전돋	10.12	41187	208
271905	[디갤] 홀로 도쿄 여행과 스카이뷰 [33]	오들오들	10.12	6154	27
271903	[부갤] 순수익 제로" 요즘 자영업 힘든 현실?! 자영업, 얼마 버시나요? \| [621]	마사	10.12	29612	86
271901	[기갤] "거대한 파도처럼 축하" 한강, 첫 수상소감은.jpg [183]	ㅇㅇ	10.12	13754	42
271899	[싱갤] 싱글벙글 태종 이방원이 한국 사극 단골인 이유 [463]	닥터드레	10.12	24643	266
271898	[걸갤] 민희진 가처분 심문때 공개된 내용 [549]	ㅇㅇ	10.12	34017	1542
271897	[야갤] 20대 미녀 축구 심판, 60대 감독과 ㅅㅅ영상 유출.jpg [413]	ㅇㅇ	10.12	59868	178
271895	[코갤] 공무원 KTX 마일리지 7억 ‘내 주머니로’ [360]	ㅇㅇ	10.12	26786	113
271893	[카연] [단편] 앞으로도 계속 [106]	우지기	10.12	16043	171
271892	[야갤] 한국 작가의 노벨상 수상이 말도 안 되는 일인 이유.jpg [1089]	ㅇㅇ	10.12	41839	188
271888	[싱갤] 싱글벙글 사마천도 잘 모르면서 카더라로 적었던 기록 .jpg [254]	최강한화이글스팬	10.12	24942	78
271887	[기갤] 작정하고 반도체 기술 빼가더니…중국이 결국 삼성 뒤통수 쳤다.jpg [521]	ㅇㅇ	10.12	29765	276
271885	[코갤] BBC) AI 클론.. 진화하는 딥페이크의 무서움(1보) [176]	랜덤워크	10.12	24436	144
271883	[야갤] 번역의 힘...20대 영국여성, 한강 맨부커상 견인 [299]	마사	10.12	24162	101
271882	[싱갤] 싱글벙글 남자친구가 입지 않았으면 좋겠다는 패션.jpg [409]	최강한화이글스팬	10.12	51491	66
271880	[배갤] 테네리페 (스페인, 카나리아 제도) 갓다왓슴 [27]	mCC	10.12	5501	15
271879	[해갤] 노벨 문학상 + 평화상이 논란이 많은 이유 [1583]	ㅇㅇ(1.237)	10.12	50277	1066
271877	[싱갤] 정보정보 ebook 공짜로 읽는법 [367]	운지노무스케	10.12	51146	338
271873	[자갤] 카와우의 현대 싼타페 리뷰.jpg [266]	ㅇㅇ	10.12	20084	85
271872	[야갤] "과민성 대장으로 대기업 퇴사하는거 이해 하시나요?".jpg [666]	ㅇㅇ	10.12	43468	278
271870	[싱갤] 싱글벙글 아몰랑 해줭 [584]	니지카엘	10.12	43241	429
271868	[카연] [함자] 친절하면 화가 나는 아랍 사람들 (3) [108]	헬구리	10.12	21746	252
271867	[야갤] 민희진 "하이브 내부고발자, 뉴진스 기획안 넘겼다" [360]	마스널	10.12	22471	264
271865	[기갤] “2백 명 접속”…인터넷 방송서 ‘성폭력’ 중계.jpg [518]	ㅇㅇ	10.12	51192	106
271863	[싱갤] “하아,, 노벨상이 뭐니 한국이니 일본이니…” [676]	팔악검이계신장마허라	10.12	51666	789
271862	[주갤] 이번 교육감 선거 공약 여초 반응, 최보선 사퇴 [487]	ㅇㅇ(121.134)	10.12	28514	606
271860	[싱갤] 일본 노벨 평화상 수상 [1167]	ㅇㅇ	10.12	52934	426
271858	[기갤] 북 "南무인기 평양 침투"…김용현 "북 내부 소행일수도".jpg [234]	ㅇㅇ	10.12	18684	116
271855	[해갤] 홍명보 딴거 떠나서 후배들에게 통수 당한건 짠하긴함 ㅋㅋㅋㅋㅋ [385]	ㅇㅇ(115.22)	10.12	36036	862
271853	[싱갤] 싱글벙글 유럽의 토마토 가격이 저렴한 이유.JPG [444]	최강한화이글스팬	10.12	32077	227
271852	[야갤] [단독]'인천 흉기난동' 현장이탈했던 경찰관 2명 해임 확정 [728]	감돌	10.12	31792	646
271850	[주갤] 필독.... 변호사피셜 둘만 있던 경우 성폭력 무고 대응법 [393]	주갤러(183.96)	10.12	34367	604
271848	[야갤] 한강 책 하루도 안 돼 30만부 판매…"역대 가장 빠른 속도" [768]	ㅇㅇ(118.235)	10.12	24448	179
271847	[싱갤] 한강작가 노벨문학상으로 ㅈ됐다는 한국단체.jpg [1584]	ㅇㅇ	10.12	70218	301
271845	[기갤] 학폭 논란, 배우 안세하 "동창생 취재 2탄" 떴다.jpg [243]	ㅇㅇ	10.12	21290	133
271843	[일갤] 우오노메 반도(고토 나카도리) 방문기 [20]	엉겅쿤	10.12	8428	13
271842	[야갤] 승우, 드디어 대표팀 뽑혔다…jpg [349]	ㅇㅇ	10.12	30784	262
271840	[싱갤] 미국 노가다 직업별 시급.jpg [398]	또또장금이	10.12	41226	185
271837	[야갤] 4번째 음주운전 걸렸는데…"기회 주겠다" 석방된 40대.jpg [368]	감돌	10.12	28828	352
271835	[만갤] [수라의 길] 개인습작 [85]	충빠	10.12	11732	33
271833	[싱갤] 싱글벙글 싱붕이들이 어린이, 학창시절 읽어 봤을 노벨문학상 대표작들 [161]	싱벙	10.12	27422	66
271832	[야갤] 가수 제시에게 사진 요청했다가 폭행당한 팬, 사건 총정리.jpg [1652]	ㅇㅇ	10.12	81018	1397
271830	[주갤] 고죠사토루 만들어 봤다 [172]	나도이젠탈모야	10.12	20821	185
271828	[싱갤] 싱글벙글 정신병 환자를 나라에서 지원해줘야 하는 이유 [825]	ㅇㅇ	10.12	44785	368
271827	[흑갤] 나폴리 맛피아: 내가 우승하고 오히려 손님 적게 받는 이유 [394]	ㅇㅇ(118.235)	10.12	49341	475