폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 17074 추천 40 댓글 217

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	지금 결혼하면 스타 하객 많이 올 것 같은 '인맥왕' 스타는?	운영자	24/10/28	-	-
271407	[전갤] 박성한 짭 충돌사건 [37]	ㅇㅇ(211.223)	10.10	16587	130
271406	[싱갤] 싱글벙글 모아이석상 원래 모습.jpg [326]	수인갤러리	10.10	37005	375
271404	[부갤] 월매출 7억 사장님의 길바닥 영업력ㄷㄷ [179]	부갤러(223.38)	10.10	34593	55
271403	[야갤] '골수채취' 공방전...'무조건' 의사 VS '숙련된' 간호사 [178]	마스널	10.10	16182	32
271400	[더갤] “법카 사용 내역 공시하라” 지적에 ‘내역 없다’는 축구협회 [116]	헬마존잘	10.10	15628	35
271398	[싱갤] 얼굴로 편의점을 지킨 알바 박성웅 [145]	또또장금이	10.10	31117	113
271397	[리갤] 윤수빈 이상형 & 결혼관.jpg [399]	ㅇㅇ(1.248)	10.10	51839	485
271395	[일갤] 3박4일 솔로 나고야 여행기#02 ~다카야마 시고리카와 버스투어~ [39]	자몽덮밥	10.10	11016	36
271394	[싱갤] 노벨상과 쌍벽 이루는 순수재미 시상식 2024년 수상자 [357]	초능력화신	10.10	24816	145
271392	[야갤] 키즈존 매장 운영하면 생기는 일 ㄷㄷ [290]	야갤러(223.38)	10.10	32967	291
271391	[이갤] 문체부, 14일 게임질병코드 대응 회의 대표단 파견 불발 [207]	고맙슘봐	10.10	15560	195
271389	[유갤] 조나단 동생 파트라슈가 이태원에 잘 안가는 이유.JPG [148]	ㅇㅇ(103.136)	10.10	26390	65
271388	[싱갤] 싱글벙글 엄마가 게임기 사주는.manhwa [300]	ㅇㅇ	10.10	33837	170
271386	[야갤] "어디 불 났나봐" 그게 우리 아파트였다…공포의 순간 [125]	MASNAl_fromis	10.10	20863	66
271382	[미갤] 고등학교때부터 알고지낸 여자 지인 딥 페이크 만든 20대 남성.. [302]	ㅡㅡㅡㅡㅡ(211.234)	10.10	38473	90
271380	[메갤] 내년 엑스포를 앞두고 시행되는 노노성매매 대책 [218]	ㅇㅇ	10.10	25376	110
271379	[싱갤] 싱글벙글 육아일기를 18년째 쓰고있는 아빠 [268]	수인갤러리	10.10	22136	179
271377	[야갤] 수수료 말고 또 있다니...배달앱 '갑질'에 자영업자 절규 [282]	마스널	10.10	17335	56
271376	[중갤] 게임계 DEI 논쟁은 헛소리라는 Ori 개발자 ㄷㄷㄷ [260]	ㅇㅇ	10.10	25990	298
271374	[싱갤] 싱글벙글 로또 10억 vs 약사 자격증.JPG [1340]	최강한화이글스팬	10.10	39104	86
271373	[유갤] 오느레 트레킹은~ [49]	마늘도살자	10.10	7320	20
271371	[야갤] 또 주차장에서 전기차 화재? 소방 당국이 바꾼 진화 방법 [93]	마스널	10.10	11807	49
271370	[걸갤] 블라인드 하니 국감 반응 ㅅㅂ ㅋㅋㅋㅋ [614]	ㅇㅇ(211.234)	10.10	50687	679
271367	[싱갤] 싱글벙글 자녀 키우기 좋은 나라 순위 TOP 10 [258]	닥터드레	10.10	21653	52
271365	[카연] 백업,재업) 안경쓴여자아이.manhwa [66]	머웅김	10.10	12228	92
271364	[해갤] ■ [포포투] 역대 최고의 아시아 축구선수(1위~33위) [345]	도쿠	10.10	16948	176
271362	[싱갤] 싱글벙글 가수를 그만두게 된 이유.JPG [238]	최강한화이글스팬	10.10	31757	186
271361	[코갤] 독일 경제 심각하게 망한 상황 [830]	랜덤워크	10.10	33824	113
271359	[야갤] "임대창고서 현금 68억 원 도난"...절도범 검거 [185]	야갤러(211.199)	10.10	16018	45
271358	[이갤] 등 40cm 찢겼는데 수술할 의사 없어... 부산서 대전까지 간 중학생 [419]	ㅇㅇ(104.129)	10.10	24637	113
271356	[싱갤] 싱글벙글 강원랜드 자리 400만 원에 사서 2억9천 잭팟 당첨촌 [126]	니지카엘	10.10	28365	113
271355	[중갤] K-스팀콘솔의 희망, 넥슨의 퍼스트 디센던트 근황 [352]	ㅇㅇ	10.10	18466	46
271353	[미갤] 화성에 파라마운트 테마파크 확정...jpg [285]	ㅇㅇ(106.101)	10.10	19781	66
271352	[야갤] 굉음 내며 도로 한복판 '빙글빙글'…하룻밤 102건 적발 [115]	야갤러(211.199)	10.10	12655	38
271349	[싱갤] 옛날 말을 사용하는 미국 한인타운ㄷㄷ [298]	또또장금이	10.10	32322	118
271347	[야갤] 종잇장처럼 구겨진 트럭...SUV 들이받더니 결국 [38]	마스널	10.10	14776	9
271346	[기갤] 한가인한테 사과하고 싶다는 김동준.jpg [175]	ㅇㅇ(106.101)	10.10	23419	81
271344	[싱갤] 싱글벙글 무례하고 막말하는 사람 대응법촌 [292]	니지카엘	10.10	25311	160
271343	[주갤] 쯔양 뒷배들이 중국과 민주당이라는 미국 처자.JPG [897]	주갤러(39.116)	10.10	33520	1114
271341	[카연] 물건들을 떠나보내는 만화 [53]	whitebean	10.10	9644	54
271340	[야갤] 코트 복귀한 안세영, 여유로운 경기 후 눈물 흘린 이유 [130]	마스널	10.10	12708	31
271338	[싱갤] 한글날 기념 굿즈 자랑 [94]	ㅇㅇ	10.10	26296	112
271337	[군갤] “‘얼차려 사망’ 중대장, 300만원에 합의하자고” 훈련병 폭로 [610]	착호갑사_	10.10	32258	507
271334	[중갤] 쓰론 앤 리버티, 프랑스 반응 [158]	도시드워프	10.10	23500	73
271332	[주갤] 한남이 또 성추행 무죄받았다.!!!!! [520]	ㅇㅇ(59.6)	10.10	27903	1004
271331	[필갤] E100D @ E.I. 250 ~ 320 (+2 push) [8]	모더니스트	10.10	4923	9
271329	[싱갤] 싱글벙글 600만 명이나 초강력 허리케인 때문에 위험하다는 미국 플로리다 [177]	니지카엘	10.10	18553	55
271328	[여갤] 둥지가 말하는 악플러의 인생 [520]	여갤러(106.101)	10.10	29055	234
271326	[야갤] 족구하다 귀 잡더니 '으악' 뭐하는 짓인가 했더니.. [295]	마스널	10.10	20872	169
271325	[기갤] 윌 스미스의 오스카 싸대기에 대한 짐 캐리의 반응 [272]	ㅇㅇ(106.101)	10.10	21639	244