폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 05:54:17

조회 88 추천 3 댓글 0

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

고정닉 1

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
13577685	좌빨들이 아이폰 쓰는 이유	ㅜㅜ(110.35)	01:04	22	0
13577684	좆피스 좆칼같은 어린이만화보는 애들은 모르는 진짜 만화 [5]	티롱씨4	01:04	70	0
13577683	장원영의 진짜 충격적이고 소름돋는 사실 ㄷㄷㄷㄷ [1]	ㅇㅇ(223.38)	01:04	92	3
13577682	아배고파	혜지의미개	01:04	55	0
13577681	불면증 생기면 진짜 생활 패턴이 망가진다.	찐따남일베04	01:04	45	0
13577680	루루게이야 너 새벽야갤 짬10년은되지? [1]	ㅇㅇ(223.39)	01:04	57	0
13577679	여기가 새뱍에 그릏게 좋은게 많이 뜬다고 하든데 [1]	야갤러(220.119)	01:03	27	0
13577676	요리 유튜버 하뉴. 좆나 웃기네 ㅋㅋㅋㅋ	ㅇㅇ(223.38)	01:03	74	0
13577675	속보) 박동호 대통령 두부외상 응급수술 시작	ㅇㅇ(118.235)	01:03	40	0
13577674	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:03	28	0
13577672	요즘 박원순 뭐하는데 안보임? [1]	ㅇㅇ(223.38)	01:03	51	0
13577671	마와리다시타 아노코토 보쿠노 미라이가 [4]	그로브	01:03	53	0
13577670	한녀뒤진거 알빠아닌데 왜자꾸언급하는거냐	ㅇㅇ(223.39)	01:03	44	0
13577668	T1 <~ 아무리 이벤트컵이라도 우승 찍고가는게 존멋인팀.. [2]	안유진리	01:03	33	0
13577669	요즘 도쿄보다 부산에 외국인들이 많이몰리는이유 [2]	ㅇㅇ(211.119)	01:03	43	1
13577667	재업	ㅇㅇ(118.235)	01:03	96	1
13577666	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	01:03	20	0
13577665	..ㄱ..	야갤러(223.38)	01:03	23	0
13577664	보지 딱밤	ㅇㅇ(121.137)	01:02	163	1
13577663	한선월 사망한지 벌써	야갤러(220.79)	01:02	126	1
13577662	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	01:02	20	0
13577661	루루게이야 자러갓냐? [2]	ㅇㅇ(223.39)	01:02	78	0
13577660	99% 할카스	ㅁㅇ(183.109)	01:02	115	0
13577659	본인 낮에 밖에 안나간지 몇년되서 밤에만활동하는데 [1]	ㅇㅇ(223.39)	01:02	88	0
13577658	피콜로지 이누나 사짜 아니제? . [3]	태연	01:01	98	0
13577657	방금 여고딩 제목	야갤러(220.79)	01:01	175	1
13577656	나 눈 높은편이냐? [1]	야갤러(211.235)	01:01	120	1
13577654	주갤조현병환자새끼들이랑 다를게없노 [6]	재수하고조유리보러감	01:01	66	0
13577653	ㄹㄹ	ㅇㅇ(211.234)	01:01	155	6
13577652	이 영상은 클릭하기 전에 긴장해라	ㅇㅇ	01:01	15	0
13577651	중딩 재미로 주식하다가 10만원 꼴았다	야갤러(180.182)	01:01	30	0
13577650	자지 참수.gif.....	ㅇㅇ(223.38)	01:01	146	1
13577649	이거 해봤으면 개추	ㅇㅇ(211.234)	01:01	107	0
13577648	감슴 하나는 오지는 년 [1]	ㅁㅇ(183.109)	01:01	151	0
13577647	칼국수 화장 ......video... [5]	거위	01:01	115	0
13577646	속보) 정수진 총리, 대통령 시해혐의로 체포 [3]	ㅇㅇ(118.235)	01:01	92	1
13577644	발기 해봤으면 개추 [2]	ㅇㅇ(211.234)	01:00	192	0
13577643	남자 키 165 여친 키 175 ㅅㅂ ㅜㅜ …,,,,, [13]	야갤러(183.109)	01:00	86	1
13577642	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:00	29	0
13577641	출근준비안하고 새벽야갤하는 30대 루루게이 ㅋㅋㅋㅋ [1]	ㅇㅇ(223.39)	01:00	101	0
13577640	잠깐만 공개한다 10초만준다 곧 삭제함	ㅇㅇ	01:00	34	0
13577639	비 ㅈㄴ옴	ㅇㅇ(118.235)	01:00	26	0
13577638	(유튜브) 이 링크는 잠깐만 공개하겠다	ㅇㅇ	00:59	22	0
13577637	실시간 야붕이 턱 많이 이상하냐 [7]	ㅇㅇ(153.246)	00:59	233	0
13577635	요새 여드름 ㅈㄴ 나네 [4]	WEST	00:59	142	0
13577634	라인할야순이구함 05롤창백수멸공임	ㅇㅇ(175.209)	00:59	115	0
13577633	15초 마지노선 (구원 보장)	찔레(125.186)	00:59	173	0
13577632	야붕이들아 굿나잇	ㅇㅇ(103.140)	00:59	23	0
13577631	(유튜브) 이 링크는 잠깐만 공개하겠다 [1]	ㅇㅇ	00:59	26	0
13577630	니애미 영상 안볼거니까 꺼지라고 ㅆㅂ아 ㅋㅋㅋㅋㅋ	ㅇㅇ(223.38)	00:59	25	0

갤러리 리스트

번호

제목

글쓴이

작성일

조회

추천

설문

이혼하고 나서 더 잘 사는 것 같은 스타는?

운영자

24/07/08

13577685

좌빨들이 아이폰 쓰는 이유

ㅜㅜ(110.35)