인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아 갤러리

1/3

6조 건기식 약국 비중 4%인데... 다이소 출시에 반발, 왜? - 관련게시물 : 일양약품, 다이소 건기식 철수한다…출시 닷새만..jpg- 관련게시물 : 다이소 건강식품 싸게팔자 개빡친 약사님들 ㅋㅋㅋ 작성자 : ㅇㅇ

인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아

2024.02.15 18:24:45

조회 147 추천 0 댓글 0

[IT동아 차주경 기자] 인공지능의 성능이 나날이 좋아진다. 이제 인공지능은 사람만큼, 더러는 사람보다 더 글을 잘 쓰고 그림을 잘 그린다. 수만 쪽의 책을 1초 안에 읽고 요약하고, 수백 가지 외국어를 알아듣고 다른 외국어로 번역한다.

그러자 자연스레 인공지능을 악용하려는 이들이 나타났다. 이들은 정치인이 등장한 동영상을 인공지능으로 교묘하게 조작, 발언을 왜곡해 퍼뜨린다. 가짜 뉴스가 나날이 정교해지는 이유 가운데 하나다. 연예인이나 일반인의 초상권을 침해하고 음란물을 제작해 판매하는 이들도 있다.

미국 인공지능 기업들이 이러한 악용을 막으려 단체를 결성했다. 인공지능 안전 협회 컨소시엄(Artificial Intelligence Safety Institute Consortium,이하 AISIC)이다.

ASIC에는 챗 GPT의 개발사인 오픈 AI와 구글 알파벳, 마이크로소프트와 메타 등 주요 인공지능 소프트웨어 개발 기업이 참여했다. 애플과 인텔, 엔비디아와 아마존 등 정보통신 기업도 힘을 보탠다. JP모건과 뱅크 오브 아메리카 등 금융권도 AISIC에 합류했다. 합류한 기업의 수만 200곳이 넘는다.

AISIC를 만든 주체는 미국 정부다. 조 바이든 미국 대통령은 앞서 2023년 10월, 인공지능 기업들이 기술을 만들고 개발할 때 테스트할 표준을 만들 것을 주문했다. 화학과 핵 물리학, 생물학과 사이버 보안 등 치명적인 부문으로의 악용 가능성을 막을 대책 마련도 요구했다.

미국 정부와 기업이 모여 인공지능의 악용을 막을 컨소시엄을 발족한다. / 출처=엔바토엘리먼츠

이에 메타는 인스타그램과 페이스북에 올라오는 사진 가운데, 생성 인공지능으로 만든 것에 표시를 하는 라벨링 기능을 공개했다. 어도비는 사진 생성 인공지능 ‘파이어플라이’를 가르칠 때 쓸 자료 사진을, 오로지 허가 받은 윤리적 사진만 사용하겠다고 밝혔다.

하지만, 이것만으로는 인공지능의 악용 가능성을 막기 어렵다는 비판이 꾸준히 나왔다. 실제로 생체 인식 기업 iProov는 자체 조사 결과, 생성 인공지능을 사용해 유명인이나 일반인의 얼굴을 교묘하게 바꿔 사기 행각을 벌이는 ‘딥 페이크’ 범죄가 2023년 704% 급증했다고 지적했다. 금융사 임원의 얼굴을 생성 인공지능으로 만들어 화상 회의에 참가, 사기범에게 거액의 인출을 지시한 사례도 공개했다.

AISIC는 이들 폐해를 막을 목적으로 인공지능 기술과 소프트웨어 개발사, 나아가 엔비디아와 퀄컴 등 인공지능 반도체와 엔진 개발사도 포섭했다. 인공지능이 클라우드, PC에 이어 스마트폰에도 속속 도입되고 있어서다. 금융권도 적극 나선다. 앞서 사례로 든 딥 페이크 인출 사기 사건이 사회에 나쁜 영향을 미치지 않도록 막을 목적이다.

이 컨소시엄에는 시스코 시스템즈와 같은 보안 기업, 노스롭 그루먼과 같은 방산 기업, 깃허브 등 오픈 플랫폼 커뮤니티, 화이자와 같은 제약 기업도 참여한다. 인공지능 기기와 기술을 연구하는 미국 내 주요 대학교 20여 곳도 이름을 올렸다. 인공지능이 사회의 모든 부문에 큰 영향을 미칠 것이라는 공감대 아래 기업들이 모인 것.

AISIC는 이후 인공지능 이해 관계자를 위한 데이터 공유 체계를 만들고, 공동 연구 개발을 적극 유도한다. 다양한 참가 기업과 함께 인공지능이 사회에 미칠 영향을 정확하게 예측할 연구 평가 요구 사항도 만든다. 인공지능 기술이나 기기 개발 단계에서 부작용을 줄이고 성능을 강화할 테스트 평가 프로그램도 궁리한다.

AISIC 참가 기업들은 인공지능 벤치마크와 테스트 환경 지침, 개인이나 금융 정보 등 예민한 정보를 다룰 기술을 만든다. 디지털 콘텐츠 인증 지침과 도구도 개발하고, 가장 중요한 인공지능의 윤리 문제를 다룰 지침을 세운다. AISIC는 앞으로도 참가 기업을 늘려 연구에 박차를 가할 계획을 밝혔다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’▶ 다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”▶ 스마트폰 업계, 2023 부진 인공지능으로 씻는다

고정닉 0

원본 첨부파일 1

6e6b4bd740e24043-thumbnail-1920x1080-70.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	과음으로 응급실에 가장 많이 갔을 것 같은 스타는?	운영자	25/03/03	-	-
3767	[생성 AI 길라잡이] 갤럭시 AI 활용하기 - '녹음 어시스트'	IT동아	24.05.04	7294	3
3766	[농업이 IT(잇)다] “두부 맛있고 간편하게 먹을 수 있어요” 더블헬스케어 정윤미 대표	IT동아	24.05.03	300	0
3765	[시승기] 마세라티와 스트릿 패션의 만남…‘기블리 프라그먼트 에디션’ [11]	IT동아	24.05.03	1317	1
3764	빗썸 “편의성 개선 프로젝트로 한층 편하고 안전해졌습니다”	IT동아	24.05.03	264	0
3763	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 9 [2]	IT동아	24.05.03	724	3
3762	금감원·DAXA, 가상자산 투자사기 예방 위해 종합 홍보 나선다	IT동아	24.05.02	240	0
3761	韓 진출 앞둔 中 패션 플랫폼 쉬인, '자본력보다 노련한 유통 전략 세워야'	IT동아	24.05.02	292	0
3760	'협동로봇'으로 효율 제고 나선 車 업계 [2]	IT동아	24.05.02	678	1
3759	KT클라우드 "파트너 생태계 강화로 시장 전체 파이 키울 것" [1]	IT동아	24.05.02	974	0
3758	서울시·KB증권·모두의1층이니셔티브 이동약자 접근성 높인다	IT동아	24.05.02	198	0
3757	[리뷰] 해외 직구 초저가 디지털 제품, 쓸 만할까?	IT동아	24.04.30	360	0
3756	[자동차와 法] 배기량 기준 자동차세 부과의 문제점	IT동아	24.04.30	254	0
3755	[자동차 디자人] 벤틀리 코리아 에디션 그려낸 추상화가 ‘하태임’	IT동아	24.04.30	312	0
3754	HP, AI로 비용∙속도∙보안성까지 개선한 ‘AI PC’ 제품군 공개	IT동아	24.04.30	258	0
3753	[마인드테크 시대가 온다] 8. 모두가 행복한 사회를 위하여	IT동아	24.04.30	395	0
3752	[KESIA 시드팁스] 벳플레이스 "수의사가 만든, 수의사를 위한 플랫폼입니다"	IT동아	24.04.30	210	0
3751	마이크로소프트 ‘코파일럿 한국어 지원’ 앞세워 국내 인공지능 서비스 지원 강화 나선다	IT동아	24.04.30	222	0
3750	AWS, '전략적 협업 계약'으로 클라우드 동맹 늘린다	IT동아	24.04.30	4625	1
3749	클레이튼·핀시아, 통합 브랜드 ‘카이아’ 공개···프로젝트 합병도 순조로워	IT동아	24.04.30	307	0
3748	인공지능 서비스 기업의 투자 확대, 시장 흐름은?	IT동아	24.04.29	211	0
3747	자동차 번호판 교체를 원한다면, 가능한 조건 확인하기! [이럴땐 이렇게!] [5]	IT동아	24.04.29	1716	0
3746	[스타트업-ing] CIT “ASE 증착 기술, 다양한 활용도에 국내외 산업계 주목”	IT동아	24.04.29	218	0
3745	[생성 AI 길라잡이] ‘정부용 생성 AI’ 활용 방안 살펴보니	IT동아	24.04.26	314	0
3744	[리뷰] 10G SFP+ 지원 비관리형 이더넷 스위치, 넷기어 GS108X	IT동아	24.04.26	281	0
3743	[농업이 IT(잇)다] “농가와 기업, 구성원과 함께 성장하고 싶어” 강경훈 키움바이오 대표 [1]	IT동아	24.04.26	1322	0
3742	서울과기대 창업지원단, 예창패·초창패 기업 지원 '선순환' 만든다	IT동아	24.04.26	276	0
3741	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 8	IT동아	24.04.25	922	0
3740	써드웍스, 신규 수입 상품 소싱 위한 ‘수입상품 소싱 플랫폼’ 선보여	IT동아	24.04.25	273	0
3739	[리뷰] 미국/영국 청소기 시장 1등 '샤크'의 무선 진공청소기 '클린 센스 IQ+' [2]	IT동아	24.04.25	2638	0
3738	퀄컴, '스냅드래곤 X 플러스'로 라인업 확장··· AI PC 시장 정조준	IT동아	24.04.25	278	0
3737	[KESIA 시드팁스] 디써클, AI 기반 R&D 플랫폼 ‘알앤디써클’로 전 세계 기업과 연구간 가교 꿈꾼다	IT동아	24.04.24	308	0
3736	TG삼보, 인포플라와 AI 분야 MOU 체결	IT동아	24.04.24	254	0
3735	메타, 라마 3 LLM도 오픈소스로 공개··· '시장 장악력 더 높아질 듯'	IT동아	24.04.24	286	0
3734	더길, 상위 10% 프리미엄 셀러 위한 지원 솔루션 선보인다	IT동아	24.04.24	4514	0
3733	카파바이오사이언스, 신소재 ‘Vita-SPMD’ 글로벌 시장 공급 발판 마련	IT동아	24.04.24	233	0
3732	플러스닷, NIPA 호치민IT지원센터 2024년 입주기업에 선정	IT동아	24.04.24	268	0
3731	교수창업기업 ‘럭스바이옴’, 마이크로바이옴 기반 신제품 출시 임박	IT동아	24.04.24	246	0
3730	‘체계적인 e스포츠 대면 강의 제공할 것’ 게임프로, e스포츠 오프라인 강의실 5월 말 개소 [9]	IT동아	24.04.24	2292	2
3729	삼성전자, 업계 최초 '9세대 V낸드' 양산	IT동아	24.04.23	328	0
3728	[스타트업-ing] 더길 “e커머스 초보자도 ‘상생’하며 함께 성장하는 플랫폼”	IT동아	24.04.23	221	0
3727	세일즈포스, '데이터, AI, CRM, 신뢰가 디지털 혁신의 열쇠'	IT동아	24.04.23	229	0
3726	윌리엄앤코, 영유아 영어교육 키트 ‘텔리’ 조달청 등록 추진	IT동아	24.04.23	227	0
3725	시향 플랫폼 기업 ‘퍼퓸투데이’…BM 확장 및 투자 유치 나서 [1]	IT동아	24.04.23	1945	0
3724	[IT신상공개] 실시간 온체인 데이터 분석·시각화로 업무 효율 높인다, 쟁글ERP	IT동아	24.04.23	4583	0
3723	안창욱 GIST AI연구소장 “이노디테크 AI 시스템, 합성형 AI로 구축했습니다”	IT동아	24.04.23	224	0
3722	CRT게임즈, 서울과기대 초기창업패키지 최우수 기업 선정	IT동아	24.04.23	224	0
3721	[리뷰] 애플 M3로 실성능 끌어올린 '애플 맥북에어 13'	IT동아	24.04.22	849	0
3720	[시승기] 브랜드 첫 쿠페형 SUV…’제네시스 GV80 쿠페’	IT동아	24.04.22	223	0
3719	IBM “ESG 솔루션으로 지속가능성·비즈니스 성과 높인다”	IT동아	24.04.22	378	0
3718	[리뷰] ‘AI 시대’가 낳은 차세대 TV, 2024 LG 올레드 evo G4 [3]	IT동아	24.04.22	1700	1
뉴스	'놀라운토요일', 이선빈X강태오X이용진 활약…웃음 폭발한 받쓰 대결	디시트렌드	03.04