인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아 갤러리

1/3

오픈채팅에서 사람 만나는 망가 [시리즈] 먼저 보면 도움이 될지도 · 2000만원 잃고 생전처음보는 사람들한테 위로받는 만화 · 모르는 아저씨와 크리스마스에 서울코믹월드 가는 망가 https://youtu.be/BxMmBvdYdXY1화 끝 2화는 모름 작성자 : 불효좌

인공지능 악용 막을 ‘AISIC’ 출범한다

IT동아

2024.02.15 18:24:45

조회 143 추천 0 댓글 0

[IT동아 차주경 기자] 인공지능의 성능이 나날이 좋아진다. 이제 인공지능은 사람만큼, 더러는 사람보다 더 글을 잘 쓰고 그림을 잘 그린다. 수만 쪽의 책을 1초 안에 읽고 요약하고, 수백 가지 외국어를 알아듣고 다른 외국어로 번역한다.

그러자 자연스레 인공지능을 악용하려는 이들이 나타났다. 이들은 정치인이 등장한 동영상을 인공지능으로 교묘하게 조작, 발언을 왜곡해 퍼뜨린다. 가짜 뉴스가 나날이 정교해지는 이유 가운데 하나다. 연예인이나 일반인의 초상권을 침해하고 음란물을 제작해 판매하는 이들도 있다.

미국 인공지능 기업들이 이러한 악용을 막으려 단체를 결성했다. 인공지능 안전 협회 컨소시엄(Artificial Intelligence Safety Institute Consortium,이하 AISIC)이다.

ASIC에는 챗 GPT의 개발사인 오픈 AI와 구글 알파벳, 마이크로소프트와 메타 등 주요 인공지능 소프트웨어 개발 기업이 참여했다. 애플과 인텔, 엔비디아와 아마존 등 정보통신 기업도 힘을 보탠다. JP모건과 뱅크 오브 아메리카 등 금융권도 AISIC에 합류했다. 합류한 기업의 수만 200곳이 넘는다.

AISIC를 만든 주체는 미국 정부다. 조 바이든 미국 대통령은 앞서 2023년 10월, 인공지능 기업들이 기술을 만들고 개발할 때 테스트할 표준을 만들 것을 주문했다. 화학과 핵 물리학, 생물학과 사이버 보안 등 치명적인 부문으로의 악용 가능성을 막을 대책 마련도 요구했다.

미국 정부와 기업이 모여 인공지능의 악용을 막을 컨소시엄을 발족한다. / 출처=엔바토엘리먼츠

이에 메타는 인스타그램과 페이스북에 올라오는 사진 가운데, 생성 인공지능으로 만든 것에 표시를 하는 라벨링 기능을 공개했다. 어도비는 사진 생성 인공지능 ‘파이어플라이’를 가르칠 때 쓸 자료 사진을, 오로지 허가 받은 윤리적 사진만 사용하겠다고 밝혔다.

하지만, 이것만으로는 인공지능의 악용 가능성을 막기 어렵다는 비판이 꾸준히 나왔다. 실제로 생체 인식 기업 iProov는 자체 조사 결과, 생성 인공지능을 사용해 유명인이나 일반인의 얼굴을 교묘하게 바꿔 사기 행각을 벌이는 ‘딥 페이크’ 범죄가 2023년 704% 급증했다고 지적했다. 금융사 임원의 얼굴을 생성 인공지능으로 만들어 화상 회의에 참가, 사기범에게 거액의 인출을 지시한 사례도 공개했다.

AISIC는 이들 폐해를 막을 목적으로 인공지능 기술과 소프트웨어 개발사, 나아가 엔비디아와 퀄컴 등 인공지능 반도체와 엔진 개발사도 포섭했다. 인공지능이 클라우드, PC에 이어 스마트폰에도 속속 도입되고 있어서다. 금융권도 적극 나선다. 앞서 사례로 든 딥 페이크 인출 사기 사건이 사회에 나쁜 영향을 미치지 않도록 막을 목적이다.

이 컨소시엄에는 시스코 시스템즈와 같은 보안 기업, 노스롭 그루먼과 같은 방산 기업, 깃허브 등 오픈 플랫폼 커뮤니티, 화이자와 같은 제약 기업도 참여한다. 인공지능 기기와 기술을 연구하는 미국 내 주요 대학교 20여 곳도 이름을 올렸다. 인공지능이 사회의 모든 부문에 큰 영향을 미칠 것이라는 공감대 아래 기업들이 모인 것.

AISIC는 이후 인공지능 이해 관계자를 위한 데이터 공유 체계를 만들고, 공동 연구 개발을 적극 유도한다. 다양한 참가 기업과 함께 인공지능이 사회에 미칠 영향을 정확하게 예측할 연구 평가 요구 사항도 만든다. 인공지능 기술이나 기기 개발 단계에서 부작용을 줄이고 성능을 강화할 테스트 평가 프로그램도 궁리한다.

AISIC 참가 기업들은 인공지능 벤치마크와 테스트 환경 지침, 개인이나 금융 정보 등 예민한 정보를 다룰 기술을 만든다. 디지털 콘텐츠 인증 지침과 도구도 개발하고, 가장 중요한 인공지능의 윤리 문제를 다룰 지침을 세운다. AISIC는 앞으로도 참가 기업을 늘려 연구에 박차를 가할 계획을 밝혔다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’▶ 다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”▶ 스마트폰 업계, 2023 부진 인공지능으로 씻는다

고정닉 0

원본 첨부파일 1

6e6b4bd740e24043-thumbnail-1920x1080-70.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	오픈 마인드로 이성을 만날 것 같은 스타는?	운영자	24/12/02	-	-
3567	[IT애정남] 스마트폰으로 별 사진 찍으려면 어떻게 해야 하나요? [2]	IT동아	03.15	3878	7
3566	[KESIA 시드팁스] 세일즈맵 “한국 기업의 일하는 방식에 맞는 CRM은 따로 있습니다”	IT동아	03.15	176	0
3565	전기차 안전·주행거리 지키는 배터리 열관리 시스템	IT동아	03.14	391	0
3564	[KESIA 시드팁스] 메텔 “해외 고객이 제 발로 찾아오게 하는 AI 마케터”	IT동아	03.14	177	0
3563	도시가스·콘택트렌즈 등 6건 ICT 규제 샌드박스 지정 [1]	IT동아	03.14	889	0
3562	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 2	IT동아	03.13	268	0
3561	[뉴스줌인] 2024년형 ‘AI TV’ 출시한 삼성전자, 핵심은 AI 기반 업스케일링 [3]	IT동아	03.13	2043	1
3560	미세먼지·이물질 흡입하는 ‘노면 청소차’ 작동 원리 살펴보니	IT동아	03.13	172	0
3559	펀블, 신규 STO 플랫폼 및 투자 상품 출시 “STO 시장 선점할 것”	IT동아	03.13	164	0
3558	벤큐코리아 ‘2024 디자인뷰 어워드’ 디자인 공모전 개최	IT동아	03.12	176	0
3557	인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 [2]	IT동아	03.12	1250	1
3556	다시 걷는 춘천 원도심, ‘상권르네상스 사업’ [1]	IT동아	03.12	1916	2
3555	[EV 시대] 전기차 공유 서비스의 명과 암	IT동아	03.12	811	0
3554	[2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"	IT동아	03.12	200	0
3553	[KESIA 시드팁스] 메디노드 “AI·자동화 기술로 통합 약제 솔루션 구축한다”	IT동아	03.12	157	0
3552	고효율가전 살 때 비용 지원받으려면 이렇게![이럴땐 이렇게!] [2]	IT동아	03.12	1778	0
3551	복잡한 경제지표 일정, '경제 캘린더'로 빠르게 파악하는 방법	IT동아	03.12	146	0
3550	[뉴스줌인] 가상 아닌 ‘진짜’ 입체음향 내는 2024 LG 사운드바, 뭐가 다를까? [9]	IT동아	03.11	1845	0
3549	고가 법인차 ‘연두색 번호판 부착’...제도 개정 후 결과 살펴보니 [12]	IT동아	03.11	2531	1
3548	[스타트업 법률실무 마스터링] 투자유치 법률실무 (3) - 투자계약 체결 전 투자사와의 분쟁방지	IT동아	03.11	145	0
3547	[주간투자동향] 케어링, 400억 원 규모 시리즈 B 투자 유치	IT동아	03.11	643	0
3546	내가 원하는 기업의 공시자료 ‘RSS 피드’로 편하게 보자	IT동아	03.08	154	0
3545	[생성 AI 길라잡이] 챗GPT와 자동차의 만남 [2]	IT동아	03.08	9481	3
3544	이노와이어리스의 협업 자산, ‘NHN두레이’로 쌓는다	IT동아	03.08	165	0
3543	[KESIA 시드팁스] 프렉탈테크놀로지 “검증된 고객과 데이터 갖춘 M&A 거래소 만듭니다”	IT동아	03.08	156	0
3542	LG전자, 토출구 2개로 냉각성능∙전력효율 강화한 벽걸이 에어컨 신제품 공개	IT동아	03.07	510	1
3541	[뉴스줌인] 전에 못 보던 24GB, 48GB 용량? ‘논바이너리’ 메모리의 이모저모 [7]	IT동아	03.07	795	0
3540	가상자산 거래소, 시장 상황에 맞춰 ‘거래 환경·혜택 강화’	IT동아	03.07	141	0
3539	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 1	IT동아	03.07	168	0
3538	세일즈포스, 새로운 AI CRM ·대화형 AI로 CRM 고도화 나서	IT동아	03.07	150	0
3537	[시승기] 214년 역사 佛 제조사의 7인승 패밀리카…'푸조 5008 SUV'	IT동아	03.07	147	0
3536	생성형 AI와 협업 툴의 만남은? 플로우 3.0 AI 나우로 살펴본 현 주소 [4]	IT동아	03.07	1029	1
3535	인공지능 열풍 닷컴버블 같다고? 비슷하지만 다르다 [4]	IT동아	03.07	579	0
3534	갤럭시 S23에도 적용되는 갤럭시 AI 기능, S22는?	IT동아	03.06	237	0
3533	NAS 보안을 강화하는 8가지 보안 수칙	IT동아	03.06	165	0
3532	현대차 ”포니 시대로 타임슬립”…제페토에 신규 콘텐츠 론칭 [9]	IT동아	03.06	1263	4
3531	[메타버스에 올라타자] 7. 메타버스 어떻게 활용할 것인가? 기업 도입 사례	IT동아	03.06	213	0
3530	[리뷰] 인터넷으로 사진·동영상 전송하는 '카멜 클라우드 디지털 액자'	IT동아	03.06	959	2
3529	[IT애정남] DDR4, LPDDR5 램을 탑재한 노트북, 뭐가 더 좋나요?	IT동아	03.05	154	0
3528	[자동차와 法] 전기차 충전시설 의무 설치 관련 법률 살펴보니	IT동아	03.05	339	0
3527	‘빅 이벤트 온다’ 엔비디아 GTC 2024 관전 포인트는?	IT동아	03.05	152	0
3526	[IT애정남] 버티컬 마우스는 왜 쓰는 걸까요?	IT동아	03.05	155	0
3525	[IT신상공개] 애플, M3 탑재한 새 맥북에어 13 및 15 공개	IT동아	03.05	156	0
3524	[2024 고려대 초창패] 뉴로엑스티 “알츠하이머 치매 정밀의료를 실현합니다” [1]	IT동아	03.05	958	0
3523	“혹시 퇴직연금 깜박하셨나요?” 찾는 방법부터 앞으로 바뀌는 부분까지	IT동아	03.04	382	0
3522	[KESIA 시드팁스] 그랜터 “회사 지출 관리, AI에 맡기고 업무에 집중하세요”	IT동아	03.04	165	0
3521	[스타트업-ing] 니어스랩 “한국의 자율비행 드론, 전 세계를 누빌 것”	IT동아	03.04	108	0
3520	플리토 이정수 대표 "온디바이스 AI, LLM으로 데이터 중요성 커져"	IT동아	03.04	109	0
3519	[스타트업 법률실무 마스터링] 투자유치 법률실무 (2) Termsheet 이해를 통한 분쟁방지	IT동아	03.04	738	0
3518	헷갈리는 버스전용 차로 만나면 이렇게![이럴땐 이렇게!]	IT동아	03.04	115	0
뉴스	'트렁크' 감독 "불편하고 어두운 멜로…호불호는 갈리겠죠"	디시트렌드	12.03