디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

내년의 인공지능 키워드는 생성형 AI 넘어 '온디바이스 AI'

IT동아갤로그로 이동합니다. 2023.12.07 18:04:15
조회 161 추천 0 댓글 0
[IT동아 남시현 기자] 현지 시간으로 지난 12월 6일, AMD가 ‘어드밴싱 AI(Advancing AI)’를 개최하고 AMD 인스팅트 MI 300 시리즈 데이터센터 AI 가속기와 대형 언어 모델(LLM) 지원 기능을 갖춘 ROCm 6 개방형 소프트웨어 스택, 그리고 라이젠 AI가 탑재된 새로운 라이젠 8040 프로세서를 공개했다. 이중 MI 300과 ROCm 6는 생성형 AI 및 서버 시장을 위한 제품이지만, 라이젠 8040 프로세서는 온디바이스(On-Device) 시장 대응을 위한 프로세서다.


리사 수 AMD 최고경영자가 어드밴싱 AI 행사에서 AMD 라이젠 8040 프로세서를 소개하고 있다 / 출처=AMD



AMD는 지난 6월, AI 기능을 수행하는 ‘라이젠 AI’ NPU(신경망 처리 장치)를 공개하고, 이를 탑재한 AMD 라이젠 7040HS 프로세서를 출시했다. 이번에 공개한 라이젠 8040은 전 세대 대비 최대 40% 향상된 AI 성능을 갖추며, 최상위 제품인 라이젠 9 8945HS 프로세서는 인텔 코어 i9-13900H 및 i7-13700H, i5-1340P 보다 최대 64% 빠른 비디오 편집 및 37% 빠른 렌더링 성능을 제공하며, AMD 라이젠 전용으로 구축된 AMD XDNA 아키텍처를 갖춘다.

아울러 AMD는 개발자가 사전 훈련된 모델울 활용해 윈도우 애플리케이션에 AI 기능을 추가할 수 있도록 돕는 라이젠 AI 1.0 소프트웨어 스택을 함께 공개했고, XNDA 2 아키텍처를 탑재해 AI 기능을 세배까지 끌어올리는 스트릭스 포인트 CPU를 내년 중 출시하겠다고 밝혔다.

인텔도 온디바이스 프로세서로 회생 노린다



인텔은 오는 12월 14일 온디바이스 AI가 탑재된



인텔 역시 지난 9월 공개한 AI 프로세서인 인텔 코어 울트라를 오는 12월 14일 출시한다. 인텔 코어 울트라는 코드명 메테오레이크로 불리며, 최초로 인텔 4 공정이 사용된다. 인텔 역시 기존에 사용해온 VPU(비전 처리 장치) 대신 NPU를 탑재해 네트워크 없이 장치에서 자체적으로 인공지능 기능을 수행하도록 한다.

독일의 소매업체 baur.에서 노출된 인텔 코어 울트라 기반의 에이서 스위프트 모델을 살펴보면, 인텔 코어 울트라 5 125H 모델이 14코어 18스레드, 155H 모델이 16코어 22스레드, 185H 모델이 16코어 22스레드 구성이 될 것으로 보인다. 또한 인텔 아크 Xe-LPG 통합 그래픽이 탑재돼 GPU의 연산 처리력으로 인공지능 기능을 보조할 것으로 보인다. 자세한 내용은 출시일에 맞춰 공개된다.

모바일 시장에서도 온디바이스 AI 기본화



퀄컴 역시 온디바이스 AI를 탑재한 애플리케이션 프로세서를 공개했다 / 출처=퀄컴 테크날러지



노트북 시장 뿐만이 아니다. 퀄컴이 지난 10월 공개한 스냅드래곤 8 3세대 AP는 퀄컴의 모바일 AP로는 처음으로 생성형 AI 도입을 고려해 설계됐다. 이 AP에는 최대 45TOPS의 처리 성능을 가진 퀄컴 헥사곤 NPU가 탑재돼 100억 개 가량의 매개변수를 탑재한 생성형 AI를 장치에서 지원한다. TOPS는 데이터를 1초에 1조 번 연산할 수 있다는 의미로, AI 하드웨어의 성능 지표를 나타낼 때 쓴다.

미디어텍 역시 지난달 공개한 디멘시티 9300에 APU(AI 처리 장치)를 탑재해 사전 준비된 모델 기반의 생성형 AI 성능을 전작대비 8배, 정수 및 실수 연산 속도는 두배 올리고, 전력 효율은 45% 끌어올린다. 삼성전자가 갤럭시 S24에 탑재하는 엑시노트 2400 AP 역시 NPU를 탑재해 전작인 엑시노스 2200과 비교해 14.7배 높은 인공지능 성능을 발휘한다. 다만 삼성전자의 경우 하드웨어 성능 보다는 삼성 가우스’ 등의 생성형 AI 생태계에 더 공을 들이는 모습이다.

대형언어모델도 스마트폰 최적화에 시동


온디바이스 모델이 지난 몇 년 간 침체됐던 PC 및 스마트폰 시장의 구세주로 떠오르면서 구글, 메타 등 AI 빅테크 기업들도 시장 확보에 열을 올리고 있다. 구글은 12월 17일, 차세대 생성형 AI 기반 모델 제미나이(Gemini)를 공개했다. 제미나이는 구글의 검색 결과와 구글 전체의 공동 연구를 포함하며, 음성과 이미지, 텍스트, 영상 등을 복합적으로 인지하는 멀티모달이 적용된다. 구글에 따르면 대규모 작업에서 언어 이해 성능은 GPT-4의 86.4%를 앞선 90%며, 멀티모달 역시 GPT-4V의 56.8%를 앞선 59.4%라고 밝혔다.


구글의 차세대 생성형 AI 기반 모델 제미나이 / 출처=구글



제미나이는 대형 모델인 울트라와 프로, 그리고 스마트폰 수준에 맞춘 나노 세 가지 규모로 출시된다. 이중 제미나이 나노는 구글 픽셀 8 프로에 처음 구현되고, 내장된 NPU를 활용해 챗봇을 구현한다. 이를 통해 녹음 요약이나 메시징 앱, 구글 보드 등에서 AI를 활용할 수 있고, 다양한 구글 서비스에 제미나이가 결합된다.

구글의 맞수인 메타 역시 퀄컴과 손을 잡고 온디바이스를 위한 전용 라마2(Llama 2) 모델을 구축한다. 이를 활용하면 클라우드를 쓸 수 없는 비행기 모드, 차량, 노트북 등에서도 조건에서도 챗봇 등을 활용할 수 있다. 현재 퀄컴의 스냅드래곤 8 3세대 등이 퀄컴 헥사곤 NPU를 탑재하는 것이 공식화된 만큼, 내년이면 서비스를 시작할 것으로 보인다.

온디바이스 AI가 가져다줄 편의성은?


온디바이스 AI는 애플리케이션의 활용도를 한층 끌어올릴 것이다. 예를 들어 촬영된 사진에서 안면인식으로 사람이 몇 명 있는지 숫자를 세어준다거나, 카메라로 식단을 찍으면 AI가 식품의 종류와 크기 등을 인식해 칼로리를 계산한다거나, 사물인터넷의 자동화 알고리즘을 사용자 분석으로 자동 생성하는 등 보다 다양한 방면에서 품질이 향상되는 식이다.


펫 겔싱어 인텔 최고경영자가 지난 9월 진행한 인텔 이노베이션에서 온디바이스 AI를 직접 시연하고 있다 / 출처=IT동아



고급 수준에서는 여러 기능이 복합적으로 작용한다. 보청기를 착용한 사람이 컴퓨터로 화상회의를 진행하면 온디바이스 AI 노트북이 노크나 회의 이외의 목소리를 감지해 보청기의 모드를 바꾸고, 사용자가 놓치는 부분의 대화 내용은 자동으로 인식한 뒤 번역한다. 보는 방향에 따라 내용을 기록하고, 언어를 인식해 변환 및 번역한다. 생태계만 확보된다면 오프라인 모드에서도 이 정도 기능을 쓸 수 있게 된다.

모건 스탠리는 내년에 전 세계 스마트폰 출하량이 약 4%, 2025년에는 4.4%씩 반등할 것으로 보고 있다. 스마트폰의 수요 창출은 새로운 온디바이스 AI 기능이 차지할 것이고, 개인정보 보호부터 카메라 기능, 음성 인식 등 다양한 측면에서 폭넓게 활용될 것으로 보고 있다. 생성형 AI에서 창출된 온디바이스 AI가 우리의 실생활을 어떻게 바꿀지 지켜보자.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ [리뷰] 의외의 가성비와 고성능을 겸비, 14세대 인텔 코어 i7-14700K▶ 퀄컴 스냅드래곤 8 3세대, 미디어텍 제치고 AP 경쟁 우위에▶ AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 오픈 마인드로 이성을 만날 것 같은 스타는? 운영자 24/12/02 - -
3271 이상찬 울산시 건설주택국장, “디자인은 산업도시 울산의 새로운 성장 기회입니다” IT동아갤로그로 이동합니다. 23.12.21 219 1
3270 [리뷰] 최대 27kg·57인치까지 지원, 카멜마운트 PMA2X 모니터암 [3] IT동아갤로그로 이동합니다. 23.12.21 711 0
3269 각기 따로 노는 지능형 교통체계, 클라우드로 묶으면? IT동아갤로그로 이동합니다. 23.12.20 137 0
3268 공공망분리 규제 완화 분위기, 주목 키워드는 ‘DaaS’ [3] IT동아갤로그로 이동합니다. 23.12.19 615 0
3267 SBA “민관 협력 오픈 이노베이션 촉진, 유니콘 요람으로” IT동아갤로그로 이동합니다. 23.12.19 141 0
3266 [리뷰] 세계 최초의 3nm 기반 칩으로 활용도↑ 애플 맥북 프로 14 [4] IT동아갤로그로 이동합니다. 23.12.19 1105 3
3265 [스케일업] 스쿨버스 [3] “통학차량 구성원들과 함께 성장하고 있습니다” IT동아갤로그로 이동합니다. 23.12.19 175 0
3264 [혁신스타트업 in 홍릉] 그리니쉬 “퍼티맥스로 난임 해결 힘 싣는다” IT동아갤로그로 이동합니다. 23.12.19 131 0
3263 [IT애정남] 구형 PC에서 4K 동영상 보려면 어떻게 업그레이드? [6] IT동아갤로그로 이동합니다. 23.12.18 1785 2
3262 [스케일업] 1인치 [2] “가게 사장님들과 함께 단골가게를 만들고 있습니다” IT동아갤로그로 이동합니다. 23.12.18 113 0
3261 정부민원·서류 발급, 비대면으로 하려면 이렇게![이럴땐 이렇게!] [2] IT동아갤로그로 이동합니다. 23.12.18 1221 0
3260 [스케일업] 스쿨버스 [2] “통학차량의 현실적인 규제와 기준, 허가를 희망합니다" [3] IT동아갤로그로 이동합니다. 23.12.18 791 0
3259 랜섬웨어 공격에 유출된 ‘골프존’ 개인정보, 어떡하지? [14] IT동아갤로그로 이동합니다. 23.12.15 9031 11
3258 [자동차 디자人] 누구나 꿈꾸는 드림카 ‘페라리’의 디자인 수장 ‘플라비오 만조니’ [5] IT동아갤로그로 이동합니다. 23.12.15 4432 5
3257 "퓨리오사AI의 기술 블로그, 무엇을, 어떻게, 왜 하는지 담을 것" IT동아갤로그로 이동합니다. 23.12.15 169 0
3256 aT센터 “농가, 온라인 배 태워 더 넓은 시장으로” IT동아갤로그로 이동합니다. 23.12.15 132 0
3255 [이제는 전북 콘텐츠] 레터박스 이은상 대표 “스토리를 담은 영상 콘텐츠에 집중합니다” IT동아갤로그로 이동합니다. 23.12.15 125 0
3254 [스타트업-ing] 케어마인드 “퇴원 이후 관리 돕는 ‘디지털 회복실’로 의료 공백 채운다” IT동아갤로그로 이동합니다. 23.12.15 916 1
3253 젠젠에이아이 “모빌리티∙방산용 빅데이터? 없으면 AI로 만든다”[2023 스타트업 테크 블레이즈] IT동아갤로그로 이동합니다. 23.12.15 121 0
3252 성남산업진흥원, ‘2023 재도전성공패키지’ 창업기업 간 BM 업무협약 체결 IT동아갤로그로 이동합니다. 23.12.15 127 0
3251 벤틀리, 6년 만에 신모델 ‘벤테이가 EWB’ 출시…’여유로운 2열 공간 강조’ IT동아갤로그로 이동합니다. 23.12.14 241 2
3250 스텔라비전 “위성 활용한 글로벌 규모 CCTV, 이젠 현실”[2023 스타트업 테크 블레이즈] IT동아갤로그로 이동합니다. 23.12.14 105 0
3249 [스케일업] 오비맥주·위밋모빌리티 “주류 운송의 효율을 이동경로에서 찾았습니다” IT동아갤로그로 이동합니다. 23.12.14 101 0
3248 [IT애정남] 가습기 고를 때, 확인해야 할 핵심 기능은? IT동아갤로그로 이동합니다. 23.12.14 648 0
3247 웍스메이트 “스마트 건설의 시작, 현장 맞춤형 근로자 매칭부터” IT동아갤로그로 이동합니다. 23.12.14 134 0
3246 서울창조경제혁신센터, 우주항공∙양자분야 스타트업-대기업 협업 생태계 일군다 IT동아갤로그로 이동합니다. 23.12.14 105 0
3245 [월간자동차] 23년 11월, 신차·중고차 판매량 모두 늘어...수입차 판매 1위 '모델Y' IT동아갤로그로 이동합니다. 23.12.14 324 1
3244 [KIDP 울산] 트레비어 [2] “트레비어 양조장에는 예술 축제가 열립니다” IT동아갤로그로 이동합니다. 23.12.13 109 0
3243 지자체·스타트업, 부산물로 가치 만드는 ‘업사이클링’ 맞손 [1] IT동아갤로그로 이동합니다. 23.12.13 884 0
3242 ‘유망 스타트업 산실’ 서울과기대 메이커스페이스 ‘2023 성과공유 페스티벌’ 성료 [3] IT동아갤로그로 이동합니다. 23.12.12 624 1
3241 가상자산 이용자보호법 시행령의 7가지 포인트 [1] IT동아갤로그로 이동합니다. 23.12.12 1089 0
3240 [자동차와 法] 급발진 교통사고에 대한 법원의 입장과 해결 방안 [5] IT동아갤로그로 이동합니다. 23.12.12 714 1
3239 [리뷰] 하루종일 따뜻한 커피/차를 마시며 스마트폰 충전을 - 솔루엠 '스마트 워머' IT동아갤로그로 이동합니다. 23.12.12 144 0
3238 '정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다 [10] IT동아갤로그로 이동합니다. 23.12.12 969 6
3237 [스케일업] 이유씨엔씨 [2] 동탄농장, “단·차열 페인트로 양계장을 보호합니다” IT동아갤로그로 이동합니다. 23.12.11 186 0
3236 [이제는 전북 콘텐츠] ㈜더가람, “이동형 VR 버스와 VR 콘텐츠를 개발합니다” [2] IT동아갤로그로 이동합니다. 23.12.11 718 1
3235 [과기대 S-Run] 투자 유치 활동을 위한 준비, ‘성공 투자 IR 패키지’ IT동아갤로그로 이동합니다. 23.12.11 121 0
3234 [IT애정남] 가습기에 락스 한 두 방울은 괜찮지 않나요? [12] IT동아갤로그로 이동합니다. 23.12.11 1983 5
3233 한파 잦은 겨울철 차량관리 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 23.12.11 106 0
3232 예술과 지향성 음향의 만남 《MMCA 현대차 시리즈 2023 : 정연두-백년 여행기》 [3] IT동아갤로그로 이동합니다. 23.12.08 2932 1
3231 [서울형 R&D] SBA 김종우 혁신성장본부장 “친기업적인 R&D 지원사업을 고민합니다” IT동아갤로그로 이동합니다. 23.12.08 142 0
3230 1인 크리에이터 강사 키우는 경기콘텐츠진흥원, 그 성과는? IT동아갤로그로 이동합니다. 23.12.08 186 0
3229 울산 디자인주도 제조혁신센터, “제조기업에게 디자인을 알리고 있습니다” IT동아갤로그로 이동합니다. 23.12.08 138 1
3228 [스타트업-ing] 팬토믹스 “영상 바이오마커 기술로 신속하고 정확한 비침습 진단 실현” IT동아갤로그로 이동합니다. 23.12.08 137 0
3227 [스타트업-ing] 감성놀이터 “가상현실·디지털 휴먼으로 사람 마음 고친다” IT동아갤로그로 이동합니다. 23.12.08 124 0
3226 [과기대 S-Run] 제조 창업자에게 필요한 브랜딩과 마케팅 방법을 지원합니다 IT동아갤로그로 이동합니다. 23.12.07 124 0
3225 [리뷰] 기본기 만족, 화면에 대만족, 에이수스 젠북 S 13 OLED [1] IT동아갤로그로 이동합니다. 23.12.07 690 0
내년의 인공지능 키워드는 생성형 AI 넘어 '온디바이스 AI' IT동아갤로그로 이동합니다. 23.12.07 161 0
3223 퓨리오사AI가 연 NPU 해커톤 가보니··· '새로운 AI 시장·생태계 태동에 기여' IT동아갤로그로 이동합니다. 23.12.07 912 1
3222 KISA, K-BTF 내년 도입 ‘경제성·호환성·편의성에 초점’ IT동아갤로그로 이동합니다. 23.12.07 103 0
뉴스 ‘KGMA’서 격돌 프로젝트7 vs 스타라이트 보이즈… 무대 밖은 ‘훈훈’ 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2