2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나?

IT동아

2024.04.12 18:39:48

조회 7296 추천 4 댓글 4

[IT동아 남시현 기자] 인공지능(AI)이 전 세계 컴퓨터 시장을 달구고 있지만, 이는 갑작스러운 전개가 아닌 필연적인 흐름이다. 현대 컴퓨터의 아버지 ‘앨런 튜링’은 AI라는 단어가 등장하기도 전인 1950년, ‘계산 기계와 지능(Computing machinery and intelligence)’이라는 논문을 통해 컴퓨터로 동작하는 가상의 지능이 등장할 것을 시사했고, 1956년 다트머스 회의에서 AI라는 용어와 개념이 자리 잡았다.

2024년, 거의 모든 PC 관련 기업들이 AI PC를 슬로건으로 밀고 있다 / 출처=마이크로소프트

물론 반도체가 눈부시게 발전하며 2000년대까지는 슈퍼컴퓨터와 시뮬레이션에 컴퓨터 공학적 역량이 집중되었으나, 90년대 중반부터는 리처드 벨먼 교수의 기계 제어를 위한 강화학습, 제프리 힌튼 교수의 심층신경망 기술 제안 등이 잇따르며 가능성이 커져왔다. 이어서 2016년, 구글 딥마인드와 이세돌의 바둑 대결로 전 세계인이 AI의 가능성을 목격했고, 22년 11월 오픈 AI가 GPT-3를 내놓으며 비로소 AI가 IT 시장의 핵심으로 등장했다. 그 직후 시장에서 제시한 방향성이 바로 온디바이스 AI, AI PC다.

가장 진보한 AI의 발전상, AI PC의 현재 상황은?

2023년 AI 시장의 핵심은 AI 그 자체였다. 엔비디아를 비롯한 AI 하드웨어 기업들은 새로운 기술과 고성능을 갖춘 제품을 내놓기 바빴고, 개발자들은 빅데이터를 수집해 AI 모델을 구축하고, 이를 활용해 추론하고 후처리에 이르는 모든 과정에 투입됐다. 일반인들을 위한 AI 시장이 대중화하진 않았으나, GPT를 비롯한 다양한 생성형 AI들이 모든 산업을 관통했다.

어도비의 생성형 AI 파이어플라이 생성 화면, 온디바이스 AI가 아닌 어도비 클라우드 서비스로 연결해 처리한다 / 출처=어도비

문제는 이 모든 과정이 클라우드 및 데이터 서버를 거쳐야 한다. AI 모델은 데이터를 매개변수 형태로 가공해서 저장하고, 필요할 때 내놓는 형태다. 이를 위해 막대한 양의 저장공간과 실시간 하드웨어 자원, 즉 데이터 서버가 필요하다. 지금도 대다수 AI 기능은 데이터 서버와 클라우드로 연결돼 동작하며, 네트워크가 없으면 AI 기능을 쓰기 어렵다.

하지만 데이터 서버 구축은 대규모 자본은 물론 구동과 냉각을 위한 전력도 계속 필요하다. 장기적으로 AI 제공 기업의 부담은 커지고, 과부하도 생긴다. 그래서 업계에서는 말단 장치가 AI를 자체 구동하는 온디바이스 AI로 데이터 서버의 부하를 분산하고 있으며, AI PC 역시 이를 위해 등장한 제품군이다. 즉 AI PC는 AI 연산 집중에 따른 서버 부하를 줄이고, 사용자가 통신없이도 간단한 AI 소프트웨어나 애플리케이션, 개발 작업에 쓰기 위한 제품이다.

가트너, 2024년 말까지 전체 PC 중 22%가 AI PC로 예상

주요 프로세서 제조사들이 AI PC의 가능성에 눈을 뜨면서 시장 점유율은 빠르게 늘고 있다. 글로벌 연구 조사 기업 IDC는 AI PC가 올해 전체 PC 출하량의 약 20%인 5000만 대가 출하될 것으로 예측하며, 2027년에는 전체의 60%인 1억 6700만 대가 출하될 것으로 본다. 이미 지난해 12월 인텔 코어 울트라가 출시되며 신제품 노트북이 AI PC로 판매되기 시작했고, 인텔은 2025년까지 약 1억 대의 AI PC를 출하하겠다고 발표했다.

인텔 AI PC의 핵심은 신경망 처리 장치(NPU)다. 오늘날 많은 AI는 GPU의 부동소수점 연산 처리로 구동된다. 하지만 GPU는 AI 용도가 아닌 그래픽 처리용 반도체여서 전력 효율이 크게 떨어진다. NPU는 AI 처리를 위한 반도체로 전력 및 작업 효율이 훨씬 좋다. 현재 인텔 코어 울트라 등의 AI PC는 기존처럼 CPU와 GPU는 물론 NPU까지 탑재한다.

인텔 코어 울트라 5가 탑재된 PC와 13세대 인텔 코어 i5가 탑재된 PC / 출처=IT동아

인텔 코어 울트라 라인업은 13세대 인텔 코어 제품군과 비교해 UL 프로키온 AI 추론 기능과 어도비 라이트룸을 활용한 AI 사진 편집은 약 1.5배, 어도비 프리미어 프로 AI 비디오 편집 기능은 약 2.2배, 스펙 뷰포트 2020 SNX 등의 엔지니어링 기능에서는 최대 12.1배까지 성능이 차이 난다. 그러면서도 전력 효율은 에너지스타 8.0 요구사항보다 최대 64% 낮고, 마이크로소프트 팀즈 미팅 시 11% 전력을 덜 쓰는 등의 이점이 있다. GPU 성능이 좋아지면서 실사용 성능이 향상되는 부분도 있지만, AI 처리에 최적화된 NPU의 영향도 상당하다.

점차 늘고 있는 AI PC 활용, 현시점 활용도는?

현재 윈도우 11에서 쓸 수 있는 AI 기능, 클라우드에서 연산을 처리하므로 AI PC가 아니더라도 쓸 수 있다. 물론 AI PC 최적화가 적용되면 오프라인에서도 효율적으로 이런 기능들을 쓸 수 있게 된다 / 출처=IT동아

사용자들 사이에서는 여전히 AI 기능이 시기상조라는 시각도 있지만, 윈도우 11처럼 발빠르게 AI PC 시대를 준비하는 플랫폼도 있다. 예를 들어 윈도우 11에는 코파일럿을 비롯한 다양한 AI 기능이 내장되고 있으며, 누구나 쓸 수 있다. 코파일럿은 GPT 기반의 생성형 AI로 대화를 통한 질문, 검색이나 글 작성, 이미지 콘텐츠 제작, 윈도우 기능 실행 등을 수행한다. 또 캡처 도구에는 AI 기반의 광학 문자 인식이 탑재돼 이미지 내 글씨를 복사할 수 있고, 그림판에도 AI 배경 제거나 명령어 기반의 이미지 생성형 AI 기능이 추가됐다. 이외에도 많은 AI 기능들이 단계적으로 추가될 예정이다. 현재 시점에서는 네트워크가 필수지만, 추후 NPU에 최적화되면 장치 자체에서 수행한다.

올해 말이면 오프라인 AI PC에서 쓸 수 있는 AI 기능들이 많아질 전망이다 / 출처=마이크로소프트

아울러 챗GPT나 클로드AI, 라마(Llama), 구글 제미나이 같은 언어 모델을 개발하는 조건에도 앞으로는 AI PC가 더 유리해질 것이다. AI 개발 자체는 이전 세대 고성능 PC로도 할 수 있지만 전력 효율이 떨어진다. 가벼운 작업이고, 전력 효율까지 고려한다면 NPU를 내장한 AI PC에서의 작업이 더 유리하다. AI 기업 업스테이지는 지난 2월, LG전자와 손을 잡고 자체 언어모델 ‘솔라’를 LG 그램에서 온디바이스 AI로 적용하겠다는 발표도 했다. 올해 혹은 내년에는 챗 GPT같은 언어모델을 오프라인 AI PC에서도 쓰게 될 전망이다.

추후 PC 생태계는 AI인가, AI가 아닌가로 나뉠 것

지금까지 PC 성능을 결정짓는 요소는 컴퓨터의 처리 성능이었다. 하지만 AI PC 시대가 도래한 시점부터는 PC 성능은 물론 얼마나 많은 AI 기능과 소프트웨어를 지원하는지도 중요해질 것이다. AI PC 생태계가 올해 막 시작된 만큼 여전히 보여줄 게 많진 않으나, 챗GPT가 보여준 것처럼 PC 기반 작업에서 기대 이상의 결과와 혜택을 제공할 것이다. 이를 누리려면 새 PC를 살 때 NPU를 탑재한 AI PC를 선택하는 게 합당하다.

인텔은 오는 2025년까지 1억 대 이상의 PC에 AI 기능을 제공하겠다는 목표를 세웠다 / 출처=인텔

이미 인텔은 물론 AMD에서도 라이젠 AI 엔진을 탑재한 노트북을 출시했고, 퀄컴 역시 올해 중 스냅드래곤 X 엘리트 기반의 AI PC를 출시한다. 애플 역시 하반기 중 AI 기능을 내재한 차세대 애플 실리콘으로 매킨토시 라인업을 재단장할 예정이다. 구글이나 마이크로소프트, 메타 등이 소프트웨어를 담당하고, 인텔, AMD, 퀄컴 등의 기업이 AI PC로 하드웨어를 맡는 셈이다.

관련한 생태계도 빠르게 확장하고 있다. 지난 3월 28일, 국내 AI PC 생태계 확충을 위해 인텔코리아를 중심으로한 소프트웨어 및 하드웨어 기업, 교육 기관 등 총 17개 기업 및 기관이 '한국 AI PC 얼라이언스(K-APA)'를 결성했다. K-APA는 국내 유망 AI 기업 지원은 물론 인재 양성, 해커톤 대회 등을 통해 AI 생태계 확장에 힘을 쏟는다.

물론 AI PC 자체가 마케팅 용어라는 시각도 있다. 그럼에도 불구하고 AI는 여러 분야에서 제 기능을 증명했고, 발 빠른 이들은 이미 챗GPT를 비롯한 생성형 AI의 활용법과 시각을 공유하며 우위에 서고 있다. 여전히 많은 기능이 AI PC가 아닌 일반 PC로도 구현이 되지만, 변곡점을 지나면 AI PC의 활용도가 우세해질 것이다. AI PC의 세계는 누구에게나 열려있고, AI PC를 통해 더 많은 일들을 할 수 있다. 올해가 지나면, 더 이상 AI PC는 선택이 아닌 필수가 될 것이다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [생성 AI 길라잡이] 애플이 만들 인공지능 서비스, 어떤 모습일까?▶ [리뷰] 좋은 거 다 담았는데 이 두께가 나와? 에이수스 ROG 제피러스 G16(2024)▶ [생성 AI 길라잡이] AI로 만든 콘텐츠, 저작권 인정될까?

고정닉 2

원본 첨부파일 6본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
3820	삼성전자, '비스포크 AI 콤보' 에센셜 화이트 색상 출시…색상 라인업 강화	IT동아	05.20	40	0
3819	채팅창 넘어 일상으로…'만능 AI 비서' 시대 온다	IT동아	05.20	40	0
3818	오늘부터 시끄러운 불법 튜닝 오토바이 집중 단속	IT동아	05.20	26	0
3817	AWS 서밋 행사장에서 펼쳐진 훈훈한 ‘프리킥’	IT동아	05.20	42	0
3816	[주간투자동향] 라피치, 60억 원 규모 투자 유치	IT동아	05.20	36	0
3815	키보드의 윈도 키, 최대한 활용하려면 이렇게![이럴땐 이렇게!] [4]	IT동아	05.20	1194	15
3814	인포플라 “대답만 하던 기존 AI의 한계, VLM 기반 자동화로 극복” [4]	IT동아	05.18	6784	3
3813	6월 인공지능ㆍ반도체 시장 엔비디아 손에 달렸다	IT동아	05.17	147	0
3812	[시승기] 시대를 초월한 디자인 DNA…’포르쉐 911 카레라 쿠페’	IT동아	05.17	138	0
3811	[IT신상공개] 입맛대로 고르는 저음, 소니 얼트 파워 사운드	IT동아	05.17	148	0
3810	"코바코의 대국민 AI 광고 제작 서비스, 네이버가 함께합니다"	IT동아	05.17	139	0
3809	[생성 AI 길라잡이] 더 사람 같아진 AI, 'GPT-4o'는 어떻게 다를까? [2]	IT동아	05.17	1182	1
3808	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 11	IT동아	05.16	158	0
3807	[뉴스줌인] PC 2대 연결해 하나처럼? 인텔 ‘썬더볼트 쉐어’ 기술 이모저모 [5]	IT동아	05.16	2085	0
3806	스틸시리즈 코리아 “편의성 강화한 ‘아크티스 노바5’로 가파른 성장세 이어갈 것”	IT동아	05.16	170	0
3805	[스타트업 첫걸음] 기고를 시작하며	IT동아	05.16	133	0
3804	[월간자동차] 24년 4월, 신차 등록 감소…기아 ’쏘렌토’ 4개월 연속 판매 1위 [1]	IT동아	05.16	820	0
3803	10년 차 맞은 AWS 서밋 서울··· '국내 최대 IT·클라우드 행사로 자리매김'	IT동아	05.16	196	0
3802	[자동차와 法] 딜레마존 구간에서 운전자 주의의무에 대하여	IT동아	05.14	195	0
3801	대기업부터 스타트업까지, K-우주산업 ‘성큼’	IT동아	05.14	214	0
3800	벤츠, 소비자가 외면한 전기차 디자인 손본다 [47]	IT동아	05.14	7972	2
3799	우주방사선 차폐로 초소형위성 수명 늘린다	IT동아	05.14	202	0
3798	국내 기업 열에 일곱은 "이제 AI 활용 못 하는 직원은 고용 안 해" [37]	IT동아	05.14	7340	9
3797	NHN두레이 기반의 협업 환경, KDI 국제정책대학원의 ‘저력’ 높인다	IT동아	05.14	170	0
3796	[IT강의실] 가상자산 맡기고 추가 수익 실현 ‘스테이킹’	IT동아	05.14	179	0
3795	화제의 K-패스 카드, 발급부터 활용까지 이렇게! [이럴땐 이렇게!] [1]	IT동아	05.14	1730	2
3794	도로 위 시한폭탄 ‘맨홀 단차’ 빠르게 보수할 제품 실증 [4]	IT동아	05.13	701	1
3793	와탭랩스, "옵저버빌리티 기업 정체성 확립··· 美·日·동남아 시장 성과낼 것"	IT동아	05.13	173	0
3792	빗썸 “대학생 서포터즈 썸즈업이 제안한 개선안 적극 검토할 것” [3]	IT동아	05.13	1001	0
3791	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 10 [8]	IT동아	05.11	8000	3
3790	[뉴스줌인] 캐논, 비정품 토너보다 심각한 ‘위조’ 토너에 골머리 [20]	IT동아	05.11	12433	6
3789	[리뷰] ‘시간 흘렀어도 64코어는 여전히 강력하다’ AMD 라이젠 스레드리퍼 7980X	IT동아	05.10	390	1
3788	정부, 라인야후 사태 '유감' 표명…네이버는 지분매각 가능성 공식화	IT동아	05.10	299	0
3787	[시승기] 48인치 스크린이 연출하는 매혹적인 실내…‘링컨 노틸러스’	IT동아	05.10	247	0
3786	공공기관 ‘테스트베드’ 사업, 중소기업과 동반성장 성과	IT동아	05.10	208	0
3785	[리뷰] 언제 어디서나 안전하고 빠른 근무 환경, ‘가비아 DaaS’	IT동아	05.10	208	0
3784	빗썸 “이벤트 참여자 과세 400억 원, 전액 지원할 것” [6]	IT동아	05.10	2886	1
3783	[농업이 IT(잇)다] 에스와이에스 “플라즈마로 농축산 폐수 정화합니다”	IT동아	05.10	200	0
3782	[생성 AI 길라잡이] GPT 활용 사례 및 교육 커뮤니티, '지피터스'	IT동아	05.10	2360	0
3781	삼성전자, '비스포크 AI 무풍 시스템에어컨 인피니트 라인’ 출시	IT동아	05.09	285	0
3780	체온·심박수 측정 등 헬스케어 기능 더한 무선 이어폰	IT동아	05.09	262	0
3779	올해 누적 판매 10위 추락 ‘아우디’…수장 교체로 반전 이룰까	IT동아	05.09	2318	0
3778	효율 중요한 키워드 검색광고, 인공지능에 해답 있다	IT동아	05.09	192	0
3777	애플 M4 아이패드 프로 공개... '생성형 AI' 업고 회심의 반격 나선다	IT동아	05.09	242	0
3776	[리뷰] 작지만 빠른 입출력 속도는 UMPC에만 쓰기에 아깝다, WD_BLACK SN770M 2TB	IT동아	05.09	1198	3
3775	카카오, 알테쉬 공세에도 '선물하기' 통했다…"AI 개발에도 속도 낼 것"	IT동아	05.09	189	0
3774	[신차공개] 제네시스 ‘GV70 부분변경'·KGM ‘더 뉴 토레스’ 출시	IT동아	05.08	507	0
3773	[뉴스줌인] 삼성전자에서 선보인 1억 8000만원짜리 TV, 뭐가 다르기에?	IT동아	05.08	754	0
3772	[리뷰] ‘노트북 멀티태스킹 고민 끝’ 에이수스 젠북 듀오	IT동아	05.08	536	3
3771	에코백스 “고객 수요 대응 위해 다양한 라인업 제공할 것”	IT동아	05.07	211	0