디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

‘NPU가 핵심’ 인텔ㆍAMD, 온-디바이스 AI 경쟁 본격화

IT동아갤로그로 이동합니다. 2024.03.27 01:41:12
조회 123 추천 0 댓글 0


PC 장비 시장도 인공지능에 대응하고 있다. / 출처=셔터스톡



[IT동아 강형석 기자] 곳곳에서 인공지능이라는 단어를 쉽게 접할 수 있다. 간단한 명령만으로 원하는 정보를 알려주거나 창작물을 만들어낸다. 시장 반응도 뜨겁다. 그래픽 처리장치(GPU)의 인기와 함께 반도체 기업의 실적은 꾸준히 상승 중이며 인공지능이라는 단어가 없으면 주목받지 못할 정도가 되었다.

PC 시장도 예외는 아니다. 인공지능을 배우거나 학습 등을 위해 고성능 중앙처리장치와 그래픽카드 수요가 꿈틀거리고 있다. IT 시장분석 및 컨설팅 기관인 한국 IDC의 자료에 따르면 국내 PC 출하량은 약 480만 대로 지난해 대비 17% 감소했으나 온디바이스 인공지능(AI)에 대한 관심이 PC 시장에 긍정적 모멘텀으로 작용할 것이라 전망했다. 그만큼 인공지능에 대한 기대감이 크다는 것을 말해준다.

다만 인공지능 장비는 그래픽 처리장치에 집중되어 있다. 인텔, AMD, 엔비디아 모두 그래픽 처리장치를 내놓았지만 비교적 빨리 인공지능 분야에 뛰어든 엔비디아에 시선이 몰리는 상황. 이에 중앙처리장치를 개발하는 인텔과 AMD는 변화하는 시대에 맞춰 새로운 카드를 들고 경쟁을 펼치고 있다.

‘신경처리장치(NPU)’가 뭐길래?


지금까지 PC 시스템의 축을 이끄는 처리장치를 꼽는다면 중앙처리장치(CPU), 그래픽 처리장치(GPU)가 있다. 기본적으로 데이터 처리 명령어가 입력되면 메모리를 거쳐 각 처리장치의 코어가 이를 연산한 후 결과를 출력하는 형태다. 과거에는 이 명령어를 순차적으로 처리했다면 현재는 부하에 따라 유연하게 대처해 효율성을 높인 점이 다르다.


그래픽 처리장치는 각 코어들이 부동소수점을 병렬 연산하면서 학습과 추론을 가속화하는데 초점이 맞춰져 있다. 위 이미지는 엔비디아 H100의 구조. / 출처=엔비디아



반면 신경처리장치(NPU)는 처음부터 많은 데이터를 빠르게 처리하는데 특화된 설계를 갖는다. 사전에 정의된 데이터를 학습해 결과를 내는 머신러닝(Machine Learning)이 아닌 대규모 데이터에서 스스로 학습하는 딥러닝(Deep Learning)에 더 유리한 형태다. 신경처리장치는 인공지능 처리에 필요한 제어와 산술 논리 구성 요소를 바탕으로 한다. 데이터를 병렬 처리하는 것은 그래픽 처리장치와 같지만, 학습과 심화 학습 알고리즘을 실행 시 더 빠른 결과 도출이 가능하다.

PC 시스템은 이런 부분을 중앙처리장치, 그래픽 처리장치가 도맡아 왔다. 칩 안에 수천, 수만 개에 달하는 명령어 처리장치(코어)로 다수의 데이터를 한 번에 처리하는 그래픽 처리장치가 주목받기 시작한 것도 이 때문이다. 하지만 두 장치는 큰 공간을 차지할 뿐만 아니라, 많은 전력을 쓴다. 일반적인 고성능 중앙처리장치가 100~200W 사이, 고성능 그래픽카드 또한 300~400W 가량을 소모한다.

반면 신경처리장치를 도입하면 이 부분을 어느 정도 극복할 수 있다. 대규모 연산에 특화된 설계를 바탕으로 불필요한 요소를 없애는 게 가능하다. 칩 안에 자리해 내부의 입출력 자원을 사용하는 형태로 구성되기에 전력소모량이 적다. 아직은 그래픽 처리장치 활용도가 높지만, 신경처리장치는 모바일용 중앙처리장치를 중심으로 빠르게 도입되면서 자리를 잡아가는 중이다.

인텔ㆍAMD, 중앙처리장치에 신경처리장치 도입 ‘온-디바이스 AI 경쟁’


인공지능 연산을 그래픽 처리장치에 의존하던 PC 시장에 변화가 생겼다. 인텔, AMD가 중앙처리장치 내에 신경처리장치를 집적하면서다. 인텔은 새로 개발한 모바일 PC용 중앙처리장치 ‘코어 울트라(Core Ultra)’부터, AMD도 ‘라이젠(Ryzen) 7040’ 계열을 시작으로 적용 범위를 확대하고 있다. 바야흐로 PC판 ‘온-디바이스 인공지능(On-Device AI)’ 경쟁이 본격화된 모양새다.

기기 자체에 인공지능 처리가 가능한 장치를 온-디바이스 인공지능라 부른다. 우리가 사용하는 인공지능 서비스 대부분은 온라인 연결이 이뤄져야 한다. 대규모 인공지능 데이터 학습이 이뤄진 데이터센터를 통해 결과를 받기 때문이다. 이와 달리 온-디바이스 인공지능은 기기 내에서 데이터를 처리하기 때문에 결과 전송에 따른 지연 시간이 줄고 다양한 방법으로 활용하는 것도 가능하다.


인텔은 코어 울트라를 시작으로 신경처리장치를 도입해 인공지능 시대에 대비했다. / 출처=인텔



무엇보다 PC 시스템 자체를 유연하게 구성할 수 있다는 장점이 있다. 중앙처리장치만으로 인공지능 처리가 가능하니 그래픽 처리장치는 선택사항이 된다. 전력과 부피를 동시에 줄이거나 비용에 대응하는 등 PC 선택의 폭이 커진다. 현재 신경처리장치가 적용된 프로세서는 주로 노트북 PC에 쓰이는 모바일 칩에 집중되어 있지만, 향후 시장 상황에 따라 데스크톱용 칩으로 확대될 가능성이 높다.

인텔 코어 울트라에 적용된 신경처리장치는 약 34TOPS(초당 조 연산) 수준의 성능을 제공하는 것으로 알려져 있다. 여기에 어도비, 줌, 돌비, 시스코 등 100여 기업과 협업해 다양한 소프트웨어에서 신경처리장치가 개입할 수 있도록 준비하고 있다. 윈도우 11 운영체제에 도입된 다이렉트ML을 빠르게 적용하기도 했다.


AMD도 라이젠 7040 제품군에 신경처리장치를 적용했다. / 출처-AMD



AMD는 약 38TOPS 정도의 성능으로 상대적 우위를 점하고 있다. 그러나 경험도 중요하기에 어도비를 포함해 메타, 블랙매직 디자인 등과 협업하는 부분을 강조하고 있다. 다만 신경처리장치가 탑재됐어도 윈도우 11 운영체제 내에서는 아직 정보를 확인할 수 없는 상황이다. AMD는 빠른 시일 내에 윈도우 11 운영체제에서도 장치를 쓸 수 있도록 지원할 예정이다. 또한 라이젠 7040 제품군의 차기 칩을 빠르게 선보여 경쟁 우위를 가져간다는 계획이다.

온-디바이스 인공지능 분야를 놓고 인텔과 AMD가 본격적인 힘겨루기에 돌입했지만, 시장은 아직 그래픽 처리장치를 더 선호하는 분위기여서 흐름을 돌리기에는 준비가 더 필요해 보인다. 온-디바이스 인공지능은 특히 개인 경험이 중요하다. 온라인 서비스가 아니라 기기 내 설치된 소프트웨어 환경 내에서 인공지능관련 기능이 구현되어야 중요성을 인지한다. 따라서 두 제조사의 소프트웨어 지원 규모가 승패를 좌우할 것으로 예상된다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 레노버, 96 코어 품은 워크스테이션, ‘씽크스테이션 P8’ 출시▶ 인공지능 PC의 완성은 그래픽카드? ‘전원공급장치’도 신중히 골라야▶ NHN클라우드, 2.0 전략으로 'AI 주권' 발판 마련한다



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 주위 눈치 안 보고(어쩌면 눈치 없이) MZ식 '직설 화법' 날릴 것 같은 스타는? 운영자 24/04/29 - -
3708 아웃도어 플랫폼 '데얼스', 2024 스포츠산업 창업 도약 기업 선정 IT동아갤로그로 이동합니다. 04.19 170 0
3707 클랫폼, 스마트팜 활용 도농 융복합단지 조성 추진 IT동아갤로그로 이동합니다. 04.19 153 0
3706 박스테이션, 주차 요금 핸즈프리결제 솔루션 상용화에 박차 IT동아갤로그로 이동합니다. 04.19 146 0
3705 제이쓰리씨, 해양 시뮬레이터 개발로 ‘대한민국 우수기업’ R&D 대상 수상 IT동아갤로그로 이동합니다. 04.19 151 0
3704 단독질주 엔비디아, 추격나선 인텔·AMD... '변수는 1nm 파운드리' IT동아갤로그로 이동합니다. 04.19 468 0
3703 [농업이 IT(잇)다] 팜비오스 “LED 조명·인도어팜 솔루션으로 기후·인력난 문제 해결” IT동아갤로그로 이동합니다. 04.19 135 0
3702 AI가 이끄는 설계·엔지니어링 혁신…’카티아 유저데이’ 현장 IT동아갤로그로 이동합니다. 04.18 163 0
3701 블록체인 산업 트렌드·발전 방향 확인하는 자리, 2024 BCMC IT동아갤로그로 이동합니다. 04.18 151 0
3700 핀카(FINCA), 3D 초개인화 서비스 '마리테'로 침구 시장 공략 IT동아갤로그로 이동합니다. 04.18 784 1
3699 차트분석 도구 ‘트레이딩뷰’ 파고들기 - 7 IT동아갤로그로 이동합니다. 04.17 180 0
3698 [뉴스줌인] LPDDR5X 시장, 삼성전자 신제품 개발로 경쟁 ‘후끈’ IT동아갤로그로 이동합니다. 04.17 243 0
3697 모니터암·전동식 책상·의자가 사무실 '필수'로 떠오르는 이유는? [1] IT동아갤로그로 이동합니다. 04.17 1657 1
3696 [스타트업-ing] 씨지인사이드 “법률·규제 인공지능 도우미 전파” IT동아갤로그로 이동합니다. 04.17 183 0
3695 '성능ㆍ휴대성' 겸비한 고성능 노트북 PC들이 온다 [1] IT동아갤로그로 이동합니다. 04.17 754 1
3694 [자동차와 法] 공공기관의 친환경차 의무구매제도 현황에 대하여 [1] IT동아갤로그로 이동합니다. 04.16 436 0
3693 티맵에 숨어 있는 유용한 기능 활용해 보니 IT동아갤로그로 이동합니다. 04.16 147 0
3692 로보락 “품질·편의성으로 고객 중심 가치 구현할 것” [3] IT동아갤로그로 이동합니다. 04.16 965 0
3691 [뉴스줌인] RDIMM 메모리 출시한 커세어, 일반 메모리와의 차이점은? IT동아갤로그로 이동합니다. 04.15 156 0
3690 인공지능 활용한 게임 내 그래픽 가속, 현재와 미래 IT동아갤로그로 이동합니다. 04.15 161 0
3689 [월간자동차] 24년 3월, 신차·중고차 판매 모두 상승…기아 쏘렌토 1위 고수 IT동아갤로그로 이동합니다. 04.15 936 0
3688 ‘카드부터 신분증까지’ 갤럭시 스마트폰 쓴다면 지갑 말고 이렇게![이럴땐 이렇게!] [4] IT동아갤로그로 이동합니다. 04.15 1310 3
3687 “전통주 번개배송은 새로운 경험의 시작이 될 것” 박준형 술담화 CSO IT동아갤로그로 이동합니다. 04.12 230 0
3686 [생성 AI 길라잡이] 애플이 만들 인공지능 서비스, 어떤 모습일까? IT동아갤로그로 이동합니다. 04.12 257 0
3685 2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나? [3] IT동아갤로그로 이동합니다. 04.12 7251 4
3684 ‘낭만국시’ 우승완 공동대표 “춘천 원도심 상권르네상스로 스마트 비즈니스 발돋움” IT동아갤로그로 이동합니다. 04.12 193 0
3683 [인터뷰] 유니버설 로봇 “글로벌 1위 협동로봇 앞세워 韓 시장 공략” IT동아갤로그로 이동합니다. 04.12 938 1
3682 영상 촬영의 세계를 넓혀주는 파트너, DJI RS 4 IT동아갤로그로 이동합니다. 04.12 187 0
3681 [KESIA 시드팁스] 하와이컴퍼니 “수포자 문제 해결할 교육 솔루션, 여기 있습니다” IT동아갤로그로 이동합니다. 04.12 180 0
3680 이더리움 상승세 'ETF 승인 기대감·네트워크 업그레이드' 영향 IT동아갤로그로 이동합니다. 04.12 1161 0
3679 [농업이 IT(잇)다] 투마루, "푸드 업사이클링으로 김천 호두 진심 전할 것" IT동아갤로그로 이동합니다. 04.12 176 0
3678 [시승기] 차체 키우고 첨단 기술로 무장...‘BMW 뉴 X2’ [6] IT동아갤로그로 이동합니다. 04.11 2302 3
3677 [KESIA 시드팁스] 유기성 폐기물 처리 혁신으로 친환경 세상 이룰 것, 이성범 예쓰바이오 대표 IT동아갤로그로 이동합니다. 04.11 172 0
3676 퀄컴, 임베디드 월드 2024에서 새 IoT 칩 및 산업용 플랫폼 공개 [2] IT동아갤로그로 이동합니다. 04.11 1024 1
3675 AMD, 성능 10배 높인 '2세대 버설 AI 엣지·프라임' 임베디드 칩 출시 IT동아갤로그로 이동합니다. 04.11 447 0
3674 필수 가전 등극한 건조기, ‘타워’ 다음은 ‘콤보’? [10] IT동아갤로그로 이동합니다. 04.10 6026 0
3673 차트분석 도구 ‘트레이딩뷰’ 파고들기 - 6 IT동아갤로그로 이동합니다. 04.09 198 0
3672 전기차도 에너지효율 표시…‘5단계 연비등급제’ 전면 시행 IT동아갤로그로 이동합니다. 04.09 179 0
3671 [EV 시대] 미래 모빌리티 핵심 '전동화와 SDV' [1] IT동아갤로그로 이동합니다. 04.09 6352 1
3670 가상자산 거래소 2023년 부진한 실적, 올해는 반등 노린다 IT동아갤로그로 이동합니다. 04.09 178 0
3669 [IT신상공개] 지연시간 줄인 연주용 무선 헤드폰, 야마하 YH-WL500 IT동아갤로그로 이동합니다. 04.09 421 2
3668 [리뷰] 좋은 거 다 담았는데 이 두께가 나와? 에이수스 ROG 제피러스 G16(2024) IT동아갤로그로 이동합니다. 04.08 206 0
3667 [뉴스줌인] 삼성 올인원 Pro, 일체형 PC 한계 넘을까? IT동아갤로그로 이동합니다. 04.08 304 0
3666 윤곽 드러난 PCIe 7.0··· '최대 512GB 대역폭으로 AI 시장 보조' IT동아갤로그로 이동합니다. 04.08 198 0
3665 [신차공개] BMW ‘뉴 X2’ 출시·로터스 ‘에메야’ 제원 공개 IT동아갤로그로 이동합니다. 04.08 189 0
3664 수많은 일정 간편하게 공유하려면 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 04.08 657 1
3663 [주간투자동향] 티오더, 300억 원대 시리즈B 투자 유치 IT동아갤로그로 이동합니다. 04.08 153 0
3662 [생성 AI 길라잡이] AI로 만든 콘텐츠, 저작권 인정될까? [1] IT동아갤로그로 이동합니다. 04.05 288 0
3661 윤희현 엠디글로벌넷 대표 “스타트업 창업에서 해외진출까지 함께” IT동아갤로그로 이동합니다. 04.05 193 0
3660 [농업이 IT(잇)다] 친환경 농업용 냉·난방기 개발 기업 ‘아이토브에너지’ IT동아갤로그로 이동합니다. 04.05 202 1
3659 [KESIA 시드팁스] 혈관독성약물 국소전달 플랫폼 ‘바스블록’으로 항암치료 혁신 꿈꾼다, 박정호 엔도큐라 대표 IT동아갤로그로 이동합니다. 04.05 186 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2