CPU 도전하는 엔비디아, GPU 대체나선 인텔··· 격랑에 빠진 AI 반도체 시장

IT동아 · 2023.11.01 18:14:43

[IT동아 남시현 기자] 컴퓨터의 산술 연산은 정수 연산(Integer)과 부동소수점(Floating Point) 연산으로 나뉜다. 정수 연산은 단순한 사칙연산 등으로, 컴퓨터 프로그램을 구동하는데 기본적으로 필요하다. 정수 연산은 중앙 처리 장치(CPU)가 담당하는데, 이는 CPU가 보다 논리적이고 복잡하게 얽힌 작업을 수행하는데 최적화된 구조로 돼있어서다. 반대로 부동소수점 연산은 그래픽 처리 장치(GPU)가 맡는다. GPU는 다수의 데이터를 병렬로 처리하는 구조여서 대규모 데이터 및 복잡한 계산을 효율적으로 처리한다. 그래서 인공지능 개발 작업에 CPU가 아닌 GPU가 사용되는 것이다.

이러한 공식에 따라 현재 업계는 크게 두 갈래로 나뉘어있다. CPU는 인텔과 AMD가 양분하고 있고, GPU는 엔비디아가 절대다수를 차지하며 AMD가 일부 지분을 갖고 있다. 기업 규모나 시장 측면으로 볼 때 충분히 인텔과 AMD, 엔비디아가 삼자 경쟁을 할 법 하지만, CPU와 GPU의 구조적 차이와 서로 다른 활용도 때문에 직접 경쟁이 이뤄지지는 않아 왔다. 하지만 엔비디아가 올해 6월 Arm 기반 CPU를 탑재한 ‘그레이스호퍼’ 슈퍼칩으로 인텔을 대체할 가능성을 확인하고, Arm 기반 PC용 CPU가 수면위로 떠오르며 새로운 국면을 맞고 있다.

엔비디아, CPU 자체 제작으로 시장 공략 준비

GPU는 강력한 부동소수점 연산 성능을 통해 금융, 과학, 설계, 그래픽 처리 등의 분야에도 쓰이고 있다 / 출처=엔비디아

올해 IT 시장의 화두는 인공지능이다. 소프트웨어 업계에서는 생성형 AI와 대형언어모델을 비롯한 기술이 대두되고 있고, 하드웨어 업계에서는 이를 보조할 AI 가속기, 처리 장치가 주목받고 있다. 이 시기가 올 것을 예상하고 준비한 대표적인 기업이 엔비디아다. 엔비디아는 07년부터 서버용 부동소수점 처리 카드인 엔비디아 테슬라 라인업을 구축해 왔고, 꾸준히 슈퍼컴퓨터와 데이터센터 등에 납품해왔다. 그러다 GPT를 비롯한 생성형 AI발 그래픽 카드 수요가 폭발하며 극적인 호황을 누리는 상황이다.

하지만 서버용 시스템을 납품할 때에도 CPU가 포함돼야하고, 인텔과 AMD가 반사 이익을 얻는 게 보통이다. 그래서 엔비디아는 지난 6월 컴퓨텍스에서 ‘그레이스호퍼’ 슈퍼칩을 발표하면서 사실상 CPU까지 대체하겠다는 계획을 공개한다. 그레이스호퍼는 Arm의 그레이스 CPU와 엔비디아의 호퍼 GPU를 합친 완제품이어서 인텔과 AMD의 개입을 줄이게 된다.

엔비디아 그레이스 호퍼 슈퍼칩 / 출처=엔비디아

그리고 지난 10월 23일에는 엔비디아가 인텔 CPU를 대체하기 위한 Arm 기반 PC 칩 제작에 나섰다는 보도가 나왔다. 로이터에 따르면, 엔비디아는 Arm 기술을 바탕으로 윈도우 PC 등에 사용할 수 있는 CPU 설계를 시작했다. 최근 엔비디아 이외에도 퀄컴이나 마이크로소프트, AMD까지 Arm 기반의 윈도우 PC용 프로세서 제작에 나선 것으로 알려졌는데, 엔비디아가 PC 프로세서까지 만들면 인텔과 엔비디아가 CPU로 경쟁하는 새로운 구도가 성립된다.

시장조사기관 카운터포인트리서치는 올해 Arm 기반 노트북 점유율이 15%를 기록할 수 있으며, 2027년에는 최대 25%까지 오를 수 있다고 밝혔다. 대다수는 애플 실리콘 기반의 판매량이지만, 엔비디아나 다른 기업들도 Arm 기반 제품을 출하하면 점유율은 더 올라갈 수 있다. 장기적으로는 서버용 프로세서까지도 엔비디아가 노려볼 상황이 된다.

인텔, 서버용 GPU를 CPU로 대체하는 기술로 맞불

한편 엔비디아와 거리를 두고 있던 인텔도 엔비디아의 영역에 도전장을 내밀었다. 지난 31일, 인텔이 네이버와 함께 GPU 기반 인공지능용 모델 서버를 2세대 인텔 제온 스케일러블 프로세서 서버로 전환하는 데 성공했다. 대체된 서비스는 네이버 지도의 ‘네이버 플레이스’ 관련 정보 중 영수증, 음식 사진, 공간 사진 등의 이미지를 인식 판별 및 매칭, 상점 정보, 사용후기 판별 및 검색결과 노출에 대해 학습하고 추론하는 인공지능이다.

네이버 지도에서 검색하면 나오는 메뉴가 네이버 플레이스다 / 출처=네이버

전환 배경은 네이버 G플레이스 AI 개발팀이 최근 GPU 기반 서버의 비용 증가 및 가용성 제한을 겪었고, 이를 해소하기 위해 GPU 기반 서버에서 수행하던 추론 과정을 CPU 기반 서버로 전환할 계획을 세운다. 전 세계적으로 인공지능용 GPU 수요가 폭증하면서 전반적인 가격대가 크게 오르고, 대기까지 걸어야 하는 상황이라서다.

보통 GPU 서버를 CPU로 단순 전환할 경우 성능이 크게 낮아지는데, 네이버 G플레이스 개발팀은 신경망 추론에 최적화된 인텔 파이토치 확장팩을 도입해 병목 현상을 줄이고, CPU 코어 활용을 늘려 초당 처리 개수를 7배까지 끌어올렸다. 또 지연시간을 줄이기 위해 모델을 개선해 음식 사진 분류가 33배, 이미지 점수가 30배, 영수증 분류 성능이 5.5배 향상됐다. 이후 약 한 달간 사전 검증을 거친 뒤 GPU 기반 서버 사용을 줄여 연간 약 4억 원 이상의 운용 비용을 절감하게 됐다.

네이버는 2세대 인텔 제온 스케일러블 프로세서로 서버를 전환했고, 현재 4세대 프로세서를 활용한 테스트를 진행하고 있다 / 출처=인텔

이번 사례는 CPU 기반 서버로도 엔비디아의 GPU 서버를 대체할 수 있음을 증명했다는 데 의미가 있고, 또 GPU 기반 서버 마련 및 운용에 어려움을 겪는 기업에 대체제가 될 수 있음을 보여줬다. 게다가 인텔은 CPU 이외에도 인공지능 전용 가속기인 하바나 가우디 2, 데이터센터 GPU 맥스 등 엔비디아의 GPU와 직접 경쟁이 가능한 품목들도 갖추고 있어서 장기적으로 엔비디아의 최대 경쟁사로 떠오를 가능성도 있다.

경계 무너지는 인공지능 하드웨어, 성능과 확장성이 관건

엔비디아는 인텔이 수십 년 간 갖고 있던 CPU 시장에 진입할 구상을 짜기 시작했고, 인텔도 엔비디아의 독주 체제를 무너뜨릴 해법을 계속 준비하고 있다. AMD 역시 CPU와 GPU 모두 출시하며 양쪽 모두를 견제하는 상황이다. 이대로라면 Arm 기반 PC가 시장에 자리잡는 2025년쯤이면 인텔과 엔비디아, AMD가 삼자 경쟁을 벌이는 상황이 될 가능성이 크다. 서버 시장 규모 자체가 크긴 하지만, 점유율 측면에서는 제로섬 게임이니 경쟁은 치열할 것이다.

퀄컴은 지난달 개최된 스냅드래곤 서밋 2023에서 Arm 기반으로 자체 설계한 퀄컴 오라이온 CPU를 공개했다 / 출처=퀄컴 테크날러지

그리고 어떤 기술이 됐든 성능보다도 호환성이 핵심이 될 전망이다. 퀄컴이 지난 2018년 출시한 스냅드래곤 컴퓨트 플랫폼의 경우, 낮은 발열과 적절한 효율로 기대를 모았지만, x86 전용 웹사이트나 애플리케이션을 지원하지 않는 등의 문제로 큰 주목을 받지 못했다. 다만 퀄컴은 21년에 미국 반도체 스타트업 누비아를 인수하는 등 컴퓨터 시장 진입을 위해 노력해온 터라 새로 출시한 퀄컴 오라이온 CPU는 과거와 다른 결과를 보여줄 것이다. 애플 실리콘으로 Arm 기반 PC 시장이 기지개를 펴고, 퀄컴을 비롯한 기업들이 힘을 모으기 시작하는 게 지금의 상황이다.

엔비디아도 이 흐름을 타는 것인데, 앞서 퀄컴의 사례처럼 확장성 문제가 발목이 잡힌다면 인텔을 잡기는커녕 자충수가 될 수 있다. 반대로 인텔 역시 GPU를 CPU로 대체하는 과정에서 호환성이 떨어진다면 단순 사례로 그치고 말 것이다. 얼마나 잘 지원하는가, 그것이 향후 시장의 향방을 결정짓는 요소다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
	CPU 도전하는 엔비디아, GPU 대체나선 인텔··· 격랑에 빠진 AI 반도체 시장 [7]	IT동아	23.11.01	460	1
3104	[KIDP 울산] 한컴유비마이크로 “산업 현장 안전을 위해 노력하고 있습니다”	IT동아	23.11.01	132	0
3103	[스케일업] 아일로 [3] “브랜딩과 마케팅, 결국 우리를 알린다는 것"	IT동아	23.11.01	163	0
3102	학생들이 교실에서 직접 만든 게임…교육의 도구로 활용된다	IT동아	23.11.01	807	2
3101	잇따른 거래소 수수료 무료 정책, ‘수익보다 이용자 확보’	IT동아	23.10.31	133	0
3100	[스케일업] 팀워크 [2] 웍스메이트 “건설 디지털화, 요구 만족·불편 해소부터”	IT동아	23.10.31	124	0
3099	애플, M3 기반 맥북 프로·아이맥 공개··· '3nm로 격차 굳힐까' [1]	IT동아	23.10.31	1050	3
3098	디지털 기술로 지역사회 문제 해결 ‘인천 학생SW해커톤 챌린지’	IT동아	23.10.31	127	0
3097	[IT신상공개] 레트로 감성에 편의성 추가 ‘턴테이블’	IT동아	23.10.30	112	0
3096	산업혁신기반구축사업, "3D프린팅과 의료 기술 융합으로 기업들의 꿈 지원한다”	IT동아	23.10.30	126	0
3095	[IT애정남] 스마트폰 사진이 너무 밝게 나오면 어떻게 해야 하나요?	IT동아	23.10.30	711	1
3094	[이제는 전북 콘텐츠] 콘텐츠 스타트업에게 필요한 것을 지원합니다	IT동아	23.10.30	104	0
3093	[주간투자동향] 모레, 2200만 달러 규모의 시리즈B 투자 유치	IT동아	23.10.30	100	0
3092	[KIDP 울산] 트레비어 “수제맥주 양조장을 통해 문화를 전달하고 싶습니다”	IT동아	23.10.27	109	0
3091	[리뷰] 과감함보다는 내부적 혁신에 주력, 아이폰 15 프로 맥스	IT동아	23.10.27	1209	6
3090	[리뷰] 주변 상황 파악이 필요한 상황에 제격, 무선 이어폰 샥즈 오픈핏	IT동아	23.10.27	152	0
3089	[이제는 전북 콘텐츠] 콘텐츠 창작자를 위한 ‘전문 교육’을 제공합니다	IT동아	23.10.27	107	0
3088	동유럽 의료 공급망 변화, 수출 기회 확대로 이어지나[K비즈니스 가이드]	IT동아	23.10.27	94	0
3087	[스타트업-ing] 알밤 “재미있는 소근육 운동 게임 ‘잼재미AR’을 만듭니다”	IT동아	23.10.27	93	0
3086	지능형 교통체계(ITS)...‘클라우드’ 접목으로 진화한다 [2]	IT동아	23.10.27	1186	0
3085	[스케일업] 에쓰오일이 단·차열 페인트 기업 이유씨엔씨에 투자한 사연	IT동아	23.10.26	91	0
3084	[IT신상공개] 스마트폰 진화 이끌 ‘퀄컴 스냅드래곤 8 3세대’	IT동아	23.10.25	279	2
3083	[서울형 R&D] 에니아이 황건필 대표, “로봇이 햄버거 패티를 굽습니다”	IT동아	23.10.25	97	0
3082	[IT 강의실] 비트코인 시세 상승 원동력 ‘비트코인 ETF’	IT동아	23.10.25	207	3
3081	[KIDP 울산] 볼로랜드 “드론 스테이션으로 UAM 시대 개척”	IT동아	23.10.25	96	0
3080	시그마케이, "AI·실감 시각화 기술로 새 시장 열 것" [스타트업in과기대]	IT동아	23.10.25	82	0
3079	가상자산법 시행령·2단계 법안을 위한 제언 '불명확성 해소 필요'	IT동아	23.10.24	91	0
3078	[KTVF] 솔루투스 강승우 대표 “보험상품 약관을 일상언어로”	IT동아	23.10.24	564	1
3077	[스타트업-ing] 지티엘 “항공기, UAM 첨단 부품 맡겨주세요”	IT동아	23.10.24	81	0
3076	[르포] 현직 교사들이 직접 선보인 ‘미래 교육 청사진’…‘링크 페스타’ 현장 [2]	IT동아	23.10.24	452	0
3075	[뉴스줌인] ‘그래핀’으로 만들었다는 써멀 패드, 뭐가 다를까?	IT동아	23.10.23	83	0
3074	[과기대 S-Run] 제조·디자인 컨설팅으로 진입 장벽 부수는 '소싱 디렉팅' [1]	IT동아	23.10.23	838	0
3073	[리뷰] 한층 다듬어진 폴더블폰 대표주자, 삼성 갤럭시 Z 폴드5	IT동아	23.10.20	218	1
3072	벤처기업 창업자의 경영권 보호하는 ‘복수의결권’	IT동아	23.10.20	92	0
3071	[리뷰] 의외로 편한 케이스 디스플레이, JBL 투어 프로 2 [4]	IT동아	23.10.20	1349	0
3070	[KIDP 울산] 우시산 “소셜 업사이클링 모범 사례 전파”	IT동아	23.10.20	83	0
3069	이노모티브 김종배 대표, “공유형 배터리로 공간에 이동을 연결합니다”	IT동아	23.10.20	85	0
3068	AMD, 젠4 기반 '스레드리퍼 프로 7000 WX' 출시, HEDT용 제품군도 부활 [1]	IT동아	23.10.20	816	0
3067	"국내 최초 NPU 활용 해커톤, 퓨리오사AI의 진심 보여드리겠다"	IT동아	23.10.19	344	0
3066	340조 규모 전 세계 디지털 의류 시장 조준한 '알타바그룹'	IT동아	23.10.18	74	0
3065	뉴타닉스, 하이브리드∙멀티 클라우드 비전 담은 ‘닷넥스트’ 서울 행사 개최	IT동아	23.10.18	68	0
3064	[IT애정남] 지연 현상 줄인 무선 게이밍 이어폰, 비결은 ‘2.4GHz 무선 연결’	IT동아	23.10.18	131	0
3063	[스타트업-ing] 밥상머리디자인 “어린이가 즐겁게 배우는 교육용 완구 만든다”	IT동아	23.10.18	66	0
3062	aCFD 연구센터, "연구·특허의 상업화, 창업보육센터가 큰 보탬" [스타트업in과기대]	IT동아	23.10.18	124	0
3061	[KIDP 울산] 옛간 “참기름에 이야기·브랜드 담아 세계 식품 기업으로” [1]	IT동아	23.10.18	676	0
3060	‘2023년 소상공인시장진흥공단 경기남부지역본부 수출 소공인 글로벌 품평회’ 성료	IT동아	23.10.17	74	0
3059	[IT강의실] 헷갈리기 쉬운 ‘멀티 페어링’과 ‘멀티 포인트 페어링’	IT동아	23.10.17	840	2
3058	‘완전 방전 후 충전?’ 휴대기기 배터리 오래 쓰려면[이럴땐 이렇게!] [3]	IT동아	23.10.16	1266	1
3057	[주간투자동향] 엘피스셀테라퓨틱스, 40억 원 규모 시리즈A 투자 유치	IT동아	23.10.16	101	0
3056	하나뿐인 ‘나만의 디자인’ 제품화 돕는 ‘소랑디자인’ [스타트업in과기대]	IT동아	23.10.13	173	0
뉴스	제니, 솔로로 코첼라 입성	디시트렌드	11.21

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

엔비디아, CPU 자체 제작으로 시장 공략 준비

인텔, 서버용 GPU를 CPU로 대체하는 기술로 맞불

경계 무너지는 인공지능 하드웨어, 성능과 확장성이 관건

▶ 고샤양 게임에서 필수된 DLSS, 엔비디아 왕좌 굳힌다▶ 애플, M3 기반 맥북 프로·아이맥 공개··· '3nm로 격차 굳힐까'▶ [리뷰] 과감함보다는 내부적 혁신에 주력, 아이폰 15 프로 맥스

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 고샤양 게임에서 필수된 DLSS, 엔비디아 왕좌 굳힌다 ▶ 애플, M3 기반 맥북 프로·아이맥 공개··· '3nm로 격차 굳힐까'▶ [리뷰] 과감함보다는 내부적 혁신에 주력, 아이폰 15 프로 맥스