‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다

IT동아 · 2024.06.04 22:04:55

[IT동아 강형석 기자] 인공지능 가속기 경쟁이 뜨거워진다. 엔비디아와 AMD가 신제품을 주기적으로 투입, 기업의 인공지능 학습ㆍ추론 수요에 대응하기로 입을 모았기 때문이다. 심지어 폭발적으로 증가하는 인공지능의 데이터 처리량을 처리하기 위한 네트워크 시스템 구축 경쟁도 함께 이뤄질 전망이다. 단순히 보면 인공지능 장비를 시작으로 넓게 보면 데이터센터 인프라 전반에 걸친 경쟁이 시작되는 것이다. 여기에 가우디 제품군으로 경쟁을 선언한 인텔까지 가세할 경우 경쟁은 과열될 가능성이 높다.

인공지능 시장을 놓고 반도체 기업이 치열한 경쟁을 펼칠 예정이다. / 출처=IT동아

2024년 6월 2일, 엔비디아는 컴퓨텍스 2024를 앞두고 기조연설을 진행했다. 젠슨 황 엔비디아 최고경영자(CEO)는 자사의 인공지능 시장 리더십을 강조했다. 동시에 인공지능 가속기와 관련한 청사진까지 제시했다. 현재 시장의 인기를 얻고 있는 호퍼(Hopper) 플랫폼의 뒤를 이어 블랙웰(Blackwell), 그리고 그 다음 플랫폼인 루빈(Rubin)까지 공개했다. 그 사이에는 ‘울트라(Ultra)’로 명명된 성능 개선 제품군을 투입한다는 계획도 언급했다.

AMD도 마찬가지다. 2024년 6월 3일에 진행한 기조연설에서 리사 수 AMD CEO는 현행 인스팅트(Instint) MI300X에 뒤를 이어 올해에는 MI325X를 선보이고 이어 MI350과 MI400 등을 차례로 선보인다. MI300 계열 제품의 성능을 꾸준히 높이고 2026년에는 새로운 반도체 설계 구조를 앞세워 세대교체를 이뤄가는 식이다.

인텔은 가우디 인공지능 가속기로 시장을 공략한다. / 출처=IT동아

인텔은 2024년 6월 4일에 진행한 2일차 기조연설에서 가우디 인공지능 가속기의 ‘경제성’을 강조하며 틈새시장을 공략할 예정이다. 경쟁사 대비 최대 1/3 수준의 가격 우위를 가짐에도 성능은 경쟁사 못지 않다는 입장이다. 특히 가우디 3 인공지능 가속기는 8192개의 연산 클러스터로 동급 규모의 엔비디아 H100 플랫폼 대비 학습 시간을 최대 40% 정도 단축 가능하다고 강조했다. 다만 이후의 구체적인 제품 청사진은 언급되지 않았다.

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엔비디아와 AMD의 인공지능 가속기 전략의 핵심은 ‘1년마다 신제품 투입’에 있다. 이는 과거 인텔이 썼던 전략과 유사하다. 인텔은 틱-톡(Tick-Tock)이라는 이름으로 한 번은 반도체 설계를, 그 다음에는 미세공정을 바꾸며 제품을 선보였다. 1년에 한 번 신제품을 출시할 수 있고 상황에 따라 제품 개발과 구성을 유연하게 가져갈 수 있었다.

엔비디아는 블랙웰 다음 루빈을 공개하며 시장의 주목을 받았다. 그 사이에 성능을 개선한 제품을 선보인다. 출시 주기는 1년이다. / 출처=IT동아

두 기업도 완전히 같다고 볼 수 없지만, 비슷한 면이 있다. 2년 주기로 새로운 반도체 설계를 적용하고 그 사이에 성능 개선을 이룬 제품을 투입하는 식이다. 엔비디아는 올해 호퍼에서 설계를 바꾼 블랙웰을 선보인다. 호퍼 출시 2년 만이다. 블랙웰 다음 출시될 루빈(Rubin)은 2년 뒤인 2026년에 출시될 예정이다. 그 사이에 울트라가 투입된다.

AMD는 조금 다르지만 2024년 이후 행보는 엔비디아와 같다. 먼저 2023년 하반기에 공개한 MI300X에서 1년 단위로 업그레이드를 단행한다. MI325X와 MI350이 그 예다. 올해 4분기 중 출시될 MI325X는 HBM3e 모듈을 채택해 데이터 처리량을 늘리고, 내년 하반기에 출시할 MI350에서는 성능을 더 끌어낸다는 계획이다. 마지막 2026년에는 새로운 반도체 설계를 적용한 신제품을 내놓는다. 이 때 AMD는 엔비디아 루빈 플랫폼과 경쟁하게 된다.

AMD도 1년 주기로 인공지능 가속기를 선보일 예정이다. / 출처=IT동아

두 기업은 1년 단위 제품 출시 흐름을 가지고 치열하게 눈치 싸움을 벌일 전망이지만, 당분간은 직접 경쟁하지 않을 가능성이 높다. 엔비디아는 높은 시장 점유율과 뛰어난 성능을 강점으로 내세우지만, 공급에 대한 우려가 남아 있다. AMD는 성능과 함께 제품 도입 공백 문제를 해결할 대안이라는 점을 내세우며 빈틈을 노리는 전략이 유리하다.

과거 2년 주기가 아닌 1년 주기로 제품을 선보이기로 결정한 데에는 수요가 그만큼 증가할 것이라는 것을 예상한 결과다. 실제 인공지능 서비스 기업은 데이터센터 확대를 진행 중이다. 마이크로소프트는 미국 위스콘신주, 구글은 영국에 데이터센터 구축을 위한 투자를 시작했다. 테슬라와 아마존 등도 인공지능 패권 경쟁을 위해 데이터센터 및 기존 장비 업그레이드 등에 심혈을 기울이고 있다. 이 과정에서 많은 물량의 장비가 필요하기 때문에 자연스레 1년 단위 출시가 이뤄져도 소화에 문제가 없다고 판단했을 것이다.

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

네트워크 시스템과 관련 인프라 구축에 대한 기업의 관심도 높아지는 중이다. 점점 방대해지는 인공지능 관련 데이터를 시스템간 주고받는 것은 물론이고 일반에게 제공하려면 결국 빠르고 유연한 네트워크 전송 구조를 갖춰야 한다. 이 부분에서 엔비디아와 AMD는 다른 길로 접근했다.

엔비디아의 데이터센터 네트워크 장비는 인공지능 가속기 솔루션들과 짝을 이루는 식이다. / 출처=IT동아

엔비디아는 스펙트럼(Spectrum)-X로 대응하고 있다. 블랙웰 플랫폼에는 스펙트럼-X800 이더넷 스위치와 퀀텀(Quantum)-X800 스위치가 호흡을 맞춘다. 스펙트럼-X는 인공지능 가속기가 처리한 데이터를 순차적으로 처리했던 기존 네트워크 전송 방식이 아닌 가속기간 상호 연동을 통해 속도를 높인다. 빠른 데이터 전송을 위해 블루필드(BlueField)-3 네트워크 가속기(SuperNIC)를 쓴다. 이 장치는 1초에 400Gb를 전송할 수 있다. 또한 스펙트럼-X800 스위치 장비는 64개 네트워크 단자를 제공하며 단자당 초당 800Gb 데이터 전송을 지원한다.

현재 사양을 끌어 올리면서 루빈 플랫폼이 적용되는 시점에는 데이터 전송량을 최대 2배 끌어 올리는 것이 엔비디아의 계획이다. 기기간 데이터 전송을 지원하는 NV링크(NVLink)도 6세대에 와서는 초당 3600GB를 전송하는 게 목표다.

AMD는 인공지능 처리용 네트워크 구성을 위해 여러 기업들과 손을 잡는 것을 선택했다. / 출처=IT동아

AMD도 인공지능 가속기에서 처리되는 데이터 전송 속도를 높이기 위해 초 가속 연결(Ultra Accelerator Link) 그룹을 결성했다. 인텔, 브로드컴, 마이크로소프트, 메타, 구글, HP 등 8개 기업이 참여해 데이터센터 내 인공지능 시스템을 위한 고속ㆍ저지연 통신 기술을 논의한다. 이미 울트라 이더넷 컨소시엄(UE Consortium)을 통해 초기 기술을 개발한 것으로 알려졌다. 기본적으로 인공지능 시스템 내에서 최대 1024개 가속 연결을 지원하고 각 장치간 메모리 접근과 저장이 가능하다. 이 기술은 2024년 3분기 이후부터 적용될 예정이다.

인공지능 가속기 시장을 둘러싼 하드웨어와 인프라 경쟁은 이미 시작됐다. 시장이 빠르게 흘러갈수록 관련 기업도 발 빠르게 움직일 것으로 예상된다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
이슈	[디시人터뷰] 라이징 스타로 인정받은 걸그룹, ‘리센느(RESCENE)’	운영자	24/11/08	-	-
설문	축의금 적게 내면 눈치 줄 것 같은 스타는?	운영자	24/11/11	-	-
4104	[투자를IT다] 2024년 7월 4주차 IT기업 주요 소식과 주가 흐름	IT동아	07.28	5150	2
4103	[농업이IT(잇)다] 넥스트그린, 기후변화 속 고부가가치 작물 재배 ‘식물공장 육묘 시스템’을 제안하다	IT동아	07.26	279	0
4102	[자동차 디자人] 영국 스포츠카 브랜드 ‘로터스’ 디자인 수장 ‘벤 페인’	IT동아	07.26	289	0
4101	[생성 AI 길라잡이] 내 손으로 만드는 광고 시안, 코바코 'AiSAC' [4]	IT동아	07.26	8611	2
4100	[리뷰] 성능은 갖추고 가격은 낮췄다, 낫싱 CMF 버즈 프로 2	IT동아	07.26	752	0
4099	[SBA x IT동아] 고차원 “아프기 전 관리하는 구강·수면 케어 전파”	IT동아	07.26	936	0
4098	마이바흐 첫 전기차 ‘EQS SUV’ 출시…주행가능 거리 612km	IT동아	07.25	291	0
4097	[스타트업 첫걸음] 멘토링, 멘티가 되는 것도 준비가 필요하다	IT동아	07.25	284	0
4096	[스타트업-ing] 이영은 이니티움 대표, “초등학생도 음악을 작곡할 수 있습니다” [7]	IT동아	07.25	5993	1
4095	리클 “의류 재활용 비즈니스를 위한 업무혁신, 그랜터 AI로 가속화”	IT동아	07.25	298	0
4094	[SBA X IT동아] 아임토리 “로봇 팔 도입한 제조업 현장, AI 공정 최적화로 효율 극대화”	IT동아	07.25	1089	0
4093	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 21	IT동아	07.25	250	0
4092	람보르기니 ‘분당 전시장’ 오픈…최초 하이브리드 SUV ‘우루스 SE’ 공개	IT동아	07.24	269	0
4091	방문 어려운 해외∙오지 분석, “인공위성으로 한 눈에” - 스텔라비전	IT동아	07.24	234	0
4090	DAXA, 자율규제안 제·개정 “가상자산법 안착 위해 노력할 것”	IT동아	07.24	931	0
4089	릿툰 “웹툰도 이젠 숏폼이 대세, 인스타그램 아닌 전문 플랫폼 필요” [동국대학교 캠퍼스타운]	IT동아	07.24	243	0
4088	‘케이블 노출 없이 깔끔하게’ 에이수스, BTF 설계로 PC 시장 변화 주도 나선다	IT동아	07.24	254	0
4087	‘클라우드에서 AI PC까지’ 인공지능 시대를 위한 AMD의 전략	IT동아	07.23	517	1
4086	[신차공개] 르노 ‘그랑 콜레오스’ 가격 공개·KGM ‘액티언’ 흥행 예고	IT동아	07.23	328	0
4085	클라우드 오류가 불러온 '사이버 정전', 발생 원인과 교훈은?	IT동아	07.23	520	1
4084	[자동차와 法] 판례로 보는 휴가철 교통사고	IT동아	07.23	470	0
4083	[혁신스타트업 in 홍릉] 틸더 “의료데이터 활용, 소비자에 실질적 혜택 제공하는 게 관건”	IT동아	07.23	278	0
4082	운약근답올핏 “혼자 할 수 있는 재활 운동 기구 ‘라이클’을 개발합니다” [동국대학교 캠퍼스타운]	IT동아	07.23	235	0
4081	[스케일업] 두디스 [2] 어센트코리아 "경영자는 모든 것을 숫자로 판단해야"	IT동아	07.23	5058	0
4080	[정구태의 디지털자산 리터러시] 건전한 디지털자산 시장을 위한 민간 중심 감시시스템 구현	IT동아	07.22	211	0
4079	텐스토렌트, 웜홀 AI 가속기 판매 돌입··· '증명의 시기 왔다' [10]	IT동아	07.22	2894	1
4078	‘휴대성ㆍ디자인ㆍ다중작업까지’ 다양한 선택지 갖춘 인텔 AI PC [1]	IT동아	07.22	421	0
4077	가상자산 거래소, 예치금 이용료율 발표 ‘최대 2.5%까지 이자 제공’	IT동아	07.22	211	0
4076	[뉴스줌인] 커세어의 새로운 SFX 폼팩터 파워서플라이, 뭐가 다를까? [6]	IT동아	07.22	1204	1
4075	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 20	IT동아	07.21	227	0
4074	AMD 개발자들이 말하는 '라이젠 9000ㆍ라이젠 AI 300' 이야기 [48]	IT동아	07.20	9598	11
4073	공항, 병원, 은행 모두 멈췄다… 전 세계적 전산 장애 발생 [1]	IT동아	07.19	424	0
4072	[SBA X IT동아] 리피드 “폐식용유 기반 바이오 항공유 산업을 위한 토털 솔루션 제공” [1]	IT동아	07.19	371	0
4071	[생성 AI 길라잡이] 법률가를 위한 AI 어시스턴트 등장	IT동아	07.19	220	0
4070	[농업이 IT(잇)다] 국내 최초 식물성 선인장 가죽 만든 ‘그린컨티뉴’ [3]	IT동아	07.19	966	2
4069	[리뷰] 모던함과 개성을 다 갖춘 스마트 워치, 낫싱 CMF 워치 프로 2 [9]	IT동아	07.19	1493	0
4068	[스타트업-ing] 원하는 포장재 100장부터 제작, 칼렛스토어 ‘소량 인쇄 서비스’	IT동아	07.19	198	0
4067	가상자산 첫 규제 ‘가상자산이용자보호법’ 시행 [6]	IT동아	07.19	2661	2
4066	‘새로운 반도체 설계와 효율 개선’ AMD 라이젠 9000 프로세서의 핵심 요소는?	IT동아	07.18	232	0
4065	홍수경보 지역 지날 때 알람…'車 내비게이션 고도화'	IT동아	07.18	200	0
4064	두나무 ‘업비트 투명성 보고서’ 공개···“투명한 운영 힘쓸 것”	IT동아	07.18	189	0
4063	가상자산이용자법 대비하는 가상자산 거래소 [1]	IT동아	07.18	1117	1
4062	[IT’s 가성비] AMD 라이젠5 5600, 가성비에 호환성까지 ‘착한’ CPU	IT동아	07.17	477	0
4061	BEV? FCEV?...헷갈리는 친환경차 용어 정리해 보니	IT동아	07.17	162	0
4060	‘NPU+GPU 성능 개선’ AMD 라이젠 AI 300 프로세서의 핵심 요소는?	IT동아	07.17	1070	0
4059	[스타트업-ing] 한의학과 기술의 접목으로 진료 효율 높이는 ‘헬리큐어’	IT동아	07.16	208	0
4058	코파일럿+PC가 연 'AI PC 시대', 제조사 별 시장 전략은?	IT동아	07.16	197	0
4057	레드힐스 “비건 특수 메이크업 브랜드 noon:Ker로 시장 변화 이끈다” [동국대학교 캠퍼스타운]	IT동아	07.16	995	0
4056	‘AI PC 경쟁 이제부터’ AMD, 라이젠 AI 300ㆍ라이젠 9000 시리즈 CPU 공개	IT동아	07.16	604	0
4055	[월간자동차] 24년 6월, 신차·중고차 거래량 모두 하락	IT동아	07.15	213	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

▶ 인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길'▶ 컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’▶ 펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결