‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다

IT동아 · 2024.06.04 22:04:55

[IT동아 강형석 기자] 인공지능 가속기 경쟁이 뜨거워진다. 엔비디아와 AMD가 신제품을 주기적으로 투입, 기업의 인공지능 학습ㆍ추론 수요에 대응하기로 입을 모았기 때문이다. 심지어 폭발적으로 증가하는 인공지능의 데이터 처리량을 처리하기 위한 네트워크 시스템 구축 경쟁도 함께 이뤄질 전망이다. 단순히 보면 인공지능 장비를 시작으로 넓게 보면 데이터센터 인프라 전반에 걸친 경쟁이 시작되는 것이다. 여기에 가우디 제품군으로 경쟁을 선언한 인텔까지 가세할 경우 경쟁은 과열될 가능성이 높다.

인공지능 시장을 놓고 반도체 기업이 치열한 경쟁을 펼칠 예정이다. / 출처=IT동아

2024년 6월 2일, 엔비디아는 컴퓨텍스 2024를 앞두고 기조연설을 진행했다. 젠슨 황 엔비디아 최고경영자(CEO)는 자사의 인공지능 시장 리더십을 강조했다. 동시에 인공지능 가속기와 관련한 청사진까지 제시했다. 현재 시장의 인기를 얻고 있는 호퍼(Hopper) 플랫폼의 뒤를 이어 블랙웰(Blackwell), 그리고 그 다음 플랫폼인 루빈(Rubin)까지 공개했다. 그 사이에는 ‘울트라(Ultra)’로 명명된 성능 개선 제품군을 투입한다는 계획도 언급했다.

AMD도 마찬가지다. 2024년 6월 3일에 진행한 기조연설에서 리사 수 AMD CEO는 현행 인스팅트(Instint) MI300X에 뒤를 이어 올해에는 MI325X를 선보이고 이어 MI350과 MI400 등을 차례로 선보인다. MI300 계열 제품의 성능을 꾸준히 높이고 2026년에는 새로운 반도체 설계 구조를 앞세워 세대교체를 이뤄가는 식이다.

인텔은 가우디 인공지능 가속기로 시장을 공략한다. / 출처=IT동아

인텔은 2024년 6월 4일에 진행한 2일차 기조연설에서 가우디 인공지능 가속기의 ‘경제성’을 강조하며 틈새시장을 공략할 예정이다. 경쟁사 대비 최대 1/3 수준의 가격 우위를 가짐에도 성능은 경쟁사 못지 않다는 입장이다. 특히 가우디 3 인공지능 가속기는 8192개의 연산 클러스터로 동급 규모의 엔비디아 H100 플랫폼 대비 학습 시간을 최대 40% 정도 단축 가능하다고 강조했다. 다만 이후의 구체적인 제품 청사진은 언급되지 않았다.

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엔비디아와 AMD의 인공지능 가속기 전략의 핵심은 ‘1년마다 신제품 투입’에 있다. 이는 과거 인텔이 썼던 전략과 유사하다. 인텔은 틱-톡(Tick-Tock)이라는 이름으로 한 번은 반도체 설계를, 그 다음에는 미세공정을 바꾸며 제품을 선보였다. 1년에 한 번 신제품을 출시할 수 있고 상황에 따라 제품 개발과 구성을 유연하게 가져갈 수 있었다.

엔비디아는 블랙웰 다음 루빈을 공개하며 시장의 주목을 받았다. 그 사이에 성능을 개선한 제품을 선보인다. 출시 주기는 1년이다. / 출처=IT동아

두 기업도 완전히 같다고 볼 수 없지만, 비슷한 면이 있다. 2년 주기로 새로운 반도체 설계를 적용하고 그 사이에 성능 개선을 이룬 제품을 투입하는 식이다. 엔비디아는 올해 호퍼에서 설계를 바꾼 블랙웰을 선보인다. 호퍼 출시 2년 만이다. 블랙웰 다음 출시될 루빈(Rubin)은 2년 뒤인 2026년에 출시될 예정이다. 그 사이에 울트라가 투입된다.

AMD는 조금 다르지만 2024년 이후 행보는 엔비디아와 같다. 먼저 2023년 하반기에 공개한 MI300X에서 1년 단위로 업그레이드를 단행한다. MI325X와 MI350이 그 예다. 올해 4분기 중 출시될 MI325X는 HBM3e 모듈을 채택해 데이터 처리량을 늘리고, 내년 하반기에 출시할 MI350에서는 성능을 더 끌어낸다는 계획이다. 마지막 2026년에는 새로운 반도체 설계를 적용한 신제품을 내놓는다. 이 때 AMD는 엔비디아 루빈 플랫폼과 경쟁하게 된다.

AMD도 1년 주기로 인공지능 가속기를 선보일 예정이다. / 출처=IT동아

두 기업은 1년 단위 제품 출시 흐름을 가지고 치열하게 눈치 싸움을 벌일 전망이지만, 당분간은 직접 경쟁하지 않을 가능성이 높다. 엔비디아는 높은 시장 점유율과 뛰어난 성능을 강점으로 내세우지만, 공급에 대한 우려가 남아 있다. AMD는 성능과 함께 제품 도입 공백 문제를 해결할 대안이라는 점을 내세우며 빈틈을 노리는 전략이 유리하다.

과거 2년 주기가 아닌 1년 주기로 제품을 선보이기로 결정한 데에는 수요가 그만큼 증가할 것이라는 것을 예상한 결과다. 실제 인공지능 서비스 기업은 데이터센터 확대를 진행 중이다. 마이크로소프트는 미국 위스콘신주, 구글은 영국에 데이터센터 구축을 위한 투자를 시작했다. 테슬라와 아마존 등도 인공지능 패권 경쟁을 위해 데이터센터 및 기존 장비 업그레이드 등에 심혈을 기울이고 있다. 이 과정에서 많은 물량의 장비가 필요하기 때문에 자연스레 1년 단위 출시가 이뤄져도 소화에 문제가 없다고 판단했을 것이다.

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

네트워크 시스템과 관련 인프라 구축에 대한 기업의 관심도 높아지는 중이다. 점점 방대해지는 인공지능 관련 데이터를 시스템간 주고받는 것은 물론이고 일반에게 제공하려면 결국 빠르고 유연한 네트워크 전송 구조를 갖춰야 한다. 이 부분에서 엔비디아와 AMD는 다른 길로 접근했다.

엔비디아의 데이터센터 네트워크 장비는 인공지능 가속기 솔루션들과 짝을 이루는 식이다. / 출처=IT동아

엔비디아는 스펙트럼(Spectrum)-X로 대응하고 있다. 블랙웰 플랫폼에는 스펙트럼-X800 이더넷 스위치와 퀀텀(Quantum)-X800 스위치가 호흡을 맞춘다. 스펙트럼-X는 인공지능 가속기가 처리한 데이터를 순차적으로 처리했던 기존 네트워크 전송 방식이 아닌 가속기간 상호 연동을 통해 속도를 높인다. 빠른 데이터 전송을 위해 블루필드(BlueField)-3 네트워크 가속기(SuperNIC)를 쓴다. 이 장치는 1초에 400Gb를 전송할 수 있다. 또한 스펙트럼-X800 스위치 장비는 64개 네트워크 단자를 제공하며 단자당 초당 800Gb 데이터 전송을 지원한다.

현재 사양을 끌어 올리면서 루빈 플랫폼이 적용되는 시점에는 데이터 전송량을 최대 2배 끌어 올리는 것이 엔비디아의 계획이다. 기기간 데이터 전송을 지원하는 NV링크(NVLink)도 6세대에 와서는 초당 3600GB를 전송하는 게 목표다.

AMD는 인공지능 처리용 네트워크 구성을 위해 여러 기업들과 손을 잡는 것을 선택했다. / 출처=IT동아

AMD도 인공지능 가속기에서 처리되는 데이터 전송 속도를 높이기 위해 초 가속 연결(Ultra Accelerator Link) 그룹을 결성했다. 인텔, 브로드컴, 마이크로소프트, 메타, 구글, HP 등 8개 기업이 참여해 데이터센터 내 인공지능 시스템을 위한 고속ㆍ저지연 통신 기술을 논의한다. 이미 울트라 이더넷 컨소시엄(UE Consortium)을 통해 초기 기술을 개발한 것으로 알려졌다. 기본적으로 인공지능 시스템 내에서 최대 1024개 가속 연결을 지원하고 각 장치간 메모리 접근과 저장이 가능하다. 이 기술은 2024년 3분기 이후부터 적용될 예정이다.

인공지능 가속기 시장을 둘러싼 하드웨어와 인프라 경쟁은 이미 시작됐다. 시장이 빠르게 흘러갈수록 관련 기업도 발 빠르게 움직일 것으로 예상된다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’	IT동아	19:51	11	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	17:01	16	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	16:33	1354	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	10:43	32	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	09:07	1776	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	09:06	31	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	08:21	25	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	74	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	46	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4756	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	94	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	45	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [3]	IT동아	11.20	247	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	74	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	74	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	78	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	78	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	667	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	75	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	351	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5089	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	107	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	99	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	199	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	193	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	181	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	174	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6191	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	166	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	186	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	143	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1363	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	138	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	166	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	698	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	168	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	161	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	317	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4653	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4755	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	172	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	206	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2385	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	196	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	229	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	647	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	255	1
4509	[AWS 인더스트리 위크 2024] 국내 금융/핀테크 기업에 AWS 솔루션은 이렇게 적용됐다 [1]	IT동아	11.11	2038	1
4508	'제조 스타트업 대상으로 소싱디렉팅·제품 제작까지'··· 서울과기대의 실질적 지원 들여다보니	IT동아	11.11	217	0
4507	[AWS 인더스트리 위크 2024] AWS가 실현하고 있는 인공지능 기술의 현재	IT동아	11.11	275	0
뉴스	다비치, 새 미니앨범 'Stitch' 발매…한층 깊어진 감성+하모니 기대	디시트렌드	14:00

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

2년마다 새 반도체 설계 적용하고 그 사이에 성능 개선 제품 투입

엄청난 속도로 증가 중인 데이터, 네트워크 속도 경쟁도 뜨거워진다

▶ 인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길'▶ 컴퓨텍스 2024 MSI 부스, ‘클로’ 8인치와 ‘AMG’ 노트북 공개로 ‘북적’▶ 펫 겔싱어, "2030년 세계 2위 파운드리 목표··· 다음 주 18A 칩 구동"

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결