‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다

IT동아

2024.03.15 23:55:41

조회 191 추천 0 댓글 0

[IT동아 강형석 기자] 인공지능 분야에서는 엔비디아가 단연 앞서 있다고 평가된다. 과거 그래픽카드의 병렬 연산 능력 우위를 강조하며 다양한 장비를 준비해 왔기 때문이다. 현재는 H100이 주력으로 꼽힌다. A100도 있지만, 암페어(Ampere) 설계 구조로 H100의 호퍼(Hopper) 대비 한 세대 이전 기술을 담고 있다. 현재 H100도 향후 차기 제품인 H200 혹은 B100에게 자리를 내어 줄 예정이다.

앞서가는 엔비디아지만, 경쟁자도 다양한 무기를 앞세워 추격 중이다. 대표적으로 그래픽 처리장치(GPU) 분야에서 경쟁해 온 AMD가 있다. 최근 인스팅트 MI300 시리즈를 선보이며 경쟁에 나선다. 처음 선보이는 제품은 아니다. 과거에도 MI100과 MI200 등 병렬 연산이 필요한 환경에 대응해 왔지만, MI300은 인공지능 및 초고성능 컴퓨팅(빅데이터)에 맞춰 다듬었다. 본격적인 경쟁 체제에 돌입한 것이다.

엔비디아 vs AMD, 하드웨어 특성은 다르지만 접근 방법은 같아

엔비디아는 2007년, 점점 복잡해지는 그래픽 연산 환경에 맞춰 쿠다(CUDA) 코어를 개발했다. 하드웨어 집적도 향상에 따라 코어 수는 빠르게 늘었는데, 이와 함께 지포스 RTX 시리즈에 와서는 인공지능과 광선추적(레이 트레이싱)만 전문으로 처리하는 코어를 추가해 넣었다. 이것이 엔비디아가 인공지능 하드웨어로 빠르게 성장할 수 있었던 계기였다고 해도 과언이 아니다.

엔비디아 H100. / 출처=엔비디아

H100의 호퍼 설계 구조는 기존 엔비디아 그래픽 처리장치 설계를 인공지능 환경에 맞춘 형태다. 기본 코어 안에는 정수(INT32)와 단ㆍ배정밀도(FP32ㆍFP64)를 처리하도록 구성됐다. 추가로 4세대 텐서코어가 배치되어 부족한 부분을 돕는다. 텐서코어는 행렬의 연산을 한 번에 수행하는 것이 특징이다. 또한 비동기 연산을 지원하는데 이는 연산이 순차적으로 처리되는 게 아니라 부하에 따라 유연하게 처리됨을 의미한다.

AMD도 구조는 유사하다. 과거 그래픽 프로세서 설계를 연산에 특화된 구조로 바꿨다. 다만 그래픽 처리에 필요한 블록이 제거되고 모두 연산에 필요한 블록으로 대체했다. 따라서 기존 컴퓨트 유닛이라 부르는 코어가 2배 확장됐고 데이터를 유연하게 다루고자 예비와 주 메모리의 용량 등을 크게 키웠다. 행렬과 텐서 연산을 위해 별도의 매트릭스 코어(Matrix Core)를 구성한 점이 특징이다.

인공지능 가속을 위한 칩은 이와 동일하고 빅데이터 처리를 겸하는 장비는 구조가 다소 다르다. 엔비디아는 H100 가속장치와 함께 그레이스 설계가 반영된 ARM 기반 중앙처리장치가 짝을 이룬다. 이를 다수 배치함으로써 대규모 데이터 처리에 힘을 싣는다.

AMD 인스팅트 MI300. / 출처=AMD

반면 AMD는 인공지능 가속 칩에 중앙처리장치를 함께 배치한다. 인공지능 처리에 필요한 코어가 일부 줄어들지만, 그 자리를 대신해 24코어를 갖춘 젠(Zen) 4 기반 적용된 중앙처리장치가 집적된다. ARM 기반이 아닌 일반 x86 중앙처리장치라 다양한 환경에 대응 가능하다.

이렇게 구조는 다르지만, 지향하는 목표는 같다. 최대한 많은 연산을 유연하게 다루는 것이다. 현재 사양으로 놓고 보면 두 장치는 각각 일장일단은 있다. 다만 엔비디아는 시장 선점을 빨리했기에 전반적인 성능 검증이 이뤄졌으나 AMD는 이 부분에서 더 많은 노력이 필요한 상황이다.

하드웨어도 중요하지만, 진짜는 소프트웨어에 있다

엔비디아와 AMD 모두 병렬 컴퓨팅 처리장치 설계에 대해서는 많은 경험을 가진 기업이다. 따라서 신제품 출시 주기에 따른 성향 차이는 있어도 성능 부분에 있어서는 차이가 줄어들 가능성이 높다. 성능에서 큰 차이를 보이지 않는다면 결국 하드웨어의 가치와 성공을 가늠하는 것은 소프트웨어다. 하드웨어가 최고의 성능을 낼 수 있도록 지원과 유지보수 등이 필요하다.

시장에 빨리 진입했기에 폭넓은 호환성과 소프트웨어 환경을 갖춘 것이 엔비디아의 강점으로 꼽힌다. / 출처=엔비디아

엔비디아는 이 부분에 있어 폭넓은 솔루션을 제안하고 있다. 우선 쿠다(CUDA)-X 인공지능(AI)은 쿠다 명령어를 바탕으로 다양한 라이브러리 컬렉션을 제공한다. 병렬 컴퓨팅이 막 대두되던 시기부터 사용한 명령어를 환경에 맞춰 발전시킨 것으로 엔비디아의 강력한 무기 중 하나로 꼽힌다. 이 외에 엔터프라이즈 분야에서 인공지능을 위한 운영체제인 인공지능 엔터프라이즈(AI Enterprise), 기업이 가상공간 내에서 미리 결과를 얻을 수 있는 옴니버스(Omniverse) 등도 잘 알려진 소프트웨어들이다.

AMD도 ROCm을 내세워 생태계 구축에 나서는 중이다. / 출처=AMD

AMD는 인공지능 처리 도구와 모델, 라이브러리 등을 모은 ROCm을 전면에 내세웠다. 거대 언어 모델부터 다양한 연산 추론 등 인공지능 데이터 처리에 필요한 도구를 담았다. 개발을 위한 생태계 구축도 꾸준히 업데이트하면서 완성도를 높여가는 중이다. 무엇보다 이 분야에서는 개발자들이 명령어 호환성을 민감하게 본다. 새로 구축하고 그 과정에서 발생하는 문제에 대비하기에 시간이 오래 걸린다는 이유가 크다. AMD도 이 부분에 대응하기 위해 개발자 커뮤니티와 다양한 인공지능 오픈소스 개발사와 협업한다.

인공지능 시장은 빠르게 성장하고 있다. 글로벌 시장조사기업 IDC에 따르면 2027년 전 세계 생성형 인공지능 시장 규모가 약 1500억 달러 이상으로 내다봤다. 시장이 성장함에 따라 자연스레 관련 하드웨어 수요도 증가할 것으로 예상된다. 엔비디아와 AMD의 경쟁은 이제부터 시작인 것이다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 ▶ [2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"▶ “주문 접수부터 메뉴 제안까지…” 생성형 AI로 진화하는 스마트상점

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
3706	박스테이션, 주차 요금 핸즈프리결제 솔루션 상용화에 박차	IT동아	04.19	160	0
3705	제이쓰리씨, 해양 시뮬레이터 개발로 ‘대한민국 우수기업’ R&D 대상 수상	IT동아	04.19	162	0
3704	단독질주 엔비디아, 추격나선 인텔·AMD... '변수는 1nm 파운드리'	IT동아	04.19	488	0
3703	[농업이 IT(잇)다] 팜비오스 “LED 조명·인도어팜 솔루션으로 기후·인력난 문제 해결”	IT동아	04.19	149	0
3702	AI가 이끄는 설계·엔지니어링 혁신…’카티아 유저데이’ 현장	IT동아	04.18	180	0
3701	블록체인 산업 트렌드·발전 방향 확인하는 자리, 2024 BCMC	IT동아	04.18	162	0
3700	핀카(FINCA), 3D 초개인화 서비스 '마리테'로 침구 시장 공략	IT동아	04.18	800	1
3699	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 7	IT동아	04.17	197	0
3698	[뉴스줌인] LPDDR5X 시장, 삼성전자 신제품 개발로 경쟁 ‘후끈’	IT동아	04.17	258	0
3697	모니터암·전동식 책상·의자가 사무실 '필수'로 떠오르는 이유는? [1]	IT동아	04.17	1703	1
3696	[스타트업-ing] 씨지인사이드 “법률·규제 인공지능 도우미 전파”	IT동아	04.17	202	0
3695	'성능ㆍ휴대성' 겸비한 고성능 노트북 PC들이 온다 [1]	IT동아	04.17	793	1
3694	[자동차와 法] 공공기관의 친환경차 의무구매제도 현황에 대하여 [1]	IT동아	04.16	466	0
3693	티맵에 숨어 있는 유용한 기능 활용해 보니	IT동아	04.16	168	0
3692	로보락 “품질·편의성으로 고객 중심 가치 구현할 것” [3]	IT동아	04.16	988	0
3691	[뉴스줌인] RDIMM 메모리 출시한 커세어, 일반 메모리와의 차이점은?	IT동아	04.15	168	0
3690	인공지능 활용한 게임 내 그래픽 가속, 현재와 미래	IT동아	04.15	175	0
3689	[월간자동차] 24년 3월, 신차·중고차 판매 모두 상승…기아 쏘렌토 1위 고수	IT동아	04.15	952	0
3688	‘카드부터 신분증까지’ 갤럭시 스마트폰 쓴다면 지갑 말고 이렇게![이럴땐 이렇게!] [4]	IT동아	04.15	1349	3
3687	“전통주 번개배송은 새로운 경험의 시작이 될 것” 박준형 술담화 CSO	IT동아	04.12	245	0
3686	[생성 AI 길라잡이] 애플이 만들 인공지능 서비스, 어떤 모습일까?	IT동아	04.12	268	0
3685	2024년은 온디바이스 AI 시대, 왜 'AI PC'는 지금 주목받나? [4]	IT동아	04.12	7326	4
3684	‘낭만국시’ 우승완 공동대표 “춘천 원도심 상권르네상스로 스마트 비즈니스 발돋움”	IT동아	04.12	203	0
3683	[인터뷰] 유니버설 로봇 “글로벌 1위 협동로봇 앞세워 韓 시장 공략”	IT동아	04.12	954	1
3682	영상 촬영의 세계를 넓혀주는 파트너, DJI RS 4	IT동아	04.12	197	0
3681	[KESIA 시드팁스] 하와이컴퍼니 “수포자 문제 해결할 교육 솔루션, 여기 있습니다”	IT동아	04.12	196	0
3680	이더리움 상승세 'ETF 승인 기대감·네트워크 업그레이드' 영향	IT동아	04.12	1171	0
3679	[농업이 IT(잇)다] 투마루, "푸드 업사이클링으로 김천 호두 진심 전할 것"	IT동아	04.12	188	0
3678	[시승기] 차체 키우고 첨단 기술로 무장...‘BMW 뉴 X2’ [6]	IT동아	04.11	2333	3
3677	[KESIA 시드팁스] 유기성 폐기물 처리 혁신으로 친환경 세상 이룰 것, 이성범 예쓰바이오 대표	IT동아	04.11	185	0
3676	퀄컴, 임베디드 월드 2024에서 새 IoT 칩 및 산업용 플랫폼 공개 [2]	IT동아	04.11	1043	1
3675	AMD, 성능 10배 높인 '2세대 버설 AI 엣지·프라임' 임베디드 칩 출시	IT동아	04.11	460	0
3674	필수 가전 등극한 건조기, ‘타워’ 다음은 ‘콤보’? [10]	IT동아	04.10	6081	0
3673	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 6	IT동아	04.09	209	0
3672	전기차도 에너지효율 표시…‘5단계 연비등급제’ 전면 시행	IT동아	04.09	194	0
3671	[EV 시대] 미래 모빌리티 핵심 '전동화와 SDV' [1]	IT동아	04.09	6377	1
3670	가상자산 거래소 2023년 부진한 실적, 올해는 반등 노린다	IT동아	04.09	190	0
3669	[IT신상공개] 지연시간 줄인 연주용 무선 헤드폰, 야마하 YH-WL500	IT동아	04.09	443	2
3668	[리뷰] 좋은 거 다 담았는데 이 두께가 나와? 에이수스 ROG 제피러스 G16(2024)	IT동아	04.08	256	0
3667	[뉴스줌인] 삼성 올인원 Pro, 일체형 PC 한계 넘을까?	IT동아	04.08	328	0
3666	윤곽 드러난 PCIe 7.0··· '최대 512GB 대역폭으로 AI 시장 보조'	IT동아	04.08	207	0
3665	[신차공개] BMW ‘뉴 X2’ 출시·로터스 ‘에메야’ 제원 공개 [1]	IT동아	04.08	199	0
3664	수많은 일정 간편하게 공유하려면 이렇게![이럴땐 이렇게!]	IT동아	04.08	674	1
3663	[주간투자동향] 티오더, 300억 원대 시리즈B 투자 유치	IT동아	04.08	164	0
3662	[생성 AI 길라잡이] AI로 만든 콘텐츠, 저작권 인정될까? [1]	IT동아	04.05	302	0
3661	윤희현 엠디글로벌넷 대표 “스타트업 창업에서 해외진출까지 함께”	IT동아	04.05	204	0
3660	[농업이 IT(잇)다] 친환경 농업용 냉·난방기 개발 기업 ‘아이토브에너지’	IT동아	04.05	213	1
3659	[KESIA 시드팁스] 혈관독성약물 국소전달 플랫폼 ‘바스블록’으로 항암치료 혁신 꿈꾼다, 박정호 엔도큐라 대표	IT동아	04.05	196	0
3658	닥터호두 “품질·맛 좋은 국산 호두, 신선하고 편하게 먹도록 제공합니다” [7]	IT동아	04.05	1098	1
3657	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 5 [1]	IT동아	04.04	644	1