‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다

IT동아

2024.03.15 23:55:41

조회 194 추천 0 댓글 0

[IT동아 강형석 기자] 인공지능 분야에서는 엔비디아가 단연 앞서 있다고 평가된다. 과거 그래픽카드의 병렬 연산 능력 우위를 강조하며 다양한 장비를 준비해 왔기 때문이다. 현재는 H100이 주력으로 꼽힌다. A100도 있지만, 암페어(Ampere) 설계 구조로 H100의 호퍼(Hopper) 대비 한 세대 이전 기술을 담고 있다. 현재 H100도 향후 차기 제품인 H200 혹은 B100에게 자리를 내어 줄 예정이다.

앞서가는 엔비디아지만, 경쟁자도 다양한 무기를 앞세워 추격 중이다. 대표적으로 그래픽 처리장치(GPU) 분야에서 경쟁해 온 AMD가 있다. 최근 인스팅트 MI300 시리즈를 선보이며 경쟁에 나선다. 처음 선보이는 제품은 아니다. 과거에도 MI100과 MI200 등 병렬 연산이 필요한 환경에 대응해 왔지만, MI300은 인공지능 및 초고성능 컴퓨팅(빅데이터)에 맞춰 다듬었다. 본격적인 경쟁 체제에 돌입한 것이다.

엔비디아 vs AMD, 하드웨어 특성은 다르지만 접근 방법은 같아

엔비디아는 2007년, 점점 복잡해지는 그래픽 연산 환경에 맞춰 쿠다(CUDA) 코어를 개발했다. 하드웨어 집적도 향상에 따라 코어 수는 빠르게 늘었는데, 이와 함께 지포스 RTX 시리즈에 와서는 인공지능과 광선추적(레이 트레이싱)만 전문으로 처리하는 코어를 추가해 넣었다. 이것이 엔비디아가 인공지능 하드웨어로 빠르게 성장할 수 있었던 계기였다고 해도 과언이 아니다.

엔비디아 H100. / 출처=엔비디아

H100의 호퍼 설계 구조는 기존 엔비디아 그래픽 처리장치 설계를 인공지능 환경에 맞춘 형태다. 기본 코어 안에는 정수(INT32)와 단ㆍ배정밀도(FP32ㆍFP64)를 처리하도록 구성됐다. 추가로 4세대 텐서코어가 배치되어 부족한 부분을 돕는다. 텐서코어는 행렬의 연산을 한 번에 수행하는 것이 특징이다. 또한 비동기 연산을 지원하는데 이는 연산이 순차적으로 처리되는 게 아니라 부하에 따라 유연하게 처리됨을 의미한다.

AMD도 구조는 유사하다. 과거 그래픽 프로세서 설계를 연산에 특화된 구조로 바꿨다. 다만 그래픽 처리에 필요한 블록이 제거되고 모두 연산에 필요한 블록으로 대체했다. 따라서 기존 컴퓨트 유닛이라 부르는 코어가 2배 확장됐고 데이터를 유연하게 다루고자 예비와 주 메모리의 용량 등을 크게 키웠다. 행렬과 텐서 연산을 위해 별도의 매트릭스 코어(Matrix Core)를 구성한 점이 특징이다.

인공지능 가속을 위한 칩은 이와 동일하고 빅데이터 처리를 겸하는 장비는 구조가 다소 다르다. 엔비디아는 H100 가속장치와 함께 그레이스 설계가 반영된 ARM 기반 중앙처리장치가 짝을 이룬다. 이를 다수 배치함으로써 대규모 데이터 처리에 힘을 싣는다.

AMD 인스팅트 MI300. / 출처=AMD

반면 AMD는 인공지능 가속 칩에 중앙처리장치를 함께 배치한다. 인공지능 처리에 필요한 코어가 일부 줄어들지만, 그 자리를 대신해 24코어를 갖춘 젠(Zen) 4 기반 적용된 중앙처리장치가 집적된다. ARM 기반이 아닌 일반 x86 중앙처리장치라 다양한 환경에 대응 가능하다.

이렇게 구조는 다르지만, 지향하는 목표는 같다. 최대한 많은 연산을 유연하게 다루는 것이다. 현재 사양으로 놓고 보면 두 장치는 각각 일장일단은 있다. 다만 엔비디아는 시장 선점을 빨리했기에 전반적인 성능 검증이 이뤄졌으나 AMD는 이 부분에서 더 많은 노력이 필요한 상황이다.

하드웨어도 중요하지만, 진짜는 소프트웨어에 있다

엔비디아와 AMD 모두 병렬 컴퓨팅 처리장치 설계에 대해서는 많은 경험을 가진 기업이다. 따라서 신제품 출시 주기에 따른 성향 차이는 있어도 성능 부분에 있어서는 차이가 줄어들 가능성이 높다. 성능에서 큰 차이를 보이지 않는다면 결국 하드웨어의 가치와 성공을 가늠하는 것은 소프트웨어다. 하드웨어가 최고의 성능을 낼 수 있도록 지원과 유지보수 등이 필요하다.

시장에 빨리 진입했기에 폭넓은 호환성과 소프트웨어 환경을 갖춘 것이 엔비디아의 강점으로 꼽힌다. / 출처=엔비디아

엔비디아는 이 부분에 있어 폭넓은 솔루션을 제안하고 있다. 우선 쿠다(CUDA)-X 인공지능(AI)은 쿠다 명령어를 바탕으로 다양한 라이브러리 컬렉션을 제공한다. 병렬 컴퓨팅이 막 대두되던 시기부터 사용한 명령어를 환경에 맞춰 발전시킨 것으로 엔비디아의 강력한 무기 중 하나로 꼽힌다. 이 외에 엔터프라이즈 분야에서 인공지능을 위한 운영체제인 인공지능 엔터프라이즈(AI Enterprise), 기업이 가상공간 내에서 미리 결과를 얻을 수 있는 옴니버스(Omniverse) 등도 잘 알려진 소프트웨어들이다.

AMD도 ROCm을 내세워 생태계 구축에 나서는 중이다. / 출처=AMD

AMD는 인공지능 처리 도구와 모델, 라이브러리 등을 모은 ROCm을 전면에 내세웠다. 거대 언어 모델부터 다양한 연산 추론 등 인공지능 데이터 처리에 필요한 도구를 담았다. 개발을 위한 생태계 구축도 꾸준히 업데이트하면서 완성도를 높여가는 중이다. 무엇보다 이 분야에서는 개발자들이 명령어 호환성을 민감하게 본다. 새로 구축하고 그 과정에서 발생하는 문제에 대비하기에 시간이 오래 걸린다는 이유가 크다. AMD도 이 부분에 대응하기 위해 개발자 커뮤니티와 다양한 인공지능 오픈소스 개발사와 협업한다.

인공지능 시장은 빠르게 성장하고 있다. 글로벌 시장조사기업 IDC에 따르면 2027년 전 세계 생성형 인공지능 시장 규모가 약 1500억 달러 이상으로 내다봤다. 시장이 성장함에 따라 자연스레 관련 하드웨어 수요도 증가할 것으로 예상된다. 엔비디아와 AMD의 경쟁은 이제부터 시작인 것이다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 ▶ [2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"▶ “주문 접수부터 메뉴 제안까지…” 생성형 AI로 진화하는 스마트상점

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
3937	[신차공개] ‘캐스퍼 일렉트릭’ 티저 공개·’뉴 레인지로버 벨라’ 사전계약 실시	IT동아	06.17	16	0
3935	[정구태의 디지털 자산 리터러시] 디지털자산 갈라파고스 탈출을 위한 제언 1. 법인참여 허용	IT동아	06.17	20	0
3934	[스케일업] 스크램블러 [1] BM 분석 “뷰티? 스토리테크? 선택과 집중이 필요”	IT동아	06.17	26	0
3933	[리뷰] 과감한 디자인 속 탄탄한 기본기, 에이수스 터프 게이밍 F16	IT동아	06.17	681	2
3932	[주간투자동향] 고피자, 1000만 달러 규모 투자 유치	IT동아	06.17	24	0
3931	음향기기, 물에 빠졌다면 이렇게![이럴땐 이렇게!] [1]	IT동아	06.17	831	3
3930	[생성 AI 길라잡이] 갤럭시 AI 활용하기 - '서클 투 서치'	IT동아	06.14	132	0
3929	[시승기] 원형 OLED 탑재·차체 키워 7년 만에 돌아온 ‘뉴 미니 컨트리맨’	IT동아	06.14	115	0
3928	루나레이크·애로우레이크로 이원화된 인텔 CPU, 라인업 구분은?	IT동아	06.14	111	0
3927	금융위원회 “가상자산 사업자 영업 종료 규제 강화한다”	IT동아	06.14	752	0
3926	서울 중구-동국대 캠퍼스타운, 대학과 지역이 함께 고민하는 자원순환 문제	IT동아	06.14	75	0
3925	[SBA x IT동아] ‘마이크로바이옴’으로 보다 나은 삶 만들 것, 윤여민 메가랩 대표	IT동아	06.14	66	0
3924	[스타트업리뷰] 건설인력 노무관리 원 클릭 시스템, 웍스메이트 ‘가다오피스’	IT동아	06.14	66	0
3923	[농업이 IT(잇)다] 네오프로틴 “노인 건강의 핵심은 근력 개선, 해법은 마육 단백질에 있습니다”	IT동아	06.14	61	0
3922	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 15	IT동아	06.13	71	0
3921	[시승기] 세단의 승차감 구현한 캐딜락 첫 전기 SUV ‘리릭’	IT동아	06.13	65	0
3920	[SBA x IT동아] 아트랩 “피부 좋아지는 법, AI가 찾아드립니다”	IT동아	06.13	73	0
3919	[스타트업 첫걸음] 창업 아이디어 검증을 위한 고려사항	IT동아	06.13	746	0
3918	[기술영업人] AI 확산의 시작과 끝을 함께하는 'AMD코리아'의 영업 전선	IT동아	06.13	369	1
3917	토요타 등 日 5개 자동차 제조사 ‘품질 인증 조작’ 파문 [2]	IT동아	06.12	441	3
3916	[리뷰] 넷기어 MS108TUP, 2.5G 이더넷에 60W PoE까지 품은 특별한 스위치	IT동아	06.12	74	0
3915	"먹통 사태 교훈 삼아 안정성 극대화"…카카오 첫 자체 데이터센터 살펴보니 [3]	IT동아	06.12	517	0
3914	장대익 가천대 스타트업칼리지 학장 “N번째 인생 전환 이끌 기업가 정신 전파”	IT동아	06.12	81	0
3913	철저한 인텔 제품 관리의 산실, 대만 인텔 OEM 연구소 가보니 [6]	IT동아	06.12	1646	0
3912	[SBA x IT동아] 세컨드팀 “검증된 해외 개발자, 슈퍼코더에 있습니다”	IT동아	06.12	81	0
3911	[자동차와 法] 자동차와 무단횡단자의 과실 비율에 대하여 [1]	IT동아	06.11	917	0
3910	애플, 오픈AI와 밀월 시각에 선긋기··· '제 길 가는 애플 인텔리전스' [1]	IT동아	06.11	652	0
3909	[뉴스줌인] 부쩍 커진 이동식 에어컨 시장, ‘AI’와 ‘듀얼호스’로 방점 찍은 LG전자	IT동아	06.10	541	0
3908	[정구태의 디지털자산 리터러시] 2. 자산 규제와 진흥의 균형이 필요한 시점	IT동아	06.10	113	0
3907	JC? SA? 헷갈리는 도로 표지판 숙지하기! [이럴땐 이렇게!]	IT동아	06.10	807	3
3906	컴퓨텍스 2024에서 눈에 띈 강소기업들 “한국시장 기대 커” [1]	IT동아	06.07	382	0
3905	[생성 AI 길라잡이] 생성 AI 학습 과정에서 발생하는 빈번한 분쟁	IT동아	06.07	183	0
3904	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 14	IT동아	06.07	174	0
3903	글로벌 기업도, 유망 스타트업도…“어도비 서브스턴스 3D로 디지털 혁신 가능해”	IT동아	06.07	1066	0
3902	[농업이 IT(잇)다] 그랜트 “농업인의 고민 해결하는 친환경 과일 포장재, 딴딴박스”	IT동아	06.07	163	0
3901	노랑풍선, "NHN두레이 전사 도입으로 조직 내 업무 환경 통일했죠"	IT동아	06.07	155	0
3900	국내 장수 만화 IP 비즈니스의 모범 사례가 되길... '열혈강호' 30주년 콜라보 카페 방문기 [24]	IT동아	06.07	2512	2
3899	시놀로지 “눈 높은 한국 고객들 의견 수렴하며 성과 거둬”	IT동아	06.06	189	0
3898	노트북 출시 20주년 맞은 MSI, 컴퓨텍스 부스도 ‘노트북 풍년’ [14]	IT동아	06.06	7473	4
3897	‘모든 곳에 인공지능’을 위한 시작, 인텔 AI 서밋 서울 개최	IT동아	06.05	233	0
3896	시놀로지, 엔터프라이즈 솔루션 강화 ‘잰걸음’	IT동아	06.05	183	0
3895	[시승기] ‘K5 LPG 하이브리드’로 500km 주행 후 실연비 살펴보니	IT동아	06.05	195	0
3894	퀄컴 스냅드래곤X 시리즈, AI PC넘어 AI 산업도 노린다	IT동아	06.05	202	0
3893	국내 가상자산 커뮤니티 “텔레그램·카카오톡 활성화, 단기 시세에 민감”	IT동아	06.05	170	0
3892	“디지털 혁신 이끈 3D 기술, AI로 문턱 더 낮아질 것“…어도비 서브스턴스 데이에서 엿본 미래	IT동아	06.05	176	0
3891	딥엑스, 엣지 AI용 NPU 'DX-M1'으로 중국·대만 시장에서 두각	IT동아	06.05	196	0
3890	SK하이닉스, 컴퓨텍스 2024서 GDDR7, 자체 컨트롤러 등 전시	IT동아	06.05	191	0
3889	MSI, 컴퓨텍스 2024에 ‘AI+ PC’ 대거 선보이며 ‘기선제압’	IT동아	06.05	152	0
3888	‘연 단위 출시, 네트워크 대역 확장’ 인공지능 가속기 경쟁 달아오른다	IT동아	06.04	164	0
3887	인텔 컴퓨텍스 2024 부스 가보니··· 'AI PC 사례·제온 6 공개 눈길' [2]	IT동아	06.04	1645	0