디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

‘하드웨어+소프트웨어’ 플랫폼으로 인공지능 생태계 장악 노리는 엔비디아의 속내는?

IT동아갤로그로 이동합니다. 2024.03.19 21:12:27
조회 460 추천 0 댓글 1


엔비디아 추론 마이크로서비스에 대해 설명하는 젠슨 황 엔비디아 CEO. / 출처=엔비디아



[IT동아 강형석 기자] 2024년 3월 18일, 세너제이 SAP 센터(미국 캘리포니아 소재)에서 GTC 2024가 개최됐다. 3월 21일까지 진행되는 행사에서는 인공지능부터 로보틱스, 디지털 트윈, 헬스케어, 자율주행, 사이버 보안 등 산업 분야에서 다양한 기술이 언급될 예정이다.

이날 기조연설에 나선 젠슨 황 엔비디아 CEO는 “다양한 데이터 모델은 획기적이지만 기업이 사용하기 어렵다. 어떻게 작업 흐름(워크플로우)에 적용하고 통합할 것인가? 각 요소에 대한 최적화를 수행하고 연산 구조를 구축해야 된다. 우리는 새로운 방법을 제안하고자 한다. 이것은 기본적으로 우리가 컨테이너라 부르는 디지털 상자 안에 들어 있다”고 말하며 엔비디아 추론 마이크로서비스(NVIDIA Inference Microservice)를 소개했다.

엔비디아는 기본적으로 잘 알려져 있는 컴퓨팅 연산 관련 명령어 외에 쿠다(CUDA – Computed Unified Device Architecture) 생태계를 어느 정도 구축해 왔다. 쿠다는 엔비디아 하드웨어와 자연스레 녹아 있어 최적의 성능을 이끌어낼 수 있고 쉽게 설치해 쓰는 이점으로 인해 관련 분야 종사자들이 선호하는 도구가 되었다. 꾸준히 업데이트하며 알려진 문제와 기능을 추가하기도 한다. 이는 경쟁사가 쉬이 구현할 수 있는 부분이 아니다.

이미 자사 하드웨어와 연계되어 있는 도구는 쿠다 뿐만이 아니다. 인공지능 엔터프라이즈 플랫폼, 데이터 과학, 대규모 언어 모델을 위한 니모(NeMo) 프레임워크, 옴니버스 플랫폼 등 자체 구축한 데이터센터를 기반으로 다양한 지원 생태계를 구축해 놓은 상태다. 하지만 엔비디아는 그 이상을 바라보고 있다. 엔비디아 추론 마이크로서비스와 아이작(Issac) 로보틱스 플랫폼 등은 엔비디아 인공지능 생태계 확장의 시발점이라 하겠다.

하드웨어 완성도 + 소프트웨어 생태계 = 수익 확대


GTC 2024 기조연설에 나선 젠슨 황 엔비디아 CEO는 차세대 인공지능 가속처리장치, 블랙웰(Blackwell)을 공개하며 “블랙웰은 칩이 아니고 플랫폼 이름이다. 사람들은 우리가 GPU를 만든다고 생각하고 실제로 만들고 있지만, 이제 GPU를 과거처럼 보지 않는다”라고 말했다.

엔비디아는 블랙웰을 공개하며 다양한 형태의 하드웨어 솔루션을 제안했다. 기본적으로 2개의 블랙웰 가속장치와 그레이스(Grace) 중앙처리장치를 연결한 GB200을 시작으로 GB200을 36대 배치한 GB200 NVL 72가 있다. 이 외에도 x86 기반 중앙처리장치에서 쓸 수 있는 서버 보드 HGX B200이 있다. B200 장치 8개를 장착할 수 있다. 이후 인공지능 가속장치만으로 구성된 B100 혹은 B200이 합류할 가능성이 있다.


블랙웰 기반 처리장치로 다양한 하드웨어 솔루션을 제안한 엔비디아. / 출처=엔비디아



성능은 기존 호퍼 기반 시스템 대비 큰 폭의 향상을 이뤄냈다. 젠슨 황 CEO는 GPT-MoE-1.8T 모델을 90일간 학습하는 환경에서 호퍼는 8,000개의 처리장치와 15메가와트(MW)의 전력을 필요로 하지만, 블랙웰은 2,000개 처리장치와 4메가와트 전력만 있으면 된다고 설명했다. 단순히 같은 공간에 블랙웰 연산 시스템을 구축할 경우 호퍼와 동일한 전력소모로 4배 이상 빠른 처리가 가능함을 말한다.

탄탄한 하드웨어 기틀 위에 엔비디아는 소프트웨어 생태계를 더했다. 엔비디아 추론 마이크로서비스는 엔비디아의 또 다른 시도가 될 전망이다. 우선 사전 훈련된 일부 오픈소스 인공지능 모델을 패키지로 제공되는데 이를 사용하는 라이브러리에 더해 쓸 수 있다. 랭체인(Langchain), 라마인덱스(LlamaIndex) 등 다양한 거대 언어 모델 프로그래밍에 대응한다.

완전 무료는 아니다. 1,000개의 추론 크레딧이 무료로 제공되어 사전 제작에 사용 가능하고 모두 사용하면 인공지능 엔터프라이즈 라이선스를 구매해 쓰는 식이다.


엔비디아 인공지능 플랫폼 생태계는 산업 전반에 걸쳐 있다. / 출처=엔비디아



아이작 로보틱스 플랫폼은 조금 다르다. 엔비디아 젯슨 토르(Jetson Thor) 칩과 연동하는 시뮬레이션, 인공지능 작업흐름 인프라를 위한 도구다. 이 칩 역시 블랙웰 설계 기반으로 대규모 연산을 지원한다. 여기에 아이작 연구소(Issac Lab)로 강화 학습을, 오즈모(OSMO)로 컴퓨팅 조정을 지원한다. 엔비디아는 사전 훈련된 로봇 모델과 라이브러리 등이 포함된 아이작 조종자(Iaasc Manipulator), 아이작 인식자(Preceptor) 등도 공개했다.

하드웨어와 소프트웨어 생태계를 동시에 구축하는 이유는 간단하다. 자사 플랫폼을 사용하는 고객에게 최상의 도구를 쥐어 주고 계속 사용하도록 유도하는 전략이라고 봐도 무방하다. 엔비디아는 지금까지 구축한 생태계를 바탕으로 하드웨어와 소프트웨어 기반 고객을 유지 또는 확장함으로써 수익을 유지할 수 있다. 단기적으로 드러나지 않더라도 장기적인 관점에서 봤을 때 엔비디아의 하드웨어 점유율이 높아지면 생태계는 강력한 무기가 된다.

후발주자, 경쟁력 갖추기 위해 노력해야


엔비디아가 인공지능 하드웨어 시장에서 크게 앞서가는 분위기 속에 긴장해야 될 곳은 후발주자들이다. 하드웨어 성능 못지않게 소프트웨어 생태계 구축을 하지 못하면 대체재 이미지를 벗기 어려울 수 있다. 특히 엔비디아 차세대 인공지능 가속장치가 초기 수요를 따라가지 못할 가능성이 높은 현재 상황이 기회다.

경쟁사의 소프트웨어, 라이브러리 확보는 현재진행형이다. AMD는 인공지능 처리 도구와 모델, 라이브러리 등을 모은 ROCm으로 생태계 구축에 힘을 쏟는 중이다. 그 외 인공지능 가속장치 개발사도 허깅페이스(인공지능 라이브러리 플랫폼)와의 협업이나 전용 라이브러리 생태계 확보에 나서는 모습이다.

젠슨 황 CEO는 생성형 인공지능에 의해 탄생한 새로운 산업이 100조 달러(원화 환산 약 13경 3,890조 상당)에 달한다고 강조했다. 산업 성장에 따라 인공지능 하드웨어에 대한 수요 역시 폭발적으로 증가할 것으로 예상된다. 하드웨어 기업의 경쟁도 가속화될 것이다. 동시에 시장에 다양한 선택지와 기술 발전을 위한 후발주자의 노력 또한 필요한 시점이다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 엔비디아 GTC 2024 개최, ‘블랙웰’과 ‘NIMS’로 인공지능 생태계 강화 나선다▶ AI 혁신의 중심 된 '엔비디아 GTC 2024', 국내 주요 참여 스타트업은?▶ ‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는? 운영자 24/05/20 - -
3681 [KESIA 시드팁스] 하와이컴퍼니 “수포자 문제 해결할 교육 솔루션, 여기 있습니다” IT동아갤로그로 이동합니다. 04.12 187 0
3680 이더리움 상승세 'ETF 승인 기대감·네트워크 업그레이드' 영향 IT동아갤로그로 이동합니다. 04.12 1168 0
3679 [농업이 IT(잇)다] 투마루, "푸드 업사이클링으로 김천 호두 진심 전할 것" IT동아갤로그로 이동합니다. 04.12 183 0
3678 [시승기] 차체 키우고 첨단 기술로 무장...‘BMW 뉴 X2’ [6] IT동아갤로그로 이동합니다. 04.11 2323 3
3677 [KESIA 시드팁스] 유기성 폐기물 처리 혁신으로 친환경 세상 이룰 것, 이성범 예쓰바이오 대표 IT동아갤로그로 이동합니다. 04.11 182 0
3676 퀄컴, 임베디드 월드 2024에서 새 IoT 칩 및 산업용 플랫폼 공개 [2] IT동아갤로그로 이동합니다. 04.11 1037 1
3675 AMD, 성능 10배 높인 '2세대 버설 AI 엣지·프라임' 임베디드 칩 출시 IT동아갤로그로 이동합니다. 04.11 458 0
3674 필수 가전 등극한 건조기, ‘타워’ 다음은 ‘콤보’? [10] IT동아갤로그로 이동합니다. 04.10 6054 0
3673 차트분석 도구 ‘트레이딩뷰’ 파고들기 - 6 IT동아갤로그로 이동합니다. 04.09 207 0
3672 전기차도 에너지효율 표시…‘5단계 연비등급제’ 전면 시행 IT동아갤로그로 이동합니다. 04.09 193 0
3671 [EV 시대] 미래 모빌리티 핵심 '전동화와 SDV' [1] IT동아갤로그로 이동합니다. 04.09 6371 1
3670 가상자산 거래소 2023년 부진한 실적, 올해는 반등 노린다 IT동아갤로그로 이동합니다. 04.09 183 0
3669 [IT신상공개] 지연시간 줄인 연주용 무선 헤드폰, 야마하 YH-WL500 IT동아갤로그로 이동합니다. 04.09 433 2
3668 [리뷰] 좋은 거 다 담았는데 이 두께가 나와? 에이수스 ROG 제피러스 G16(2024) IT동아갤로그로 이동합니다. 04.08 237 0
3667 [뉴스줌인] 삼성 올인원 Pro, 일체형 PC 한계 넘을까? IT동아갤로그로 이동합니다. 04.08 321 0
3666 윤곽 드러난 PCIe 7.0··· '최대 512GB 대역폭으로 AI 시장 보조' IT동아갤로그로 이동합니다. 04.08 207 0
3665 [신차공개] BMW ‘뉴 X2’ 출시·로터스 ‘에메야’ 제원 공개 [1] IT동아갤로그로 이동합니다. 04.08 199 0
3664 수많은 일정 간편하게 공유하려면 이렇게![이럴땐 이렇게!] IT동아갤로그로 이동합니다. 04.08 669 1
3663 [주간투자동향] 티오더, 300억 원대 시리즈B 투자 유치 IT동아갤로그로 이동합니다. 04.08 159 0
3662 [생성 AI 길라잡이] AI로 만든 콘텐츠, 저작권 인정될까? [1] IT동아갤로그로 이동합니다. 04.05 297 0
3661 윤희현 엠디글로벌넷 대표 “스타트업 창업에서 해외진출까지 함께” IT동아갤로그로 이동합니다. 04.05 200 0
3660 [농업이 IT(잇)다] 친환경 농업용 냉·난방기 개발 기업 ‘아이토브에너지’ IT동아갤로그로 이동합니다. 04.05 209 1
3659 [KESIA 시드팁스] 혈관독성약물 국소전달 플랫폼 ‘바스블록’으로 항암치료 혁신 꿈꾼다, 박정호 엔도큐라 대표 IT동아갤로그로 이동합니다. 04.05 194 0
3658 닥터호두 “품질·맛 좋은 국산 호두, 신선하고 편하게 먹도록 제공합니다” [7] IT동아갤로그로 이동합니다. 04.05 1092 1
3657 차트분석 도구 ‘트레이딩뷰’ 파고들기 - 5 [1] IT동아갤로그로 이동합니다. 04.04 641 1
3656 골드문트, 하이파이 스피커 라인업 출시 ‘새로운 사운드·성능 제공’ IT동아갤로그로 이동합니다. 04.04 269 0
3655 티맵 “2000만 데이터 학습한 AI 앞세워 초개인화 서비스 나설 것” IT동아갤로그로 이동합니다. 04.04 370 0
3654 AI 하드웨어 생태계의 시작이자 기준, 'MLPerf'란 무엇인가? IT동아갤로그로 이동합니다. 04.04 990 0
3653 [스타트업人] 스타트업의 동반자, 서울창조경제혁신센터 '창업 액셀러레이터' 이야기 IT동아갤로그로 이동합니다. 04.04 237 0
3652 삼성전자, 알아서 챙겨주는 '비스포크 AI' 가전 생태계 선보여 IT동아갤로그로 이동합니다. 04.03 417 0
3651 [기고] 시급한 위성항법시스템 구축과 제반 기술 경쟁력 강화 IT동아갤로그로 이동합니다. 04.03 192 0
3650 빗썸, 출금 수수료 인하·신규 기능 추가 ‘거래 편의 강화’ IT동아갤로그로 이동합니다. 04.03 196 0
3649 갤럭시 S23에도 적용된 AI 기능, S24와 비교하면? [5] IT동아갤로그로 이동합니다. 04.03 2500 1
3648 [자동차와 法] 자동차 튜닝…어디까지 합법일까? [1] IT동아갤로그로 이동합니다. 04.03 1639 0
3647 ‘측면으로 부족해’ PC 케이스 시장 대세는 다 보이는 어항형 케이스 [16] IT동아갤로그로 이동합니다. 04.03 982 1
3646 포르쉐, 3세대 신형 파나메라 출시…’효율·주행 성능·편의성’ 강화 IT동아갤로그로 이동합니다. 04.02 208 0
3645 [IT신상공개] 악기·AV 기기 기술 집약, 야마하 하이파이 앰프·스피커 IT동아갤로그로 이동합니다. 04.02 184 0
3644 글로벌 거래소 크립토닷컴 ‘4월 29일 한국 서비스 론칭’ IT동아갤로그로 이동합니다. 04.02 182 0
3643 [2024 고려대 초창패] 반려견과 보호자를 위한 산책 메이트 ‘달려갈개’ [6] IT동아갤로그로 이동합니다. 04.02 4080 4
3642 [KESIA 시드팁스] 아타드 박영선 대표 "미래를 바꿀 힘, 데이터에 있습니다" IT동아갤로그로 이동합니다. 04.02 1484 1
3641 [뉴스줌인] 해상도∙주사율 원터치 전환? 신형 LG 게이밍 모니터 이모저모 IT동아갤로그로 이동합니다. 04.02 452 0
3640 [IT애정남] 테무·알리익스프레스 이용··· 개인 정보는 안전한가요? IT동아갤로그로 이동합니다. 04.01 633 0
3639 LG유플러스 "소상공인 AX 솔루션으로 27년까지 매출 2000억 달성" IT동아갤로그로 이동합니다. 04.01 161 0
3638 봄 꽃 나들이·여름 휴가 갈 때 참조할 만한 서비스는? [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 04.01 817 0
3637 안랩, 유명인 사칭 SNS 및 투자 채팅방으로 돈 뜯는 ‘온라인 스캠’ 경고 IT동아갤로그로 이동합니다. 03.31 276 0
3636 삼성전자, '갤럭시 AI' 지원 확대, S23·폴드5·플립5등에 업데이트 실시 IT동아갤로그로 이동합니다. 03.31 240 0
3635 차트 분석을 위한 모니터, 선택부터 구성까지 어떻게? [24] IT동아갤로그로 이동합니다. 03.30 7241 5
3634 [뉴스줌인] 삼성의 신형 인덕션, ‘국내 유일’ 원격 제어 기능 탑재? 정말? IT동아갤로그로 이동합니다. 03.30 187 0
3633 [생성 AI 길라잡이] 인공지능으로 색다른 그림을 그려보자 – 크레아 AI IT동아갤로그로 이동합니다. 03.29 171 0
3632 업계 "건설근로자 도울 기능등급제 전파" IT동아갤로그로 이동합니다. 03.29 172 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2