'2024년의 키워드는 AI'··· 주목할 만한 각국의 AI 하드웨어 기업은?

IT동아 · 2024.02.01 15:52:41

[IT동아 남시현 기자] 마이크로소프트의 지난해 4분기 매출은 620억 달러(약 82조 7700억 원)로, 전년 동기 대비 17% 늘었다. 순이익 역시 23년 4분기의 164억 달러(약 21조 8900억 원)와 비교하면 33% 급증한 218억 7000달러(약 29조 1123억 원)에 달했다. 하지만 마이크로소프트 주가는 소폭 떨어졌고, 시장 외에서 -2.69%를 기록하고 있다. 구글의 모회사 알파벳 역시 지난해 4분기 매출이 13% 증가한 863억(약 115조 2100억 원)으로 크게 올랐지만, 주가는 -7.35%를 찍는 등 이례적인 하락세를 보이고 있다. 원인은 인공지능(이하 AI)에 있다.

지난해 생성형 AI가 전 세계를 뜨겁게 달구면서, 전 세계 빅테크 기업들이 AI 개발에 집중하고 있다. 마이크로소프트는 오픈AI를 인수한 뒤 ‘코파일럿’ 등을 공개하는 등 생성형 AI 대중화에 나섰고, 구글은 생성형 AI 바드에 이어 범용 생성형 AI 모델 ‘제미나이’를 선보이는 등 시장 공략에 집중하고 있다. 두 기업의 매출과 실적은 선방했으나, 시장에서는 생성형 AI를 비롯한 AI 산업의 가치와 가능성에 더 큰 역할을 주문하고 있다.

글로벌 대세 된 AI 개발, 빅테크 기업 현황은?

사티아 나델라 마이크로소프트 CEO(좌)와 젠슨 황 엔비디아 CEO(우)가 마이크로소프트 이그나이트 2023 행사에서 연단에 섰다 / 출처=엔비디아

현재 AI 산업의 중심에는 엔비디아가 있다. 엔비디아는 주력 제품인 그래픽 카드로 서버용 AI 하드웨어 시장에서 70% 이상의 점유율을 갖고 있으며, 올해에는 성능을 더 높인 H200 및 GH200을 통해 시장지배력을 더 강화한다. 하지만 엔비디아 제품의 품귀 현상으로 인해 가격대 성능비가 떨어지고, 또 GPU의 구조적 한계로 인한 낮은 와트당 성능으로 인해 기업들은 AI 가속기를 자체 제작하는 상황이다.

마이크로소프트는 지난해 1월 Arm 아키텍처를 기반으로 한 자체 AI 칩 ‘마이아100’을 공개했고, 구글도 주문형 반도체인 TPU v5e를 자사 클라우드에 탑재하기 시작했다. 클라우드 1위 사업자인 AWS 역시 트레이니엄과 인퍼런시아, 그래비톤 등을 여러 세대에 걸쳐서 업그레이드하고 있으며, LLM 시장에 주력하고 있는 메타 역시 메타 트레이닝 및 추론 가속기(MTIA)로 엔비디아 칩 대체에 나선다.

아담 셀립스키 AWS CEO가 AWS 리인벤트 2023에서 트레이니엄 2 및 그래비톤 4 반도체를 공개했다 / 출처=IT동아

AI 개발 및 수요가 많은 기업이 자체 반도체를 만드는 이유는 자사 서비스에 최적화된 반도체를 만드는 것은 물론, 도입 단가를 낮춰 가격대 성능비를 끌어올리기 위함이다. 하지만 자체 개발 및 도입 용도다 보니 판매는 고려하지 않는 경우가 많고, 이로 인해 일반 AI 개발 기업들은 비싼 값에 엔비디아 제품을 쓰거나 혹은 대체재의 등장을 기대하고 있다. 2024년, 전 세계 각국의 AI 반도체 스타트업과 상황을 면밀히 살펴본다.

미국 빅테크 사이에서도 우뚝 선 ‘셀레브라스’

미국은 AWS, 구글, 마이크로소프트 등 클라우드 기업은 물론 인텔, AMD 등 반도체 기업들도 AI 하드웨어 시장에 뛰어든 상황이다. 그런데 AI 스타트업도 세계 최고 수준이다. 이미 엣지 AI 분야에서 크네론(Kneron), 생성형 AI 반도체를 만드는 디-매트릭스(d-Matrix), 임베디드 엣지용 머신러닝 시스템을 개발하는 시마ai(SiMa.ai) 등 다양한 기업들이 선전하고 있고, 그중에서도 가장 주목도가 높은 기업은 셀레브라스 시스템즈(Cerebras Systems)다.

셀레브라스의 WSE-2 칩과 엔비디아의 A100 칩의 크기 비교, 셀레브라스는 대형 단일 칩으로 시스템을 구동하는 것을 핵심으로 한다 / 출처=셀레브라스

셀레브라스는 GPU 기반의 AI 서버, 슈퍼 컴퓨터를 대체하기 위한 하이퍼 스케일 시스템을 주력으로 한다. 제품은 2조 6천억 개의 트랜지스터를 내장한 초대형 반도체인 WSE-2가 핵심이다. WSE-2는 면적이 4만6225mm²에 달하며, 85만 개의 코어가 단일 프로세서에 담겨있다. 온칩 메모리는 엔비디아 A100에 비해 1000배, 메모리대역폭은 1만2733배에 달하고, WSE-2를 탑재한 CS-2 AI 가속기는 단일 시스템으로 최대 200억 개의 매개변수를 훈련할 수 있다.

CS-2는 타사 AI 가속기와 비교해 부피 및 에너지 소비를 크게 줄여 그린AI 같은 청정 에너지 컴퓨팅 기업이나 UAE의 글로벌 클라우드 기업 G42, 미국 아르곤 연구소 등으로부터 주문을 받고 있다. 한편 미국 블룸버그는 셀레브라스가 올해 말 IPO 도입을 고려하고 있다고 보도하면서, AI용 슈퍼컴퓨터의 새로운 대체제로 자리매김할지 관심이 쏠리고 있다.

엔비디아의 경쟁자에서 생존 경쟁 접어든 ‘그래프코어’

그래프코어의 콜로서스 GC200 AI 칩 / 출처=그래프코어

그래프코어는 영국에 본사를 둔 AI 하드웨어 기업으로, IPU(Intelligence Processor Unit)라는 이름의 AI 칩을 설계한다. 2021년까지만 해도 그래프코어는 3D 적층 기술로 반도체 밀도를 높인 보우(Bow) UPU로 전 세계 시장의 주목을 받았고, 마이크로소프트, 시라스케일(Cirrascale), NHN클라우드 등 전 세계 다양한 클라우드 기업에 AI 처리 용도의 IPU를 공급하는 등 성과를 냈다.

하지만 2023년 미국 정부의 반도체 수출 규제에 직접적인 타격을 입으면서 난관에 빠졌다. 제품 판매가 불가능해지며 매출에 직접적인 타격을 입었고, IPU 자체가 시장에서 요구하는 생성형 AI와 대형 언어 모델 처리가 아닌 AI 애플리케이션 구동에 초점을 맞춰 외면을 받고 있다. 2년 전 그래프코어는 2024년에 500조 개 매개변수를 지원하는 세계 최초의 초지능 AI 컴퓨터 ‘굿(Good)’을 선보이겠다고 했으나, 지금은 회사가 존속할 수 있을지가 더 우려되는 상황이다.

반도체의 전설, 짐 캘러가 이끄는 ‘텐스토렌트’

짐 캘러 텐스토렌트 CEO / 출처=IT동아

텐스토렌트는 캐나다에 본사를 둔 AI용 RISC-V 반도체 전문기업이다. RISC-V는 오픈소스 기반의 반도체로, 소비전력은 적으면서 성능 효율은 좋다. 텐스토렌트는 텐식스IP를 바탕으로 AI 추론용 그레이스컬 칩셋을 곧 시장에 선보이며, 네트워크 기반의 머신러닝 칩셋인 웜홀도 조만간 선보인다. 로드맵 상으로는 블랙 홀, 그란델 등 대규모 기계학습용 반도체도 준비하고 있으나, 당장은 그레이스컬의 상업화에만 집중하는 것으로 보인다.

텐스토렌트가 시장의 주목을 받는 이유는 RISC-V 특유의 활용도 때문이지만, 최고경영자인 짐 켈러의 영향도 상당하다. 짐 캘러는 AMD, 브로드컴, 애플, 테슬라, 인텔 등의 기업들을 거치며 마이크로 프로세서를 개발해 왔고, 특히 기업이 위기일 때 나타나 문제를 해결하고 홀연히 사라지는 등의 행보로 전설을 써내려 왔다.

그런 그가 직접 이끈다는 점에서 전 세계적인 주목을 받고 있다. 한편 텐스토렌트는 지난 8월, 현대자동차 및 삼성으로부터 1억 달러 규모의 투자를 이끌어냈고, 삼성 파운드리에 RISC-V 수주를 체결하기도 했다.

중국의 엔비디아 ‘캠브리콘’, 연이은 손실에 존폐 위기

캠브리콘은 중국의 엔비디아라고 불렸지만, 연이은 손실을 감당하지 못하고 있는 상황이다 / 출처=캠브리콘

중국도 AI 반도체 개발에 집중하고 있다. 중국의 빅테크 기업인 바이두나 화웨이, 클라우드 기업인 알리바바 등이 자체적으로 AI 반도체를 만들고 있으며, AI 가속기 스타트업으로는 캠브리콘이 대표적이다. 2016년 설립된 캠브리콘은 알리바바 서버와 화웨이 AI 스마트폰에 칩을 납품하면서 주목을 받기 시작했고, 2020년 상하이 증시에 상장하면서 ‘중국의 엔비디아’로 불리며 중국의 반도체 굴기의 대표 주자로 성장한다.

캠브리콘은 상장 이후 연구 개발에 투자 비용의 90%를 쏟는 등 공격적인 행보를 했지만 뚜렷한 판매처를 찾지 못했고, 22년에는 11억 6천 만 위안(약 2040억 원)대 순손실을 기록했다. 캠브리콘은 이미 자율주행 사업부와 인력을 정리했으나, 22년 이후 홈페이지조차 관리하지 못할 정도로 상황이 나쁘다. 캠브리콘은 AI 업계에서 기술 자립이 얼마나 어려운지, 그리고 미국의 AI 영향력이 얼마나 큰지 보여주는 사례다.

대한민국, AI 반도체를 차세대 먹거리로 육성 중

백준호 퓨리오사AI 대표가 지난해 11월 열린 Arm 테크 심포지아에서 1세대 워보이 및 2세대 레니게이드 반도체를 소개하고 있다 / 출처=IT동아

대한민국은 AI 반도체 시장에서 이제 막 성과를 낼 차례다. 주목할만한 기업으로는 1세대 워보이에 이어 올해 2세대 레니게이드 AI 가속기를 출시하는 퓨리오사AI, 비전 및 언어 모델을 모두 지원하는 데이터센터 AI 반도체 아톰을 출시하는 리벨리온, 데이터센터용 AI 반도체 X330을 출시한 사피온이 삼파전을 벌이고 있고, 비전 및 자율주행용 ‘올인포 AI 토탈 솔루션’을 출시하는 딥엑스도 경쟁에 뛰어든 상황이다.

퓨리오사AI 워보이가 서버 상에서 구동되고 있는 모습 / 출처=IT동아

이중 가장 주목할만한 성과를 내고 있는 기업은 퓨리오사AI다. 리벨리온과 사피온은 올해 상반기 중 제품을 양산하고 고객사에 납품할 예정인데, 퓨리오사AI는 지난해 1세대 반도체를 양산한 뒤 에티버스와 손을 잡고 제품 판매에 돌입했다. 또한 올해 9월부터는 엔비디아 H100과 같이 범용성 있는 AI 개발이 가능한 2세대 제품 레니게이드로 승부수를 띄운다. 다른 기업들이 이제 막 제품 양산 후 고객사와 협업하는 단계라면, 퓨리오사AI는 기존 고객사는 물론 엔비디아의 고객사까지 공략하는 단계에 접어든 것이다.

퓨리오사AI는 유일하게 소프트웨어 개발 도구(SDK)를 제품과 함께 공개하고 있으며, 추후 고객사의 진입 장벽을 낮추기 위해 직접 AI 모델을 최적화해 플랫폼 형태로 제공할 예정이다. 특히나 AI 반도체의 성능을 공신력 있게 평가하는 MLPerf를 엔비디아를 제외하고는 최초로 모든 테스트 항목에 도전할 예정인데, 기대했던 결과만 나온다면 전 세계적으로 엔비디아의 대체제로 주목을 받게 될 것이다.

AI 반도체 시장, 살아남는 자가 강한 시장될 것

엔비디아의 지난해 3분기 매출액은 전년 동기대비 3배, 영업 이익은 7배나 증가했다. 반도체가 고부가가치 산업이지만 이 정도로 이익률이 급증하는 건 유례가 없다. 그만큼 엔비디아의 그래픽 카드 가격이 지나치게 높고, 수요도 폭증하고 있음을 알 수 있는 대목이다. 결국 이 대체재를 찾는 수요가 없을 수 없기 때문에 AI 가속기 시장은 성장할 수밖에 없고, 이것이 우리나라를 비롯한 전 세계 국가들이 AI 스타트업을 미는 이유다.

퓨리오사AI는 SDK, 모델 등 활용 생태계 확보에도 열을 올리고 있다. 제품과 생태계 모두 고려해 성과를 내야 한다 / 출처=IT동아

그리고 지금은 AI 가속기 스타트업들이 개발을 진행하는 단계인데, 엔비디아를 대체할 수 있는 제품이 등장하면 경쟁은 훨씬 더 치열해질 것이다. 물론 보다 면밀하게 접근할 필요는 있다. AMD가 MI300 등 확실한 실력을 갖췄음에도 생태계 부족으로 엔비디아에 밀리고 있는 점, 생성형 AI가 아닌 AI 애플리케이션 시장을 겨냥하는 바람에 존폐 위기에 놓은 그래프코어 처럼 정확하게 시장 수요에 대응하는 것도 중요하다.

특히 반도체 시장은 생태계를 중시하기 때문에 쓰는 기업의 제품만 쓰는 특성이 있고, 그렇지 않은 제품은 자연스레 소외당한다. 한시라도 빨리 제품을 내놓고 생태계를 구축하는 기업은 유리하지만, 시작선이 뒤로 갈수록 불리하다. 2024년은 그 시작점이다. 우리나라의 AI 스타트업들이 더욱 박차를 가해야 하는 이유다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3455	꿀꺽 삼키면 건강 상태 진단하는 마이크로 로봇 ‘가시권’ [6]	IT동아	02.14	1450	8
3454	[스타트업 법률실무 마스터링] 스타트업 법률실무 (3) 임직원 퇴사시 분쟁방지 (경업금지, 영업비밀보호)	IT동아	02.14	118	0
3453	[뉴스줌인] AI∙콘텐츠 작업용 노트북, ‘MSI 프레스티지 16 AI Studio’ 이모저모	IT동아	02.14	429	0
3452	[EV 시대] 전기차 시대 디자인 변화상 살펴보니	IT동아	02.13	119	0
3451	다쏘시스템 “제품 설계 혁신…’AI·버추얼 트윈'으로 달성”	IT동아	02.13	124	0
3450	빗썸, 이더리움 멀티체인 지원 등 ‘입출금 서비스 개선’	IT동아	02.13	1024	0
3449	[주간투자동향] 클라우드호스피탈, 20억 원 규모 프리 시리즈A 투자 유치	IT동아	02.13	150	0
3448	[스타트업-ing] 레디큐어 “디지털 엑스선, 치매 환자·가족에게 희망을”	IT동아	02.13	92	0
3447	스마트폰 보호필름 선택은 이렇게![이럴땐 이렇게!] [2]	IT동아	02.12	409	0
3446	우주의 신비 푸는 디지털 카메라들	IT동아	02.12	572	0
3445	늘어나는 '와이파이 7' 지원··· 2024년 와이파이 전환 원년 될까? [17]	IT동아	02.12	7022	6
3444	주목할 만한 올해 출시 예정 전기차 살펴보니	IT동아	02.08	125	0
3443	스마트폰 업계, 2023 부진 인공지능으로 씻는다	IT동아	02.08	200	0
3442	플로우 “생기부 작성, 입시지도 업무에도 AI 활용하는 시대 온다”	IT동아	02.08	153	0
3441	‘14인용 LG 디오스 오브제컬렉션 식기세척기’ 출시, 대용량 제품군 강화	IT동아	02.08	153	0
3440	거래소 점유율 좌우하는 ‘거래 수수료’	IT동아	02.08	938	0
3439	‘AI 기반 학업성취도 평가·분석’…기술 고도화 나선 교육업계	IT동아	02.07	123	0
3438	가상자산 신고센터 사례로 보는 이용자 유의사항 5가지	IT동아	02.07	347	0
3437	[리뷰] 프레임 확장으로 활용도·가성비↑ AMD 라데온 RX 7600 XT [4]	IT동아	02.07	1057	0
3436	존 모리스 씨게이트 CTO “30TB 장벽 넘은 드라이브, 데이터센터 혁신 이끌 것	IT동아	02.06	168	0
3435	[자동차와 法] 도로상 장애물로 인한 교통사고의 법률적 문제와 해결방안	IT동아	02.06	332	1
3434	설 연휴 맞이 무상점검 실시하는 車 제조사	IT동아	02.06	121	0
3433	PC 부팅 실패나 오류를 고치려면 이렇게![이럴땐 이렇게!]	IT동아	02.06	848	2
3432	[뉴스줌인] 실속형 무선청소기 LG 코드제로 ‘A9 에어’, 고급형 모델 대비 차이점은? [3]	IT동아	02.05	1242	1
3431	[리뷰] 가성비 맞춘 전동형 책상, 핏쳐 L1 모션 데스크	IT동아	02.05	136	0
3430	[스타트업 법률실무 마스터링] 스타트업 법률실무 (2) 스톡옵션 부여 및 행사 관련 분쟁 방지	IT동아	02.05	117	0
3429	라온로드 “클라우드 기반 교통체계 시장은 블루오션, 우리가 개척 중”	IT동아	02.05	111	0
3428	빗썸, ‘창업 경진대회’ 유망기업 10개 선정···1위 반프 수상	IT동아	02.05	118	0
3427	반세기 이상 이어진 역사…BMW 5시리즈 발자취 살펴보니 [5]	IT동아	02.05	872	3
3426	[시승기] 8세대에 걸친 진화…수입차 1위 탈환의 주역 ‘BMW 뉴 5시리즈’	IT동아	02.02	148	0
3425	[리뷰] 넓은 공간감과 보강된 저음, 젠하이저 레퍼런스 헤드폰 ‘HD490 프로’	IT동아	02.02	133	0
3424	대기업과의 협업 기회 제공 ‘창업도약패키지(대기업 협업형)’ 참여 기업 모집	IT동아	02.02	188	0
3423	애플, 올 연말에 '생성형 AI' 윤곽 제시한다 [4]	IT동아	02.02	1145	0
3422	"부산 워케이션 센터, 모두에게 열린 최적의 업무 공간"	IT동아	02.02	120	0
3421	"BGF리테일의 신속성과 업무 효율, 협업 툴 플로우에서 비롯됐죠" [3]	IT동아	02.02	435	1
3420	30kg 무게 들어 올리는 '고하중 협동로봇' 선보인 ‘유니버설 로봇’	IT동아	02.01	135	0
	'2024년의 키워드는 AI'··· 주목할 만한 각국의 AI 하드웨어 기업은? [4]	IT동아	02.01	1006	2
3418	백승학 치과교정학회장 “치아교정, 충분한 경험과 지식 갖춘 의사가 중요”	IT동아	02.01	104	0
3417	[리뷰] 휴대성-성능 모두 챙긴 비즈니스 노트북, 에이수스 엑스퍼트북 B9	IT동아	01.31	128	0
3416	[IT애정남] 한쪽 이어폰을 교체한 경우, 양쪽 이어폰을 연결하려면? [3]	IT동아	01.31	658	0
3415	[IT애정남] 휴면회원이 활성 회원으로··· 왜 자꾸 안내가 올까요? [4]	IT동아	01.31	1968	9
3414	푸조 “올해 ‘E-408·E-5008 전기차 투입’과 ‘챗GPT 적용’으로 승부수” [2]	IT동아	01.31	759	1
3413	[KTVF] 원컴 “궁극형 QiFi 솔루션으로 무선 충전 기술 보편화에 앞장서겠습니다”	IT동아	01.31	115	0
3412	[EV 시대] ‘영국 EV 인프라’ 살펴보니...가로등에도 충전시설 구축 [3]	IT동아	01.30	510	0
3411	[IT하는법] 외부 앱 설치 차단으로 스마트폰 피싱 막는 법 [4]	IT동아	01.30	1502	0
3410	LG전자, 중기부와 함께 ‘디지털 헬스케어’ 스타트업 찾는다	IT동아	01.30	155	0
3409	IBM-한국퀀텀컴퓨팅, IBM 왓슨x 및 양자 컴퓨터 국내 도입 위해 협력 [6]	IT동아	01.30	865	2
3408	[KTVF] 칼렛바이오 “글로벌 포장 산업의 표준이 되겠습니다”	IT동아	01.30	103	0
3407	[혁신스타트업 in 홍릉] 픽셀로 “눈 건강 관리, 안구 질환 예방하는 아이케어 솔루션”	IT동아	01.30	159	0
3406	[뉴스줌인] 본격 출시 시작한 ATX 3.1 파워 서플라이, 바뀐 점은?	IT동아	01.30	513	0
뉴스	[포토] 이승기, 멋진 올블랙 패션	디시트렌드	11.21

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

글로벌 대세 된 AI 개발, 빅테크 기업 현황은?

미국 빅테크 사이에서도 우뚝 선 ‘셀레브라스’

엔비디아의 경쟁자에서 생존 경쟁 접어든 ‘그래프코어’

반도체의 전설, 짐 캘러가 이끄는 ‘텐스토렌트’

중국의 엔비디아 ‘캠브리콘’, 연이은 손실에 존폐 위기

대한민국, AI 반도체를 차세대 먹거리로 육성 중

AI 반도체 시장, 살아남는 자가 강한 시장될 것

▶ 생성 인공지능, 스마트폰 품 속으로▶ 삼성전자 갤럭시 S24 시리즈 첫 공개, 핵심 키워드는 ‘AI’▶ '게이머는 안중에 없는 듯···' 또 라인업 꼬인 엔비디아 RTX 40 시리즈

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 생성 인공지능, 스마트폰 품 속으로 ▶ 삼성전자 갤럭시 S24 시리즈 첫 공개, 핵심 키워드는 ‘AI’▶ '게이머는 안중에 없는 듯···' 또 라인업 꼬인 엔비디아 RTX 40 시리즈