"퓨리오사AI의 개발 철학, 핵심은 하드웨어·소프트웨어의 유기적 결합입니다"

IT동아 · 2023.09.21 13:17:20

[IT동아 남시현 기자]

“최고의 소프트웨어는 최고의 하드웨어에서 나온다”

퓨리오사AI의 박준영 시니어 하드웨어 아키텍트가 항상 마음에 담아두고 있는 말이라고 한다. 퓨리오사AI는 인공지능 연산에 최적화된 인공신경망 반도체(NPU) 기업으로, 현재 1세대 반도체인 ‘워보이(WARBOY)’를 양산하고 내년 초 2세대 반도체인 ‘레니게이드(Renegade)’ 출시를 앞두고 있다. 박준영 아키텍트는 2021년 퓨리오사AI의 하드웨어 팀으로 합류해 레니게이드의 아키텍처를 설계했고, 차세대 반도체 구상에도 참여하고 있다.

퓨리오사AI 박준영 시니어 하드웨어 아키텍트 / 출처=IT동아

아키텍트(Architect)란 건축물을 설계하고 시공하는 건축가를 뜻하는 말로, IT업계에서는 시스템을 기획, 설계, 관리, 감독하는 직책을 의미한다. 그중에서도 AI 반도체 분야의 하드웨어 아키텍트는 반도체의 중추인 NPU의 코어를 설계하고, 시스템온칩(SoC)과 인터페이스 구성 등의 물리적 구성 요소를 조율하고 소프트웨어, 컴파일링 등 무형의 자산까지 효율적으로 적용할 수 있도록 구성하는 일을 한다. 박준영 아키텍트에게 AI 반도체란 무엇인지, 아키텍트가 어떤 역할을 하는지 들어보는 시간을 가졌다.

“시스템 반도체 만들겠다는 꿈, 퓨리오사AI에서 실현하고 있다”

박준영 아키텍트는 NPU 시스템 전반에 대한 설계부터 하드웨어, 소프트웨어 팀을 조율하는 역할까지 하고 있다 / 출처=IT동아

박준영 아키텍트가 퓨리오사AI에서 일하게 된 계기는 어린 시절 만져본 그래픽 카드로부터 시작한다. 그는 “어린 시절부터 컴퓨터에 관심이 많았고 그래픽 카드를 써보면서 언젠가 GPU를 만들어보고 싶다는 꿈을 갖게 됐다. 그래서 전자공학과 컴퓨터공학을 복수전공 하고, 삼성전자 시스템 LSI 사업부에 입사해 시스템 반도체 등과 관련된 설계부터 애플리케이션 프로세서(AP)에 탑재되는 GPU 설계팀까지 일하며 꿈을 이뤄왔다”라며 설명을 시작했다.

이어서 “직무와 관련해 인공지능(이하 AI) 관련 교육을 받는 중, AI 연구에 엔비디아를 비롯한 기업들의 하드웨어가 필수라는 점을 알게 됐다. 그때부터 AI 기반 산업이 세상을 바꿔놓을 것이고, 글로벌 AI 생태계에 합류하고 싶다는 생각을 갖게 됐다. 그러던 중 우연찮게 퓨리오사AI에 근무하는 후배를 통해 대표님과 만나게 되면서 확신을 갖고 합류했다”라고 말했다. 대기업에서 스타트업으로 이직하는 것을 두고 끊임없이 고민했으나, 많은 업계의 인연들과 퓨리오사AI의 방향성에 대한 확신을 갖고 NPU 아키텍트라는 길을 택했다고 한다.

하드웨어 팀과 소프트웨어 팀이 시스템 구성을 위한 회의를 진행하고 있다 / 출처=IT동아

하드웨어 팀의 구성은 어떨까? 박준영 아키텍트는 “하드웨어 팀은 NPU를 비롯한 시스템 전반의 요소를 설계하는 아키텍처 팀, NPU와 다른 하드웨어 구성 요소를 통합하여 하나의 칩으로 설계하는 시스템 온 칩(SoC) 팀, 하드웨어 설계 검증 팀, 메모리 및 인터페이스 팀, 칩 외적인 부분을 맡는 시스템 팀으로 나뉜다. 아키텍트 팀은 하드웨어 팀은 물론 소프트웨어 팀과도 협업하며, 이런 전반적인 영역을 모두 파악하고 시스템을 설계하는 역할을 한다”라고 말했다.

아키텍트 팀의 ‘설계’는 구체적으로 어떤 일일까? 박준영 아키텍트에게 예시를 부탁했다. “반도체는 어떤 목적을 수행하기 위해 만든다. 예를 들어 GPT와 같은 대형언어모델용 반도체를 만든다면, 서비스를 위해 사용되는 매개변수의 양과 사용된 시간을 파악하고, 여기에 필요한 메모리 성능과 초당 연산량 등의요구 사항을 구체적으로 정의해야 한다. 그다음 이를 달성하기 위한 하드웨어를 구성하고 소프트웨어가 사용할 수 있는 구조를 만들어야 한다. 아키텍처 팀이 그 중심에서 작업을 조율하고 제품과 절차를 설계한다”라고 설명했다.

퓨리오사AI의 NPU는 어떻게 엔비디아의 GPU에 맞설까

퓨리오사AI가 주목받는 이유는 AI 산업의 성장세와 밀접한 관련이 있다. 챗GPT의 흥행 덕분에 AI 반도체가 기업 및 연구기관의 핵심 자산으로 떠오르기 시작했고, 엔비디아의 GPU가 품귀현상을 빚고 있다. 하지만 엔비디아의 점유율이 80~90%에 달하고, 사실상 가격을 통제하고 있어서 대체제에 대한 목소리가 커지고 있다. 퓨리오사AI의 NPU가 그 역할을 할 수 있다. 박준영 아키텍트에게 퓨리오사AI의 NPU가 어떻게 GPU를 대체할 수 있을지 물어봤다.

박준영 아키텍트는 NPU와 GPU의 목적은 같지만, 효율성 측면에서 다르다고 설명했다 / 출처=IT동아

박준영 아키텍트는 “엔비디아의 GPU는 그래픽 픽셀을 병렬로 처리하는 반도체인데, 이 병렬 연산 기능을 일반 작업 용도로 확장하면서 AI 반도체로 쓰게 됐다. 하지만 AI 작업은 예측 가능한 목표를 수학적으로 처리하는 과정이어서 GPU로 처리할 수는 있지만, GPU 기능을 가장 효율적으로 쓰는 것은 아니므로 전력 사용이나 자원 활용에 있어서 비효율적이기도 하다. NPU는 AI 개발에 필요한 과정에 맞춰 최적화된 반도체로, 필요한 자원만 활용해 데이터를 처리하는 식으로 동작한다. 덕분에 하드웨어 가용량이나 소비전력, 메모리 등을 관리하는데 훨씬 효과적이다”라고 말했다.

그는 “GPU와 NPU의 작업 과정을 쉽게 얘기하면 우주 탐험과 비슷하다. GPU는 우주탐사선과 같아서 다양한 목적을 수행하기 위한 자원과 에너지를 풍부하게 갖고 시작한다. 비용은 많이 들어도 어떤 경로로든 자유롭게 이동하는 식으로 목적을 달성한다. NPU는 탐사선이 개척한 경로를 효율적으로 운항하는데 최적화된 쾌속선과 같다. 정해진 목적을 수행하므로 자원과 에너지를 효율화하고 그만큼 비용도 적게 든다. 엔비디아가 시장을 독점하고 있어도 각각의 AI 반도체 기업들이 성장할 수 있는 이유가 이런 개념이다”라고 덧붙였다.

1세대 워보이와 2세대 레니게이드는 어떤 제품인가?

현재 주력 모델인 워보이, 그리고 2세대 NPU인 레니게이드에 대한 설명을 부탁했다. 그는 “워보이는 기초적인 데이터를 처리하는 정수 계산용 반도체(Integer)지만 퓨리오사AI 입장에서는 기술적으로나 상업적으로 큰 의미를 가지는 제품이다. 워보이를 기준으로 소량 생산에서 양산 단계에 접어들었고, 구체적인 제품 가격과 성능을 입증했다. AI 반도체의 스펙을 보면 연산량이나 메모리 대역폭이 얼마냐 하는 문제가 있는데 이것이 구체적인 성능을 보증하는 건 아니다. 하지만 양산 제품이 있으니 이를 실질적으로 증명할 수 있다”라며 설명을 시작했다.

박준영 아키텍트가 1세대 반도체 워보이를 소개하고 있다 / 출처=IT동아

박준영 아키텍트는 “단순히 하드웨어만 만드는 게 전부가 아니다. NPU로 개발을 하려면 여러 컴퓨터 언어로 작동할 수 있게 컴파일을 해야 하고, 여기에 맞는 소프트웨어도 필요하다. 퓨리오사AI는 컴파일러와 소프트웨어가 효율적으로 동작하도록 소프트웨어 개발 도구(SDK)를 비롯한 데이터를 직접 배포하고 있고, 또 해당 부서가 하드웨어 개발에도 관여하고 있다. 이렇게 소프트웨어와 하드웨어가 발을 맞춰 개발하는 게 퓨리오사AI의 핵심 전략이자 개발 철학”이라고 말했다.

실제 서버 상에서 구동되고 있는 워보이 / 출처=IT동아

2세대 레니게이드에 대한 설명도 부탁했다. 그는 “레니게이드는 대형언어모델을 위한 개발 도구 중 엔비디아의 그래픽 카드를 대체할 수 있는 대안 중 하나다. NPU의 빠르고 효율적인 데이터 처리와 HBM3 기반의 높은 메모리 성능, 그리고 이를 지원하는 소프트웨어까지 모두 준비하고 있다. 현재 시점에서는 전체 칩 설계가 완료돼 최종 검증 단계에 있고, 다음 달 반도체 공정의 시작을 앞두고 있다”라고 간략하게 말했다. 물론 시제품이 나오면 기대 성능과 실제 성능을 대조하고, 하드웨어를 효율화하는 작업과 소프트웨어와의 조율은 계속 해야 한다고 덧붙였다.

“3세대 NPU 작업 한창··· 미래 수요 예측하고 설계해야”

그가 준비하고 있는 것은 그다음 세대의 NPU다. 박준영 아키텍트는 “레니게이드를 설계하면서 느꼈지만, AI 시장의 변화가 너무 빠르다. 차세대 반도체가 시장 수요에 부합하기 위해서는 현재 기업과 학회에서 연구되고 있는 것들을 파악해서 선반영하고, 장래에 어떤 기능과 서비스가 필요할지 예측해서 설계해야 한다”라고 말했다.

박준영 아키텍트는 반도체를 설계하는 과정이 현재가 아닌 미래를 위한 설계라고 말한다 / 출처=IT동아

차세대 반도체가 입지를 다지기 위해서는 지금 유행하는 서비스가 아닌 앞으로 유행할 서비스를 예측해서 설계해야 한다는 말이다. 그러면서 “엔비디아 같은 거대 자본과 조직, 생태계를 갖춘 곳과 경쟁하는 것은 어려운 일이지만, 소프트웨어와 알고리즘 등의 조직과 자유롭게 의사소통하고 빠르게 의사 결정을 내리면서 가능성을 만들어 나가고 있다”라고 말했다.

마지막으로 박준영 아키텍트는 “AI는 거의 모든 첨단기술 분야에서 사용되고, 또 더 널리 쓰이게 될 것이다. 이를 이끌어나가는 생태계에 속해있다는 것만으로도 개인적인 성취이며,훌륭한 동료들과 최고 수준의 경쟁력을 가진 제품을 만들고 있다는 것 자체에 큰 자부심을 느낀다. 더 욕심을 내자면 우리가 앞으로 선보일 결과물들이 원하는 대로 만들어지고, 세계 시장과 인류사에 기록될 제품이 되길 바란다. 퓨리오사AI가 그런 기업이 될 수 있도록 노력하겠다”라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’	IT동아	11.21	38	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	11.21	40	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	11.21	3985	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	11.21	52	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	11.21	1813	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	11.21	50	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	11.21	49	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	110	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	64	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4796	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	123	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	62	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [4]	IT동아	11.20	280	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	91	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	91	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	95	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	95	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	683	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	91	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	380	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5117	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	121	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	112	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	213	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	207	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	194	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	188	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6229	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	177	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	199	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	156	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1377	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	150	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	180	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	723	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	179	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	172	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	329	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4665	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4778	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	184	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	217	0
4514	기한 지나면 과태료…운전면허 적성검사 및 갱신 방법 살펴보니	IT동아	11.12	2398	3
4513	[창업도약+경북대] 준컴퍼니 “자동차 구매부터 판매까지 아우르는 모빌리티 통합 플랫폼 꿈꾼다”	IT동아	11.12	208	0
4512	[스케일업] 모넷코리아 [2] HDC랩스와 협업 통해 AIoT 기반 부동산 관리 플랫폼 고도화	IT동아	11.12	240	0
4511	[2024 고려대] R2C컴퍼니 “데이터 수요·공급자 만족 이끄는 플랫폼”	IT동아	11.12	658	0
4510	갤럭시 스마트폰의 위젯 기능, 제대로 쓰려면?	IT동아	11.12	265	1
4509	[AWS 인더스트리 위크 2024] 국내 금융/핀테크 기업에 AWS 솔루션은 이렇게 적용됐다 [1]	IT동아	11.11	2059	1
4508	'제조 스타트업 대상으로 소싱디렉팅·제품 제작까지'··· 서울과기대의 실질적 지원 들여다보니	IT동아	11.11	229	0
4507	[AWS 인더스트리 위크 2024] AWS가 실현하고 있는 인공지능 기술의 현재	IT동아	11.11	286	0
뉴스	윤세아, ‘홈캠’ 설치하다가 마주친 기이한 일…현실 공포 예고	디시트렌드	11.21

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

“시스템 반도체 만들겠다는 꿈, 퓨리오사AI에서 실현하고 있다”

퓨리오사AI의 NPU는 어떻게 엔비디아의 GPU에 맞설까

1세대 워보이와 2세대 레니게이드는 어떤 제품인가?

“3세대 NPU 작업 한창··· 미래 수요 예측하고 설계해야”

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결