[스케일업] [1] 클리카, "원천 기술로 만든 모델 경량화 AI, 전 세계서 쓰일 것"

IT동아 · 2024.10.23 17:45:30

[IT동아 x SBA] IT동아는 서울경제진흥원(SBA)과 함께 ‘2024년 스케일업 프로그램’을 진행합니다. 서울창업허브 오픈이노베이션 참여기업 중 유망한 스타트업을 선정, 인터뷰로 발전사와 성과를 소개합니다. 나아가 이들이 다음 단계로 도약하도록 지원하는 프로그램입니다.

[IT동아 남시현 기자] 인공지능(이하 AI)이 주목받으면서 모델 경량화에 대한 시장의 관심도 뜨겁다. AI 장치는 메모리나 연산 장치 등으로 구성된 하드웨어 요소, 그리고 AI 모델 실행 데이터, 프로그램 등으로 구성된 소프트웨어로 나뉜다. 두 요소 모두 실행 요소나 작업 환경에 맞춰 그 수준과 성능이 결정되는데, 하드웨어가 크고 소프트웨어가 작은 건 큰 문제가 되지 않는다. 하지만 소프트웨어가 큰데 하드웨어가 작으면 제 성능을 낼 수 없다. 이 경우에는 성능은 최대한 유지하면서 소프트웨어 크기는 줄여서 넣어야 한다. 이 과정이 모델 경량화다.

아사프 클리카 기술최고책임자와 김나율 클리카 대표 / 출처=IT동아

업계에서는 모델 동작에 필요한 매개변수의 중요도를 조절하는 가중치, 함수 등을 낮은 비트의 정밀도로 조정하는 모델 양자화, 구성 요소를 간소화하는 가지치기, 작은 모델이 큰 모델과 유사한 성능이 내도록 하는 지식 증류 등 다양한 방법을 고안했다. 하지만 모델 크기를 줄여도 속도와 정확도는 유지해야 하는데, 수작업으로 이뤄져 둘 다 살리기가 쉽지 않다. 클리카는 자체 보유한 AI 엔진으로 모델 경량화를 자동화하고, 정확도와 속도 모두 잡아낸다.

“클리카 에이스, 모델 경량화의 연결고리”

클리카는 부부 사이인 김나율 대표와 벤 아사프 기술최고책임자(이하 CTO)가 공동 설립했다. 당시 벤 아사프 CTO는 모빌아이에 재직하며 사물인식 AI를 칩에 경량화해 탑재하는 작업을 했다. 자율주행이 크게 주목받던 시기여서 그가 잠깐 한국을 방문한 사이에도 많은 강연을 진행했고, 김나율 대표가 강연 준비를 도우며, AI의 시장 가능성을 내다보고 2021년 3월에 AI 경량화 기술로 창업을 시작했다.

클리카의 핵심 사업은 AI 경량화를 자동으로 처리하는 엔진이다 / 출처=IT동아

창업 직후 벤 아사프 CTO는 이스라엘 히브리대 병렬컴퓨터 시니어 개발자로 일하며 모델 가속에 대한 연구를 시작했고, 6월부터 클리카 에이스의 기반이 되는 AI 경량화 엔진 개발에 착수한다. 벤 아사프가 서비스를 개발하는 사이, 마케팅 경력을 가진 김나율 대표는 시장 조사와 국내외 영업 기반, 지원사업 및 투자 등을 마련했다. 22년 들어 개발력을 가진 팀원들이 클리카에 합류했고, 본격적으로 클리카의 AI 기술력이 빛을 발하기 시작한다.

김나율 대표는 “모델 압축은 사이즈를 줄이는 방법, 하드웨어에 호환되도록 하는 방법 두 가지가 있다. 모델을 작게 한다고 무조건 좋은 건 아니고, 정확도와 속도 가속을 최대한 유지하는 게 이상적이다. 시중의 경량화 솔루션을 쓰면 모델 사이즈를 80% 정도 줄일 수 있지만, 엔비디아 계열만 주로 지원하거나 수작업이어서 시간이나 자금이 많이 든다”라고 배경을 설명했다.

“3년 경량화 실패한 작업, 클리카 에이스로 1달 만에 해결”

김나율 대표는 모델 경량화가 정확도, 속도 모두 중요하다고 말한다. 클리카의 AI 경량화 엔진은 두 부분을 모두 잡는다 / 출처=IT동아

이어서 ”클리카는 이 부분을 AI로 완전히 자동화했다. 고객사로부터 어떻게 자동화하는지에 대한 요청이 많지만, 이 부분은 벤 아사프가 직접 고안한 아이디어를 엔진으로 구현한 것이어서 설명이 어렵다. 대신 다수의 레퍼런스를 통해 개발자 두 세명이 6개월에서 1년 정도 걸리는 작업을 5분 만에 해결할 수 있음을 보여줬다”라고 답했다.

도입 사례는 벤 아사프 CTO가 소개했다. 그는 “싱가포르는 정부 차원에서 AI 팀을 운영하는데, 오픈이노베이션 프로그램에 선정돼 정부 조직에서 시각 인식이나 오디오, 언어 모델 등을 경량화해서 배포하고 있다. 이외에도 국내외 빅테크 기업, 스마트 시티 등을 구축하는 해외 정부기관 등과도 유상 개념증명(PoC) 프로젝트를 진행 중이다”라고 덧붙였다.

경량화 엔진 에이스를 비롯해 베가, 모델버스도 준비

클리카 경량화 코어 엔진은 콜빈 푸카트와 벤 아사프, 이정무 세 명의 개발자가 주도적으로 개발하고 있다 / 출처=IT동아

클리카는 모델 경량화 엔진인 ‘에이스’를 비롯해, 모델 경량화를 그래픽 유저 인터페이스(GUI)로 표시하는 ‘베가’, 모델 벤치마크 결과 및 호환성을 정리한 ‘모델버스’를 사업 모델로 삼으며, 세 서비스 모두 올해 4분기 말에 정식 서비스를 시작한다. 각 서비스는 설치형 프로그램인 온프레미스 형태로 제공되며, 고객 기업은 온라인으로 다운로드하고 발급받은 라이선스를 입력해서 쓰면 된다.

에이스는 앞서 설명한 모델 경량화를 AI로 자동화하는 모델인데, 베가와 모델버스는 에이스를 구축하는 과정에서 만들어졌다. 김나율 대표는 “모델 경량화 작업 중에는 종종 시각화를 하는데, 현재는 코드를 먼저 작성한 뒤 이를 시각화 작업을 하고 비교해야 한다. 이 점이 불편해 시각화 상태에서 코드를 바로 수정할 수 있도록 만든 게 베가”라고 말했다.

클리카의 ‘모델버스’는 경량화된 오픈 소스 모델의 하드웨어 호환성을 다룬다 / 출처=클리카

또한 “AI 모델을 개발하면, 장치에서 잘 돌아가는지 확인해야 한다. 하지만 많은 기업들이 오픈소스를 기반으로 작업하고, 이후에 하드웨어를 구매해 호환성 확인이 어렵다. 그 과정에서 AI 모델과 하드웨어가 맞지않는 경우가 종종 있다. 모델버스는 우리가 개발하며 오픈 소스 모델의 하드웨어 호환성을 집대성한 플랫폼으로, AI 모델 개발자들이 하드웨어에서 잘 돌아가는지 확인하기 위한 데이터를 제공한다”라면서, “엔비디아, 인텔, AMD, 퀄컴 등 업계에서 많이 사용되는 하드웨어를 점진적으로 추가할 것”이라 말했다.

벤 아사프 CTO도 “모델버스에 신경망 처리장치(NPU)에 대한 자료도 넣을 예정이다. NPU는 CPU나 GPU와 결합해서 쓰는데, 업체별로 장치가 달라 사용자가 알아서 맞춰 써야 한다. 그러다 보니 문제도 많고 개발도 어렵다. 우리가 보유한 호환성 자료를 모델버스로 제공하고, 협업하는 환경을 구상 중이다. 하드웨어 추론 업계의 허깅페이스로 보면 된다”라고 덧붙였다.

대단히 넓은 AI 업계, 빨리빨리 적응하는 게 중요

클리카의 베가는 모델 경량화 작업을 그래픽 유저 인터페이스로 처리한 서비스다 / 출처=IT동아

AI 업계의 속도는 지나치게 빠르다. 한달은 커녕 일주일 만에 업계 추세가 바뀐다. AI 모델 컴프레션 역시 시장 추세가 바뀌면 많은 부분에서 수정해야 할텐데, 이 부분은 어떻게 대응할까. 김나율 대표는 “장기적인 로드맵은 무의미하다. 6개월, 1년 수준의 로드맵을 수립하고 빠르게 시장에 대응하는데, 다행히 우리는 원천 기술을 보유해 사이클이 빨라도 잘 적응한다”라고 말했다.

벤 아사프 CTO도 “클리카 에이스는 템플릿 기반이 아닌 엔진 그 자체가 AI로 축약한다. AI 모델을 넣으면 자동으로 최적화하는 방식이어서 개발 추세가 바뀌어도 영향이 덜하다. 그때마다 우리 엔진을 업데이트하면 된다”라면서, “추론 영역은 이제 시작이다. 앞으로도 계속 개선될 시장이고, 사용성이나 속도, AI 부문의 하드웨어적 개선도 꾸준히 이뤄질 것이다. 경량화 솔루션도 중요하지만 모델버스도 그만큼 중요해질 것으로 보는 이유”라고 말했다.

“한 번 써보면 느낌 온다, 더 쉽고 편리하게 만들 것”

클리카는 현재 텔아비브대학교, 뉴욕대학교, 인텔 이그나이트, 삼성전자 C랩 아웃사이드, 구글 포 스타트업, 엔비디아, 넷앱 등이 글로벌 유수 대학 및 빅테크 본사에서 엑셀러레이트할 정도로 글로벌 시장에서 주목을 받고 있다. 열 명도 되지 않는 스타트업으로는 대단한 성과지만, 김나율 대표는 여전히 겸손하다.

클리카는 이미 글로벌 기업들의 액셀러레이팅을 받을 정도의 강소기업이다 / 출처=IT동아

김나율 대표는 “이제는 규모를 키울 시점이다. 10월과 11월에는 싱가포르, 이스라엘, 인도 등을 돌며 그 동안 진행했던 PoC 프로젝트들의 결과물을 선보이는 데모데이를 가진다. 지난 3년간 개발해 온 원천기술을 드디어 시장에 프로덕트로 선보이며, 팀 사이즈를 드디어 늘리고 있다. 미국 육군사관학교(West Point) 및 테크스타(Techstars) 출신 CSO 및 Arm 출신 세일즈 팀원이 추가로 합류해, 사업적으로도 달릴 수 있는 만반의 준비를 하고 있다.”라고 말했다.

마지막으로 김나율 대표와 벤 아사프 CTO는 입을 모아 ‘고객 경험(UX)’이 가장 중요하다고 말했다. 김나율 대표는 “딥테크 개발 특성상, 기존에는 시장에서 필요로 할 것 같은 인프라 솔루션 개발에 집중했다면, 이제는 시장에서 필요로 하는 점에 더욱 귀 기울이며 완성도를 높여나갈 것”이라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
4564	[생활 속 IT] 카카오톡 팀채팅, 입력코드로 한꺼번에 친구 추가한다 [1]	IT동아	11.23	40	0
4563	[투자를IT다] 2024년 11월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	11.23	4373	0
4562	[창업도약+경북대] 허드슨에이아이 “팀버(Timbr)로 크리에이터 글로벌 진출 가교 역할할 것”	IT동아	11.22	61	0
4561	[ENSL 2024] 누구나 쉽게 버튜버 만들어주는 동영상 서비스 ‘에이플라’ [7]	IT동아	11.22	5105	2
4560	[리뷰] AI PC로 거듭난 비즈니스 노트북, 에이수스 엑스퍼트북 P5(P5405) [2]	IT동아	11.22	764	0
4559	[부산창경 BEF 2024] 바다플랫폼 “블록체인 세이피안, 식품 생산·유통 안전 지킨다”	IT동아	11.22	81	0
4558	[부산창경 BEF 2024] 엘리코퍼레이션 “인도 여성 인권 신장하는 콘택트렌즈 전문 브랜드”	IT동아	11.22	67	0
4557	[창업도약+경북대] 에이스에듀 “버추얼 아이돌로 전 세계에 K-콘텐츠의 매력 알릴 것”	IT동아	11.22	64	0
4556	전문가가 제시하는 스타트업 ESG 경영 전략…’2024 서울 스타트업 ESG 포럼’ [1]	IT동아	11.21	1730	0
4555	수원대학교 'WoW 스타트업 브랜치 오픈이노베이션' 개최	IT동아	11.21	98	0
4554	[스타트업리뷰] 로닉 “인공지능 맞춤형 음식 도우미, AI 로봇셰프 큐브”	IT동아	11.21	4821	0
4553	[IT기획자의 탄생] 3. IT기획자에게 필요한 상상력과 글로벌 전략	IT동아	11.21	107	0
4552	[IT’s 가성비] 삼성 크리스탈 UHD TV, 2024년형/85인치 모델에 눈길?	IT동아	11.21	1908	0
4551	[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 'AI 스타트업'의 방향성	IT동아	11.21	107	0
4550	[생활 속 IT] LG 가전 활용도 넓히는 'LG ThinQ' 연결 및 사용법	IT동아	11.21	97	0
4549	[생활 속 IT] 소프트웨어 활용 습관 바꿔줄 윈도 11 ‘가상 데스크톱’ [1]	IT동아	11.20	205	0
4548	[부산창경 BEF 2024] 기술로 문제 풀이와 오답 노트 작성 효율 높인 ‘프라이머스’	IT동아	11.20	115	0
4547	IBM-연세대, 슈퍼컴 능가하는 127 큐비트 양자컴퓨터 국내 첫 도입 [3]	IT동아	11.20	4904	4
4546	[주간스타트업동향] 휴머닉스, 위플로 CES 2025 혁신상 수상 外	IT동아	11.20	187	0
4545	[부산창경 BEF 2024] 만만한녀석들 “모듈형 집기로 친환경 MICE 산업 선도한다”	IT동아	11.20	108	0
4544	[부산창경 BEF 2024] 나누기월드 “외국인 유학생, 장애인 문제 해결에 기여” [4]	IT동아	11.20	359	0
4543	선박 제조업의 디지털 전환 이끄는 ‘버추얼 트윈’ 기술	IT동아	11.19	136	0
4542	에릭슨엘지 “네트워크도 API로 제공…개발자 참여 독려해야”	IT동아	11.19	132	0
4541	[IT애정남] 노트북 SSD의 OEM 파티션, 삭제해도 되나요?	IT동아	11.19	131	0
4540	[부산창경 BEF 2024] 그린에너지(주) “산업 현장 악취·유해물질 플라즈마로 해결”	IT동아	11.19	130	0
4539	[자동차와 法] 행락철 교통사고 책임과 법적 대처 방안	IT동아	11.19	722	0
4538	아이작 컨셉츠 김태영 대표, "반도체·열유체 공학의 산학협력 교두보 만들겠다"	IT동아	11.19	127	0
4537	[시승기] 돋보이는 디자인과 안전 사양 ‘KGM 액티언’ [1]	IT동아	11.18	445	0
4536	+불필요한 PC 앱, 지우려면 이렇게! [이럴땐 이렇게!] [1]	IT동아	11.18	5188	5
4535	[스케일업] 반프 [3] 정예솔 전략총괄 “반프의 가치, 글로벌 시장에서도 매력적”	IT동아	11.18	155	0
4534	[주간투자동향] 숨빗AI, 50억 원 규모 시드 투자 유치 外	IT동아	11.18	146	0
4533	[투자를IT다] 2024년 11월 2주차 IT기업 주요 소식과 주가 흐름	IT동아	11.16	242	0
4532	[스케일업] 보라웨어 [2] 전영복ㆍ이효주 “구성원 복지ㆍ기업 성장이 공존하는 곳”	IT동아	11.15	235	0
4531	[생성 AI 길라잡이] 8종의 AI 모델 골라 쓰는 ‘SKT 에이닷’ 웹 버전	IT동아	11.15	225	0
4530	디지포레, “제조산업의 디지털 전환, ‘팩토리얼 프로’로 앞당길 것"	IT동아	11.15	217	0
4529	[리뷰] 모니터링 헤드폰의 새로운 기준점 제시, 소니 MDR-M1 [5]	IT동아	11.15	6304	1
4528	[2024 고려대] 스페이스점프 “자영업·소상공인 기자재의 모든 것, 소상공간”	IT동아	11.15	204	0
4527	퀄컴, 온디바이스 AI·차량 전동화에 초점 맞춘 최신 솔루션 선보여	IT동아	11.15	224	0
4526	[창업도약+경북대] 비빔블 “비커스ㆍ버튜디오로 상상 이상의 가상경험 제공할 것”	IT동아	11.15	183	0
4525	[AI와 미래] 기존 저작물은 AI 학습에 어디까지 활용할 수 있을까?	IT동아	11.15	1405	0
4524	[월간자동차] 24년 10월, 신차 등록 두 달 연속 증가…싼타페 판매 1위	IT동아	11.15	180	0
4523	[리뷰] 10G 업링크 지원 네트워크 스위치, 넷기어 GS108MX	IT동아	11.14	203	0
4522	데이터 주권 강조하는 소버린 AI, 진정한 의미는? [1]	IT동아	11.14	771	0
4521	[스케일업] 스쿨버스 [3] 통학버스 전문 플랫폼 개발자 인터뷰	IT동아	11.14	206	0
4520	[UDC 2024] 다양한 산업을 변화시키는 블록체인의 힘	IT동아	11.14	198	0
4519	로봇과 문화예술의 만남, 브이디컴퍼니x장 줄리앙의 종이세상	IT동아	11.14	357	0
4518	[IT애정남] 갤럭시워치를 아이폰과 연결해서 쓸 수 있나요?	IT동아	11.13	4690	0
4517	[신차공개] BMW ‘뉴 4시리즈 그란 쿠페’·로터스 ‘에메야’ 공식 출시 [3]	IT동아	11.13	4827	1
4516	[스타트업-ing] 오아시스 스튜디오 “OVP·오닉스·디보틀로 콘텐츠 에코시스템 구축”	IT동아	11.13	212	0
4515	[생활 속 IT] 취업 서류, 정부24에서 내려받는 법	IT동아	11.12	244	0
뉴스	[포토] 차은우, 섹시한 볼하트	디시트렌드	11.23

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

“클리카 에이스, 모델 경량화의 연결고리”

“3년 경량화 실패한 작업, 클리카 에이스로 1달 만에 해결”

경량화 엔진 에이스를 비롯해 베가, 모델버스도 준비

대단히 넓은 AI 업계, 빨리빨리 적응하는 게 중요

“한 번 써보면 느낌 온다, 더 쉽고 편리하게 만들 것”

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결