[스케일업] [1] 클리카, "원천 기술로 만든 모델 경량화 AI, 전 세계서 쓰일 것"

IT동아 · 2024.10.23 17:45:30

[IT동아 x SBA] IT동아는 서울경제진흥원(SBA)과 함께 ‘2024년 스케일업 프로그램’을 진행합니다. 서울창업허브 오픈이노베이션 참여기업 중 유망한 스타트업을 선정, 인터뷰로 발전사와 성과를 소개합니다. 나아가 이들이 다음 단계로 도약하도록 지원하는 프로그램입니다.

[IT동아 남시현 기자] 인공지능(이하 AI)이 주목받으면서 모델 경량화에 대한 시장의 관심도 뜨겁다. AI 장치는 메모리나 연산 장치 등으로 구성된 하드웨어 요소, 그리고 AI 모델 실행 데이터, 프로그램 등으로 구성된 소프트웨어로 나뉜다. 두 요소 모두 실행 요소나 작업 환경에 맞춰 그 수준과 성능이 결정되는데, 하드웨어가 크고 소프트웨어가 작은 건 큰 문제가 되지 않는다. 하지만 소프트웨어가 큰데 하드웨어가 작으면 제 성능을 낼 수 없다. 이 경우에는 성능은 최대한 유지하면서 소프트웨어 크기는 줄여서 넣어야 한다. 이 과정이 모델 경량화다.

아사프 클리카 기술최고책임자와 김나율 클리카 대표 / 출처=IT동아

업계에서는 모델 동작에 필요한 매개변수의 중요도를 조절하는 가중치, 함수 등을 낮은 비트의 정밀도로 조정하는 모델 양자화, 구성 요소를 간소화하는 가지치기, 작은 모델이 큰 모델과 유사한 성능이 내도록 하는 지식 증류 등 다양한 방법을 고안했다. 하지만 모델 크기를 줄여도 속도와 정확도는 유지해야 하는데, 수작업으로 이뤄져 둘 다 살리기가 쉽지 않다. 클리카는 자체 보유한 AI 엔진으로 모델 경량화를 자동화하고, 정확도와 속도 모두 잡아낸다.

“클리카 에이스, 모델 경량화의 연결고리”

클리카는 부부 사이인 김나율 대표와 벤 아사프 기술최고책임자(이하 CTO)가 공동 설립했다. 당시 벤 아사프 CTO는 모빌아이에 재직하며 사물인식 AI를 칩에 경량화해 탑재하는 작업을 했다. 자율주행이 크게 주목받던 시기여서 그가 잠깐 한국을 방문한 사이에도 많은 강연을 진행했고, 김나율 대표가 강연 준비를 도우며, AI의 시장 가능성을 내다보고 2021년 3월에 AI 경량화 기술로 창업을 시작했다.

클리카의 핵심 사업은 AI 경량화를 자동으로 처리하는 엔진이다 / 출처=IT동아

창업 직후 벤 아사프 CTO는 이스라엘 히브리대 병렬컴퓨터 시니어 개발자로 일하며 모델 가속에 대한 연구를 시작했고, 6월부터 클리카 에이스의 기반이 되는 AI 경량화 엔진 개발에 착수한다. 벤 아사프가 서비스를 개발하는 사이, 마케팅 경력을 가진 김나율 대표는 시장 조사와 국내외 영업 기반, 지원사업 및 투자 등을 마련했다. 22년 들어 개발력을 가진 팀원들이 클리카에 합류했고, 본격적으로 클리카의 AI 기술력이 빛을 발하기 시작한다.

김나율 대표는 “모델 압축은 사이즈를 줄이는 방법, 하드웨어에 호환되도록 하는 방법 두 가지가 있다. 모델을 작게 한다고 무조건 좋은 건 아니고, 정확도와 속도 가속을 최대한 유지하는 게 이상적이다. 시중의 경량화 솔루션을 쓰면 모델 사이즈를 80% 정도 줄일 수 있지만, 엔비디아 계열만 주로 지원하거나 수작업이어서 시간이나 자금이 많이 든다”라고 배경을 설명했다.

“3년 경량화 실패한 작업, 클리카 에이스로 1달 만에 해결”

김나율 대표는 모델 경량화가 정확도, 속도 모두 중요하다고 말한다. 클리카의 AI 경량화 엔진은 두 부분을 모두 잡는다 / 출처=IT동아

이어서 ”클리카는 이 부분을 AI로 완전히 자동화했다. 고객사로부터 어떻게 자동화하는지에 대한 요청이 많지만, 이 부분은 벤 아사프가 직접 고안한 아이디어를 엔진으로 구현한 것이어서 설명이 어렵다. 대신 다수의 레퍼런스를 통해 개발자 두 세명이 6개월에서 1년 정도 걸리는 작업을 5분 만에 해결할 수 있음을 보여줬다”라고 답했다.

도입 사례는 벤 아사프 CTO가 소개했다. 그는 “싱가포르는 정부 차원에서 AI 팀을 운영하는데, 오픈이노베이션 프로그램에 선정돼 정부 조직에서 시각 인식이나 오디오, 언어 모델 등을 경량화해서 배포하고 있다. 이외에도 국내외 빅테크 기업, 스마트 시티 등을 구축하는 해외 정부기관 등과도 유상 개념증명(PoC) 프로젝트를 진행 중이다”라고 덧붙였다.

경량화 엔진 에이스를 비롯해 베가, 모델버스도 준비

클리카 경량화 코어 엔진은 콜빈 푸카트와 벤 아사프, 이정무 세 명의 개발자가 주도적으로 개발하고 있다 / 출처=IT동아

클리카는 모델 경량화 엔진인 ‘에이스’를 비롯해, 모델 경량화를 그래픽 유저 인터페이스(GUI)로 표시하는 ‘베가’, 모델 벤치마크 결과 및 호환성을 정리한 ‘모델버스’를 사업 모델로 삼으며, 세 서비스 모두 올해 4분기 말에 정식 서비스를 시작한다. 각 서비스는 설치형 프로그램인 온프레미스 형태로 제공되며, 고객 기업은 온라인으로 다운로드하고 발급받은 라이선스를 입력해서 쓰면 된다.

에이스는 앞서 설명한 모델 경량화를 AI로 자동화하는 모델인데, 베가와 모델버스는 에이스를 구축하는 과정에서 만들어졌다. 김나율 대표는 “모델 경량화 작업 중에는 종종 시각화를 하는데, 현재는 코드를 먼저 작성한 뒤 이를 시각화 작업을 하고 비교해야 한다. 이 점이 불편해 시각화 상태에서 코드를 바로 수정할 수 있도록 만든 게 베가”라고 말했다.

클리카의 ‘모델버스’는 경량화된 오픈 소스 모델의 하드웨어 호환성을 다룬다 / 출처=클리카

또한 “AI 모델을 개발하면, 장치에서 잘 돌아가는지 확인해야 한다. 하지만 많은 기업들이 오픈소스를 기반으로 작업하고, 이후에 하드웨어를 구매해 호환성 확인이 어렵다. 그 과정에서 AI 모델과 하드웨어가 맞지않는 경우가 종종 있다. 모델버스는 우리가 개발하며 오픈 소스 모델의 하드웨어 호환성을 집대성한 플랫폼으로, AI 모델 개발자들이 하드웨어에서 잘 돌아가는지 확인하기 위한 데이터를 제공한다”라면서, “엔비디아, 인텔, AMD, 퀄컴 등 업계에서 많이 사용되는 하드웨어를 점진적으로 추가할 것”이라 말했다.

벤 아사프 CTO도 “모델버스에 신경망 처리장치(NPU)에 대한 자료도 넣을 예정이다. NPU는 CPU나 GPU와 결합해서 쓰는데, 업체별로 장치가 달라 사용자가 알아서 맞춰 써야 한다. 그러다 보니 문제도 많고 개발도 어렵다. 우리가 보유한 호환성 자료를 모델버스로 제공하고, 협업하는 환경을 구상 중이다. 하드웨어 추론 업계의 허깅페이스로 보면 된다”라고 덧붙였다.

대단히 넓은 AI 업계, 빨리빨리 적응하는 게 중요

클리카의 베가는 모델 경량화 작업을 그래픽 유저 인터페이스로 처리한 서비스다 / 출처=IT동아

AI 업계의 속도는 지나치게 빠르다. 한달은 커녕 일주일 만에 업계 추세가 바뀐다. AI 모델 컴프레션 역시 시장 추세가 바뀌면 많은 부분에서 수정해야 할텐데, 이 부분은 어떻게 대응할까. 김나율 대표는 “장기적인 로드맵은 무의미하다. 6개월, 1년 수준의 로드맵을 수립하고 빠르게 시장에 대응하는데, 다행히 우리는 원천 기술을 보유해 사이클이 빨라도 잘 적응한다”라고 말했다.

벤 아사프 CTO도 “클리카 에이스는 템플릿 기반이 아닌 엔진 그 자체가 AI로 축약한다. AI 모델을 넣으면 자동으로 최적화하는 방식이어서 개발 추세가 바뀌어도 영향이 덜하다. 그때마다 우리 엔진을 업데이트하면 된다”라면서, “추론 영역은 이제 시작이다. 앞으로도 계속 개선될 시장이고, 사용성이나 속도, AI 부문의 하드웨어적 개선도 꾸준히 이뤄질 것이다. 경량화 솔루션도 중요하지만 모델버스도 그만큼 중요해질 것으로 보는 이유”라고 말했다.

“한 번 써보면 느낌 온다, 더 쉽고 편리하게 만들 것”

클리카는 현재 텔아비브대학교, 뉴욕대학교, 인텔 이그나이트, 삼성전자 C랩 아웃사이드, 구글 포 스타트업, 엔비디아, 넷앱 등이 글로벌 유수 대학 및 빅테크 본사에서 엑셀러레이트할 정도로 글로벌 시장에서 주목을 받고 있다. 열 명도 되지 않는 스타트업으로는 대단한 성과지만, 김나율 대표는 여전히 겸손하다.

클리카는 이미 글로벌 기업들의 액셀러레이팅을 받을 정도의 강소기업이다 / 출처=IT동아

김나율 대표는 “이제는 규모를 키울 시점이다. 10월과 11월에는 싱가포르, 이스라엘, 인도 등을 돌며 그 동안 진행했던 PoC 프로젝트들의 결과물을 선보이는 데모데이를 가진다. 지난 3년간 개발해 온 원천기술을 드디어 시장에 프로덕트로 선보이며, 팀 사이즈를 드디어 늘리고 있다. 미국 육군사관학교(West Point) 및 테크스타(Techstars) 출신 CSO 및 Arm 출신 세일즈 팀원이 추가로 합류해, 사업적으로도 달릴 수 있는 만반의 준비를 하고 있다.”라고 말했다.

마지막으로 김나율 대표와 벤 아사프 CTO는 입을 모아 ‘고객 경험(UX)’이 가장 중요하다고 말했다. 김나율 대표는 “딥테크 개발 특성상, 기존에는 시장에서 필요로 할 것 같은 인프라 솔루션 개발에 집중했다면, 이제는 시장에서 필요로 하는 점에 더욱 귀 기울이며 완성도를 높여나갈 것”이라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	오픈 마인드로 이성을 만날 것 같은 스타는?	운영자	24/12/02	-	-
	[스케일업] [1] 클리카, "원천 기술로 만든 모델 경량화 AI, 전 세계서 쓰일 것"	IT동아	10.23	274	0
4423	[리뷰] 각종 편의 기능과 고음질로 완성도 높였다 ‘JBL 투어 프로 3’ [8]	IT동아	10.23	5665	1
4422	세계 미래 밝힐 혁신 기술의 장, 대구 FIX 2024	IT동아	10.23	235	0
4421	[자동차와 法] 자동차관리법의 자동차 교환·환불 중재제도에 관하여	IT동아	10.22	235	0
4420	[SBA x IT동아] ‘디지털 트윈’ 기술로 산업 현장 DX 돕는 ‘스탠스’	IT동아	10.22	183	0
4419	대구시 “FIX 이노베이션 어워즈, 세계 혁신 기술 기업의 요람으로”	IT동아	10.22	187	0
4418	블루포인트 “지방 소멸, 스타트업과 함께 모색한다”	IT동아	10.22	179	0
4417	동원·KT·MS...세계 기업, 인공지능 역량 강화 경진대회 매진 [2]	IT동아	10.22	5169	1
4416	[스케일업] 보라웨어 [1] 황현철 인사이터스 대표 “채널 영업을 위한 특별한 포지션을 구축하라”	IT동아	10.22	167	0
4415	이팝소프트 “600만 AI 영어학습 앱 말해보카, 게임처럼 재미있게 공부한다”	IT동아	10.22	171	0
4414	페라리가 11년 만에 선보인 신형 슈퍼카 ‘F80’ 살펴보니 [7]	IT동아	10.21	2439	2
4413	[뉴스줌인] 갤럭시 Z 폴드 스페셜 에디션 출시, 폴드6와의 차이점은? [3]	IT동아	10.21	1180	0
4412	해외 미술관·박물관에서 우리 말로 설명이 필요할 때! [이럴땐 이렇게!]	IT동아	10.21	199	0
4411	[주간투자동향] 메이크스타, 300억 원 규모 시리즈D 투자 유치 外	IT동아	10.21	186	0
4410	[투자를IT다] 2024년 10월 3주차 IT기업 주요 소식과 주가 흐름	IT동아	10.18	268	0
4409	첨단기술 기반 화재안전관리 일반화, 보험업계도 움직인다	IT동아	10.18	268	0
4408	[생성 AI 길라잡이] 생성 AI 부작용과 주요국의 대응책	IT동아	10.18	252	0
4407	[스케일업] 비투랩 [2] 이마고웍스 “세계 치과 시장, 성과·파트너와 공략”	IT동아	10.18	243	0
4406	[리뷰] 경이로운 배터리 효율과 GPU 성능, 인텔 코어 울트라 7 258V	IT동아	10.18	249	0
4405	[크립토 퀵서치] 거래소에 원화 예치하면 이용료를 준다? [4]	IT동아	10.18	5017	3
4404	클라이프, "전자서명·고객관리·대회까지 일원화한 클라이밍 서비스"	IT동아	10.18	231	0
4403	엠키스코어 “고성능=고발열 고민하는 AI 데이터센터, ‘수랭식’이 해답”	IT동아	10.17	306	0
4402	인터넷 느려졌다면? PC·모바일에서 인터넷 속도 측정하는 방법	IT동아	10.17	223	0
4401	넥스트페이 AI 스토어, 0.3% 뚫고 슈퍼노바챌린지 3위	IT동아	10.17	220	0
4400	[창업도약+경북대] 셀러스 ‘종양연관 대식세포’ 활용한 항암제로 항암치료 혁신 꿈꾼다	IT동아	10.17	221	0
4399	[월간자동차] 24년 9월, 신차 판매량 반등했지만, 중고차 거래량은 줄어 [1]	IT동아	10.17	6293	1
4398	[스케일업] 두디스·말랑탱크·스크램블러·운약근답올핏·캠터·파나띠꼬 “사업 방향 설정에 유용했습니다”	IT동아	10.17	209	0
4397	항공기 설계 효율 높이는 ‘버추얼 트윈’ 기술	IT동아	10.16	212	0
4396	키사이트코리아 “계측기 넘어 R&D 종합 솔루션 기업으로”	IT동아	10.16	242	0
4395	삼성전자, AI 품은 투인원 PC, '갤럭시 북5 Pro 360' 28일 출시	IT동아	10.16	552	1
4394	비건 레더로 친환경 가치 재단하는 패션 브랜드, '투영' [45]	IT동아	10.16	6603	12
4393	공공시장에서 인정 받은 협업툴 '두레이', 업무 효율 높일 인공지능 기능 탑재	IT동아	10.16	185	0
4392	[고려대 미래내일] 청년 일경험, 생성 AI 연구 개발과 사업화까지	IT동아	10.16	204	0
4391	리치멜론 “누구나 알아볼 수 있는 캐릭터를 만들고 싶습니다” [동국대학교 캠퍼스타운]	IT동아	10.16	185	0
4390	전기차 화재 여파 벤츠…EV 판매 순위표 상단서 실종	IT동아	10.15	204	0
4389	레드햇, “오픈소스의 힘으로 AI 대중화 강하게 추진”	IT동아	10.15	253	0
4388	AMD의 목적은 '경쟁 아닌 자립'··· 인스팅트 MI325X의 출시 의의는?	IT동아	10.15	182	0
4387	카카오톡 선물하기 기프티콘, 현금 환불 받으려면?	IT동아	10.15	169	0
4386	한국거래소가 ‘금융 AI 언어 모델 경진대회’를 개최하는 이유	IT동아	10.15	1009	1
4385	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 28	IT동아	10.14	188	0
4384	[신차공개] 페라리 ‘테일러 메이드 로마 스파이더’·롤스로이스 ‘고스트 시리즈 II’ 공개	IT동아	10.14	2201	2
4383	카드사 연락 없이 클릭 한 번에 내 카드 찾고 안 쓰는 카드 취소까지 된다면? [이럴땐 이렇게!]	IT동아	10.14	225	0
4382	[스타트업리뷰] 소통과 AI 더한 스타트업 재무 회계의 혁신, '그랜터'	IT동아	10.14	166	0
4381	말랑탱크 “간편하고 위생적인 눈 가습기, 닥터아이” [동국대학교 캠퍼스타운] [13]	IT동아	10.14	5797	0
4380	로봇 산업 모든 것 담은 ‘2024 로보월드’, 역대 최대규모로 열린다	IT동아	10.11	217	0
4379	[창업도약+경북대] 틀루토 “생성형 인공지능으로 학술정보 대중화와 지식 불균형 해소 나설 것”	IT동아	10.11	215	0
4378	애플, DMA 압박에 독점 생태계 무너지나	IT동아	10.11	272	0
4377	[스케일업] 파나띠꼬 [3] 마이샵온샵 “향기를 강조하기 위한 영업전략을 펼쳐라”	IT동아	10.11	263	0
4376	[생성 AI 길라잡이] 간단한 설정으로 고품질 로고 제작 ‘루카’	IT동아	10.11	189	0
4375	인텔, 애로우레이크 S 공식 출시··· AI 데스크톱 시장 연다 [1]	IT동아	10.11	1245	0
뉴스	전자음악 힙합 듀오 힙노시스테라피, 멜론 트랙제로 ‘12월 이달의 아티스트’ 선정	디시트렌드	10:00

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

“클리카 에이스, 모델 경량화의 연결고리”

“3년 경량화 실패한 작업, 클리카 에이스로 1달 만에 해결”

경량화 엔진 에이스를 비롯해 베가, 모델버스도 준비

대단히 넓은 AI 업계, 빨리빨리 적응하는 게 중요

“한 번 써보면 느낌 온다, 더 쉽고 편리하게 만들 것”

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결