디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[스케일업] [1] 클리카, "원천 기술로 만든 모델 경량화 AI, 전 세계서 쓰일 것"

IT동아갤로그로 이동합니다. 2024.10.23 17:45:30
조회 270 추천 0 댓글 0
[IT동아 x SBA] IT동아는 서울경제진흥원(SBA)과 함께 ‘2024년 스케일업 프로그램’을 진행합니다. 서울창업허브 오픈이노베이션 참여기업 중 유망한 스타트업을 선정, 인터뷰로 발전사와 성과를 소개합니다. 나아가 이들이 다음 단계로 도약하도록 지원하는 프로그램입니다.

[IT동아 남시현 기자] 인공지능(이하 AI)이 주목받으면서 모델 경량화에 대한 시장의 관심도 뜨겁다. AI 장치는 메모리나 연산 장치 등으로 구성된 하드웨어 요소, 그리고 AI 모델 실행 데이터, 프로그램 등으로 구성된 소프트웨어로 나뉜다. 두 요소 모두 실행 요소나 작업 환경에 맞춰 그 수준과 성능이 결정되는데, 하드웨어가 크고 소프트웨어가 작은 건 큰 문제가 되지 않는다. 하지만 소프트웨어가 큰데 하드웨어가 작으면 제 성능을 낼 수 없다. 이 경우에는 성능은 최대한 유지하면서 소프트웨어 크기는 줄여서 넣어야 한다. 이 과정이 모델 경량화다.


아사프 클리카 기술최고책임자와 김나율 클리카 대표 / 출처=IT동아



업계에서는 모델 동작에 필요한 매개변수의 중요도를 조절하는 가중치, 함수 등을 낮은 비트의 정밀도로 조정하는 모델 양자화, 구성 요소를 간소화하는 가지치기, 작은 모델이 큰 모델과 유사한 성능이 내도록 하는 지식 증류 등 다양한 방법을 고안했다. 하지만 모델 크기를 줄여도 속도와 정확도는 유지해야 하는데, 수작업으로 이뤄져 둘 다 살리기가 쉽지 않다. 클리카는 자체 보유한 AI 엔진으로 모델 경량화를 자동화하고, 정확도와 속도 모두 잡아낸다.

“클리카 에이스, 모델 경량화의 연결고리”


클리카는 부부 사이인 김나율 대표와 벤 아사프 기술최고책임자(이하 CTO)가 공동 설립했다. 당시 벤 아사프 CTO는 모빌아이에 재직하며 사물인식 AI를 칩에 경량화해 탑재하는 작업을 했다. 자율주행이 크게 주목받던 시기여서 그가 잠깐 한국을 방문한 사이에도 많은 강연을 진행했고, 김나율 대표가 강연 준비를 도우며, AI의 시장 가능성을 내다보고 2021년 3월에 AI 경량화 기술로 창업을 시작했다.


클리카의 핵심 사업은 AI 경량화를 자동으로 처리하는 엔진이다 / 출처=IT동아



창업 직후 벤 아사프 CTO는 이스라엘 히브리대 병렬컴퓨터 시니어 개발자로 일하며 모델 가속에 대한 연구를 시작했고, 6월부터 클리카 에이스의 기반이 되는 AI 경량화 엔진 개발에 착수한다. 벤 아사프가 서비스를 개발하는 사이, 마케팅 경력을 가진 김나율 대표는 시장 조사와 국내외 영업 기반, 지원사업 및 투자 등을 마련했다. 22년 들어 개발력을 가진 팀원들이 클리카에 합류했고, 본격적으로 클리카의 AI 기술력이 빛을 발하기 시작한다.

김나율 대표는 “모델 압축은 사이즈를 줄이는 방법, 하드웨어에 호환되도록 하는 방법 두 가지가 있다. 모델을 작게 한다고 무조건 좋은 건 아니고, 정확도와 속도 가속을 최대한 유지하는 게 이상적이다. 시중의 경량화 솔루션을 쓰면 모델 사이즈를 80% 정도 줄일 수 있지만, 엔비디아 계열만 주로 지원하거나 수작업이어서 시간이나 자금이 많이 든다”라고 배경을 설명했다.

“3년 경량화 실패한 작업, 클리카 에이스로 1달 만에 해결”



김나율 대표는 모델 경량화가 정확도, 속도 모두 중요하다고 말한다. 클리카의 AI 경량화 엔진은 두 부분을 모두 잡는다 / 출처=IT동아



이어서 ”클리카는 이 부분을 AI로 완전히 자동화했다. 고객사로부터 어떻게 자동화하는지에 대한 요청이 많지만, 이 부분은 벤 아사프가 직접 고안한 아이디어를 엔진으로 구현한 것이어서 설명이 어렵다. 대신 다수의 레퍼런스를 통해 개발자 두 세명이 6개월에서 1년 정도 걸리는 작업을 5분 만에 해결할 수 있음을 보여줬다”라고 답했다.

도입 사례는 벤 아사프 CTO가 소개했다. 그는 “싱가포르는 정부 차원에서 AI 팀을 운영하는데, 오픈이노베이션 프로그램에 선정돼 정부 조직에서 시각 인식이나 오디오, 언어 모델 등을 경량화해서 배포하고 있다. 이외에도 국내외 빅테크 기업, 스마트 시티 등을 구축하는 해외 정부기관 등과도 유상 개념증명(PoC) 프로젝트를 진행 중이다”라고 덧붙였다.

경량화 엔진 에이스를 비롯해 베가, 모델버스도 준비



클리카 경량화 코어 엔진은 콜빈 푸카트와 벤 아사프, 이정무 세 명의 개발자가 주도적으로 개발하고 있다 / 출처=IT동아

클리카는 모델 경량화 엔진인 ‘에이스’를 비롯해, 모델 경량화를 그래픽 유저 인터페이스(GUI)로 표시하는 ‘베가’, 모델 벤치마크 결과 및 호환성을 정리한 ‘모델버스’를 사업 모델로 삼으며, 세 서비스 모두 올해 4분기 말에 정식 서비스를 시작한다. 각 서비스는 설치형 프로그램인 온프레미스 형태로 제공되며, 고객 기업은 온라인으로 다운로드하고 발급받은 라이선스를 입력해서 쓰면 된다.


에이스는 앞서 설명한 모델 경량화를 AI로 자동화하는 모델인데, 베가와 모델버스는 에이스를 구축하는 과정에서 만들어졌다. 김나율 대표는 “모델 경량화 작업 중에는 종종 시각화를 하는데, 현재는 코드를 먼저 작성한 뒤 이를 시각화 작업을 하고 비교해야 한다. 이 점이 불편해 시각화 상태에서 코드를 바로 수정할 수 있도록 만든 게 베가”라고 말했다.


클리카의 ‘모델버스’는 경량화된 오픈 소스 모델의 하드웨어 호환성을 다룬다 / 출처=클리카

또한 “AI 모델을 개발하면, 장치에서 잘 돌아가는지 확인해야 한다. 하지만 많은 기업들이 오픈소스를 기반으로 작업하고, 이후에 하드웨어를 구매해 호환성 확인이 어렵다. 그 과정에서 AI 모델과 하드웨어가 맞지않는 경우가 종종 있다. 모델버스는 우리가 개발하며 오픈 소스 모델의 하드웨어 호환성을 집대성한 플랫폼으로, AI 모델 개발자들이 하드웨어에서 잘 돌아가는지 확인하기 위한 데이터를 제공한다”라면서, “엔비디아, 인텔, AMD, 퀄컴 등 업계에서 많이 사용되는 하드웨어를 점진적으로 추가할 것”이라 말했다.


벤 아사프 CTO도 “모델버스에 신경망 처리장치(NPU)에 대한 자료도 넣을 예정이다. NPU는 CPU나 GPU와 결합해서 쓰는데, 업체별로 장치가 달라 사용자가 알아서 맞춰 써야 한다. 그러다 보니 문제도 많고 개발도 어렵다. 우리가 보유한 호환성 자료를 모델버스로 제공하고, 협업하는 환경을 구상 중이다. 하드웨어 추론 업계의 허깅페이스로 보면 된다”라고 덧붙였다.

대단히 넓은 AI 업계, 빨리빨리 적응하는 게 중요



클리카의 베가는 모델 경량화 작업을 그래픽 유저 인터페이스로 처리한 서비스다 / 출처=IT동아



AI 업계의 속도는 지나치게 빠르다. 한달은 커녕 일주일 만에 업계 추세가 바뀐다. AI 모델 컴프레션 역시 시장 추세가 바뀌면 많은 부분에서 수정해야 할텐데, 이 부분은 어떻게 대응할까. 김나율 대표는 “장기적인 로드맵은 무의미하다. 6개월, 1년 수준의 로드맵을 수립하고 빠르게 시장에 대응하는데, 다행히 우리는 원천 기술을 보유해 사이클이 빨라도 잘 적응한다”라고 말했다.

벤 아사프 CTO도 “클리카 에이스는 템플릿 기반이 아닌 엔진 그 자체가 AI로 축약한다. AI 모델을 넣으면 자동으로 최적화하는 방식이어서 개발 추세가 바뀌어도 영향이 덜하다. 그때마다 우리 엔진을 업데이트하면 된다”라면서, “추론 영역은 이제 시작이다. 앞으로도 계속 개선될 시장이고, 사용성이나 속도, AI 부문의 하드웨어적 개선도 꾸준히 이뤄질 것이다. 경량화 솔루션도 중요하지만 모델버스도 그만큼 중요해질 것으로 보는 이유”라고 말했다.

“한 번 써보면 느낌 온다, 더 쉽고 편리하게 만들 것”


클리카는 현재 텔아비브대학교, 뉴욕대학교, 인텔 이그나이트, 삼성전자 C랩 아웃사이드, 구글 포 스타트업, 엔비디아, 넷앱 등이 글로벌 유수 대학 및 빅테크 본사에서 엑셀러레이트할 정도로 글로벌 시장에서 주목을 받고 있다. 열 명도 되지 않는 스타트업으로는 대단한 성과지만, 김나율 대표는 여전히 겸손하다.


클리카는 이미 글로벌 기업들의 액셀러레이팅을 받을 정도의 강소기업이다 / 출처=IT동아



김나율 대표는 “이제는 규모를 키울 시점이다. 10월과 11월에는 싱가포르, 이스라엘, 인도 등을 돌며 그 동안 진행했던 PoC 프로젝트들의 결과물을 선보이는 데모데이를 가진다. 지난 3년간 개발해 온 원천기술을 드디어 시장에 프로덕트로 선보이며, 팀 사이즈를 드디어 늘리고 있다. 미국 육군사관학교(West Point) 및 테크스타(Techstars) 출신 CSO 및 Arm 출신 세일즈 팀원이 추가로 합류해, 사업적으로도 달릴 수 있는 만반의 준비를 하고 있다.”라고 말했다.

마지막으로 김나율 대표와 벤 아사프 CTO는 입을 모아 ‘고객 경험(UX)’이 가장 중요하다고 말했다. 김나율 대표는 “딥테크 개발 특성상, 기존에는 시장에서 필요로 할 것 같은 인프라 솔루션 개발에 집중했다면, 이제는 시장에서 필요로 하는 점에 더욱 귀 기울이며 완성도를 높여나갈 것”이라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 사진 속 지우고 싶은 부분 있다면? 네이버 ‘AI 지우개’ 유용할까▶ [SBA x IT동아] 친숙했던 놀이시설에 특허 기술 더해 차별화…‘캘리클럽’▶ 딥엑스 김녹원 대표, "버터 벤치마크로 1세대 칩 안정성 증명··· 내년엔 2세대 샘플링"



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는? 운영자 24/11/18 - -
4456 차트분석 도구 ‘트레이딩뷰’ 파고들기 - 29 IT동아갤로그로 이동합니다. 10.30 240 0
4455 다쏘시스템 “가상세계와 현실을 연결하는 도구 ‘3D익스피리언스 플랫폼’” IT동아갤로그로 이동합니다. 10.30 300 0
4454 [KIDP 울산] 서브루나바이크 “접이식 자전거, 쉽고 즐겁고 가볍게” [1] IT동아갤로그로 이동합니다. 10.30 2129 0
4453 [SBA x IT동아] 피부와 자연 지키는 선크림 브랜드 ‘부쉬맨’ IT동아갤로그로 이동합니다. 10.30 195 0
4452 [기술영업人] AI 교육 넘어 클라우드로··· '엘리스그룹'의 영업과 접근법 IT동아갤로그로 이동합니다. 10.30 4696 1
4451 성북구 1인 창조기업 지원센터 스타트업을 만나다 [1] IT동아갤로그로 이동합니다. 10.30 234 0
4450 [AI와 미래] AI 창작 콘텐츠, 보호받을 수 있을까? IT동아갤로그로 이동합니다. 10.30 1650 0
4449 [신차공개] BMW ‘뉴 X3’ 사전예약·JLR ‘뉴 디스커버리 스포츠 25년형’ 출시 IT동아갤로그로 이동합니다. 10.29 186 0
4448 라온시큐어 “토종 웹3 디지털 ID 세계로” IT동아갤로그로 이동합니다. 10.29 186 0
4447 포킷츠 “오직 반려견 발바닥만 생각합니다” [동국대학교 캠퍼스타운] [11] IT동아갤로그로 이동합니다. 10.29 5695 2
4446 [IT기획자의 탄생] 2. 정부 연구개발 분야에 기획자가 필요한 이유 IT동아갤로그로 이동합니다. 10.29 1858 0
4445 SBA, 응급실국물떡볶이와 선보인 ‘스바 세트 3종’···”참신하고 의미 있는 시도” IT동아갤로그로 이동합니다. 10.29 195 0
4444 애플 ‘M4 프로세서’ 품은 2024년형 아이맥 공개 [6] IT동아갤로그로 이동합니다. 10.29 2232 0
4443 [리뷰] 라데온 RX 7800 XT가 AFMF 2 기술을 만났을 때 IT동아갤로그로 이동합니다. 10.28 178 0
4442 [SBA x IT동아] 자기 이해를 바탕으로 커리어 설계 돕는 ‘매치워크’ IT동아갤로그로 이동합니다. 10.28 184 0
4441 인텔, AI PC를 위한 차세대 인텔 코어 울트라 제품군 국내 출시 IT동아갤로그로 이동합니다. 10.28 217 0
4440 [KIDP 울산] 모토웨이, "투박한 산업용 카메라, 디자인 개선으로 재탄생" IT동아갤로그로 이동합니다. 10.28 172 0
4439 내 정보 지키는 시크릿 모드, PC·모바일서 쓰는 법 [이럴땐 이렇게!] [1] IT동아갤로그로 이동합니다. 10.28 930 1
4438 [생성 AI 길라잡이] 갤럭시 AI 활용하기 – 브라우징 어시스트 IT동아갤로그로 이동합니다. 10.26 253 0
4437 [투자를IT다] 2024년 10월 4주차 IT기업 주요 소식과 주가 흐름 IT동아갤로그로 이동합니다. 10.26 240 0
4436 [리뷰] 손쉽게 ‘다큐’ 찍는 여행용 드론, DJI 에어 3S IT동아갤로그로 이동합니다. 10.25 242 0
4435 전략 자산으로 떠오른 GPU, 해법은 NPU에서 찾아야 IT동아갤로그로 이동합니다. 10.25 228 0
4434 [SBA x IT동아] 스텝하우 “3일 걸리던 매뉴얼 제작, 30초만에 완성” IT동아갤로그로 이동합니다. 10.25 225 0
4433 [창업도약+경북대] 글라우드 “저스트스캔 익스프레스로 디지털 덴티스트리 전환 가속화할 것” IT동아갤로그로 이동합니다. 10.25 213 0
4432 월드코인, 새로운 솔루션·플랫폼 발표···키워드는 보안 IT동아갤로그로 이동합니다. 10.25 208 0
4431 [르포] AI 기반 업무혁신 향한 100일간의 대장정…‘동원GPT 경진대회’ 살펴보니 IT동아갤로그로 이동합니다. 10.24 260 0
4430 [SBA x IT동아] 이해라이프스타일 “인생 가구 찾아주는 구독 플랫폼, 살구” IT동아갤로그로 이동합니다. 10.24 259 0
4429 사진 속 지우고 싶은 부분 있다면? 네이버 ‘AI 지우개’ 유용할까 [9] IT동아갤로그로 이동합니다. 10.24 5672 0
4428 캠터 “캠핑용품으로 공유 경제를 실현합니다” [동국대학교 캠퍼스타운] IT동아갤로그로 이동합니다. 10.24 2124 0
4427 [SBA x IT동아] 친숙했던 놀이시설에 특허 기술 더해 차별화…‘캘리클럽’ IT동아갤로그로 이동합니다. 10.23 215 0
4426 딥엑스 김녹원 대표, "버터 벤치마크로 1세대 칩 안정성 증명··· 내년엔 2세대 샘플링" IT동아갤로그로 이동합니다. 10.23 281 0
4425 ‘최대 규모’ 2024 로보월드, 국내 중소기업 실력에 ‘깜짝’ IT동아갤로그로 이동합니다. 10.23 192 0
[스케일업] [1] 클리카, "원천 기술로 만든 모델 경량화 AI, 전 세계서 쓰일 것" IT동아갤로그로 이동합니다. 10.23 270 0
4423 [리뷰] 각종 편의 기능과 고음질로 완성도 높였다 ‘JBL 투어 프로 3’ [8] IT동아갤로그로 이동합니다. 10.23 5656 1
4422 세계 미래 밝힐 혁신 기술의 장, 대구 FIX 2024 IT동아갤로그로 이동합니다. 10.23 230 0
4421 [자동차와 法] 자동차관리법의 자동차 교환·환불 중재제도에 관하여 IT동아갤로그로 이동합니다. 10.22 232 0
4420 [SBA x IT동아] ‘디지털 트윈’ 기술로 산업 현장 DX 돕는 ‘스탠스’ IT동아갤로그로 이동합니다. 10.22 179 0
4419 대구시 “FIX 이노베이션 어워즈, 세계 혁신 기술 기업의 요람으로” IT동아갤로그로 이동합니다. 10.22 181 0
4418 블루포인트 “지방 소멸, 스타트업과 함께 모색한다” IT동아갤로그로 이동합니다. 10.22 175 0
4417 동원·KT·MS...세계 기업, 인공지능 역량 강화 경진대회 매진 [2] IT동아갤로그로 이동합니다. 10.22 5161 1
4416 [스케일업] 보라웨어 [2] 황현철 인사이터스 대표 “채널 영업을 위한 특별한 포지션을 구축하라” IT동아갤로그로 이동합니다. 10.22 162 0
4415 이팝소프트 “600만 AI 영어학습 앱 말해보카, 게임처럼 재미있게 공부한다” IT동아갤로그로 이동합니다. 10.22 166 0
4414 페라리가 11년 만에 선보인 신형 슈퍼카 ‘F80’ 살펴보니 [7] IT동아갤로그로 이동합니다. 10.21 2433 2
4413 [뉴스줌인] 갤럭시 Z 폴드 스페셜 에디션 출시, 폴드6와의 차이점은? [3] IT동아갤로그로 이동합니다. 10.21 1173 0
4412 해외 미술관·박물관에서 우리 말로 설명이 필요할 때! [이럴땐 이렇게!] IT동아갤로그로 이동합니다. 10.21 193 0
4411 [주간투자동향] 메이크스타, 300억 원 규모 시리즈D 투자 유치 外 IT동아갤로그로 이동합니다. 10.21 183 0
4410 [투자를IT다] 2024년 10월 3주차 IT기업 주요 소식과 주가 흐름 IT동아갤로그로 이동합니다. 10.18 264 0
4409 첨단기술 기반 화재안전관리 일반화, 보험업계도 움직인다 IT동아갤로그로 이동합니다. 10.18 266 0
4408 [생성 AI 길라잡이] 생성 AI 부작용과 주요국의 대응책 IT동아갤로그로 이동합니다. 10.18 248 0
4407 [스케일업] 비투랩 [2] 이마고웍스 “세계 치과 시장, 성과·파트너와 공략” IT동아갤로그로 이동합니다. 10.18 239 0
뉴스 디즈니, ‘무빙2’ 제작 공식화…APAC 콘텐츠 총괄 “강풀 작가와 추진 시작” 디시트렌드 18:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2