KT클라우드, 엔비디아 GPU 기반 학습 서비스 'AI Train' 출시

IT동아

2024.05.30 12:05:10

조회 150 추천 0 댓글 0

[IT동아 남시현 기자] KT클라우드가 엔비디아 GPU를 적용한 AI 트레이닝(학습) 전용 인프라 서비스, ‘AI Train’을 출시했다. 인공지능(AI) 개발은 데이터를 수집해 가공한 뒤, 모델의 형태로 최적화 과정을 교육시키는 학습(Training)과 학습을 통해 완성된 모델을 사용해 새로운 데이터에 대한 예측을 수행하는 ‘추론(Inference)’ 과정 두 가지로 나뉜다. 이번에 KT클라우드가 공개한 AI Train은 모델을 개발하는 ‘학습’에 대응하는 서비스다.

KT클라우드가 엔비디아 H100, A100, V100 기반의 AI 모델 학습 서비스인 AI Train을 출시했다 / 출처=KT클라우드

AI 학습은 가능한 많고, 성능이 높은 GPU를 사용할수록 빠르게 모델을 학습시킬 수 있어서, 전 세계적으로 AI 모델 구축을 위한 GPU 확보 경쟁이 치열한 상황이다. 이번에 출시된 AI Train을 통해 KT클라우드 이용자는 클라우드 상에서 AI 학습에 필요한 대용량, 고사양의 GPU 자산을 활용할 수 있다.

또한 KT클라우드가 22년 선보인 HAC(Hyperscale AI Computing)과 동일하게 대량의 GPU를 하나로 연결해 거대한 연산 자원으로 활용하는 대규모 GPU 노드 클러스터링과, 필요에 따라 컴퓨팅 자원을 실시간으로 할당 및 조정하는 동적 할당제어 기능을 지원한다. 여기에 AI Train은 애플리케이션 실행에 필요한 독립 패키지 ‘컨테이너’ 방식으로 클러스터 구성을 할 수 있다.

엔비디아 A100 기반으로 구동되고 있는 예시 이미지 / 출처=KT클라우드

하드웨어는 엔비디아 호퍼 아키텍처 기반의 H100을 제공하며, 엔비디아 A100 및 V100도 사용할 수 있다. 사용자는 자원 할당 기능을 활용해 처리에 필요한 CPU, 메모리, GPU 등의 자원량을 템플릿 형태로 저장하고 쓸 수 있다. 또한 GPU를 사용한 시간만큼만 요금이 부과되고, GPU가 유휴 상태일 때는 컨테이너를 자동 반납하는 구조로 비용 효율성을 높였다.

AI Train은 지난 2023년 진행된 NIPA 고성능 컴퓨팅 사업∙AI 바우처 사업에서 사용 편의성을 검증했으며, 오는 6월 중에는 리벨리온과 협력해 공공 및 기업 고객 대상의 추론 전용 NPU(Neural Processing Unit, 신경망처리장치) 상품인 ‘AI SERV NPU’도 출시한다. 해당 서비스는 리벨리온이 올해 출시할 ‘ATOM Plus’ 칩 출시와 발맞춰 성능을 높일 예정이고, 추후 라마(Llama)-3 등의 sLLM(소형거대언어모델) 같은 AI 연구용 언어 모델을 지원할 예정이다.

한편 KT클라우드는 작년 10월, 슬라이싱 기술을 활용한 엔비디아 GPU 기반의 AI 추론 전용 서비스 ‘AI SERV’를 선보이며 고객 활용도를 높여왔다. 슬라이싱 기술은 GPU 자원을 여러 개의 작은 단위로 나눠 사용자가 필요한 만큼 자원을 쓸 수 있도록 하는 기술로, 자원을 더 효율적으로 쓸 수 있도록 한다. 반려견 생체인식 플랫폼 기업 ‘아지랑랑이랑’ 관계자는 “초기 GPU 투자 진행을 고민하다 KT클라우드의 AI SERV를 쓰게 됐다. 자사 연구 환경에 맞춰 GPU 사용량을 최적화하고, AI 연구 비용을 약 70% 이상 절감했다”라고 언급했다.

남충범 KT클라우드 본부장은 “KT클라우드는 지속적으로 확대되는 시장 내 인프라 수요에 적극 대응하고, 차별화된 AI 인프라를 제공하기 위해 AI Train을 선보이게 됐다”라면서, “다양한 파트너들과 협업하며 AI 클라우드 분야를 선도하고, 고객 사용성에 맞춘 AI 인프라 환경을 구현해 나갈 것”이라고 말했다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI 구심점으로 떠오른 '컴퓨텍스', 올해 주목할만한 기업 별 소식은?▶ ‘천비디아’ 달성한 엔비디아, 독주할까? 반도체주와 함께할까?▶ 6월 인공지능ㆍ반도체 시장 엔비디아 손에 달렸다

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	과음으로 응급실에 가장 많이 갔을 것 같은 스타는?	운영자	25/03/03	-	-
4210	휴사이언스 "임상시험 검체 분석 분야, 공인시험기관 인정 받아"	IT동아	24.08.30	170	0
4209	[SBA x IT동아] 정상원 프랜킷 대표, 체계적 운영 어려운 중소 프랜차이즈 위한 ‘SaaS 플랫폼’ 꿈꾼다	IT동아	24.08.29	183	0
4208	디지털 기반 화재 예방 솔루션, 보험료 절약효과도 기대?	IT동아	24.08.29	170	0
4207	인텔, 워크스테이션용 '사파이어 래피즈 리프레시' CPU 공개	IT동아	24.08.29	181	0
4206	[크립토 퀵서치] 가상자산 관련 기초 지식과 최신 이슈를 알고 싶어요	IT동아	24.08.29	161	0
4205	뮤지엄엘 "우리나라 대표 복합문화공간 될 것"	IT동아	24.08.29	198	0
4204	[스케일업] 운약근답올핏 [2] 한국벤처컨설팅 “강한 인상 줄 수 있는 ‘가치’가 필요하다”	IT동아	24.08.29	790	0
4203	[스케일업] 스쿨버스 [1] 통학버스 실시간 위치·안전 운행 여부 확인	IT동아	24.08.28	219	0
4202	원스토어, 글로벌 시장 진출한다…"상장도 재추진" [1]	IT동아	24.08.28	326	0
4201	델 테크놀로지스, 포럼 통해 'AI의 산업적 가치' 선보여	IT동아	24.08.28	225	0
4200	[Product-Market-Fit] 잘 팔리는 제품과 서비스의 비밀 [2]	IT동아	24.08.27	211	0
4199	삼성전자, 홈 시네마용 초단초점 4K 프로젝터, '더 프리미어 9, 7’ 출시	IT동아	24.08.27	217	0
4198	엡손 “2만 루멘급 고성능 4K 프로젝터로 뉴미디어아트 시장 이끌 것”	IT동아	24.08.27	158	0
4197	[혁신스타트업 in 홍릉] 이마고웍스 “인공지능 치과 기술 세계 리더로”	IT동아	24.08.27	5194	0
4196	김민수 비로보틱스 “모든 사람이 로봇과 함께하도록”	IT동아	24.08.27	181	0
4195	[IT’s 가성비] 갤럭시 S20+, 중고폰 시장에서 더욱 돋보여? [4]	IT동아	24.08.26	1392	0
4194	[IT하는법] 나만의 QR코드 만들고 사용하는 법 [1]	IT동아	24.08.26	624	0
4193	실시간 전기요금이 궁금하다면?[이럴땐 이렇게!]	IT동아	24.08.26	584	0
4192	LG전자, 장비 인증 획득으로 ‘5G 특화망’ 사업 본격화	IT동아	24.08.26	223	0
4191	[스케일업] 파나띠꼬 [2] 매드해터 “브랜딩은 나를 알리는 과정, 브랜드 코어를 단단히 다져라”	IT동아	24.08.26	960	0
4190	[주간투자동향] PIP랩스, 약 1092억 원 규모 시리즈B 투자 유치	IT동아	24.08.26	167	0
4189	SKT, 패스키 SaaS로 비밀번호 없는 시대 앞당긴다	IT동아	24.08.26	161	0
4188	[생성 AI 길라잡이] 간단한 문장 입력으로 영상 만들어주는 ‘핫샷’	IT동아	24.08.23	276	0
4187	[스케일업] 모넷코리아 [1] “스마트 IoT 솔루션 도입, 의외로 저렴해서 놀랄 것”	IT동아	24.08.23	307	0
4186	캐논, EOS R1 및 R5 마크 II로 '전문가 시장 주도권' 회복할까	IT동아	24.08.23	231	0
4185	[스케일업] 비투랩 [1] “펨토초 레이저로 글로벌 임플란트 시장 도전"	IT동아	24.08.23	876	0
4184	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 23	IT동아	24.08.23	223	0
4183	[IT하는법] 개인정보 유출로 해킹 걱정된다면, '털린 내 정보 찾기 서비스'	IT동아	24.08.23	749	0
4182	[스케일업] 반프 [1] “타이어 디지털 전환 시대의 문을 엽니다”	IT동아	24.08.23	211	0
4181	[시승기] 라인업 첫 고성능 모델 ‘BMW 뉴 X1 M35i xDrive’ [11]	IT동아	24.08.22	2676	4
4180	[스타트업 첫걸음] 기고를 마치며	IT동아	24.08.22	4959	1
4179	[IT신상공개] ‘사진놀이’용 토털솔루션, 인스탁스 미니 리플레이	IT동아	24.08.22	1991	1
4178	한국후지쯔, “손바닥 정맥 인증, DX 여정의 모범사례”	IT동아	24.08.21	244	0
4177	AI 종합 기업 꿈꾸는 AMD··· ZT시스템즈, 사일로 AI 인수 배경은?	IT동아	24.08.21	240	0
4176	한국후지쯔 “MC, 제약·바이오 기업 디지털 전환 파트너” [1]	IT동아	24.08.21	1222	1
4175	공번서 MSI코리아 대표 “노트북 혁신 20년, 원칙 지키며 발전해 나갈 것” [6]	IT동아	24.08.21	2289	0
4174	[혁신스타트업 in 홍릉] 케이디바이오 “서민의 삶을 바꾸는 미생물 솔루션 선보일 것”	IT동아	24.08.20	221	0
4173	[자동차와 法] 청라 전기차 화재 사고 관련 법률적 쟁점들 살펴보니	IT동아	24.08.20	228	0
4172	"똑똑의사, 한국형 왕진제도의 지원자 될 것" [동국대학교 캠퍼스타운] [3]	IT동아	24.08.20	1413	3
4171	휴먼컨설팅그룹 “국내 환경에 맞춘 HR 솔루션, SaaS 시장까지 확장”	IT동아	24.08.20	451	0
4170	[월간자동차] 24년 7월, 신차·중고차 판매 증가…BMW5 시리즈 1위 탈환	IT동아	24.08.19	216	0
4169	폰 하나로 전화번호 2개 쓰려면 이렇게! [이럴땐 이렇게!] [8]	IT동아	24.08.19	8742	8
4168	업비트·빗썸 상반기 실적, 2분기 들어 감소세	IT동아	24.08.19	199	0
4167	가상자산 거래소, 이용자 보호 위해 ‘신고센터·상담센터’ 개설	IT동아	24.08.16	322	0
4166	유럽, 영미권 아이폰에 삼성월렛, 구글페이 도입 가능해져··· 한국은 일단 제외 [9]	IT동아	24.08.16	1490	2
4165	에이피알, “홈 뷰티 디바이스를 모두가 누릴 수 있도록 개발합니다”	IT동아	24.08.16	276	0
4164	구글 반독점 철퇴, 검색 시장 '춘추전국시대' 올까? [47]	IT동아	24.08.14	9085	14
4163	가상자산 급락, 일본 금리 인상과 미국 고용 지표 부진 탓	IT동아	24.08.14	312	0
4162	[인터뷰] 한백시스템 “바닥형 신호등 주간 시인성 개선해 보행자 안전 확보”	IT동아	24.08.14	300	0
4161	[뉴스줌인] KT클라우드도 적용한 '액침냉각', 어떤 기술인가?	IT동아	24.08.14	1057	1
뉴스	봉준호 ‘미키 17’, 이틀 연속 박스오피스 1위… 누적 61만 돌파 [차트IS]	디시트렌드	03.02