[단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]

IT동아

2023.11.30 09:31:05

조회 161 추천 0 댓글 0

[라스베이거스=IT동아]

“AWS가 제공하는 자원의 90% 이상이 고객들이 원하는 것에 맞춰져 있다. 고객이 특정 기반 모델에 대해 얘기한다면 그것을 선택하고, 멀티모달이나 텍스트 베이스 모델 등을 원한다면 모델의 다양성에 대해 투자할 것이다. 리인벤트는 어떻게 특정 서비스를 더 간소화하고, 영향력을 가져갈 수 있는지를 확인할 수 있는 자리다”

프라사드 칼야나라만(Prasad Kalyanaraman) AWS 글로벌 인프라 서비스 부사장에게 내년의 투자 방향에 대해 묻자 돌아온 대답이다.

프라사드 칼야나라만(Prasad Kalyanaraman) AWS 글로벌 인프라 서비스 부사장

그가 이끌고 있는 AWS 글로벌 인프라 서비스는 전 세계 32개 지역(리전)에 102개 이상의 가용성 영역, 그리고 550개 이상의 접속 지점을 제공한다. AWS가 제공하는 클라우드 자원은 배경에 대해 설명하자면 AWS가 제공하는 클라우드는 리전(Region)이라는 지역적 단위로 구분되며, 해당 지역 내에 물리적인 서버가 존재한다. 인프라 서비스는 이 서버에 대한 관리 및 서비스를 수행하며, 프라사드 칼야나라만 AWS 인프라 서비스 부사장은 이 과정이 원활하게 제공될 수 있도록 물류 및 공급망 관리, 운영 등을 담당하고 있다.

2005년부터 AWS에서 근무한 칼야나라만은 공급망 최적화와 기민한 해결 방안 제시, 확장성 및 제품 관리 분야 등에 걸친 경험을 갖고 있고, 이를 활용해 유틸리티 컴퓨팅 및 네트워크 서비스의 효율화를 지원한다. 또한 AWS 마켓플레이스 ISV와 같은 솔루션과 아키텍처 유지 관리 등의 업무도 맡고 있다. IT동아에서 프라사드 칼야나라만 AWS 부사장과 단독 인터뷰를 진행했다.

“NPU, FPGA, RISC-V도 고객이 필요하면 마련할 것”

우선 그에게 올해, 그리고 내년 투자의 방향성에 대한 질문부터 던졌다. 프라사드 칼야나라만은 “올해, 그리고 내년 인프라 서비스 투자의 방향은 대체로 생성형 AI와 맞물려있다. 올해 기조연설에서 공개된 그라비톤 4, 트레이니엄 2 칩, 아마존 S3 클라우드까지도 모두 생성형 AI 수요에 대응하기 위한 제품들이다”라며 투자 방향을 설명했다.

프라사드 칼야나라만 부사장은 고객이 필요하다면 서드파티 AI 가속기도 도입할 수 있다고 답했다 / 출처=IT동아

또한 90% 이상의 투자는 모두 고객 중심적인 결정이라는 점도 강조했다. 그는 “AWS의 생성형 AI 전략은 인프라스트럭쳐 계층이 있고, 그 위에 대형언어모델(LLM) 계층, 최상위에 애플리케이션 레이어가 있다. 인프라 투자 역시 이와 궤를 같이한다”라면서, “따라서 고객들의 요청이 커진다면 서드파티 브랜드의 NPU, ASIC, FPGA, RISC-V까지도 AWS 인프라에 도입할 수 있다. 엔비디아의 GH200 그레이스호퍼 슈퍼칩 역시 같은 맥락에서 도입한 것이다”라고 말했다.

현재 AWS는 CPU와 GPU 등 인프라의 핵심 자산을 내재화하고 있으나, 업계에서 주로 사용되는 인텔 및 AMD CPU, 엔비디아 GPU 등의 하드웨어는 별도 인스턴스로 제공하고 있다. 텐스토렌트의 RISC-V나 퓨리오사AI의 NPU도 사용을 원하는 기업이 늘어난다면 AWS로서는 도입하지 않을 이유가 없다는 의미다.

지속가능성·효율 고려한 냉각방식 전환도 고려 중

젠슨 황 엔비디아 CEO(우측)가 아담 셀립스키 AWS 최고경영자(좌측)이 진행하는 기조연설에 깜짝 등장했다 / 출처=IT동아

지난 기조연설에서는 젠슨 황 엔비디아 최고경영자가 직접 등장해 AWS가 엔비디아 GH200을 도입한다는 소식을 전했다. AWS가 엔비디아 GH200 NVL32를 도입하게 되면 자연스럽게 데이터센터에도 액체 냉각 방식을 도입하게 되는 것인데, 액체 냉각 혹은 액침 냉각 등 올해 들어 주목받고 있는 최신 냉각 방식을 인프라 전반에 확대할 생각이 있는지에 대해 물었다.

프라사드 칼야나라만은 “지금까지 AWS의 데이터센터 디자인은 주로 외부 공기와 순환하는 프리 쿨링 방식을 도입해 왔다. 하지만 기계학습용 반도체들이 더 많이 필요하게 될수록 액체 냉각도 필요하게 될 것이다”라면서, “일단은 콜드 플레이트 쿨링을 선제적으로 도입할 예정이고, 전면적인 액체 냉각, 액침 냉각 등은 고려 단계”라고 말했다. 다만 어떤 특정 리전에서 테스트를 하기보다는 필요성이 제기되는 지역부터 도입을 고려할 것이라고 덧붙였다.

AWS, 삼성전자는 물론 SK하이닉스로부터도 HBM3 주문

프라사드 칼야나라만 부사장은 삼성전자 뿐만 아니라 SK하이닉스로부터도 HBM3를 공급받고 있다는 사실을 확인해주었다. 사진은 SK하이닉스의 HBM3 메모리 / 출처=SK하이닉스

인공지능 반도체의 핵심 부품으로 떠오른 HBM3(고대역 메모리)는 어떤 기준으로 선택하는지를 물었다. HBM3는 삼성전자와 SK하이닉스가 전 세계 시장 점유율의 약 90%를 차지하고 있다. 프라사드 칼야나라만은 “HBM3는 굉장히 중요한 부품이고, 기계학습 구축에 핵심이 된다. 그렇기 때문에 AWS는 삼성전자 이외에도 SK하이닉스를 포함한 모든 HBM3 제조사로부터 부품을 받고 있다”라고 말했다. SK하이닉스가 AWS에 HBM3 메모리를 공급한다는 사실이 확인된 건 이번이 처음이다.

마지막으로 프라사드 칼야나라만 부사장은 “AWS에게 있어 한국은 중요한 시장이며, 삼성전자와 넥슨과 같은 대기업들이 우리와 함께하고 있다는 것이 기쁘다. 앞으로도 서울 리전을 통해 많은 고객들에게 신뢰할 수 있는 서비스를 꾸준히 제공하겠으며, 생성형 AI에 대해서도 만족도 높은 결과를 제공하기 위해 노력하겠다”라고 인터뷰를 마쳤다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]▶ AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023]▶ LG AI연구원, 이미지를 문장으로 변환하는 AI 공개[AWS 리인벤트 2023]

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	손해 보기 싫어서 피해 입으면 반드시 되갚아 줄 것 같은 스타는?	운영자	24/11/18	-	-
3213	환자 안전 지키고 더 나은 치료법 설계 돕는 ‘버추얼 트윈’ [2]	IT동아	23.12.04	1573	1
3212	온라인 면세점을 이용하려면 이렇게![이럴땐 이렇게!]	IT동아	23.12.04	356	0
3211	서울과기대 창업지원단 “제품 브랜딩과 마케팅 방법을 알려드립니다”	IT동아	23.12.04	107	0
3210	[IT애정남] 탄소섬유 열선? 피복체 열선? 탄소매트 구분 법 알려주세요	IT동아	23.12.04	764	1
3209	[IT애정남] 노트북에 연결한 모니터의 화면 움직임이 뚝뚝 끊긴다면? [2]	IT동아	23.12.02	9238	10
3208	[KIDP 울산] 볼로랜드·울주군·UIPA “힘 모아 세계 드론 표준 도시 울주 구축”	IT동아	23.12.01	146	0
3207	지능형 교통체계 도입으로 분주한 지자체…광역화 위한 과제는? [1]	IT동아	23.12.01	935	0
3206	[농업이 IT(잇)다] 인네이처 “ITO·물도리로 스마트팜과 창호 개선”	IT동아	23.12.01	175	0
3205	‘CBDC 활용성 테스트’ 2024년 3분기 디지털 바우처로 진행	IT동아	23.12.01	135	0
3204	"AWS, 책임감 있는 AI를 추구하는 것은 수익성과 직결" [AWS 리인벤트 2023]	IT동아	23.12.01	454	0
3203	노동력 부족한 캐나다, 이민의 문 ‘활짝’ 열었다[K비즈니스가이드] [1]	IT동아	23.11.30	201	0
3202	[이제는 전북 콘텐츠] 스타트업을 위한 투자 유치 기회를 제공합니다	IT동아	23.11.30	118	0
3201	퀄컴 스냅드래곤 8 3세대, 미디어텍 제치고 AP 경쟁 우위에 [2]	IT동아	23.11.30	235	0
3200	이노모티브 “KIAT 기반구축사업 힘입어 모빌리티 생태계에 도전장”	IT동아	23.11.30	131	0
3199	원주세브란스기독병원 의료기기 CRO 센터 “임상시험을 더 쉽게 수행할 수 있습니다”	IT동아	23.11.30	136	0
3198	[스타트업-ing] 델바인 “디지털 기술 기반 새로운 치료법을 연구합니다”	IT동아	23.11.30	132	1
	[단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]	IT동아	23.11.30	161	0
3196	AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023] [4]	IT동아	23.11.30	585	3
3195	AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]	IT동아	23.11.30	100	0
3194	LG AI연구원, 이미지를 문장으로 변환하는 AI 공개[AWS 리인벤트 2023]	IT동아	23.11.30	121	0
3193	출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’	IT동아	23.11.29	116	0
3192	폐기물로 가구, 소품, 화장품까지...ESG붐 타고 ‘업사이클링’ 뜬다	IT동아	23.11.29	179	0
3191	[스케일업] 리하베스트 [2] 더브레드블루 “업사이클링·비건의 맛과 멋 전파”	IT동아	23.11.29	100	0
3190	성북구 1인 창조기업 지원센터에서 꿈을 향해 도전하고 있는 스타트업 (1)	IT동아	23.11.29	119	0
3189	[KIDP 울산] 옛간·퀀텀코스메틱 “신뢰로 프랜차이즈 성공 기반 다져라”	IT동아	23.11.29	97	0
3188	[과기대 S-Run] 제조 스타트업에게 가장 중요한 ‘시제품 제작 지원’	IT동아	23.11.29	120	0
3187	AWS, 생성형 AI 베드록·새 AI 반도체로 '초가속'한다 [AWS 리인벤트 2023] [3]	IT동아	23.11.29	1360	3
3186	[그때 그 IT] 모빌리티 판례 (3) 타다 서비스 여객자동차법 위반 무죄	IT동아	23.11.28	100	0
3185	[스타트업-ing] 터널 속에서도 차량의 정확한 위치 파악 돕는 ‘씨너렉스’	IT동아	23.11.28	117	0
3184	[마인드테크 시대가 온다] 6. 마인드상태 인식, 알 수 없는 마음	IT동아	23.11.28	145	0
3183	세계 최대 클라우드 행사 시작··· 이목은 'AI'에 집중 [AWS 리인벤트 2023]	IT동아	23.11.28	289	1
3182	[인터뷰] ‘지능형 교통체계 도시상’ 선정 ‘안양시’…기술 고도화의 배경은?	IT동아	23.11.27	99	0
3181	내게 맞는 노트북, 선택하려면 이렇게![이럴땐 이렇게!] [5]	IT동아	23.11.27	1344	1
3180	[주간투자동향] 임프리메드, 300억 원 규모의 시리즈A 투자 유치	IT동아	23.11.27	350	0
3179	[뉴스줌인] 데이터센터용 SSD ‘나이트로’ 시리즈, 뭐가 다를까?	IT동아	23.11.24	205	0
3178	[르포] ‘지능형 교통체계’로 도시 안전 강화·자율주행 시대 준비하는 ‘안양시’	IT동아	23.11.24	128	0
3177	[KTVF] 이노디테크 “투명 교정 장치·AI 협동진료 지원 시스템 통한 치아교정 대중화가 목표”	IT동아	23.11.24	914	0
3176	[과기대 S-Run] 혁신 도전하는 제조창업기업, 시제품 제작 지원으로 뒷받침한다	IT동아	23.11.24	169	0
3175	[KIDP 울산] 우시산·한국몰드 “소셜 업사이클링으로 사회 기여”	IT동아	23.11.24	118	0
3174	[스타트업-ing] 테서 “의료 정보 불균형 해소하는 검사 결과 해석·번역 서비스 ‘온톨’” [1]	IT동아	23.11.24	1006	1
3173	배달·순찰 로봇 인도통행 허용…안전운행 담보할 기술은? [3]	IT동아	23.11.23	562	0
3172	테이프 붙은 상자도 재활용? 칼렛바이오 스텝포넷제로 리펄프 테이프[스타트업리뷰] [4]	IT동아	23.11.23	1094	6
3171	정영범 퓨리오사AI 이사 "내년 2분기 2세대 칩 출시··· 완벽한 데뷔에 사활"	IT동아	23.11.23	139	0
3170	윤석찬 AWS 수석 “AWS 게임데이 LoL 에디션, 머신러닝 서비스 구축 기회 제공”	IT동아	23.11.23	141	0
3169	'중고거래 싸움 줄어들까'··· 당근, '분쟁조절센터'로 거래 분쟁 중재 나서	IT동아	23.11.22	135	0
3168	[서울형 R&D] 루키스 홍정호 이사 “고독사 위험을 효율적으로 관리할 수 있습니다” [1]	IT동아	23.11.22	579	0
3167	[스타트업-ing] 트윈피그바이오랩 "FDA 희귀의약품, 면역항암제 개발 박차"	IT동아	23.11.22	1126	0
3166	[스타트업-ing] 에듀캔버스 “적성·진로, 종합 진단으로 개인 맞춤형 교육 제공합니다”	IT동아	23.11.22	551	0
3165	금융위, 가상자산 사업자 영업 종료 시 “최소 1개월 전 공지할 것”	IT동아	23.11.21	132	0
3164	"기술 몰라도 AI 활용? 초광역 GPT-AI 창업경진대회로 증명"	IT동아	23.11.21	129	0
뉴스	BTS 지민, '마마 어워즈' 첫날 대상…로제 '아파트' 무대 첫공개(종합)	디시트렌드	14:00