GPU 완벽 정리! 

CPU와 GPU의 차이, GPU서버가 무엇인지 한방에 정리해드립니다! 

https://m.blog.naver.com/lascomco/222949661926

라스컴

2022. 12. 8. 14:11

안녕하세요!

-생략-

인공지능, 딥러닝 영역이 각광받고 있는 요즘, GPU의 성능이 아주 중요하다는 것은 잘 아실 것입니다.

도대체 GPU가 인공지능, 머신러닝에 어떤 역할을 하길래 각광받고 있는 중인지 살펴보겠습니다! 

GPU란?

아마 게임을 좋아하시는 분들이라면 고사양의 그래픽 카드를 사용해야 게임이 잘 돌아간다 라고 알고 계실 것입니다. 

이는 그래픽카드가 게임을 실행할 때 그래픽 처리 속도를 개선하기 때문인데요, GPU (Graphics Processing Unit) 는 그래픽 연산을 빠르게 처리하여 모니터에 이미지를 출력하기 위한 연산 장치입니다. 

모니터에 화면이 나오기 위해서는 ‘지정한 픽셀에 특정 색이 출력되게끔 처리해라’ 라는 명령이 동시에 이루어져야 하는데요, GPU가 이 명령이 가능하게끔 합니다. 

최근에는 GPU의 연산 처리 기술이 발전하면서 여러 사업 분야에서 활용할 수 있게 되었습니다. 

( 인공지능, 자율 주행  등 )

CPU vs GPU

단순히 수행하는 업무에서만 보았을 때는 CPU가 GPU의 역할이 비슷해 보일 수 있지만, ‘어떤 작업을 처리하느냐’에 따라 퍼포먼스가 달라지기 때문에 CPU와 GPU의 구분이 필요합니다.

이는 각각의 연산 처리 방법과 용도에서 큰 차이를 보이기 때문인데요, 아래 사진을 보며 비교해보면 차이를 금방 알 수 있습니다.

CPU는 강력한 연산 처리능력으로 개별적인 작업을 신속하게 처리하는데 특화되어 있기 때문에 복잡한 연산을 순차적으로 빠르게 처리할 수 있습니다. 

반면 GPU는 처음 출시됐을 당시 ‘그래픽 처리･출력을 빠르게 렌더링‘ 하는 목적으로 구성되었기 때문에 작은 캐시와 다수의 연산 장치가 있는 것이 특징입니다. 

이와 같은 구조 때문에 데이터를 병렬로 대량 처리하는 데 특화되어 있습니다.

GPU, CPU

처리 방식

동시다발적으로 처리(병렬 구조), 순차적으로 연산(직렬 구조)

구조

GPU

1. 소량의 캐시 메모리

2. 다량의 연산 장치로 구성

CPU

1. 대량의 캐시 메모리 

2. 제어장치와 연산장치로 구성

3. 고속 데이터 처리

활용 방안

다수의 단순 데이터를 빠르게 처리, 복잡한 연산 데이터를 빠르게 처리

GPU 서버 활용

GPU가 처음 출시됐을 당시에는 단순 이미지 출력 정도의 역할만 수행했으나, 지금은 3D 그래픽 또는 단순 계산 처리에서는 CPU보다 능가하거나 비슷한 성능을 보입니다. 

이에 따라 여러 사업 분야에서 GPU서버를 활용하는 사례가 빈번히 나오고 있습니다.

(1) GPU 서버란?

GPU 서버는 GPU의 장점을 활용하여 딥러닝, 비디오 프로세싱, 과학 컴퓨팅 등의 대규모 연산에 최적화된 컴퓨팅 자원입니다. 

수천 개의 코어를 활용하여 병렬 연산을 수행하기 때문에 목표 데이터를 빠르게 처리할 수 있다는 장점이 있습니다.

(2) GPU 활용 사업 영역

GPU 서버는 이미 다양한 산업군에서 활용하여 있으며, 앞으로도 활용 범위는 더욱 확장이 될 것으로 전망합니다.

핵심은 ‘많은 데이터를 병렬 구조로 빠르게 처리하는 기술’을 각 사업 영역에 활용한다는 점입니다.

The business case for using GPUs to accelerate analytics processing

https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/tech-forward/the-business-case-for-using-gpus-to-accelerate-analytics-processing

사업 분야, 활용 범위

그래픽

클라우드 게임, VR/AR, 실시간 렌더링, virtual anchors, 클라우드 그래픽 워크스테이션, digital twins 등

머신러닝 & 딥러닝

안면인식, 자동 주행, Speech recognition, Natural language processing, CTR 예측 등

제조 영역

클라우드 CAD 디자인, mechanical simulation, fluid simulation 등

과학 영역

에너지 효율성 연구, 기상 예측, 분자 역학 연구 등

GPU서버 선정 시 고려사항

GPU서버를 공급하는 업체는 매우 많습니다. 

이 많은 플랫폼 중 어떤 GPU서버를 선택해야 할까요? 

여기에는 4가지 고려사항이 있습니다.

• 성능이 좋은 최신 GPU 사용이 가능한가?

• 저렴한 비용에 GPU 서버 사용이 가능한가?

• GPU서버의 활용을 극대화할 수 있는 부가 서비스가 있는가?

• 기업의 사용 용도에 맞게 GPU 스펙 조정이 가능한가? 

-생략-

(1) 최신 NVIDIA GPU를 저렴한 비용에 사용 가능

-생략-

사업 분야에 따라 다양하게 GPU 스펙을 선택할 수 있으며, 최신 GPU A100을 가장 저렴한 비용에 지원하기 때문에 많은 관심을 받고 있습니다.