image size : 1024x1024 / seed:6 / steps 30 / cfg 8 / sampleur dpmpp_2m / karras / prompt + : Beautiful scenery nature glass bottle landscape, NVIDIA graphic card atmosphere, abstract dark green galaxy bottle, "RTX 5090" green text written on the bottle, text glow,

위는 RTX5090으로 flux DEV 모델의 원본(FP16) 을 구동한것으로
VRAM 사용량이 27GB가 넘어간 것을 볼 수 있다.

기존 24GB모델에서는 VRAM용량이 낮아
현실적으로  업무에서 FP16모델을 사용할 수 없으며

사용하더라도, OFFLOAD 로 인해 시스템RAM으로 데이터가 넘어가버려서
측정이 의미 없을 정도로 잡 로딩이 엄청나게 느려지게 되는데

이런 현상 조차도 시스템 RAM이 80gb이상 있을때나, 겨우 느껴볼 수있는 느려짐 현상이지

64gb이하 인 경우는 아예 먹통이라  ,"이거 원래 구동 안 되요" 라고 알고있는 사람이 상당히 많음

사실 너무 당연한듯이 FP8 양자화모델만 쓰고있어서
FP16모델을 써본적 조차 없는 사람들이 대부분이다.

그로인해. 위 레딧에서는 FP16모델을 사용하여 VRAM이 27gb가 넘어간 것을 인증했고
사실상 개인 유저들에겐 완전히 구름위 신세계에서 노는거라
현실적으로 비교대상조차 없는것이다. 
 L40 A40 A100 유저들 기준으로도 GPU성능이 너무 많이 차이나서 비교 대상이 되지 못한다

하지만 바로 아랫댓글을 보면

FP8 모델을 로드해놓고 자기랑 2배 차이 밖에 안 난다고 위안하는 모습을 볼 수 있는데

바로 대댓글에 3090에선 FP16모델을 로드 할 수 없기 때문에 동일한 설정이 아니라고 다시 댓글이 달린다

실제로는 시스템 메모리를 80gb이상 확보한 뒤 vram도 싹 비우면3090에서도 fp16이 로드가 가능하지만

현실적으로 각종 사전,사후 로딩이 너무 엄청나서,  실무에서의 속도는 5090과 비교 자체가 안된다.

그렇기 때문에 애초에 5090과는 비교를 할 수 있는 시스템이 아니라고 단정지을 수 있는것이다

FP8에서 구동시

FP16대비 시간은 보통 60%대로 단축되며
즉 5090의 FP8성능은 3090의 3배 이상에 달하는것이다.
이건 뭐 4090과의 비교에서도 이미 검증된 내용임


그리고 더욱 관건인 부분은 FP4가 포함된 모델의 경우인데.
FP4를 적절히 섞은 모델이 나올경우 깡성능으로
3090의 10배이상의 성능을 낼것이 확정적이며 "FP4만" 적용하면 성능은 거의 20배에 달한다

4090과의 FP4깡성능은 4.5배 차이로 알려져있으며

FP4를 일부만 적용하더라도 2배~2.5배정도의 차이는 예상해볼 수 있다.

그러므로 깡성능에서 5090의 가치는 4090의 2.5배 정도의 가치이며

VRAM의 특권에서도 2배이상의 가치를 가지게 되어

총합적으로 2.5~3배 정도의 가치를 가지게되며

4090의 가격이 280이라고 치면

5090은 550~1000만원 범위로 환산되는것이다.
(게임성능은 고작 1.3~1.4배지만 게임은 이제 아무런 의미가 없는 지표임)
그러므로 향후 시세를 정확하게 예측가능하며

이 모든 시세를  낮출 수 있는 새로운 제품 또한 nvidia제품이며

이걸 할 수 있는  사람 또한 황회장뿐이다.