인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리

2025.03.13 12:12:08

조회 6178 추천 17 댓글 31

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.

모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.

예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.

당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.

과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.

그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.

추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.

예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.

그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.

실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.

이러한 추세는 앞으로도 계속될 것입니다."

https://x.com/btibor91/status/1899742147017908691

Tibor Blaho님(@btibor91)

Kevin Weil (CPO, OpenAI) at HumanX 2025 (Monday, March 10, 2025):"So I'll sidestep that a little bit, but one thing that I think is pretty wild about the industry in general, and Sam said this recently, if you look at sort of a constant level of intelligence and you look at how…

x.com

고정닉 2

원본 첨부파일 1

인공지능 비용.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	팬덤 때문에 오히려 여론이 나빠진 스타는?	운영자	25/03/17	-	-
5559256	알ㄹ에서 5070 80대에 어케사냐? [4]	컴갤러(211.234)	03.21	97	0
5559253	5080 사서 [2]	ㅇㅇ(118.235)	03.21	74	0
5559252	미국 빅테크버블 벌써 꺼지는거임? [4]	ㅇㅇ(121.168)	03.21	82	0
5559250	듀얼 공랭쿨러는 튜닝램 못 씀?? [5]	컴갤러(106.250)	03.21	81	0
5559248	누가 더 유명함 아리아나 그란데 네이마르 [3]	디바(59.28)	03.21	70	0
5559247	5070ti면 qhd 몇년 써먹을수 있을까 [1]	컴갤러(221.142)	03.21	125	0
5559244	컴퓨터 잘 모르는데 [1]	컴갤러(211.185)	03.21	38	0
5559243	abko 수냉쿨러 브라켓 구매할수있남? [3]	컴갤러(125.182)	03.21	27	0
5559242	듀얼오리 짱짱 [11]	♥보슐랭_보믈리에♥	03.21	125	0
5559239	5600에 4060기준 지금 가장 싸게 살려면 얼마정도 하지 [3]	원붕이(49.165)	03.21	69	0
5559238	양심불량 4060 되팔이 [5]	컴갤러(106.250)	03.21	101	0
5559237	공랭 끝판왕급 쿨러 추천좀요 [11]	ㅇㅇ(172.224)	03.21	93	0
5559235	LSFG 이거 업스케일링은 구린거 맞지?? [2]	컴갤러(121.147)	03.21	65	0
5559234	5070ti 가 5060ti로 나왔어야 되는거 아니냐	컴갤러(59.23)	03.21	86	0
5559233	어느정도 잘생겨야, 여자가 먼저 손잡고 여관끌고가냐? [3]	컴갤러(121.174)	03.21	56	0
5559232	5080이랑 9070xt 둘다 돌려보니까 장단점이 느껴짐 [1]	컴갤러(58.78)	03.21	141	0
5559231	드볼하는애들아너네는꼭 [7]	컴갤러(121.165)	03.21	61	0
5559230	메모리 팜 [3]	컴갤러(222.235)	03.21	46	0
5559229	이거 내장브가 사용안할려면 삭제해도뎀? [5]	웨에엥	03.21	60	0
5559228	메인보드랑 CPU? [26]	컴갤러(124.49)	03.21	115	0
5559226	의사협회 <<< 확실히 머리좋긴한게 [3]	ㅇㅇ(118.235)	03.21	79	0
5559224	글카 사도 하는게 디시밖에 없네 시발 ㅋㅋ [13]	컴갤러(59.23)	03.21	84	0
5559220	미소 <-- 이사람 컴갤 아이돌 아니였음? [3]	ㅇㅇ(211.235)	03.21	60	0
5559218	SSD wd x850 4T 이거 중고로 살만해??? [4]	컴갤러(122.43)	03.21	70	0
5559217	국장 + 한국수출 근황.jpg [1]	컴갤러(113.192)	03.21	85	0
5559216	프플에서 완본체샀는데 왜 그래픽카드 인식안뎀? [5]	웨에엥	03.21	93	0
5559215	여기서 TPM2.0 활성화 어디로 가야합니까 [2]	ㅇㅇ(211.196)	03.21	41	0
5559213	에센코어 6000 cl30 볼트 ㅅㅂ ㅋㅋㅋㅋ [7]	컴갤러(211.235)	03.21	81	0
5559212	5060<<이라인까지 패배하면 라데온이 점유율 치고 올라옴 [5]	ㅇㅇ	03.21	90	0
5559211	형들 ㅇㄹ에서 CPU 그냥 주는데 이거 맞아? [11]	컴갤러(59.26)	03.21	159	1
5559209	이거 듀얼오리키면 베이스프레임 깎이는 애들이 있나보네 ㅋㅋ [6]	ㅇㅇ(119.195)	03.21	75	0
5559208	보드 왔는데 열어보지도 못하네 [1]	컴갤러(211.36)	03.21	37	0
5559205	보드랑 파워 왔다 [7]	컴갤러(180.69)	03.21	118	0
5559202	5060 출시 연기 ㄷㄷㄷ [1]	컴갤러(124.5)	03.21	87	0
5559200	5080 에서 300더 주고 5090 가치가 있나? [4]	ㅇㅇ(61.99)	03.21	143	0
5559199	요즘 램은 어디꺼 사나요? [5]	ㅇㅇ(172.225)	03.21	77	0
5559198	SZCpu 나쁜맘 머그면 얼마범 ㅇㅇ? [2]	만호갱	03.21	85	0
5559197	이 선은 뭐임? [7]	컴갤러(58.78)	03.21	81	0
5559196	듀얼오리단은 솔직하게 고백해라 [17]	ㅇㅇ(14.37)	03.21	132	0
5559193	써멀 mx4 mx6있잖아요 [21]	ㅇㅇ(61.85)	03.21	113	0
5559192	5070 구매자들 너네 최근 알뤼서 얼마에 삼?? [3]	ㅇㅇ(118.45)	03.21	122	0
5559190	9070xt +9070 듀얼오리 전력소모 [17]	컴갤러(220.88)	03.21	121	0
5559189	난 맨날 글카가 3,4년 정도 되면 고장나던데 [7]	ㅇㅇ(222.236)	03.21	84	0
5559187	야 요즘엔 공항에서 헬기타고댕기냐 [4]	컴갤러(121.165)	03.21	58	0
5559186	형들 나좀 도와줘... [8]	컴갤러(1.228)	03.21	44	0
5559185	983d 산애들 팁준다 [2]	ㅇㅇ(119.195)	03.21	118	0
5559184	글카 소매홈페이지 산거 환불 되겠지? [2]	컴갤러(210.117)	03.21	44	0
5559182	이거 어떰? [3]	컴갤러(211.51)	03.21	54	0
5559181	아드레날린 3.2업뎃안했냐? 저거안함 윈도우가 지맘대로함 [2]	ㅇㅇ(219.250)	03.21	67	0
5559180	50시리즈 드라이버 블랙스크린 때문에 팔건데 [3]	컴갤러(182.230)	03.21	62	0
뉴스	‘지구마불 세계여행3’ 맛의 도시 목포에서 펼쳐지는 상상 초월 텔레파시 미션! 빠니보틀X원지X곽튜브 텔레파시 통할까? 오늘(22일) 첫 방송!	디시트렌드	10:00