인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리

2025.03.13 12:12:08

조회 6147 추천 17 댓글 31

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.

모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.

예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.

당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.

과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.

그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.

추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.

예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.

그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.

실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.

이러한 추세는 앞으로도 계속될 것입니다."

https://x.com/btibor91/status/1899742147017908691

Tibor Blaho님(@btibor91)

Kevin Weil (CPO, OpenAI) at HumanX 2025 (Monday, March 10, 2025):"So I'll sidestep that a little bit, but one thing that I think is pretty wild about the industry in general, and Sam said this recently, if you look at sort of a constant level of intelligence and you look at how…

x.com

고정닉 2

원본 첨부파일 1

인공지능 비용.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	팬덤 때문에 오히려 여론이 나빠진 스타는?	운영자	25/03/17	-	-
5556632	palit은 지지대도 안준다매? [2]	컴갤러(110.10)	03.21	46	0
5556631	하급기 팰릿보다 중급기 갤럭시 얻었다고 위로한다 [6]	ㅇㅇ	03.21	87	0
5556630	아수스 모니터를 사는이유 [3]	컴갤러(222.119)	03.21	63	0
5556629	파워 바꾸면 벤치 점수 오르지않음?? [2]	ㅇㅇ(211.235)	03.21	34	0
5556628	오늘도 슈프림 당첨안되면 큰결심함	ㅇㅇ	03.21	51	0
5556627	9070xt 후기 적은 이유	컴갤러(121.170)	03.21	167	2
5556626	6800xt충인데 승리자냐? [5]	ㅇㅇ(118.235)	03.21	66	0
5556625	여기애들 말안듣고 4070사길잘했노 ㅋㅋ [3]	컴갤러(120.142)	03.21	140	0
5556624	4070s인데 qhd > 4k로 바꾸는거 어떰? [10]	ㅇㅇ(116.34)	03.21	104	0
5556623	현 시점 CPU서멀 1티어 뭐임 [9]	컴갤러(119.202)	03.21	95	0
5556621	무인가게 하는데 경찰서가서 진정서 쓰고옴. [8]	ㅇㅇ (220.94)	03.21	103	1
5556620	근데 9070xt 팔리는 거에 비해서 후기가 왜이리 적어 [5]	컴갤러(210.117)	03.21	134	0
5556619	부품 매매 해보신분 계신가요?? [7]	컴갤러(220.117)	03.21	58	0
5556618	내 방 ㅁㅌㅊ임? [13]	로이더	03.21	132	0
5556617	긱바b650m 라이젠7 5700,5800호환가능함? [4]	컴갤러(118.44)	03.21	59	0
5556616	슈프림은 뭔 마우스만 움직여도 고주파가 나냐 ㅋㅋㅋㅋ [4]	ㅇㅇ(211.171)	03.21	122	2
5556615	5080 170에 샀다	ㅇㅇ(211.235)	03.21	81	0
5556614	컴퓨터부품 미개봉 보관할때 [3]	컴갤러(222.119)	03.21	62	0
5556613	5080 가격 진짜 존나 떨어지노 ㅋㅋ [2]	컴갤러(221.156)	03.21	184	0
5556611	갤럭시 gamer 중급기네 겜오씨 같은 등급 [2]	ㅇㅇ	03.21	68	0
5556610	좆수스 모니터를 누가 사노 [3]	컴갤러(49.143)	03.21	53	0
5556609	헤드폰 가성비좆되는거 추천좀 [9]	ㅇㅇ(218.153)	03.21	80	0
5556608	서멀구리스 이거 보통 몇번 쓰냐? [7]	ㅇㅇ	03.21	68	0
5556607	한성 완본체 질문글 왜 삭제 됐지? [4]	ㅇㅇ	03.21	100	0
5556606	5070ti 둘 중 7~8만 차이면 뭐사냐? [5]	컴갤러(14.4)	03.21	143	0
5556605	우체국도 걍 쿠팡임 [1]	커피레이크(119.207)	03.21	71	0
5556604	5090이. 가성비좋은이유.	ㅇㅇ(175.112)	03.21	60	0
5556603	근데 5000번대 가격이 떨어지려면 환율을 다시 측정해야하는 거 아니냐?	컴갤러(61.99)	03.21	45	0
5556602	님들 제 ㅇㄹ 해킹당한듯 ;;; [8]	컴갤러(221.157)	03.21	94	0
5556601	나처럼 글카 들고 다니는 놈 있냐? [3]	컴갤러(121.165)	03.21	61	0
5556600	이거 에스프레소 ST라는 케이슨데 어떤거같음? 5만원케이슨데 [7]	컴갤러(211.253)	03.21	57	0
5556599	오리컨셉 라이저+pcie 연결 vs pcie연결 2개 [3]	컴갤러(223.39)	03.21	37	0
5556598	택배 ㅈㄴ 빠르네 [5]	ㅇㅇ	03.21	90	0
5556597	ㅇㄹ 23만 쿠폰은 계정당 1회냐? [2]	컴갤러(14.4)	03.21	84	0
5556596	9070xt 대략 얼마주고 사야 눈탱이 안맞음? [6]	하우두유두	03.21	163	0
5556595	퀘좆은 왜이리 5090에 목숨거냐? [9]	커피레이크(119.207)	03.21	143	0
5556594	글카 언더볼팅도 oc붙은 제품만 됨? [3]	ㅇㅇ(39.7)	03.21	60	0
5556593	21년에 웃돈주고 산 슈프림3080 아직 현역이네 [2]	ㅇㅇ(106.250)	03.21	62	0
5556592	솔찍히 딴건모르겠고 에이수스는. 메인보드한정으로만. 돈값함.	ㅇㅇ(175.112)	03.21	36	0
5556591	써멀 또 정리해준다 멍청한새끼들아	컴갤러(223.38)	03.21	84	1
5556590	컬러풀이 짱깨 글카 판매 1위잔슴 [1]	컴갤러(220.119)	03.21	53	0
5556589	5070ti ㅇㄹ 놓치면 그가격 보기 힘드냐? [5]	컴갤러(14.4)	03.21	213	0
5556588	QHD 240hz 사용중인데 4K는 올라갈 엄두가 안나네	ㅇㅇ	03.21	59	0
5556587	지금 컴 바꾸기 안좋은 시기임? [9]	ㅇㅇ	03.21	80	0
5556586	호환성 안 맞으면 병신컴인거임? [5]	ㅇㅇ(118.235)	03.21	42	0
5556585	요즘 650m 보드사면 바이오스 낮을 확률 높냐? [7]	봉황빈	03.21	82	0
5556584	근데 아서스 성능은 그대론데 가격만 올리면 고급이 되는거임? [3]	컴갤러(221.157)	03.21	40	0
5556583	에이수스 개젖같지	ㅇㅇ(175.112)	03.21	60	0
5556582	와 진짜 이 퀘좆 새끼 역겹네 [5]	컴갤러(220.94)	03.21	176	0
5556581	듀얼오리 추천보드글 어디감? [1]	컴갤러(121.66)	03.21	52	0
뉴스	손태진, 잘생긴 트롯 듀엣 무대 지원사격…황태자의 귀환	디시트렌드	03.21