디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리갤로그로 이동합니다. 2025.03.13 12:12:08
조회 6169 추천 17 댓글 31
														

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.


모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.


예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.


당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.


과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.


그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.


추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.


예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.


그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.


실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.


이러한 추세는 앞으로도 계속될 것입니다."



 




추천 비추천

17

고정닉 2

5

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 팬덤 때문에 오히려 여론이 나빠진 스타는? 운영자 25/03/17 - -
5558289 이번에 연봉협상으로 연봉 인상 15% 받았는데 [2] ㅇㅇ(39.7) 03.21 44 0
5558288 온도 땜에 빼야하냐 [2] 컴갤러(211.234) 03.21 51 0
5558287 4k로 겜하고싶으면 무조건 하이엔드 글카임? [3] ㅇㄴ(211.62) 03.21 69 0
5558286 듀얼오리<<다른건 몰라도 인풋렉 적은게 제일 좋음 [2] ㅇㅇ갤로그로 이동합니다. 03.21 70 0
5558285 ㅇㅇㅇ 컴갤러(39.115) 03.21 19 0
5558284 난 나보다 케이스 좋은 사람 본적이없음 컴갤러(112.219) 03.21 36 0
5558283 하이엔드 본체 맞췄다 저사양들아 [2] 컴갤러(116.36) 03.21 81 4
5558282 긱바 어엘 b650이랑 b850 차이가 뭐임? [8] 네리엘갤로그로 이동합니다. 03.21 99 0
5558280 형은 간다 용팔이킬러본좌갤로그로 이동합니다. 03.21 35 0
5558279 모니터 상단에 CPU, GPU, 온도 사용률 표시해주는 프로그램 추천 탁 [4] 컴갤러(125.130) 03.21 38 0
5558277 9600x 당근 21만 이면 살만하냐? [5] 컴갤러(106.102) 03.21 91 1
5558276 포유컴에서 반본체 샀는데 [2] ㅇㅇ(1.241) 03.21 64 0
5558274 AM4->AM5 윈도우 재설치 안해본 사람 있냐? [3] 컴갤러(39.114) 03.21 59 0
5558273 4060 벤투스 살만해? 컴갤러(211.36) 03.21 24 0
5558271 2tb 두개 끼웠는데 하나는 1.86, 하나는 1.81 [4] 컴갤러(58.228) 03.21 57 0
5558272 5070ti 글카 파워핀 질문 [2] 컴갤러(211.235) 03.21 76 0
5558270 7700x에서 9700x업글할만함? [2] ㅇㅇ(112.172) 03.21 76 0
5558269 783d+5070ti 오늘 조립설치했는데 오버클럭같은거 해야됨? [3] 컴갤러(59.23) 03.21 63 0
5558267 컴린이 견적 [2] 컴갤러(106.101) 03.21 54 0
5558265 2tb 두개 끼웠는데 컴갤러(58.228) 03.21 32 0
5558264 사? 말아? [4] ㅠㅠ(175.223) 03.21 57 0
5558263 챗지피티의 예언능력 [3] 용팔이킬러본좌갤로그로 이동합니다. 03.21 74 0
5558262 신입사원 게이봐라 [1] ㅇㅇ(218.156) 03.21 36 0
5558260 9070시리즈 잘나왔다고 [3] ㅇㅇ갤로그로 이동합니다. 03.21 88 1
5558259 5090어마 550에 살수있음 사냐? [11] 컴갤러(211.250) 03.21 119 0
5558258 싸구려 어항케이스 자랑 오지게 하네 ㅋㅋ [24] 컴갤러(118.235) 03.21 170 2
5558257 고급cpu존내 안팔리긴 하나부다 [1] ㅌㅌ(115.93) 03.21 66 1
5558256 요즘 인텔, 엔비디아 왜 씀? ㅇㅇ(156.146) 03.21 43 0
5558254 메인보드 좀 추천해주세요!!! [3] 컴갤러(210.205) 03.21 59 0
5558253 케이스 하나더 주문했어요 [13] イングリス갤로그로 이동합니다. 03.21 85 3
5558252 니넨 제발 어항케이스 꼭 맞춰라 후........ [2] 제갈유동(118.41) 03.21 82 0
5558251 형왔다 ♥공중부양♥갤로그로 이동합니다. 03.21 24 1
5558250 에이 개새키드랏 ㅋ [1] ㅇㅇ(175.223) 03.21 26 0
5558249 4070ti 중고 90에 살 바에는 5070 사는 게 나은 거 아님? [4] ㅇㅇ갤로그로 이동합니다. 03.21 102 0
5558248 노트북 지금 윈8인데 걍 업뎃하면되냐? ㅇㅇ(114.29) 03.21 21 0
5558246 얘 글카 현역임? [7] ㅇㅇ(14.54) 03.21 108 0
5558245 이거사도됨? ㅇㅇ(223.39) 03.21 40 0
5558244 4060ti 젤 비쌀땐 얼마였음? [1] 컴갤러(211.36) 03.21 75 0
5558243 행복쇼핑 230만대 컴터 평가조ㅓㅁ [5] 컴갤러(121.189) 03.21 75 0
5558242 이거 컴본갤에 리뷰 올려도 인정해주려나 [4] ㅇㅇ(211.168) 03.21 61 0
5558241 컴퓨터 전원 키면 삐익 하는 경보음 3번 울리면서 안되요.. [5] ㅇㅇ(211.184) 03.21 42 0
5558240 결제대기에서는 페이북 경유안됨? 컴갤러(211.235) 03.21 26 0
5558239 첫번째는 p44 pro이고 두번째 sn850x 끼웠는데 [2] 컴갤러(58.228) 03.21 65 0
5558238 oc 논oc 직접오버할거면 상관없냐? [1] ㅇㅇ(223.39) 03.21 49 0
5558237 키캡 박스 옵션 추가했는데 무지박스에 오네 ㅇㅇ(114.205) 03.21 33 0
5558236 노트북인데 질문좀 하자 ㅇㅇ갤로그로 이동합니다. 03.21 29 0
5558235 형들 여기 스토어 유명한곳임? [4] ㅇㅇ(58.226) 03.21 59 0
5558233 5070 80 후반대 어디에있노.. [2] 컴갤러(210.104) 03.21 79 0
5558231 이제 MFG 얘기 안하네?? [3] 컴갤러(124.216) 03.21 53 0
5558230 챗지피티가 나더러 천재라는데 맞나싶네 [5] 용팔이킬러본좌갤로그로 이동합니다. 03.21 52 0
뉴스 오나라, ‘빌런의 나라’서 유쾌한 활약…통쾌한 한 방에 시청률도↑ 디시트렌드 03.21
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2