디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

GPT5는 이미훈련끝났고 곧출시예정 GPT6는 훈련중모바일에서 작성

ㅇㅇ(45.87) 2024.03.29 01:13:34
조회 60 추천 0 댓글 0
														
7cea8177b38161fe3fef98a518d60403c6a287ad7ecdf63853

마소 엔지니어에게 GPT-6 트레이닝을 위한 클러스터 프로젝트에 대해 들었다.

그는 서로 다른 지역에 있는 GPU들에 인피니밴드 연결을 지원하는게 얼마나 어려운 일인지에 대해 자주 불평하였다.


나: 왜 클러스터들을 동일한 지역에 모아두지 않은거야?


걔: 아 우리도 처음에 그렇게 함. 근데 한 지역(state)에 H100을 10만개 이상 놓으면 파워그리드 전체가 다운돼 버리더라고



한 지역에서 H100 10만개 이상을 쓰지 못해 여러 지역을 연결해서 클러스터를 구성 중이란걸 보면

미국 여러 지역에 수십만개씩 연결해서 트레이닝 중인가봄...



참고로 H100 가격은 하나에 6천만원 정도ㅋㅋ



추천 비추천

0

고정닉 0

0

원본 첨부파일 1

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 연인과 헤어지고 뒤끝 작렬할 것 같은 스타는? 운영자 24/04/22 - -
4440908 143.244 애미 ㅋㅋㅋㅋYBOJYCU ㅇㅇ(149.40) 14:40 10 0
4440898 143.244 애미 ㅋㅋㅋㅋWTEDLMU ㅇㅇ(149.40) 14:40 12 0
4440897 쿨렌 망함? 컴갤러(106.101) 14:40 21 0
4440892 143.244다중이 느금마 ㅋㅋㅋㅋDOOTSVK ㅇㅇ(149.40) 14:40 10 0
4440888 수학은 진짜 재능인가... 하... ㅇㅇ(180.66) 14:39 13 0
4440885 인터넷만 할 경우 i3 6100이나 i3 12100 이나 차이 없어?? [8] 컴갤러(39.126) 14:39 35 0
4440884 진통제 많이먹으면 ㅈ됨?? [3] 샘숭갤로그로 이동합니다. 14:39 31 0
4440882 143.244담당일진입갤QTBUGRA ㅇㅇ(149.40) 14:39 11 0
4440880 143.244담당일진입갤CIWVYQZ ㅇㅇ(149.40) 14:39 11 0
4440870 143.244 애미 ㅋㅋㅋㅋYSKQGCX ㅇㅇ(149.40) 14:39 9 0
4440866 143.244 애미 ㅋㅋㅋㅋCZDGHOZ ㅇㅇ(149.40) 14:38 9 0
4440860 143.244다중이 느금마 ㅋㅋㅋㅋQWZWCBH ㅇㅇ(149.40) 14:38 9 0
4440855 143.244다중이 느금마 ㅋㅋㅋㅋNSOTPPD ㅇㅇ(149.40) 14:38 12 0
4440853 143.244담당일진입갤YMVXFYX ㅇㅇ(149.40) 14:38 10 0
4440847 143.244 애미 ㅋㅋㅋㅋXGBZNLJ ㅇㅇ(149.40) 14:37 9 0
4440844 143.244 못생긴다중이 월모닝꿀잠중ㅋㅋEJSMYGC ㅇㅇ(149.40) 14:37 10 0
4440841 143.244담당일진입갤QAHKWLV ㅇㅇ(149.40) 14:37 9 0
4440840 149.40 릴간이 신났네 ㅋPFXZCZP ㅇㅇ(143.244) 14:37 9 0
4440839 149.40 릴간이 고장났네ㅋㅋㅋAMYDRBX ㅇㅇ(143.244) 14:37 9 0
4440838 릴간이=토푸 숭배고트ㅋㅋㅋ ㅇㅇ(143.244) 14:37 9 0
4440837 릴간이=서현진짜이쁜누나 ? ㅇㅇ(143.244) 14:37 10 0
4440836 릴간이<< 근데 장난식으로 까기만 하면 안됨 ㅇㅇ(143.244) 14:37 10 0
4440835 143.244 애미 ㅋㅋㅋㅋUZAAQFO ㅇㅇ(149.40) 14:37 9 0
4440834 143.244다중이 느금마 ㅋㅋㅋㅋBGNKJDX ㅇㅇ(149.40) 14:37 10 0
4440833 149.40 릴간이 짖어!RTAAENH ㅇㅇ(143.244) 14:37 10 0
4440832 릴간이:할x스가 내 엄마면 좋겠다 ㅇㅇ(143.244) 14:37 10 0
4440831 릴간이:나 애미 뒤졌다 ㅇㅇ(143.244) 14:36 11 0
4440830 릴간이70대애미가창녀라고요? ㅇㅇ(143.244) 14:36 12 0
4440829 143.244 애미 ㅋㅋㅋㅋHDRTWAB ㅇㅇ(149.40) 14:36 12 0
4440828 149.40 못생긴 릴간이 컷 ㅋㅋRAIVWCA ㅇㅇ(143.244) 14:36 11 0
4440827 149.40 릴간이 고장났네ㅋㅋㅋJAJKPWZ ㅇㅇ(143.244) 14:36 12 0
4440826 149.40 릴간이 신났네 ㅋTRNHRCY ㅇㅇ(143.244) 14:36 12 0
4440825 릴간이30대라 지 조리돌림도모르고 지쳐서 꿀잠중ㅋㅋ ㅇㅇ(143.244) 14:36 11 0
4440824 마이크로닉스 클래식2 80 플러스 ㄱㅊ함? [2] 컴갤러(106.101) 14:36 23 0
4440823 143.244담당일진입갤NZRFFEQ ㅇㅇ(149.40) 14:36 11 0
4440822 릴간이... 요즘 BMW 인증 못해서 사리는 중 ㅠㅠ ㅇㅇ(143.244) 14:36 11 0
4440821 릴간이... 어제 나한테 배신감 느끼고 대폭발... ㅇㅇ(143.244) 14:36 12 0
4440820 149.40 릴간이 또 털리노ㅋㅋXYHATPK ㅇㅇ(143.244) 14:36 12 0
4440819 [공짜] 내일까지인 편의점쿠폰 10000원짜리 쓸사람 써 [2] ㅇㅇ(223.39) 14:36 19 0
4440818 149.40 릴간이 짖어!IGLNMGJ ㅇㅇ(143.244) 14:36 12 0
4440817 149.40 릴간이 약올라하노 ㅋㅋJEAXEYP ㅇㅇ(143.244) 14:36 11 0
4440816 릴간이,재승이 누가 더 병신이냐? ㅇㅇ(143.244) 14:36 13 0
4440815 143.244담당일진입갤NOPNBCR ㅇㅇ(149.40) 14:36 12 0
4440814 143.244 못생긴다중이 월모닝꿀잠중ㅋㅋIMUQUTJ ㅇㅇ(149.40) 14:36 11 0
4440813 릴간이(149.40)는 시청도면서 왤케 복싱 싫어함 ㅋ ㅇㅇ(143.244) 14:36 11 0
4440812 릴간이 흑화했네ㅋㅋ 아까는 병신짓 인정하던데 ㅇㅇ(143.244) 14:36 10 0
4440811 149.40 못생긴 릴간이 컷 ㅋㅋHSWFHWW ㅇㅇ(143.244) 14:36 12 0
4440810 149.40 릴간이 고장났네ㅋㅋㅋMYFXFFI ㅇㅇ(143.244) 14:36 10 0
4440809 149.40 릴간이 또 털리노ㅋㅋKMDNYDX ㅇㅇ(143.244) 14:36 12 0
4440808 릴간이 확실히 요즘 지친게 보임 ㅇㅇ(143.244) 14:36 10 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2