느바라서 오바 갈수잇다. 가자 ㅅㅅㅅㅅ

대출 갤러리

1/3

디아블로4 확장팩 신규 직업 " 혼령사 " 웅웅
"이거 치워!" 손짓 휘휘, 찰스 3세 또 '짜증 폭발'.jpg ㅇㅇ
[JTBC] "이젠 보내줘야죠"…3년여 만에 고 이예람 중사 장례 정치마갤용계정
폰아레나의 갤럭시 Z 플립6 리뷰 요약 SundayMove
카드깡으로 무려 55억 챙긴 20대 사기꾼 긴급체포..jpg 몽쉘통통
탈북민이 10년동안 당한 세뇌 5분만에 풀린 이유.jpg 감돌
싱글벙글 ㅈ소고양이(좋았쓰!!) 만화모음17.manwha 까뫄기
최근 일본에서 화제인 스시녀의 하와이 입국 과정 ㅇㅇ
펌) 34살 여자 간호사인데 눈을 낮춰도 왜 안생길까요... KRISTOPHER
(스압)지금 핫한 그쉼터 옜날에 수십마리 죽인건 암? ㅇㅇ
"진짜 저세상 맛"... 곰팡이 둥둥 '옥수수수염차' 야떡이
'스륵' 차 뒷좌석에 사람이.. 까면 깔수록 경악할 상황.jpg ㅇㅇ
싱글벙글 이대남 이 멋진새끼들 ㅇㅇ
프랑스 국가대표팀 'JAP' 표기 논란 ㅇㅇ
서구 주도 세계질서가 흔들리고 있는 이유... 싱붕이

7월 19일 시황 ㅡㅡㅡㅡㅡ 테크 뉴스 ㅡㅡㅡㅡㅡ 반도체 섹터 관련 및 TSMC 실적 ㅡㅡㅡㅡㅡ 넷플릭스 실적 ㅡㅡㅡㅡㅡ 애플 ㅡㅡㅡㅡㅡ AI 관련 (feat TESLA) (상대적으로)소형모델들을 비교하면 아래와 같은 결과라고 함. 이에 대한 안드레 카파시의 견해 ===== 번역) LLM 모델 크기 경쟁이 점점 더 치열해지고 있습니다… 그것도 역방향으로요! 저는 앞으로 아주 작지만 매우 똑똑하고 신뢰할 수 있는 모델이 나올 것이라고 예상합니다. 아마도 GPT-2의 파라미터 설정 중에서도 대부분의 사람들이 GPT-2를 "똑똑하다"고 생각할 만한 설정이 있을 것입니다. 현재 모델이 이렇게 큰 이유는 우리가 훈련하는 동안 매우 낭비적으로 사용하고 있기 때문입니다. 모델들에게 인터넷을 암기하도록 요청하고 있는데, 놀랍게도 모델들은 이를 실제로 암기할 수 있고 예를 들어 SHA 해시나 희귀한 사실들을 기억해낼 수 있습니다. (사실 LLM은 암기 능력이 인간보다 질적으로 훨씬 뛰어나며, 때로는 단 한 번의 업데이트로 많은 세부 사항을 오랫동안 기억할 수 있습니다.) 하지만 첫 몇 단어를 주면 인터넷의 임의의 구절을 암기하여 외우는 것이 목표라면, 이는 오늘날 모델의 표준 (사전) 훈련 목표입니다. 더 잘하는 것이 어려운 이유는 훈련 데이터에서 사고의 데모가 지식과 "얽혀" 있기 때문입니다. <이부분 해설하자면, 즉, 모델이 지식의 암기보다는 사고 능력을 훈련할 수 있도록 데이터를 이상적인 형식으로 만들어야 한다는 것. 이를 통해 모델은 작은 크기에서도 뛰어난 사고 능력을 발휘할 수 있게 될 것.> 따라서 모델들은 먼저 더 커져야 나중에 더 작아질 수 있습니다. 왜냐하면 우리는 이상적인 합성 형식으로 훈련 데이터를 리팩터링하고 형성하는 데 있어 그들의 (자동화된) 도움이 필요하기 때문입니다. 이것은 개선의 계단과도 같습니다. 한 모델이 다음 모델을 위한 훈련 데이터를 생성하는 데 도움을 주는 과정이 반복되면서 결국 "완벽한 훈련 세트"에 이르게 됩니다. 이를 GPT-2에 훈련시키면 오늘날의 기준으로 매우 강력하고 스마트한 모델이 될 것입니다. 어쩌면 화학을 완벽하게 기억하지 못해서 MMLU 점수가 조금 낮을 수 있지만, 때로는 확인을 위해 무언가를 찾아볼 필요가 있을 수도 있습니다. 이것은 테슬라의 자율 주행 네트워크와 크게 다르지 않습니다. AI 데이에서 발표된 "오프라인 트래커"는 무엇일까요? 이것은 합성 데이터 생성 프로세스입니다. 이전의 더 약한 모델들(예를 들어, 단일 프레임 모델이나 바운딩 박스만 사용하는 모델들)을 클립에서 오프라인 3D+시간 재구성 과정에서 실행하여 더 깨끗한 훈련 데이터를 대규모로 생성하는 것입니다. 이렇게 생성된 데이터는 3D 멀티캠 비디오 네트워크를 직접적으로 위한 것입니다. LLM에서도 동일한 방식이 적용되어야 합니다. ======= 한 줄 요약하자면 아래와 같음. 이에 대한 일론머스크의 답글 소형모델의 성능이 점차 개선된다면, 즉 점점 더 대형의 모델로 가는 게 아니라, 대형에서 소형으로 압축되면서도 성능이 올라간다면, 학습을 위한 대규모의 GPU 수요는 어느 순간 급격하게 줄어들 수 있음. 대신 추론용 칩이 필요. 개인적으로 엔비디아의 고점을 '일부' 제한할 수 있는 요소로 판단. ㅡㅡㅡㅡㅡ 테슬라 ㅡㅡ ㅡㅡ ㅡㅡ ㅡㅡ ㅡㅡ ㅡㅡ 전기차 가성비있게 만들고 파는 건 어려움. 근데 테슬라는 풀케파로 돌리는 중이라고 함. ㅡㅡ 작성자 : 우졍잉

느바라서 오바 갈수잇다. 가자 ㅅㅅㅅㅅ앱에서 작성

트럼프맨

2023.01.29 11:01:52

조회 16 추천 0 댓글 0

ㅅㅅㅅ

- dc official App

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	흡연때문에 이미지 타격 입은 것 같은 스타는?	운영자	24/07/15	-	-
이슈	[디시人터뷰] '좋아해요'로 마음을 사로잡은 배우 최하슬	운영자	24/07/17	-	-
AD	보험상담은 디시공식설계사에게 받으세요!	운영자	24/02/28	-	-
4497412	아니 호구들아 욕을왜박음 원레저딴새낀거알고돈준거아님? [2]	홍어(임금)(125.190)	23.02.13	136	0
4497410	후 패턴 맞췃다 [9]	180(180.182)	23.02.13	105	0
4497409	아 씨발 올인구조대 맨날 서버터지네	16(211.36)	23.02.13	31	0
4497407	형들 첨보는 병신룰렛돌리는데 예시가 뭐임? [4]	ㅇㅇ(211.37)	23.02.13	34	0
4497406	형님들 304원만 구제해주시면 너무 감사하겟습니다	하루이틀3	23.02.13	15	0
4497404	하빕이 짱이야 단 한라운드도 마카체프한테 진적이 없다햠	ㅇㅇ(221.140)	23.02.13	77	0
4497403	잘 지내니 [8]	180(180.182)	23.02.13	66	0
4497402	진우형 이제 안오시나 [1]	사조참치	23.02.13	22	0
4497401	아지금돈준사람 이제돈안나온다고욕박는거임?ㅋ [3]	홍어(임금)(125.190)	23.02.13	75	0
4497399	돈 좀요	겆이	23.02.13	21	0
4497397	난 ufc 심판들 불쌍함 전세계인들한테 살해협박 가족모욕	ㅇㅇ(221.140)	23.02.13	80	0
4497395	빌려써따고갚으면 이득이제	ㅁㅁㅁㅁㅁㅁ(211.243)	23.02.13	80	0
4497392	형님들 죄송하지만 304원 구제 안댈까요	하루이틀3	23.02.13	18	0
4497388	와 근우는 하루라도 홍어짓안하는날이없네 [2]	ㅇㅇ(221.140)	23.02.13	111	1
4497387	페어형님	하루이틀3	23.02.13	27	0
4497384	39야 근우는 그냥 냅두면 알아서 자멸한다 신경쓰지마라	ㅇㅇ(221.140)	23.02.13	96	0
4497383	이새기 슬그머니다시침실에침범헌다이?	조밥(조성일♡)(125.190)	23.02.13	87	0
4497382	밥한기 되시는형...	삼구V	23.02.13	19	0
4497381	30대 금이씨가 30대를 나이공격하는방법	ㅇㅇ(39.114)	23.02.13	21	1
4497379	뇌구조가 홍어좆으로 가득찬 우리 금이씨 ㅋㅋㅋ	ㅇㅇ(39.114)	23.02.13	23	0
4497378	지도 30대면서 ㅋㅋ 나이공격하는 우리금이씨ㅋㅋ	ㅇㅇ(39.114)	23.02.13	19	1
4497375	공부해서돈열심히벌의야댐	조밥(조성일♡)(125.190)	23.02.13	78	0
4497373	농협 비상금대출 연장 가능? [2]	ㅇㅇ(14.53)	23.02.13	131	0
4497372	공부해야된디.대가리멍허다지금4시간자고인나서	조밥(조성일♡)(125.190)	23.02.13	17	0
4497370	천원만 구제 해주세요 행님들	하루이틀3	23.02.13	17	0
4497368	밥먹는증 [5]	미디어스	23.02.13	76	0
4497366	36먹고 저리 사는것도 희한한 케이스다 와 ㅋㅋ	근우(106.101)	23.02.13	30	0
4497365	잔고0원 되어야 그제서야 강제로 도박스톱하는 우리금이씨	ㅇㅇ(39.114)	23.02.13	21	0
4497364	누가보믄 1000 2000 죽는샛긴지 알겟노 5 잃고 사이트에 패드립하는	근우(106.101)	23.02.13	47	0
4497362	숙노다니는걸 기술직이라고 자위 존나 해버리는 우리금이씨ㅋㅋ	ㅇㅇ(39.114)	23.02.13	24	1
4497359	김피탕묵고잡네. . . 김피탕에얽힌추억	조밥(조성일♡)(125.190)	23.02.13	27	0
4497357	매일죽장 받아처먹는것도 만족못하는 우리 근우씨	ㅇㅇ(39.114)	23.02.13	45	0
4497356	피시방 한시간 연장할수 잇게 천원만 도와주십시오 행님들	하루이틀3	23.02.13	17	0
4497355	근우 지와준사람한테 호구잡고 협박하고 에라이 개라슥앜ㅋㅋㅋㅋㅋ	ㅇㅇ(39.114)	23.02.13	14	0
4497353	한국장학재단 생활비대출 받은거 조기상환하면 [1]	ㅎㅎㅎ(222.239)	23.02.13	133	0
4497352	옛날에 이런말이 있었다 검은머리짐승은 거두는게 아니라고	ㅇㅇ(39.114)	23.02.13	24	0
4497351	우리형어딧ㅅ어 [1]	앵.디	23.02.13	90	0
4497350	배식 받은거 자기 안줫다고 떼쓰던 태민이 이런샛기들만 꼬이냐 와	근우(61.101)	23.02.13	47	0
4497349	ㅅㅅㅅㅅㅅ5충100환했다시발ㅋㅋㅋㅋ 개미쳤다 ㅋㅋ [5]	ㅇㅇ(121.132)	23.02.13	66	0
4497346	냉장고에미국산살치살잇다 간계밥묵는다고놀림금지	조밥(조성일♡)(125.190)	23.02.13	83	0
4497344	죽것더..	양냥	23.02.13	20	0
4497343	아 간장계란밥하믄묵겟나남기겟나 나4시간잣더니입맛 [6]	조밥(조성일♡)(125.190)	23.02.13	38	0
4497340	차라리장어탕을묵어라	조밥(조성일♡)(125.190)	23.02.13	82	0
4497339	미디어스 25살짜리 썸녀 있던데 실화냐??ㄷㄷ	ㅇㅇ(39.114)	23.02.13	13	0
4497337	제비야 민물장어취소혀라.배달시키믄식어서비려서못묵	조밥(조성일♡)(125.190)	23.02.13	84	0
4497335	아 헤라카지노 전화와서 쿠폰 5만원 주길래 [3]	ㅇㅇ(223.39)	23.02.13	132	0
4497331	댓국이 홍어인가요? 충실한 아웃감인가요 [4]	설의가는법	23.02.13	58	0
4497329	이런 정배 6폴더 먹는거 힘드냐?? [2]	ㅇㅇ(1.215)	23.02.13	75	0
4497328	퀴즈론 홍성준 생일 [3]	코리안스피드바카라	23.02.13	103	0
4497326	소중한 시간들을 왜 증오로 채우는가? [1]	페어.	23.02.13	23	0