갤러리 이슈박스, 최근방문 갤러리
연관 갤러리
마비노기 영웅전 갤러리 타 갤러리(0)
이 갤러리가 연관 갤러리로 추가한 갤러리
0/0
타 갤러리 마비노기 영웅전 갤러리(0)
이 갤러리를 연관 갤러리로 추가한 갤러리
0/0
개념글 리스트
1/3
- 싱글벙글 요즘 탑골공원 근처 분위기...jpg ddd
- 월 2000버는 서울대-서울대 로스쿨 변호사가 이혼한 이유.jpg 주갤러
- 민주당 "'이화영 특검' 거부하면 검사 탄핵 추진" 정치마갤용계정
- 깜짝깜짝) 일반인도 쉽게 탄다는 전용기 ㅇㅇ
- 싱글벙글 출산율 0.78 국가의 저출산 돌파법.jpg ㅊㅌㅋ
- 국회 '원 구성 시한' 오늘 자정까지, '기싸움'.jpg ㅇㅇ
- xf50mm f2 개시 겸 오늘 일몰 carbon
- 밀양 첫번째 신상 폭로된 가해자, 수소문하러 가본 유튜버.jpg ㅇㅇ
- 중국 세계최초 야스로봇 상용화 할 기세 GoldenTiger
- 유퀴즈 나와서 67번의 임진록 중 3연벙 이야기 함 홍갤러
- 단편콘티 짜봤는데 스작이나 각콘 가능할까. BIGDAN
- 싱글벙글 현지 택시기사와 친해진 여행 수인갤러리
- ‘쌍방울 불법 대북송금’ 이화영에 징역 9년6월 중보수지
- 욱일기 최신 근황 조선인의안락사
- 디즈니주니어 신작<에리얼>최신 근황..jpg ㅇㅇ
레오폴드 SITUATIONAL AWARENESS 요약
전문 읽어보니 흥미로운 내용이 많은대 특갤에 대충 번역기 돌린것만 돌아다녀서 내용 압축 요약해봄출시 당시 얀르쿤을 포함한 AI 업계인들에게 충격을 준 GPT-2의 성능문장에서 it이 무엇을 뜻하는지 이해하는 수준이었다 지금으로썬 하찮지만그마저 성공한 몇 케이스만 나열한 수준이 저정도였다 그리고 GPT-4는 오류가 있을지언정 미적분과 코딩을 건드리는 수준이 되었다GPT-2와 비교가 실례일 정도의 격차다 마치 유아와 고딩 수준의 격차다그리고 이 부분이 이 글의 핵심이다1. GPT-2와 GPT-4의 격차는 유아와 고등학생 차이2. 그렇다면 둘 만큼의 격차를 한번더 벌리면 AGI가 나올수 있다!그렇다면 GPT-2와 GPT-4의 격차는 대충 얼마만큼 인걸까?일단 학습에 사용된 컴퓨팅 양을 비교하면 대략 3000~10000배 정도 차이가 있다고 한다그럼 AGI는 컴퓨팅 파워를 대충 10000배 늘리면 가능 할까?여기서 눈물나는 소식이다 컴퓨팅 파워의 상승은 느려지고 있다처음엔 단순히 주변에 널려있는 칩을 끌어다가 서버로 만들고 한계에 봉착하자지금은 GPU 성능 올리겠다고 BF8로 정확도 내리고 트렌스포머 전용 칩설계 하고가지각색의 화려한 칩설계 똥꼬쇼로 비약적 성능 향상을 이루워 냈지만점점 최적화로 인한 성능 향상에 한계가 오고있다물론 매년 칩 성능은 향상되지만 과거 수년 만큼의 향상을 기대하기 어려워지고 있다는뜻이다 그렇다면 싹다 노동시켜야 하는걸까? 얀르쿤은 신인걸까?위 첨부 사진은 세가지 이미지 처리 모델들의 같은 성능대비 컴퓨팅 비용을 보여준다놀랍게도 10년동안 꾸준히 컴퓨팅 효율이 2년 마다 100배 가까이 늘었다!즉 단순 하드웨어 성능이 아닌 알고리즘의 향상으로 인한 실질적 컴퓨팅 (Effective computing)은계속해서 늘어나고 있다하지만 방금 자료는 이미지 구분 AI지 우리가 관심있는 LLM이 아니다그리고 현재 LLM 훈련의 세부사항은 기밀이기 때문에 우리는 알수없다대신 간접적인 예측은 할수있다위 표는 MATH 벤치마크에서 50% 성능을 내기위해 필요한 추론비용이다이 부분에서도 대략 2년마다 100배 이상 싸지는걸 볼수있다물론 이걸 훈련비용과 연관짓는건 비약이라고 할수있겠지만내부자가 아닌 특붕이들은 이걸로 만족하자컴퓨팅 파워 향상 + 알고리즘 향상을 겹쳐보면둘의 완벽한 상호보완 을 볼수있다 이정도면 충분한걸까?아쉽게도 그렇지만은 않다 GPT-4 또한 알고리즘 향상의 수혜를 입었으니GPT-2 와 GPT-4 의 격차가 최대 100만배 로 뛰어버렸다...다만 이건 너무 비관적으로 본거고 본문에선 대충 중간값인 10만배 차이로 가정한다그러나 여기서 우리의 마지막 희망이 등장하니본문에선 Unhobbling 이라고 표현했는데대충 우리에게 익숙한RLHF, 프롬프트(Chain of Thought 등), Context length, 그리고 요즘 최고 떡밥인 Agent 등을 통칭하는거다이미 닳고 닳은 특붕이들은 이게 뭐 싶을지도 모르나 이게 생각보다 훨씬 중요하다는게 저자의 입장이다RLHF (대충 인간이 내린 체점으로 학습시키기) 가 없었으면 chatgpt는 존재할수없었고단순 벤치마크만 봐도 Chain of Thought 프롬프트로 10배의 성능향상 = 10배 실질적 컴퓨팅 향상 을 보여줬고Context length의 중요성은 특붕이라면 잘알태고Agent 이 새끼는 사실상 GPT-5 떡밥의 절반 이상이다이 부분은 컴퓨팅 파워 향상과 알고리즘 향상에 비해 불연속적이고 예측이 어렵다따라서 예측또한 매우 불확실하다 당장 내일 이걸로 인공지능 성능이 미쳐날뛸수도 있고특붕이들 말라죽일때까지 특레발만 떨수도 있다 하지만 확실한건 이것으로 인한 성능 향상은 필연적이고 불가피하다는것이다이 모든 요소를 종합한 예측치 즉 GPT-4로 부터 10만배의 실질적 컴퓨팅을 쏟아부은AI가 탄생하는 시점이 2027년일 확률이 매우 높아 보인다는게 이 글의 핵심이다다른거 다 볼 필요없고 "규모"에만 집중해서 GPT-2와 GPT-4의 "규모" 즉 10만배의 (5OOMs)을 내는 시기가 2027년 이라는 것이다!그리고 사실 This decade 즉 늦어도 2030년 즈음 까지 AGI가 오지 않으면AGI 꿈은 당분간 혹은 오랫도록 날아갈 (bust) 거라는게 저자의 예측이다왜냐하면 미친듯이 늘어나는 투자비용의 한계하드웨어 향상의 한계 그리고 알고리즘의 한계를 가만하면지수적인 실질적 컴퓨팅의 상승도 거기까지가 한계이기 때문다르게 말하자면 GPT-4와 AGI가 실질적 컴퓨팅 10만배 차이 이상이면특붕이들의 멸망인것이고 그 이하면 늦어도 6년안에 AGI님이 오시는거다요약1. GPT-2와 GPT-4의 "실질적 컴퓨팅" 차이는 대략 10만배2. 여려요소를 종합해보면 2027년에 GPT-4의 10만배 "실질적 컴퓨팅" 때려박은 AI 나옴3. 그게 AGI면 특붕이 성불 아니면 싹다 노동시켜https://situational-awareness.ai/from-gpt-4-to-agi/ I. From GPT-4 to AGI: Counting the OOMs - SITUATIONAL AWARENESS AGI by 2027 is strikingly plausible. GPT-2 to GPT-4 took us from ~preschooler to ~smart high-schooler abilities in 4 years. Tracing trendlines in compute (~0.5 orders of magnitude or OOMs/year), algorithmic efficiencies (~0.5 OOMs/year), and “unhobbling” gains (from chatbot to agent), we should expect another preschooler-to-high-schooler-sized qualitative jump by 2027. Look. The models, they justsituational-awareness.ai
작성자 : 다이아몬드핸드고정닉
초기 스타쉽 디자인과 현재 스타쉽
https://youtu.be/0qo78R_yYFA?si=gPPlNCXNHy4crrIv SpaceX Interplanetary Transport SystemSpaceX Interplanetary Transport Systemyoutu.be2016년 9월 28일 머스크가 스타쉽을 세상에 내놓으며첫 고안했었던 스타쉽 디자인발사 타워 OLIT가 현재에 비해 매우 슬림하고미래 지향적인 외관을 띄고있다.그리고 크레인이 보조 윙을 떠받치는 식으로 운송하는 현재의 모습과는 달리길다란 와이어가 스타십 상부를 마치 빨판을 이용해 접착시켜 끌어올리것과 흡사해 보이지만 이 부분도 현실적으로 로켓 무게를 지탱하기 어려웠는지 포기한듯 .우주 상공에서 각종 케로신, 부동액을 급유중인 보조 스타쉽보다시피 처음에는 옆으로 밀착시켜 리샙터클을 진행하는 쪽으로 고안했었지만스타쉽에 연료를 주유한다는것은 단순히 파이프와 압력이기 때문에, bellyflop 같이 크게 흔들리거나, 우주의 무중력 상태에서는 기포와 같은 불순물이 같이 딸려 오게되는데, (Sn15단계에서 고쳐지기 전 Sn8, 9, 10 모두 이 과정에서 삑사리를 겪고, 폭발하거나 착륙 후 몇 분 지나지 않아 폭발했다고)스페이스X는 이를 해결하기 위해연료만을 만땅으로 채운 header tank를 사용해 기체가 엔진으로 못들어오게끔 사전 차단한다.이러한 리샙터클을 진행하려면 무려 80피트에 달하는header tank를 중앙에 배치해야만 됐고결국엔 우주인들이 머물 상층부를 지나치게 축소시키고엔진룸의 부피를 지나치게 확장시키는 바람에효율을 적절히 고려하여 이 기존 디자인을 페기시킨걸로 추정)이는 spacex llc 본사에서 내놓은 발사 통계에서 알수있듯 그리고 Sn12, 13, 14는 이전과 같이 문제있는 디자인이여서 개발이 중단되었고, 문제를 해결한 Sn15가 바로 건너뛰고 high altitude flight test를 진행하게 된다.실제 2014년 탄소나노튜브를 통해 제작된 header tank 참고사진.옆의 성인 남성 두명이 쪼마난 호빗으로 보일만큼 매우 우람한 것을 알수있다. 레딧의 한 유저 nalyd8991의 제보를 통해 해당 탱크가 세간에 처음 전파되었고 , 머스크가 스타쉽을 개발하며 헤더 탱크를 유지한다는 건 "가장 까다로운 부분" 라고 언급했었을 만큼 기름 탱크 하나 여리저리 다루는게 꽤나 차질이었단 것이었다.(2020년 이후 버전) 다음, 추진력을 얻고, 태양광 패널을 펼쳐보조에너지를 충당하는 스타쉽gif(이건 지금도 운용하는 방식인진 ㅁㄹ, 머스크 자회사 솔라시티의 존재를 감안하면 아얘 버리다싶이 한건 아니지싶은데아마 스타쉽이 궤도밖을 나가봐야 보여줄려나?여튼 스타쉽의 디자인이 이러하던 시절이 있었는데,확실히 요즘 디자인에 비해 밋밋한 감이 적고진정 미래의 우주선을 보는듯했는데현실에서 빛을 보기도 전에 디자인이 폐기되버린게 레딧같은 양덕들 우주 커뮤에서도 종종 옛날에 멋있었던 디자인 한번 살려보면 좋지않겠냐 등등 아쉽다는 의견이 종종 들려옴.앞서 말했듯 현실성 문제도 겹치니거나와 머스크의 원가절감 집착을 봐선아마 현재의 깡통 디자인을 쭉 밀어붙이지,영영 구 스타쉽 디자인을 살리진 않을듯함.대충 예전 구 스타쉽 디자인이 그리워서한번 끄젹여봤는데..인터넷에 널렸던 자료들 내 ㅈ대로 취합하고 썼으니까전문가 행님들이 보기엔 꽤나 엉터리로 보일수있음노가다꾼이라우주관련 전문용어 해독하는것도 상상이상으로 ㅈㄴ 어렵내https://www.businessinsider.com/spacex-carbon-fiber-fuel-tank-ocean-ship-test-2016-10 Elon Musk is about to test the 'trickiest' part of his Mars spaceship — a giant, potentially explosive black orbElon Musk disclosed a coming test of his Mars spaceship's gigantic carbon-fiber fuel tank during a Reddit "Ask Me Anything" session.www.businessinsider.com- dc official App
작성자 : ㅇㅇ고정닉
차단하기
설정을 통해 게시물을 걸러서 볼 수 있습니다.
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.