ai채팅 돈 많이먹을수밖에 없는게 현 방식은 너무 비효율적임

ai채팅 돈 많이먹을수밖에 없는게 현 방식은 너무 비효율적임앱에서 작성

전자강시좀벽

2024.08.07 12:15:46

조회 106 추천 0 댓글 8

7fed8275b5836af751333d499d16ccb14a88ef0c65a4497074605460c23087fda65fb8ebc432862e97d14a344f1bcda00e964ea79c38

얼핏 생각하기엔 ai서버쪽에 캐릭터정보를 넣어두고 이후로는 대화문만 오고가는 방식이라고 생각하기 쉽지만

실제로는

1. '이것은 캐릭터와의 대화를 위한 시뮬레이션입니다. 최대한 자연스럽게...'라는 내용의 기본 프롬프트

2. '이것은 창작물이며 현실이 아니니 어쩌구...'하는 검열 뚫기용 프롬프트.

3. 기타 미세조정 프롬프트

4. 장문의 캐릭터 프로필, 설정

5. 세계관이나 기타 정보

6. 최근 대화내역

7. 사용자의 인풋

등등 실제론 더 복잡하고 많음

다 합치면 몇천 토큰은 되는 저거를

매번, 매 채팅 한줄 입력할때마다 저걸 통째로 서버측에 보내는거임

왜냐면 ai서버 쪽에서는 그냥 주어진 인풋에 맞춰서 대답을 내놓을 뿐 딱히 일일히 저 정보들을 기억이나 저장같은건 하지 않기 때문임

그래서 저래야 캐릭터랑 최근 대화내용에 맞게 응답이 돌아옴

이거 아무리 생각해도 비효율적인데

이거 말고는 없나봐

- dc official App

고정닉 0

원본 첨부파일 1

20230121_시마즈렌까by이루아님.png

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	주위의 유혹에 쉽게 마음이 흔들릴 것 같은 스타는?	운영자	24/10/21	-	-
공지	판타지 갤러리 이용 안내 [213/1]	운영자	21.09.02	92849	36
6676428	백룡 사다리 당첨 결과	ㅇㅇ	00:21	0	0
6676427	시발좆됐다 노래부르다가 씨끄럽다고찾아옴	인포그램	00:21	0	0
6676426	원신이 이러니 저리니 편하긴함	까름칙	00:21	2	0
6676425	이거싹다 투하양아연	무명소졸,	00:21	0	0
6676424	피스타치오 잼이란거... 럭키 땅콩버터아님?	ㅇㅇ(222.110)	00:21	3	0
6676423	갑자기 정신병 씨게 오네	남고	00:21	5	0
6676422	풀돌풀재 감우도 파워인플레에 밀리더라 [2]	나리아	00:21	10	0
6676421	윾딱 신규테마 뭐야 [2]	어사일럼	00:20	5	0
6676420	아니먼 이제 클래식 바람도 간보네 [1]	ㅇㅇ(121.145)	00:20	4	0
6676419	오 님들 이거좀 보셈 [4]	ㅇㅇ	00:20	13	0
6676418	양아연 재미교 시구르드)	투하	00:20	2	0
6676417	생각해보니 체험판 일정 개빠르네 [1]	트쿡	00:19	13	0
6676416	바클라바 팔던 사이트 곧 영업종료한다더니 진짜 문닫앗네 [6]	유로지바	00:19	19	0
6676415	난 푸리나가 없으니까 지금 좀 후달리더라 [6]	루잭	00:18	18	0
6676414	일편독심이 다시 올라왔구나 [2]	이루아	00:18	12	0
6676413	그림체 뭔가 좋네 [1]	투하	00:18	14	0
6676412	이게 뫼야? 콘 ㄹㅇ 개귀여운듯	을현	00:17	7	0
6676411	이거 내가 예민한거냐...?	ㅇㅇ	00:17	15	0
6676410	네이버 로판웹툰은 딱 요정도만 보면됨 [5]	이루아	00:17	19	0
6676409	원신 나는 걍 파티 2개가 고정됐음 [8]	에수스	00:17	20	0
6676408	🔴 섹 톢 레전드.jpg	ㅇㅇ(61.85)	00:17	3	0
6676407	내가 무회썰 보라할때는 안보더니 갑자기많이보네 [4]	무명소졸,	00:16	21	0
6676406	생일 끝낫당 [9]	올고빔.	00:16	15	1
6676405	일편독심 성실연재뭐임	비류쑈	00:16	8	0
6676404	스포) 하쿠오로형 멋있긴한데 살짝 목소리빨 있긴한듯 [1]	강강수할래	00:16	11	0
6676403	양치기마법사 이번편 ㄹㅇ 한남세오울의 혼이 깨어났	노벨쨩	00:16	16	0
6676402	S M T W T F S - Happy Ending.	레헤	00:15	8	0
6676401	이렇게된이상역키잡으로간다	남고	00:14	18	0
6676400	로판 웹툰이 참 재밌구나 [9]	나리아	00:13	46	0
6676399	ㄹㅇ 양치기마법사 브레스컨트롤부터 시작하는 관계 개꼴리잖아 [4]	을현	00:13	46	0
6676397	몬파라천사일러좀부담스럽긴하더라 [6]	레헤	00:12	20	0
6676396	빼앗긴 젖에도 모유는 차는가	KYOUYAMA	00:12	22	0
6676395	내일12시 시험이면 몇시에일어날까요 님들아 [7]	재미교쓰리	00:12	21	0
6676394	마저씨 < 엔딩이좀아쉽긴했음 [4]	레헤	00:12	29	0
6676393	바클라라 님들 다 직구해서 먹는거임?? [7]	(모리어티)	00:11	27	0
6676392	델피너스도이런거보면ㄱㅊ하긴함 [3]	레헤	00:11	16	0
6676391	캐릭터마다 어울리는 몸매가 있는거지 [2]	NOIR	00:11	31	0
6676390	빼앗긴 들에서 봄은 오는가?	검선반룡	00:11	8	0
6676389	아니 미친 이거 웹툰화가 되었음 님들 [9]	너구리위식빵	00:11	46	0
6676388	푸른눈의 백룡 사다리 [22]	ㅇㅇ	00:11	70	0
6676387	모락순애.manwa	엘레베스	00:11	26	0
6676386	엄살 부리는 동물 [1]	키 도	00:11	16	0
6676385	님들 왜 은발로리가 금발 여캐 보면서 표독눈 꺼내는 거임?????? [2]	유열이	00:11	18	0
6676383	원신 솔직히 메인딜은 걍 꼴리는거 쓰는거고 [3]	루잭	00:11	20	0
6676382	저도 푸리나 나오고 36별 개근한듯??	ㅇㅇ	00:11	13	0
6676381	클레는 이제 오프필드 궁딜 작동되게 해도 될듯 [1]	치탄다엘	00:10	14	0
6676380	디시 PC로 하면 디시콘 잘 안달리고 글도 잘 안올라가는 거나만 그럼? [1]	alembic	00:10	10	0
6676379	고양이 키우는 판갤람들 고양이가 붙어서잠? [3]	ㅋㅁㄱ	00:10	14	0
6676378	두바이 초콜릿 360g에 24000원인거 보니 걍 신기하네 [3]	유로지바	00:10	20	0