[FEATURE] 인공지능 사용량 추적 토큰

[wonjun0120]

제안 배경

사용자의 인공지능 사용량을 추적하기 위한 인공지능 토큰이 필요함

제안 내용

사용자가 요청을 보냈을 때, 어느정도의 사용량을 사용했는지 추적할 수 있도록
WTU를 적용하고, 이를 인공지능 응답할 때 마다 보낸다

완료 기준 (Acceptance Criteria)

• 인공지능 사용량을 측정한다
• 인공지능 모델 가격별로 WTU를 책정한다
• 모델 가격을 넣으면 자동으로 WTU를 책정하여 데이터베이스에 반영하도록 한다
• 모델들을 관리할 수 있도록 한다
• 인공지능 응답할 때 마다 사용량을 전송할 수 있도록 한다
• 사용자별 사용량을 볼 수 있도록 모니터링 혹은 대시보드를 제작한다

대안

https://news.hada.io/topic?id=14605

• 인공지능 응답 이전 사전 토큰 사용량 예측 방안 조사

우선순위

P0-가장 높음