[TMT-297] chore: Groq 모델 id 환경변수화 — 모델 소멸 시 SSM 값만 바꿔 복구 - #85
Open
wnsvy607 wants to merge 1 commit into
Open
Conversation
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
Member
|
모델이 또 소멸했을 때 SSM 값만 바꿔 복구되는 건 의도대로 동작합니다. 다만 이후 파라미터를 지우거나 새 환경을 띄웠을 때 세 폴백이 갈라져 있으면 어느 값이 이기는지 추적이 어려워질 것 같습니다.
|
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Related Issue
무엇을
Groq 모델 id를 환경변수로 뺀다:
model: ${GROQ_MODEL:qwen/qwen3.8-27b}. 경로는 SSM/tmt-prod/ai/groq-model(등록 완료, 값qwen/qwen3.8-27b) → 배포 워크플로 fetch →.env→ compose. IAM/ai/*읽기 범위는 이미 있다(#66).왜
배포가 릴리즈 태그 기준이라, 모델이 또 소멸하면(llama-3.3-70b 전례) 코드 수정→PR→승인→태그 발행을 거쳐야 복구된다. 이제 SSM 값 변경 + 컨테이너 재기동으로 끝난다. PR #77 리뷰(민서)에서 제기.
판단 두 가지
:-기본값을 뒀다 — SSM 파라미터가 없으면.env에GROQ_MODEL=(빈 값)이 들어가는데, Spring은 빈 문자열도 "값 있음"으로 봐서 yml 기본값이 무시되고 model=""로 Groq 호출이 전부 실패한다. compose의${GROQ_MODEL:-qwen/qwen3.8-27b}는 unset·빈 값 모두에 기본값을 적용해 이 함정을 막는다 (주석으로 남김)GroqChatClient의@Value기본값도 정리 — 죽은llama-3.3-70b-versatile가 남아 있었다. yml이 항상 값을 주므로 실동작 변화는 없지만, 읽는 사람이 헷갈린다검증
./gradlew build통과/tmt-prod/ai/groq-model=qwen/qwen3.8-27b)docker compose up -d --force-recreate appPrompt Log
🤖 Generated with Claude Code