Skip to content

[TMT-297] chore: Groq 모델 id 환경변수화 — 모델 소멸 시 SSM 값만 바꿔 복구 - #85

Open
wnsvy607 wants to merge 1 commit into
mainfrom
feat/TMT-297
Open

[TMT-297] chore: Groq 모델 id 환경변수화 — 모델 소멸 시 SSM 값만 바꿔 복구#85
wnsvy607 wants to merge 1 commit into
mainfrom
feat/TMT-297

Conversation

@wnsvy607

@wnsvy607 wnsvy607 commented Sep 1, 2026

Copy link
Copy Markdown
Contributor

Related Issue

  • TMT-297

무엇을

Groq 모델 id를 환경변수로 뺀다: model: ${GROQ_MODEL:qwen/qwen3.8-27b}. 경로는 SSM /tmt-prod/ai/groq-model(등록 완료, 값 qwen/qwen3.8-27b) → 배포 워크플로 fetch → .env → compose. IAM /ai/* 읽기 범위는 이미 있다(#66).

배포가 릴리즈 태그 기준이라, 모델이 또 소멸하면(llama-3.3-70b 전례) 코드 수정→PR→승인→태그 발행을 거쳐야 복구된다. 이제 SSM 값 변경 + 컨테이너 재기동으로 끝난다. PR #77 리뷰(민서)에서 제기.

판단 두 가지

  • compose에 :- 기본값을 뒀다 — SSM 파라미터가 없으면 .envGROQ_MODEL=(빈 값)이 들어가는데, Spring은 빈 문자열도 "값 있음"으로 봐서 yml 기본값이 무시되고 model=""로 Groq 호출이 전부 실패한다. compose의 ${GROQ_MODEL:-qwen/qwen3.8-27b}는 unset·빈 값 모두에 기본값을 적용해 이 함정을 막는다 (주석으로 남김)
  • GroqChatClient@Value 기본값도 정리 — 죽은 llama-3.3-70b-versatile가 남아 있었다. yml이 항상 값을 주므로 실동작 변화는 없지만, 읽는 사람이 헷갈린다

검증

  • ./gradlew build 통과
  • SSM 파라미터 등록·조회 확인 (/tmt-prod/ai/groq-model = qwen/qwen3.8-27b)
  • 다음 릴리즈 태그부터 적용 — 배포 없이 값만 바꾸는 경로는 SSM 갱신 후 WAS에서 docker compose up -d --force-recreate app

Prompt Log

🤖 Generated with Claude Code

@mingdodev

Copy link
Copy Markdown
Member

[want] 주입 자체는 잘 분리됐는데, 폴백 기본 모델 id 리터럴이 세 곳에 각각 남아 있습니다.

  • application.yml:33${GROQ_MODEL:qwen/qwen3.8-27b}
  • docker-compose.prod.yml:31${GROQ_MODEL:-qwen/qwen3.8-27b}
  • GroqChatClient.kt:19@Value("...groq.model:qwen/qwen3.8-27b")

모델이 또 소멸했을 때 SSM 값만 바꿔 복구되는 건 의도대로 동작합니다. 다만 이후 파라미터를 지우거나 새 환경을 띄웠을 때 세 폴백이 갈라져 있으면 어느 값이 이기는지 추적이 어려워질 것 같습니다. GroqChatClientapplication.yml이 항상 값을 주므로 기본값 없이 필수로 두는 방법도 있어 보입니다.

.env에 빈 값이 오면 Spring이 yml 기본값 대신 빈 문자열을 쓴다는 주석은 compose의 :-가 왜 필요한지 바로 알려줘서 좋았습니다.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants