File tree Expand file tree Collapse file tree
crates/lumen-inference/src Expand file tree Collapse file tree Original file line number Diff line number Diff line change @@ -66,10 +66,8 @@ pub enum BackendConfig {
6666
6767/// `config` 에 따라 추론 엔진 trait 객체를 생성합니다.
6868///
69- /// 반환값은 `Arc<dyn InferenceEngine>` 이므로 [ `AgentRuntime`] 에 바로 전달
69+ /// 반환값은 `Arc<dyn InferenceEngine>` 이므로 `AgentRuntime` 에 바로 전달
7070/// 가능합니다.
71- ///
72- /// [`AgentRuntime`]: lumen_agent::AgentRuntime
7371pub fn create_engine ( config : BackendConfig ) -> Result < Arc < dyn InferenceEngine > > {
7472 match config {
7573 BackendConfig :: Dummy => Ok ( Arc :: new ( DummyEngine :: new ( ) ) ) ,
Original file line number Diff line number Diff line change 11//! 토큰 단위 스트리밍 추론 추상화.
22//!
3- //! [`StreamingEngine`] 은 [`InferenceEngine`] 과 독립적인 보조 trait 으로,
3+ //! [`StreamingEngine`] 은 [`crate:: InferenceEngine`] 과 독립적인 보조 trait 으로,
44//! 구현체가 두 trait 을 모두 구현하는 방식을 취합니다. 런타임은 엔진이
55//! `StreamingEngine` 을 구현하는지 확인한 후 토큰 단위 스트리밍을 활성화합니다.
66//!
@@ -45,7 +45,7 @@ pub type TokenStream = Pin<Box<dyn Stream<Item = Result<Token>> + Send>>;
4545
4646/// 토큰 단위 스트리밍을 지원하는 추론 백엔드.
4747///
48- /// 이 trait 을 구현하지 않는 백엔드는 [`InferenceEngine::complete`] 만
48+ /// 이 trait 을 구현하지 않는 백엔드는 [`crate:: InferenceEngine::complete`] 만
4949/// 제공하며, 런타임은 그 결과를 한 번에 반환합니다.
5050#[ async_trait]
5151pub trait StreamingEngine : Send + Sync {
You can’t perform that action at this time.
0 commit comments