models[type=local]

Options

name: string

modelName: string

description: string

debugMode: boolean

type: 'local'

provider: 'openai'|'gemini'|'custom'

apiKey: string

endpoint: string

azure 또는 custom provider에서 호출 대상 endpoint(baseURL).
provider가 "openai"이면 기본값은 "https://api.openai.com/v1 (opens in a new tab)", "gemini"이면 "https://generativelanguage.googleapis.com/v1beta"이다 (opens in a new tab).

maxContextTurns: number

컨텍스트로 유지할 최대 대화 턴 수(토큰 예산 관리용).
0(기본)이면 제한 없음. 초과 시 오래된 턴부터 메시지 구성에서 제외한다(history 자체는 보존).

useContextCache: boolean

systemContext를 provider의 컨텍스트 캐시로 재사용할지 여부.

• gemini: 명시적 캐시(cachedContents)를 만들어 systemInstruction을 캐시하고, 이후 요청은 cachedContent만 참조한다. 최소 토큰 미달·생성 실패 시 자동으로 인라인 systemInstruction으로 폴백한다.
• openai: prompt_cache_key 힌트를 전달해 프리픽스 자동 캐시 적중률을 높인다(명시적 캐시 API는 없다).

default: false

contextCacheTtl: string

gemini 명시적 캐시의 TTL(초 단위 Duration 문자열, 예 "3600s"). 기본 "3600s".
gemini provider에만 적용된다.

useRag: boolean

call() 시 검색 결과를 프롬프트에 자동 주입할지 여부. 기본 false.

embeddingModel: string

query 임베딩에 사용할 모델명(코퍼스와 동일해야 함). provider별 기본값 있음.

ragTopK: number

검색 시 반환할 상위 chunk 수. 기본 5.

ragEmbeddingsPath: string

임베딩 바이너리(Float32) 경로. 기본 "rag/embeddings.bin".

ragChunksPath: string

원문 chunk 배열(JSON) 경로. 기본 "rag/chunks.json".

ragMetaPath: string

메타(count/dim/model) 경로. 기본 "rag/meta.json".