PivotLocalAIModelOptions extends PivotAIModelOptions
Options
apiKey: string (opens in a new tab)
default: undefined
contextCacheTtl: string (opens in a new tab)
gemini 명시적 캐시의 TTL(초 단위 Duration 문자열, 예 "3600s"). 기본 "3600s".
gemini provider에만 적용된다.
default: undefined
debugMode: boolean (opens in a new tab)
default: undefined
description: string (opens in a new tab)
default: undefined
embeddingModel: string (opens in a new tab)
query 임베딩에 사용할 모델명(코퍼스와 동일해야 함). provider별 기본값 있음.
default: undefined
endpoint: string (opens in a new tab)
azure 또는 custom provider에서 호출 대상 endpoint(baseURL).
provider가 "openai"이면 기본값은 "https://api.openai.com/v1 (opens in a new tab)",
"gemini"이면 "https://generativelanguage.googleapis.com/v1beta"이다 (opens in a new tab).
default: undefined
maxContextTurns: number (opens in a new tab)
컨텍스트로 유지할 최대 대화 턴 수(토큰 예산 관리용).
0(기본)이면 제한 없음. 초과 시 오래된 턴부터 메시지 구성에서 제외한다(history 자체는 보존).
default: undefined
modelName: string (opens in a new tab)
default: undefined
name: string (opens in a new tab)
default: undefined
provider: 'openai' | 'gemini' | 'custom'
default: undefined
ragChunksPath: string (opens in a new tab)
원문 chunk 배열(JSON) 경로. 기본 "rag/chunks.json".
default: undefined
ragEmbeddingsPath: string (opens in a new tab)
임베딩 바이너리(Float32) 경로. 기본 "rag/embeddings.bin".
default: undefined
ragMetaPath: string (opens in a new tab)
메타(count/dim/model) 경로. 기본 "rag/meta.json".
default: undefined
ragTopK: number (opens in a new tab)
검색 시 반환할 상위 chunk 수. 기본 5.
default: undefined
type: 'local'
default: undefined
useContextCache: boolean (opens in a new tab)
systemContext를 provider의 컨텍스트 캐시로 재사용할지 여부.
- gemini: 명시적 캐시(cachedContents)를 만들어 systemInstruction을 캐시하고, 이후 요청은 cachedContent만 참조한다. 최소 토큰 미달·생성 실패 시 자동으로 인라인 systemInstruction으로 폴백한다.
- openai: prompt_cache_key 힌트를 전달해 프리픽스 자동 캐시 적중률을 높인다(명시적 캐시 API는 없다).
default: false
useRag: boolean (opens in a new tab)
call() 시 검색 결과를 프롬프트에 자동 주입할지 여부. 기본 false.
default: undefined