Mothership

AI

앱은 고정된 등급(fast, smart, deep, embedding-default)으로 모델을 불러요. 공급자 키는 게이트웨이만 쥐고, 사용량은 앱·회사·사람마다 기록돼요.

등급

앱은 모델 이름 대신 등급을 불러요. 그래서 앱 코드가 어느 Mothership에서도 그대로 돌아요. 등급 이름은 갈피와 같아요.

등급 쓰임
fast 싼 분류와 변환. 없으면 smart가 대신해요
smart 균형. 등급을 빼면 이것
deep 품질 우선. 없으면 smart가 대신해요
embedding-default 임베딩(지식 검색의 재정렬)

다른 이름은 validation_failed, 모델이 없는 등급은 ai_profile_unconfigured예요. 허용 목록(MOTHERSHIP_AI_ALLOWED_MODELS)에 있으면 정확한 모델 이름을 고정해 부를 수도 있어요(밖이면 ai_model_not_allowed).

서비스 공급자 설정

OpenAI 호환 서버라면 무엇이든 돼요(OpenAI, vLLM, Ollama, LiteLLM …).

bash
MOTHERSHIP_AI_API_KEY=sk-...             # 있어야 켜져요. 키를 보지 않는 서버도 아무 값이나
MOTHERSHIP_AI_BASE_URL=                  # 비우면 api.openai.com, 아니면 …/v1
MOTHERSHIP_AI_MODEL_FAST=gpt-4.1-nano
MOTHERSHIP_AI_MODEL_SMART=gpt-4.1-mini   # 하나만 둬도 시작할 수 있어요
MOTHERSHIP_AI_MODEL_DEEP=gpt-4.1
MOTHERSHIP_AI_MODEL_EMBEDDING=text-embedding-3-small
MOTHERSHIP_AI_MAX_OUTPUT_TOKENS=4096     # 요청마다 상한
MOTHERSHIP_AI_TIMEOUT_SECONDS=60
MOTHERSHIP_AI_STREAM_MAX_SECONDS=300

갈피와 같은 이름(LLM_BASE_URL, LLM_API_KEY, LLM_MODEL, MODE_FAST_MODEL 등)도 LLM_API_FORMAT=openai일 때 읽어요. MOTHERSHIP_AI_*가 있으면 그쪽이 이겨요.

회사 공급자

회사 관리자는 회사 관리 → AI 연결에서 서비스 공급자 대신 회사만의 OpenAI 호환 공급자를 넣을 수 있어요. 주소는 운영자가 허용한 출처(MOTHERSHIP_TENANT_AI_ALLOWED_ORIGINS, 기본 https://api.openai.com)만 돼요. 키는 암호화해 저장하고 다시 보여 주지 않아요. 공동 검증과 미리보기는 회사의 운영 키를 저절로 나눠 쓰지 않고, 환경마다 따로 정하거나 플랫폼 기본값을 써요.

회사 관리 → AI 연결.회사 관리 → AI 연결.
회사 관리 → AI 연결.

앱에서 부르기

ts
const reply = await ctx.api.ai.generate({ profile: "smart", messages: [{ role: "user", content: "요약해 줘" }] });
for await (const ev of ctx.api.ai.stream({ profile: "fast", messages })) { /* response.delta … */ }
const embedded = await ctx.api.ai.embeddings({ input: ["문장"] });   // profile 기본은 embedding-default
  • responseSchema를 주면 공급자의 json_schema 응답 형식으로 바꿔요.
  • attachments(파일 핸들, 저장한 객체)는 서버에서 텍스트로 뽑아(UTF-8, .docx, .pptx, PDF, OCR 이미지) 신뢰하지 않는 문서로 덧붙여요.
  • 스트림은 게이트웨이의 이벤트 루프에서 흘러서, 열린 스트림은 연결 하나만 써요.

사용량과 요금

  • 서비스 관리 → 개요에 최근 30일 AI 요청·토큰 사용량이 앱, 회사, 사람별로 나와요. 프롬프트와 답, 자격은 사용량 장부에 저장하지 않아요.
  • 선택 기능인 요금(MOTHERSHIP_BILLING_ENABLED=true)을 켜면 모델 가격(백만 토큰당 마이크로달러), 선불 크레딧, 월 요청·토큰 한도, 사람·앱별 한도, 동시 요청 수를 정해요. 한도를 넘으면 429, 크레딧이 모자라면 402예요. 결제(Stripe)는 이 릴리스에 없어요.
Esc