Skip to content

LiteLLM

PleumRouter 자체가 게이트웨이라 Aider 등은 LiteLLM 없이 붙습니다. 기존 LiteLLM proxy를 쓸 때만 아래 yaml을 씁니다.

공통 환경변수는 코딩 에이전트 연결 #setup을 보세요.

설정#

api_base는 https://apirouter.pleum.ai/v1 까지입니다. 끝에 /chat/completions를 붙이지 마세요.

litellm config.yaml
# litellm config.yaml
model_list:
  - model_name: pleum-gpt-4.1
    litellm_params:
      model: openai/gpt-4.1
      api_base: https://apirouter.pleum.ai/v1
      api_key: os.environ/PLEUM_API_KEY

확인#

짧은 프롬프트를 보내 응답이 오면 연결입니다. 비용은 Chat Completions면 본문 cost, 그 외 프로토콜은 스트리밍 문서를 보세요.

오류·지원 범위#

스니펫의 plm_xxxxxxxxxxxxxxxx는 더미입니다. 대시보드 API 키에서 발급한 실제 키로 바꾸세요. Base URL 끝에 /chat/completions를 붙이지 마세요.