Skip to main content
LangSmith playground를 사용하면 OpenAI API와 호환되는 모든 모델을 사용할 수 있습니다. playground에서 Proxy Provider를 설정하여 모델을 활용할 수 있습니다.

OpenAI 호환 모델 배포

많은 공급자가 OpenAI 호환 모델 또는 프록시 서비스를 제공합니다. 예를 들면 다음과 같습니다: 이러한 공급자를 사용하여 모델을 배포하고 OpenAI API와 호환되는 API 엔드포인트를 얻을 수 있습니다. 자세한 내용은 전체 사양을 참조하세요.

LangSmith Playground에서 모델 사용

모델 서버를 배포한 후 LangSmith Playground에서 사용할 수 있습니다. Prompt Settings 메뉴에 액세스하려면:
  1. Prompts 제목 아래에서 모델 이름 옆에 있는 기어 아이콘을 선택합니다.
  2. Model Configuration 탭에서 드롭다운에서 편집할 모델을 선택합니다.
  3. Provider 드롭다운에서 OpenAI Compatible Endpoint를 선택합니다.
  4. Base URL 입력란에 OpenAI Compatible Endpoint를 추가합니다.
    Model Configuration window in the LangSmith UI with a model selected and the Provider dropdown with OpenAI Compatible Endpoint selected.
모든 것이 올바르게 설정되면 playground에서 모델의 응답을 볼 수 있습니다. 이 기능을 사용하여 다운스트림 파이프라인도 호출할 수 있습니다. 모델 구성을 저장하는 방법에 대한 정보는 Configure prompt settings를 참조하세요.
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.
I