귀하가 제어하는 클라우드 환경에서 Kubernetes(권장) 또는 Docker로 LangSmith를 실행할 수 있습니다. LangSmith 애플리케이션은 LangSmith 서버와 상태 저장 서비스를 포함한 여러 구성 요소로 이루어져 있습니다:
- LangSmith frontend
- LangSmith backend
- LangSmith platform backend
- LangSmith Playground
- LangSmith queue
- LangSmith ACE (Arbitrary Code Execution) backend
- ClickHouse
- PostgreSQL
- Redis
- Blob storage (선택사항이지만 권장됨)
스토리지 서비스
LangSmith Self-Hosted는 기본적으로 모든 스토리지 서비스를 번들로 제공합니다. 모든 스토리지 서비스의 외부 버전을 사용하도록 LangSmith를 구성할 수 있습니다. 프로덕션 환경에서는 외부 스토리지 서비스를 사용할 것을 강력히 권장합니다.
ClickHouse
ClickHouse는 온라인 분석 처리(OLAP)를 위한 고성능 열 지향 SQL 데이터베이스 관리 시스템(DBMS)입니다. LangSmith는 ClickHouse를 트레이스 및 피드백(대용량 데이터)의 주요 데이터 저장소로 사용합니다.PostgreSQL
PostgreSQL은 강력한 오픈 소스 객체-관계형 데이터베이스 시스템으로, SQL 언어를 사용하고 확장하며 가장 복잡한 데이터 워크로드를 안전하게 저장하고 확장할 수 있는 많은 기능을 결합한 시스템입니다. LangSmith는 PostgreSQL을 트랜잭션 워크로드 및 운영 데이터(트레이스 및 피드백을 제외한 거의 모든 것)의 주요 데이터 저장소로 사용합니다.Redis
Redis는 디스크에 지속되는 강력한 인메모리 키-값 데이터베이스입니다. 데이터를 메모리에 보관함으로써 Redis는 캐싱과 같은 작업에 대해 높은 성능을 제공합니다. LangSmith는 Redis를 큐잉 및 캐싱 작업의 백엔드로 사용합니다.Blob storage
LangSmith는 AWS S3, Azure Blob Storage, Google Cloud Storage를 포함한 여러 blob 스토리지 제공업체를 지원합니다. LangSmith는 blob 스토리지를 사용하여 트레이스 아티팩트, 피드백 첨부 파일 및 기타 대용량 데이터 객체와 같은 대용량 파일을 저장합니다. Blob 스토리지는 선택사항이지만 프로덕션 배포에 매우 권장됩니다.서비스
LangSmith frontend
프론트엔드는 Nginx를 사용하여 LangSmith UI를 제공하고 API 요청을 다른 서버로 라우팅합니다. 이는 애플리케이션의 진입점 역할을 하며 사용자에게 노출되어야 하는 유일한 구성 요소입니다.LangSmith backend
백엔드는 CRUD API 요청의 주요 진입점이며 애플리케이션의 비즈니스 로직 대부분을 처리합니다. 여기에는 프론트엔드 및 SDK로부터의 요청 처리, 수집을 위한 트레이스 준비, hub API 지원이 포함됩니다.LangSmith queue
큐는 들어오는 트레이스와 피드백을 처리하여 비동기적으로 트레이스 및 피드백 데이터 저장소에 수집되고 저장되도록 합니다. 데이터 무결성 검사를 처리하고 데이터 저장소에 성공적으로 삽입되도록 보장하며, 데이터베이스 오류나 데이터베이스 연결 일시적 불가 등의 상황에서 재시도를 처리합니다.LangSmith platform backend
플랫폼 백엔드는 주로 인증, 실행 수집 및 기타 대용량 작업을 처리하는 또 다른 중요한 서비스입니다.LangSmith playground
플레이그라운드는 LangSmith Playground 기능을 지원하기 위해 다양한 LLM API로 요청을 전달하는 서비스입니다. 이는 자체 커스텀 모델 서버에 연결하는 데에도 사용될 수 있습니다.LangSmith ACE (Arbitrary Code Execution) backend
ACE 백엔드는 안전한 환경에서 임의 코드를 실행하는 서비스입니다. 이는 LangSmith 내에서 커스텀 코드를 실행하는 것을 지원하는 데 사용됩니다.Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.