독립형 서버 자체 호스팅

​

사전 요구 사항

1. LangGraph CLI를 사용하여 애플리케이션을 로컬에서 테스트합니다.
2. LangGraph CLI를 사용하여 Docker 이미지를 빌드합니다(예: langgraph build).
3. 데이터 플레인 배포에는 다음 환경 변수가 필요합니다.
4. REDIS_URI: Redis 인스턴스 연결 정보입니다. Redis는 백그라운드 실행에서 실시간 출력 스트리밍을 가능하게 하는 pub-sub 브로커로 사용됩니다. REDIS_URI 값은 유효한 Redis 연결 URI여야 합니다.
   공유 Redis 인스턴스 여러 자체 호스팅 배포에서 동일한 Redis 인스턴스를 공유할 수 있습니다. 예를 들어, 배포 A의 경우 REDIS_URI를 redis://<hostname_1>:<port>/1로 설정하고 배포 B의 경우 REDIS_URI를 redis://<hostname_1>:<port>/2로 설정할 수 있습니다.1과 2는 동일한 인스턴스 내의 서로 다른 데이터베이스 번호이지만 <hostname_1>은 공유됩니다. 동일한 데이터베이스 번호를 별도의 배포에 사용할 수 없습니다.
5. DATABASE_URI: Postgres 연결 정보입니다. Postgres는 어시스턴트, 스레드, 실행을 저장하고, 스레드 상태와 장기 메모리를 유지하며, ‘exactly once’ 시맨틱으로 백그라운드 작업 큐의 상태를 관리하는 데 사용됩니다. DATABASE_URI 값은 유효한 Postgres 연결 URI여야 합니다.
   공유 Postgres 인스턴스 여러 자체 호스팅 배포에서 동일한 Postgres 인스턴스를 공유할 수 있습니다. 예를 들어, 배포 A의 경우 DATABASE_URI를 postgres://<user>:<password>@/<database_name_1>?host=<hostname_1>로 설정하고 배포 B의 경우 DATABASE_URI를 postgres://<user>:<password>@/<database_name_2>?host=<hostname_1>로 설정할 수 있습니다.<database_name_1>과 database_name_2는 동일한 인스턴스 내의 서로 다른 데이터베이스이지만 <hostname_1>은 공유됩니다. 동일한 데이터베이스를 별도의 배포에 사용할 수 없습니다.
6. LANGSMITH_API_KEY: LangSmith API 키입니다.
7. LANGGRAPH_CLOUD_LICENSE_KEY: LangSmith 라이선스 키입니다. 이는 서버 시작 시 한 번 인증하는 데 사용됩니다.
8. LANGSMITH_ENDPOINT: 자체 호스팅 LangSmith 인스턴스로 트레이스를 보내려면 LANGSMITH_ENDPOINT를 자체 호스팅 LangSmith 인스턴스의 호스트 이름으로 설정합니다.
9. 네트워크에서 https://beacon.langchain.com으로의 아웃바운드 접근이 필요합니다. 이는 에어갭 모드에서 실행하지 않는 경우 라이선스 확인 및 사용량 보고에 필요합니다. 자세한 내용은 아웃바운드 접근 문서를 참조하세요.

​

Kubernetes

​

Docker

docker run \
    --env-file .env \
    -p 8123:8000 \
    -e REDIS_URI="foo" \
    -e DATABASE_URI="bar" \
    -e LANGSMITH_API_KEY="baz" \
    my-image

​

Docker Compose

volumes:
    langgraph-data:
        driver: local
services:
    langgraph-redis:
        image: redis:6
        healthcheck:
            test: redis-cli ping
            interval: 5s
            timeout: 1s
            retries: 5
    langgraph-postgres:
        image: postgres:16
        ports:
            - "5432:5432"
        environment:
            POSTGRES_DB: postgres
            POSTGRES_USER: postgres
            POSTGRES_PASSWORD: postgres
        volumes:
            - langgraph-data:/var/lib/postgresql/data
        healthcheck:
            test: pg_isready -U postgres
            start_period: 10s
            timeout: 1s
            retries: 5
            interval: 5s
    langgraph-api:
        image: ${IMAGE_NAME}
        ports:
            - "8123:8000"
        depends_on:
            langgraph-redis:
                condition: service_healthy
            langgraph-postgres:
                condition: service_healthy
        env_file:
            - .env
        environment:
            REDIS_URI: redis://langgraph-redis:6379
            LANGSMITH_API_KEY: ${LANGSMITH_API_KEY}
            DATABASE_URI: postgres://postgres:postgres@langgraph-postgres:5432/postgres?sslmode=disable

curl --request GET --url 0.0.0.0:8123/ok

{"ok":true}