이 가이드에서는 어시스턴트를 생성, 구성 및 관리하는 방법을 설명합니다.
먼저 컨텍스트 개념에 대한 간단한 복습으로 다음의 간단한 call_model 노드와 컨텍스트 스키마를 살펴보겠습니다.
이 노드가 context 객체의 model_name 필드에 정의된 model_name을 읽고 사용하려고 시도하는 것을 확인하세요.
class ContextSchema(TypedDict):
model_name: str
builder = StateGraph(AgentState, context_schema=ContextSchema)
def call_model(state, runtime: Runtime[ContextSchema]):
messages = state["messages"]
model = _get_model(runtime.context.get("model_name", "anthropic"))
response = model.invoke(messages)
# We return a list, because this will get added to the existing list
return {"messages": [response]}
어시스턴트 생성
LangGraph SDK
어시스턴트를 생성하려면 LangGraph SDK create 메서드를 사용합니다. 자세한 내용은 Python 및 JS SDK 참조 문서를 참조하세요.
이 예제는 위와 동일한 컨텍스트 스키마를 사용하며 model_name이 openai로 설정된 어시스턴트를 생성합니다.
from langgraph_sdk import get_client
client = get_client(url=<DEPLOYMENT_URL>)
openai_assistant = await client.assistants.create(
# "agent" is the name of a graph we deployed
"agent", context={"model_name": "openai"}, name="Open AI Assistant"
)
print(openai_assistant)
{
"assistant_id": "62e209ca-9154-432a-b9e9-2d75c7a9219b",
"graph_id": "agent",
"name": "Open AI Assistant"
"context": {
"model_name": "openai"
}
"metadata": {}
"created_at": "2024-08-31T03:09:10.230718+00:00",
"updated_at": "2024-08-31T03:09:10.230718+00:00",
}
LangSmith UI
LangSmith UI에서도 어시스턴트를 생성할 수 있습니다.
배포 내에서 “Assistants” 탭을 선택합니다. 이렇게 하면 모든 그래프에 걸쳐 배포의 모든 어시스턴트 테이블이 로드됩니다.
새 어시스턴트를 생성하려면 ”+ New assistant” 버튼을 선택합니다. 그러면 이 어시스턴트가 사용할 그래프를 지정하고 이름, 설명 및 해당 그래프의 구성 스키마를 기반으로 한 어시스턴트의 원하는 구성을 제공할 수 있는 양식이 열립니다.
확인하려면 “Create assistant”를 클릭합니다. 그러면 어시스턴트를 테스트할 수 있는 Studio로 이동합니다. 배포의 “Assistants” 탭으로 돌아가면 테이블에서 새로 생성된 어시스턴트를 볼 수 있습니다.
어시스턴트 사용
LangGraph SDK
이제 model_name이 openai로 정의된 “Open AI Assistant”라는 어시스턴트를 생성했습니다. 이제 이 구성으로 이 어시스턴트를 사용할 수 있습니다:
thread = await client.threads.create()
input = {"messages": [{"role": "user", "content": "who made you?"}]}
async for event in client.runs.stream(
thread["thread_id"],
# this is where we specify the assistant id to use
openai_assistant["assistant_id"],
input=input,
stream_mode="updates",
):
print(f"Receiving event of type: {event.event}")
print(event.data)
print("\n\n")
Receiving event of type: metadata
{'run_id': '1ef6746e-5893-67b1-978a-0f1cd4060e16'}
Receiving event of type: updates
{'agent': {'messages': [{'content': 'I was created by OpenAI, a research organization focused on developing and advancing artificial intelligence technology.', 'additional_kwargs': {}, 'response_metadata': {'finish_reason': 'stop', 'model_name': 'gpt-4o-2024-05-13', 'system_fingerprint': 'fp_157b3831f5'}, 'type': 'ai', 'name': None, 'id': 'run-e1a6b25c-8416-41f2-9981-f9cfe043f414', 'example': False, 'tool_calls': [], 'invalid_tool_calls': [], 'usage_metadata': None}]}}
LangSmith UI
배포 내에서 “Assistants” 탭을 선택합니다. 사용하려는 어시스턴트에 대해 Studio 버튼을 클릭합니다. 그러면 선택한 어시스턴트와 함께 Studio가 열립니다. 입력을 제출하면(Graph 모드 또는 Chat 모드에서) 선택한 어시스턴트와 해당 구성이 사용됩니다.
어시스턴트의 새 버전 생성
LangGraph SDK
어시스턴트를 편집하려면 update 메서드를 사용합니다. 이렇게 하면 제공된 편집 내용으로 어시스턴트의 새 버전이 생성됩니다. 자세한 내용은 Python 및 JS SDK 참조 문서를 참조하세요.
참고
전체 컨텍스트(및 사용하는 경우 메타데이터)를 전달해야 합니다. update 엔드포인트는 이전 버전에 의존하지 않고 완전히 처음부터 새 버전을 생성합니다.
openai_assistant_v2 = await client.assistants.update(
openai_assistant["assistant_id"],
context={
"model_name": "openai",
"system_prompt": "You are an unhelpful assistant!",
},
)
LangSmith UI
LangSmith UI에서도 어시스턴트를 편집할 수 있습니다.
배포 내에서 “Assistants” 탭을 선택합니다. 이렇게 하면 모든 그래프에 걸쳐 배포의 모든 어시스턴트 테이블이 로드됩니다.
기존 어시스턴트를 편집하려면 지정된 어시스턴트에 대해 “Edit” 버튼을 선택합니다. 그러면 어시스턴트의 이름, 설명 및 구성을 편집할 수 있는 양식이 열립니다.
또한 Studio를 사용하는 경우 “Manage Assistants” 버튼을 통해 어시스턴트를 편집하고 새 버전을 생성할 수 있습니다.
이전 어시스턴트 버전 사용
LangGraph SDK
어시스턴트의 활성 버전을 변경할 수도 있습니다. 이렇게 하려면 setLatest 메서드를 사용합니다.
위의 예제에서 어시스턴트의 첫 번째 버전으로 롤백하려면:
await client.assistants.set_latest(openai_assistant['assistant_id'], 1)
LangSmith UI
Studio를 사용하는 경우 어시스턴트의 활성 버전을 설정하려면 “Manage Assistants” 버튼을 클릭하고 사용하려는 어시스턴트를 찾습니다. 어시스턴트와 버전을 선택한 다음 “Active” 토글을 클릭합니다. 이렇게 하면 선택한 버전을 활성 상태로 만들도록 어시스턴트가 업데이트됩니다.
어시스턴트 삭제
어시스턴트를 삭제하면 모든 버전이 삭제됩니다. 현재 단일 버전을 삭제할 수 있는 방법은 없지만 어시스턴트를 올바른 버전으로 지정하여 사용하지 않으려는 버전을 건너뛸 수 있습니다.
