프롬프트 엔지니어링이 필요한 이유
프롬프트는 즉흥 공연 관객이 배우의 다음 퍼포먼스를 지시하는 것처럼, 모델의 기본 기능을 변경하지 않으면서 모델의 동작을 안내합니다. 배우에게 “해적이 되어라”라고 말하는 것이 배우의 행동 방식을 결정하는 것처럼, 프롬프트는 지시사항, 예제, 컨텍스트를 제공하여 모델의 응답 방식을 형성합니다. 프롬프트 엔지니어링은 모델의 동작 방식을 변경할 수 있게 해주기 때문에 중요합니다. 파인튜닝과 같이 모델의 동작을 변경하는 다른 방법들도 있지만, 프롬프트 엔지니어링은 일반적으로 시작하기에 가장 간단하며 종종 가장 높은 ROI를 제공합니다. 프롬프트 엔지니어링은 다학제적 접근이 필요한 경우가 많습니다. 때로는 애플리케이션을 구축하는 소프트웨어 엔지니어가 아니라 제품 매니저나 다른 도메인 전문가가 최고의 프롬프트 엔지니어일 수 있습니다. 이러한 학제 간 협업을 지원할 적절한 도구와 인프라를 갖추는 것이 중요합니다.프롬프트 vs. 프롬프트 템플릿
이 용어들을 혼용하여 사용하는 경우가 많지만, “프롬프트”와 “프롬프트 템플릿”의 차이를 이해하는 것이 중요합니다. 프롬프트는 언어 모델에 전달되는 메시지를 의미합니다. 프롬프트 템플릿은 원하는 정보를 담은 프롬프트를 얻기 위해 정보를 포맷팅하는 방법을 의미합니다. 프롬프트 템플릿에는 퓨샷 예제, 외부 컨텍스트 또는 프롬프트에 필요한 기타 외부 데이터에 대한 변수가 포함될 수 있습니다.
LangSmith의 프롬프트
LangSmith에서 프롬프트 템플릿을 저장하고 버전 관리할 수 있습니다. 프롬프트 템플릿에서 이해해야 할 몇 가지 핵심 측면이 있습니다.Chat vs Completion
프롬프트에는chat 스타일 프롬프트와 completion 스타일 프롬프트 두 가지 유형이 있습니다.
Chat 스타일 프롬프트는 메시지 목록입니다. 요즘 대부분의 모델 API가 지원하는 프롬프트 스타일이므로 일반적으로 이 방식이 선호됩니다.
Completion 스타일 프롬프트는 단순히 문자열입니다. 이전 프롬프트 스타일이므로 주로 레거시 목적으로 존재합니다.
F-string vs. mustache
f-string 또는 mustache 형식을 사용하여 입력 변수로 프롬프트를 포맷팅할 수 있습니다. 다음은 f-string 형식의 예제 프롬프트입니다:- Playground UI가
is_logged_in변수를 인식하지만, 중첩된 변수는 직접 지정해야 합니다. 위의 조건부 프롬프트가 작동하도록 하려면 다음을 입력에 붙여넣으세요:
LangSmith Playground는 기본 템플릿 형식으로
f-string을 사용하지만, 프롬프트 설정/템플릿 형식 섹션에서 mustache 형식으로 전환할 수 있습니다. mustache는 조건부 변수, 루프, 중첩 키에 대해 더 많은 유연성을 제공합니다. 조건부 변수의 경우 ‘inputs’ 섹션에 json 변수를 수동으로 추가해야 합니다. 문서를 참조하세요.Tools
도구는 LLM이 외부 세계와 상호 작용하는 데 사용할 수 있는 인터페이스입니다. 도구는 이름, 설명, 그리고 도구를 호출하는 데 사용되는 인수의 JSON 스키마로 구성됩니다.Structured output
구조화된 출력은 대부분의 최신 LLM의 기능으로, 원시 텍스트를 출력으로 생성하는 대신 지정된 스키마를 따릅니다. 이는 내부적으로 Tools를 사용할 수도 있고 사용하지 않을 수도 있습니다.구조화된 출력은 도구와 유사하지만 몇 가지 핵심적인 차이점이 있습니다. 도구의 경우 LLM이 호출할 도구를 선택하거나 도구를 호출하지 않을 수 있습니다. 구조화된 출력의 경우 LLM은 항상 이 형식으로 응답합니다. 도구의 경우 LLM이 여러 도구를 선택할 수 있습니다. 구조화된 출력의 경우 하나의 응답만 생성됩니다.
Model
선택적으로 프롬프트 템플릿과 함께 모델 구성을 저장할 수 있습니다. 여기에는 모델의 이름과 기타 매개변수(temperature 등)가 포함됩니다.프롬프트 버전 관리
버전 관리는 다양한 프롬프트에 대한 반복 작업과 협업의 핵심 요소입니다.Commits
프롬프트에 대한 저장된 모든 업데이트는 새로운 커밋을 생성합니다. 이전 커밋을 볼 수 있어 이전 프롬프트 버전을 검토하거나 필요한 경우 이전 상태로 되돌리기 쉽습니다. SDK에서는 프롬프트 이름과 함께 커밋 해시를 지정하여 프롬프트의 특정 커밋에 액세스할 수 있습니다(예:prompt_name:commit_hash).
UI에서는 Commits 탭의 오른쪽 상단에 있는 “diff” 버튼을 토글하여 커밋을 이전 버전과 비교할 수 있습니다.
Tags
새로운 커밋이 추가되더라도 참조할 수 있도록 사람이 읽을 수 있는 태그로 프롬프트 커밋에 태그를 지정할 수 있습니다. 일반적인 사용 사례로는 프롬프트에dev 또는 prod 태그를 지정하는 것이 있습니다. 이를 통해 어떤 버전의 프롬프트가 어디에서 사용되는지 추적할 수 있습니다.
프롬프트 플레이그라운드
프롬프트 플레이그라운드는 프롬프트를 반복하고 테스트하는 프로세스를 원활하게 만듭니다. 사이드바에서 또는 저장된 프롬프트에서 직접 플레이그라운드에 들어갈 수 있습니다. 플레이그라운드에서 다음을 수행할 수 있습니다:- 사용 중인 모델 변경
- 사용 중인 프롬프트 템플릿 변경
- 출력 스키마 변경
- 사용 가능한 도구 변경
- 프롬프트 템플릿을 통해 실행할 입력 변수 입력
- 모델을 통해 프롬프트 실행
- 출력 관찰
여러 프롬프트 테스트
플레이그라운드에 더 많은 프롬프트를 추가하여 출력을 쉽게 비교하고 어떤 버전이 더 나은지 결정할 수 있습니다:
데이터셋에 대한 테스트
데이터셋에 대해 테스트하려면 오른쪽 상단에서 데이터셋을 선택하고 Start를 누르기만 하면 됩니다. 결과가 스트리밍되는지 여부와 테스트의 반복 횟수를 수정할 수 있습니다.
비디오 가이드
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.