이 모듈은 생성형 AI 모델에서 효과적인 프롬프트를 작성하기 위한 필수 개념과 기술을 다룹니다. LLM에 프롬프트를 작성하는 방식도 중요합니다. 신중하게 작성된 프롬프트는 더 나은 품질의 응답을 얻을 수 있습니다. 하지만 _프롬프트_와 프롬프트 엔지니어링 같은 용어는 정확히 무엇을 의미할까요? 그리고 LLM에 보내는 프롬프트 _입력_을 어떻게 개선할 수 있을까요? 이 장과 다음 장에서 이러한 질문에 답하려고 합니다.
_생성형 AI_는 사용자 요청에 따라 새로운 콘텐츠(예: 텍스트, 이미지, 오디오, 코드 등)를 생성할 수 있습니다. 이는 자연어와 코드를 사용하는 데 훈련된 OpenAI의 GPT("Generative Pre-trained Transformer") 시리즈와 같은 _대규모 언어 모델_을 사용하여 이루어집니다.
사용자는 이제 기술적 전문 지식이나 훈련 없이도 채팅과 같은 친숙한 방식으로 이러한 모델과 상호작용할 수 있습니다. 모델은 _프롬프트 기반_으로 작동하며, 사용자가 텍스트 입력(프롬프트)을 보내면 AI 응답(완성)을 받습니다. 이후 사용자는 "AI와 대화"를 반복적으로 진행하며, 응답이 기대에 부합할 때까지 프롬프트를 수정할 수 있습니다.
"프롬프트"는 이제 생성형 AI 애플리케이션의 주요 _프로그래밍 인터페이스_가 되어 모델에게 무엇을 해야 하는지 지시하고 반환된 응답의 품질에 영향을 미칩니다. "프롬프트 엔지니어링"은 일관되고 품질 높은 응답을 대규모로 제공하기 위해 프롬프트를 설계하고 최적화하는 데 초점을 맞춘 빠르게 성장하는 연구 분야입니다.
이 강의에서는 프롬프트 엔지니어링이 무엇인지, 왜 중요한지, 특정 모델과 애플리케이션 목표에 대해 더 효과적인 프롬프트를 작성하는 방법을 배웁니다. 프롬프트 엔지니어링의 핵심 개념과 모범 사례를 이해하고, 실제 예제에 이러한 개념이 적용되는 것을 볼 수 있는 대화형 Jupyter Notebook "샌드박스" 환경에 대해 배웁니다.
이 강의를 마치면 다음을 할 수 있습니다:
- 프롬프트 엔지니어링이 무엇인지 설명하고 그 중요성을 이해합니다.
- 프롬프트의 구성 요소와 사용 방법을 설명합니다.
- 프롬프트 엔지니어링의 모범 사례와 기술을 배웁니다.
- 배운 기술을 OpenAI 엔드포인트를 사용하여 실제 예제에 적용합니다.
프롬프트 엔지니어링: AI 모델이 원하는 출력을 생성하도록 입력을 설계하고 수정하는 실습. 토큰화: 텍스트를 모델이 이해하고 처리할 수 있는 작은 단위인 토큰으로 변환하는 과정. 지시 조정된 LLM: 특정 지시를 통해 응답 정확성과 관련성을 개선하기 위해 세부 조정된 대규모 언어 모델(LLM).
프롬프트 엔지니어링은 현재 과학보다는 예술에 가깝습니다. 이를 개선하는 가장 좋은 방법은 더 많이 연습하고 애플리케이션 도메인 전문 지식과 추천 기술 및 모델별 최적화를 결합한 시행착오 접근 방식을 채택하는 것입니다.
이 강의에 동반되는 Jupyter Notebook은 학습한 내용을 실습하거나 끝부분의 코드 챌린지의 일부로 시도할 수 있는 샌드박스 환경을 제공합니다. 연습을 실행하려면 다음이 필요합니다:
- Azure OpenAI API 키 - 배포된 LLM의 서비스 엔드포인트.
- Python 런타임 - Notebook을 실행할 수 있는 환경.
- 로컬 환경 변수 - SETUP 단계를 완료하여 준비하세요.
Notebook에는 시작용 연습이 포함되어 있지만, 더 많은 예제나 아이디어를 시도하기 위해 자신의 Markdown (설명) 및 Code (프롬프트 요청) 섹션을 추가하는 것이 좋습니다. 이를 통해 프롬프트 설계에 대한 직관을 키울 수 있습니다.
이 강의에서 다루는 내용을 시작하기 전에 전체적인 개요를 보고 싶으신가요? 주요 주제와 각 주제에서 생각해야 할 주요 사항을 알려주는 그림으로 보는 가이드를 확인하세요. 강의 로드맵은 핵심 개념과 과제를 이해하는 것에서 시작하여 관련 프롬프트 엔지니어링 기술과 모범 사례로 이를 해결하는 과정으로 안내합니다. 이 가이드의 "고급 기술" 섹션은 이 커리큘럼의 다음 장에서 다루는 내용을 참조합니다.
이 _주제_가 교육에 AI 혁신을 가져오는 우리의 스타트업 미션과 어떻게 관련이 있는지 이야기해 봅시다. 우리는 _개인화된 학습_의 AI 기반 애플리케이션을 구축하고자 합니다. 따라서 우리의 애플리케이션을 사용하는 다양한 사용자들이 어떻게 "프롬프트"를 설계할지 생각해 봅시다:
- 관리자는 AI에게 _커리큘럼 데이터를 분석하여 커버리지의 격차를 식별_하도록 요청할 수 있습니다. AI는 결과를 요약하거나 코드를 사용하여 시각화할 수 있습니다.
- 교육자는 AI에게 _대상 청중과 주제에 맞는 수업 계획을 생성_하도록 요청할 수 있습니다. AI는 지정된 형식으로 개인화된 계획을 작성할 수 있습니다.
- 학생은 AI에게 _어려운 과목을 지도_해달라고 요청할 수 있습니다. AI는 이제 학생의 수준에 맞춘 수업, 힌트 및 예제를 제공하며 학생들을 안내할 수 있습니다.
이것은 빙산의 일각에 불과합니다. 교육을 위한 프롬프트를 확인해 보세요. 교육 전문가들이 큐레이션한 오픈 소스 프롬프트 라이브러리로 가능성의 폭을 더 넓게 느껴보세요! 샌드박스에서 이러한 프롬프트를 실행하거나 OpenAI Playground를 사용하여 어떤 결과가 나오는지 확인해 보세요!
이 강의는 프롬프트 엔지니어링을 특정 애플리케이션 목표와 모델에 대해 일관되고 품질 높은 응답(완성)을 제공하기 위해 텍스트 입력(프롬프트)을 설계하고 최적화하는 과정으로 정의하며 시작했습니다. 이를 2단계 과정으로 생각할 수 있습니다:
- 특정 모델과 목표에 대한 초기 프롬프트를 설계
- 응답 품질을 개선하기 위해 프롬프트를 반복적으로 수정
이는 최적의 결과를 얻기 위해 사용자 직관과 노력이 필요한 시행착오 과정입니다. 그렇다면 왜 중요할까요? 이 질문에 답하기 위해 먼저 세 가지 개념을 이해해야 합니다:
- 토큰화 = 모델이 프롬프트를 "보는" 방식
- 기본 LLM = 기본 모델이 프롬프트를 "처리"하는 방식
- 지시 조정된 LLM = 모델이 "작업"을 볼 수 있는 방식
LLM은 프롬프트를 _토큰의 시퀀스_로 봅니다. 서로 다른 모델(또는 모델 버전)은 동일한 프롬프트를 서로 다른 방식으로 토큰화할 수 있습니다. LLM은 토큰(원시 텍스트가 아닌)으로 훈련되므로 프롬프트가 토큰화되는 방식은 생성된 응답의 품질에 직접적인 영향을 미칩니다.
토큰화가 어떻게 작동하는지 직관을 얻으려면 아래에 표시된 OpenAI Tokenizer와 같은 도구를 사용해 보세요. 프롬프트를 복사하여 붙여넣고 공백 문자와 구두점이 처리되는 방식을 주의 깊게 관찰하면서 토큰으로 변환되는 방식을 확인하세요. 이 예는 이전 LLM(GPT-3)을 보여줍니다. 따라서 최신 모델로 시도하면 다른 결과가 나올 수 있습니다.
프롬프트가 토큰화되면 "기본 LLM"(또는 기본 모델)의 주요 기능은 해당 시퀀스에서 토큰을 예측하는 것입니다. LLM은 방대한 텍스트 데이터셋으로 훈련되었기 때문에 토큰 간의 통계적 관계를 잘 이해하고 어느 정도의 확신을 가지고 예측할 수 있습니다. 이들은 프롬프트나 토큰의 _의미_를 이해하지 못하며, 단지 "다음 예측"을 통해 패턴을 "완성"할 수 있습니다. 사용자가 개입하거나 사전에 설정된 조건에 의해 종료될 때까지 시퀀스를 계속 예측할 수 있습니다.
프롬프트 기반 완성이 어떻게 작동하는지 보고 싶으신가요? 위의 프롬프트를 Azure OpenAI Studio Chat Playground에 기본 설정으로 입력해 보세요. 시스템은 프롬프트를 정보 요청으로 간주하도록 구성되어 있으므로 이 컨텍스트를 만족시키는 완성을 볼 수 있을 것입니다.
하지만 사용자가 특정 기준이나 작업 목표를 충족하는 무언가를 보고 싶다면 어떻게 될까요? 이때 지시 조정된 LLM이 등장합니다.
지시 조정된 LLM은 기본 모델에서 시작하여 명확한 지시를 포함할 수 있는 예제 또는 입력/출력 쌍(예: 다중 턴 "메시지")으로 세부 조정됩니다. AI는 해당 지시를 따르려고 시도하며 응답을 생성합니다.
이는 인간 피드백을 활용한 강화 학습(RLHF)과 같은 기술을 사용하여 모델이 지시를 따르고 _피드백을 학습_할 수 있도록 훈련하여 실용적인 애플리케이션에 더 적합하고 사용자 목표에 더 관련성이 높은 응답을 생성할 수 있도록 합니다.
직접 시도해 보세요. 위의 프롬프트를 다시 방문하되, 이번에는 _시스템 메시지_를 변경하여 다음 지시를 컨텍스트로 제공하세요:
제공된 콘텐츠를 2학년 학생을 위해 요약하세요. 결과를 3-5개의 주요 포인트로 구성된 한 단락으로 유지하세요.
결과가 원하는 목표와 형식을 반영하도록 조정된 것을 확인할 수 있습니다. 교육자는 이제 이 응답을 해당 수업의 슬라이드에 직접 사용할 수 있습니다.
이제 프롬프트가 LLM에 의해 처리되는 방식을 알았으니, 왜 프롬프트 엔지니어링이 필요한지 이야기해 봅시다. 그 이유는 현재 LLM이 _신뢰할 수 있고 일관된 완성_을 달성하기 어렵게 만드는 여러 과제를 제시하기 때문입니다. 프롬프트 작성 및 최적화에 노력을 기울이지 않으면 이러한 과제를 해결하기 어렵습니다. 예를 들어:
-
모델 응답은 확률적입니다. _동일한 프롬프트_는 다른 모델이나 모델 버전에서 다른 응답을 생성할 가능성이 높습니다. 그리고 _동일한 모델_에서도 다른 시간에 다른 결과를 생성할 수 있습니다. 프롬프트 엔지니어링 기술은 더 나은 가드레일을 제공하여 이러한 변동을 최소화하는 데 도움을 줄 수 있습니다.
-
모델은 응답을 조작할 수 있습니다. 모델은 크지만 유한한 데이터셋으로 사전 훈련되었기 때문에 해당 훈련 범위를 벗어난 개념에 대한 지식이 부족합니다. 결과적으로 부정확하거나 상상적이거나 알려진 사실과 직접적으로 모순되는 완성을 생성할 수 있습니다. 프롬프트 엔지니어링 기술은 사용자가 AI에게 인용이나 추론을 요청하여 이러한 조작을 식별하고 완화하는 데 도움을 줄 수 있습니다.
-
모델의 능력은 다양합니다. 최신 모델이나 모델 세대는 더 풍부한 기능을 제공하지만 비용 및 복잡성에서 고유한 특성과 트레이드오프를 가져옵니다. 프롬프트 엔지니어링은 모델별 요구 사항에 맞게 차이를 추상화하고 확장 가능하고 원활한 방식으로 적응할 수 있는 모범 사례와 워크플로를 개발하는 데 도움을 줄 수 있습니다.
OpenAI 또는 Azure OpenAI Playground에서 이를 직접 확인해 보세요:
- 동일한 프롬프트를 다른 LLM 배포(예: OpenAI, Azure OpenAI, Hugging Face)에서 사용해 보세요 - 변동을 확인했나요?
- 동일한 프롬프트를 동일한 LLM 배포(예: Azure OpenAI Playground)에서 반복적으로 사용해 보세요 - 이러한 변동은 어떻게 달랐나요?
이 강의에서는 **"조작"**이라는 용어를 사용하여 LLM이 훈련의 제한이나 기타 제약으로 인해 사실적으로 부정확한 정보를 생성하는 현상을 참조합니다. 이는 인기 있는 기사나 연구 논문에서 _"환각"_이라는 용어로도 알려져 있을 수 있습니다. 그러나 우리는 기계 주도 결과에 인간과 같은 특성을 부여하여 행동을 의인화하지 않도록 _"조작"_이라는 용어를 사용하는 것을 강력히 권장합니다. 이는 용어 관점에서 책임 있는 AI 가이드라인을 강화하며, 일부 맥락에서 공격적이거나 비포괄적으로 간주될 수 있는 용어를 제거합니다.
조작이 어떻게 작동하는지 감을 잡고 싶으신가요? AI에게 훈련 데이터셋에서 찾을 수 없는 주제에 대한 콘텐츠를 생성하도록 지시하는 프롬프트를 생각해 보세요. 예를 들어, 저는 다음 프롬프트를 시도했습니다:
프롬프트: 2076년 화성 전쟁에 대한 수업 계획을 생성하세요. 웹 검색 결과, 화성 전쟁에 대한 허구적 이야기(예: TV 시리즈나 책)는 있었지만, 2076년에 관한 것은 없었습니다. 상식적으로도 2076년은 _미래_에 해당하므로 실제 사건과 연관될 수 없습니다.
그렇다면 이 프롬프트를 다양한 LLM 제공자와 함께 실행하면 어떤 결과가 나올까요?
응답 1: OpenAI Playground (GPT-35)
응답 2: Azure OpenAI Playground (GPT-35)
응답 3: Hugging Face Chat Playground (LLama-2)
예상대로, 각 모델(또는 모델 버전)은 확률적 행동과 모델 능력의 차이로 인해 약간 다른 응답을 생성합니다. 예를 들어, 한 모델은 중학생 수준의 청중을 대상으로 하고, 다른 모델은 고등학생을 대상으로 합니다. 하지만 세 모델 모두 정보가 부족한 사용자에게 사건이 실제라고 믿게 할 수 있는 응답을 생성했습니다.
메타프롬프트 및 _온도 설정_과 같은 프롬프트 엔지니어링 기술은 모델의 허구성을 어느 정도 줄일 수 있습니다. 새로운 프롬프트 엔지니어링 _아키텍처_는 이러한 효과를 완화하거나 줄이기 위해 새로운 도구와 기술을 프롬프트 흐름에 매끄럽게 통합합니다.
이 섹션을 마무리하며, 실제 솔루션에서 프롬프트 엔지니어링이 어떻게 사용되는지 GitHub Copilot 사례를 통해 살펴보겠습니다: GitHub Copilot.
GitHub Copilot은 "AI 페어 프로그래머"로, 텍스트 프롬프트를 코드 완성으로 변환하며 Visual Studio Code와 같은 개발 환경에 통합되어 매끄러운 사용자 경험을 제공합니다. 아래 블로그 시리즈에 문서화된 바와 같이, 초기 버전은 OpenAI Codex 모델을 기반으로 했으며, 엔지니어들은 빠르게 모델을 미세 조정하고 코드 품질을 개선하기 위해 더 나은 프롬프트 엔지니어링 기술을 개발해야 한다는 것을 깨달았습니다. 7월에는 Codex를 넘어선 개선된 AI 모델을 선보였습니다 더 빠른 제안을 위해.
그들의 학습 여정을 따라가려면 아래 게시물을 순서대로 읽어보세요.
- 2023년 5월 | GitHub Copilot이 코드 이해 능력을 향상시키고 있습니다
- 2023년 5월 | GitHub 내부: GitHub Copilot 뒤에 있는 LLM과 함께 작업하기.
- 2023년 6월 | GitHub Copilot을 위한 더 나은 프롬프트 작성 방법.
- 2023년 7월 | GitHub Copilot이 개선된 AI 모델로 Codex를 넘어섰습니다
- 2023년 7월 | 개발자를 위한 프롬프트 엔지니어링 및 LLM 가이드
- 2023년 9월 | 엔터프라이즈 LLM 앱을 구축하는 방법: GitHub Copilot에서 배운 교훈
또한 엔지니어링 블로그를 탐색하여 이 게시물처럼 이러한 모델과 기술이 실제 애플리케이션을 구동하는 데 어떻게 _적용_되는지 보여주는 더 많은 게시물을 확인할 수 있습니다.
프롬프트 엔지니어링이 왜 중요한지 살펴보았으니 이제 프롬프트가 어떻게 _구성_되는지 이해하고 더 효과적인 프롬프트 설계를 위한 다양한 기술을 평가해 보겠습니다.
기본 프롬프트부터 시작해 보겠습니다. 이는 모델에 다른 컨텍스트 없이 전송된 텍스트 입력입니다. 예를 들어, OpenAI Completion API에 미국 국가의 첫 몇 마디를 보내면, 모델이 즉시 다음 몇 줄을 _완성_하여 기본 예측 동작을 보여줍니다.
| 프롬프트 (입력) | 완성 (출력) |
|---|---|
| Oh say can you see | 당신이 미국 국가 "The Star-Spangled Banner"의 가사를 시작하는 것 같습니다. 전체 가사는 ... |
이제 기본 프롬프트에 컨텍스트와 지침을 추가해 보겠습니다. Chat Completion API를 사용하면 메시지 모음으로 복잡한 프롬프트를 구성할 수 있습니다:
- 사용자 입력과 어시스턴트 응답을 반영하는 입력/출력 쌍.
- 어시스턴트의 행동 또는 성격에 대한 컨텍스트를 설정하는 시스템 메시지.
요청은 이제 아래와 같은 형태로 제공되며, _토큰화_를 통해 컨텍스트와 대화에서 관련 정보를 효과적으로 캡처합니다. 이제 시스템 컨텍스트를 변경하는 것이 제공된 사용자 입력만큼이나 완성 품질에 영향을 미칠 수 있습니다.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)위의 예에서 사용자 프롬프트는 정보 요청으로 해석될 수 있는 간단한 텍스트 쿼리였습니다. 지침 프롬프트를 사용하면 AI에 더 나은 지침을 제공하여 작업을 보다 자세히 지정할 수 있습니다. 예를 들어:
| 프롬프트 (입력) | 완성 (출력) | 지침 유형 |
|---|---|---|
| 남북전쟁에 대한 설명을 작성하세요 | 간단한 단락을 반환 | 간단한 지침 |
| 남북전쟁에 대한 설명을 작성하세요. 주요 날짜와 사건을 제공하고 그 중요성을 설명하세요 | 단락과 함께 주요 사건 날짜 및 설명 목록을 반환 | 복잡한 지침 |
| 남북전쟁에 대한 설명을 1개의 단락으로 작성하세요. 주요 날짜와 그 중요성을 포함한 3개의 핵심 포인트를 제공하세요. 주요 역사적 인물과 그들의 기여를 포함한 3개의 추가 포인트를 제공하세요. 결과를 JSON 파일 형식으로 반환하세요 | 텍스트 상자에 더 광범위한 세부 정보를 반환하며, JSON 형식으로 제공되어 파일에 복사-붙여넣기 및 검증 가능 | 복잡한 지침. 형식화됨 |
위의 예에서 프롬프트는 여전히 상당히 개방적이었으며, LLM이 사전 학습된 데이터셋에서 관련 정보를 결정하도록 했습니다. 주요 콘텐츠 설계 패턴을 사용하면 입력 텍스트를 두 부분으로 나눌 수 있습니다:
- 지침(행동)
- 관련 콘텐츠(행동에 영향을 미침)
다음은 "이 내용을 두 문장으로 요약하세요"라는 지침을 예로 든 사례입니다.
| 프롬프트 (입력) | 완성 (출력) |
|---|---|
| 목성은 태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성입니다. 목성은 태양 질량의 1/1000에 불과하지만, 태양계의 다른 모든 행성을 합친 것보다 2.5배 더 무겁습니다. 목성은 육안으로 밤하늘에서 볼 수 있는 가장 밝은 천체 중 하나이며, 기록된 역사 이전부터 고대 문명에 알려져 있었습니다. 목성은 로마 신 목성의 이름을 따서 명명되었습니다.[19] 지구에서 볼 때 목성은 반사된 빛이 보이는 그림자를 드리울 만큼 밝을 수 있으며,[20] 평균적으로 달과 금성 다음으로 밤하늘에서 세 번째로 밝은 자연 천체입니다. 이 내용을 두 문장으로 요약하세요 |
목성은 태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성으로, 밤하늘에서 가장 밝은 천체 중 하나로 알려져 있습니다. 로마 신 목성의 이름을 딴 이 가스 거인은 태양계의 다른 모든 행성을 합친 것보다 2.5배 더 무겁습니다. |
주요 콘텐츠 세그먼트는 더 효과적인 지침을 제공하기 위해 다양한 방식으로 사용될 수 있습니다:
- 예제 - 명시적인 지침으로 모델에게 무엇을 해야 할지 말하는 대신, 원하는 출력의 예제를 제공하고 패턴을 추론하도록 합니다.
- 단서 - 지침 뒤에 "단서"를 제공하여 모델이 더 관련성 높은 응답을 생성하도록 유도합니다.
- 템플릿 - 자리 표시자(변수)가 포함된 반복 가능한 '레시피'로, 특정 사용 사례에 맞게 데이터를 사용하여 사용자 정의할 수 있습니다.
이제 이러한 방법을 실제로 살펴보겠습니다.
이 접근법은 주요 콘텐츠를 사용하여 모델에 특정 지침에 대한 원하는 출력의 예제를 제공하고, 모델이 원하는 출력 패턴을 추론하도록 하는 것입니다. 제공된 예제 수에 따라 제로샷 프롬프트, 원샷 프롬프트, 몇샷 프롬프트 등이 있습니다.
프롬프트는 이제 세 가지 구성 요소로 이루어집니다:
- 작업 설명
- 원하는 출력의 몇 가지 예제
- 새로운 예제의 시작(암시적 작업 설명이 됨)
| 학습 유형 | 프롬프트 (입력) | 완성 (출력) |
|---|---|---|
| 제로샷 | "The Sun is Shining". 스페인어로 번역하세요 | "El Sol está brillando". |
| 원샷 | "The Sun is Shining" => ""El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| 몇샷 | The player ran the bases => Baseball The player hit an ace => Tennis The player hit a six => Cricket The player made a slam-dunk => |
Basketball |
제로샷 프롬프트에서는 명시적인 지침("스페인어로 번역하세요")을 제공해야 했지만, 원샷 프롬프트 예제에서는 이를 추론할 수 있었습니다. 몇샷 예제는 더 많은 예제를 추가하면 추가 지침 없이도 모델이 더 정확한 추론을 할 수 있음을 보여줍니다.
주요 콘텐츠를 사용하는 또 다른 기술은 _단서_를 제공하는 것입니다. 이 경우, 원하는 응답 형식을 반영하는 스니펫을 _시작점으로 제공_하여 모델이 그 방향으로 계속 진행하도록 유도합니다.
| 단서 수 | 프롬프트 (입력) | 완성 (출력) |
|---|---|---|
| 0 | 목성은 태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성입니다. 목성은 태양 질량의 1/1000에 불과하지만, 태양계의 다른 모든 행성을 합친 것보다 2.5배 더 무겁습니다. 목성은 육안으로 밤하늘에서 볼 수 있는 가장 밝은 천체 중 하나이며, 기록된 역사 이전부터 고대 문명에 알려져 있었습니다. 요약하세요 |
목성은 태양계에서 가장 큰 행성으로, 태양에서 다섯 번째에 위치하며 밤하늘에서 가장 밝은 천체 중 하나입니다. 태양 질량의 1/1000에 불과하지만, 다른 모든 행성을 합친 것보다 2.5배 더 무겁습니다. 고대 문명에서도 알려져 있었습니다. |
| 1 | 목성은 태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성입니다. 질량은 태양의 1/1000에 불과하지만, 태양계를 구성하는 다른 모든 행성을 합친 것의 두 배 반에 달합니다. 목성은 밤하늘에서 육안으로 볼 수 있는 가장 밝은 천체 중 하나이며, 기록된 역사 이전부터 고대 문명에 알려져 있었습니다. 요약하기 우리가 배운 것은 목성이 |
태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성이라는 것입니다. 목성은 태양의 1/1000의 질량을 가지고 있지만, 다른 모든 행성을 합친 것보다 두 배 반 더 큽니다. 육안으로 쉽게 볼 수 있으며 고대부터 알려져 있었습니다. |
| 2 | 목성은 태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성입니다. 질량은 태양의 1/1000에 불과하지만, 태양계를 구성하는 다른 모든 행성을 합친 것의 두 배 반에 달합니다. 목성은 밤하늘에서 육안으로 볼 수 있는 가장 밝은 천체 중 하나이며, 기록된 역사 이전부터 고대 문명에 알려져 있었습니다. 요약하기 우리가 배운 주요 3가지 사실: |
1. 목성은 태양에서 다섯 번째 행성이며 태양계에서 가장 큰 행성입니다. 2. 목성은 태양의 1/1000의 질량을 가진 가스형 거대 행성입니다... 3. 목성은 고대부터 육안으로 관찰할 수 있었습니다 ... |
프롬프트 템플릿은 _프롬프트를 위한 사전 정의된 레시피_로, 필요에 따라 저장하고 재사용하여 대규모로 더 일관된 사용자 경험을 제공할 수 있습니다. 가장 간단한 형태로는 OpenAI의 예시처럼 사용자와 시스템 메시지로 구성된 대화형 프롬프트 구성 요소와 API 기반 요청 형식을 제공하여 재사용을 지원합니다.
더 복잡한 형태로는 LangChain의 예시처럼 _플레이스홀더_를 포함하여 사용자 입력, 시스템 컨텍스트, 외부 데이터 소스 등 다양한 소스의 데이터로 대체하여 동적으로 프롬프트를 생성할 수 있습니다. 이를 통해 재사용 가능한 프롬프트 라이브러리를 생성하여 프로그래밍 방식으로 대규모로 일관된 사용자 경험을 제공할 수 있습니다.
마지막으로, 템플릿의 진정한 가치는 특정 응용 프로그램 도메인을 위한 _프롬프트 라이브러리_를 생성하고 게시할 수 있는 능력에 있습니다. 여기서 프롬프트 템플릿은 이제 응용 프로그램별 컨텍스트나 예제를 반영하도록 _최적화_되어 대상 사용자에게 더 관련성 있고 정확한 응답을 제공합니다. Prompts For Edu 저장소는 교육 도메인을 위한 프롬프트 라이브러리를 큐레이팅하여 수업 계획, 커리큘럼 설계, 학생 지도와 같은 주요 목표에 중점을 둔 훌륭한 예시입니다.
프롬프트 구성은 지시사항(작업)과 대상(주요 콘텐츠)을 포함한다고 생각한다면, _보조 콘텐츠_는 출력을 어떤 방식으로든 영향을 줄 수 있는 추가 컨텍스트와 같습니다. 이는 모델이 사용자 목표나 기대에 맞게 응답을 _조정_할 수 있도록 도움을 줄 수 있는 튜닝 매개변수, 형식 지침, 주제 분류 등일 수 있습니다.
예를 들어: 모든 커리큘럼에 포함된 코스에 대한 광범위한 메타데이터(이름, 설명, 수준, 메타데이터 태그, 강사 등)가 있는 코스 카탈로그를 고려해보세요:
- "2023년 가을 코스 카탈로그를 요약하라"는 지시사항을 정의할 수 있습니다.
- 주요 콘텐츠를 사용하여 원하는 출력의 몇 가지 예를 제공합니다.
- 보조 콘텐츠를 사용하여 관심 있는 상위 5개의 "태그"를 식별할 수 있습니다.
이제 모델은 몇 가지 예에서 보여준 형식으로 요약을 제공할 수 있습니다. 하지만 결과에 여러 태그가 포함된 경우, 보조 콘텐츠에서 식별된 5개의 태그를 우선적으로 처리할 수 있습니다.
프롬프트를 _구성_하는 방법을 알게 되었으니, 이제 모범 사례를 반영하도록 _설계_하는 방법을 생각해볼 수 있습니다. 이를 두 부분으로 나눌 수 있습니다 - 올바른 _사고방식_을 가지는 것과 올바른 _기법_을 적용하는 것.
프롬프트 엔지니어링은 시행착오 과정이므로 세 가지 주요 지침을 염두에 두세요:
-
도메인 이해가 중요합니다. 응답의 정확성과 관련성은 응용 프로그램이나 사용자가 운영하는 _도메인_의 함수입니다. 직관과 도메인 전문 지식을 활용하여 기법을 더욱 맞춤화하세요. 예를 들어, 시스템 프롬프트에서 _도메인별 성격_을 정의하거나 사용자 프롬프트에서 _도메인별 템플릿_을 사용하세요. 도메인별 컨텍스트를 반영하는 보조 콘텐츠를 제공하거나 _도메인별 단서와 예제_를 사용하여 모델이 익숙한 사용 패턴으로 안내되도록 하세요.
-
모델 이해가 중요합니다. 모델은 본질적으로 확률적입니다. 하지만 모델 구현은 사용된 학습 데이터 세트(사전 학습 지식), 제공하는 기능(예: API 또는 SDK를 통해) 및 최적화된 콘텐츠 유형(예: 코드, 이미지, 텍스트)에 따라 다를 수 있습니다. 사용 중인 모델의 강점과 한계를 이해하고, 해당 지식을 활용하여 _작업 우선순위_를 정하거나 모델의 기능에 최적화된 _맞춤형 템플릿_을 만드세요.
-
반복과 검증이 중요합니다. 모델과 프롬프트 엔지니어링 기법은 빠르게 진화하고 있습니다. 도메인 전문가로서, 더 넓은 커뮤니티에는 적용되지 않을 수 있는 특정 응용 프로그램에 대한 다른 컨텍스트나 기준을 가지고 있을 수 있습니다. 프롬프트 엔지니어링 도구 및 기법을 사용하여 프롬프트 구성을 "빠르게 시작"한 다음, 직관과 도메인 전문 지식을 사용하여 결과를 반복하고 검증하세요. 통찰력을 기록하고 다른 사람들이 미래에 더 빠르게 반복할 수 있도록 새로운 기준으로 사용할 수 있는 지식 기반(예: 프롬프트 라이브러리)을 만드세요.
이제 OpenAI와 Azure OpenAI 전문가들이 추천하는 일반적인 모범 사례를 살펴보겠습니다.
| 내용 | 이유 |
|---|---|
| 최신 모델 평가하기 | 새로운 모델 세대는 개선된 기능과 품질을 제공할 가능성이 높지만, 더 높은 비용이 발생할 수도 있습니다. 영향을 평가한 후 마이그레이션 결정을 내리세요. |
| 지시사항과 컨텍스트 분리하기 | 모델/제공자가 지시사항, 주요 및 보조 콘텐츠를 더 명확하게 구분하기 위한 _구분자_를 정의하는지 확인하세요. 이는 모델이 토큰에 더 정확하게 가중치를 부여하는 데 도움이 될 수 있습니다. |
| 구체적이고 명확하게 작성하기 | 원하는 컨텍스트, 결과, 길이, 형식, 스타일 등에 대한 세부 정보를 더 많이 제공하세요. 이는 응답의 품질과 일관성을 모두 향상시킵니다. 재사용 가능한 템플릿에 레시피를 캡처하세요. |
| 설명적이고 예제를 사용하기 | 모델은 "보여주고 말하기" 접근 방식에 더 잘 반응할 수 있습니다. zero-shot 접근 방식으로 시작하여 지시사항만 제공하고(예제는 제공하지 않음), 그런 다음 몇 가지 예제를 제공하여 원하는 출력을 보여주는 few-shot 방식으로 개선하세요. 비유를 사용하세요. |
| 단서를 사용하여 완성을 시작하기 | 모델이 응답을 시작할 수 있도록 몇 가지 선행 단어 또는 구문을 제공하여 원하는 결과로 유도하세요. |
| 반복 강조하기 | 때로는 모델에 대해 지시사항을 반복해야 할 수도 있습니다. 주요 콘텐츠 이전과 이후에 지시사항을 제공하거나, 지시사항과 단서를 함께 사용하세요. 반복하고 검증하여 어떤 것이 가장 효과적인지 확인하세요. |
| 순서가 중요하다 | 모델에 정보를 제공하는 순서는 출력에 영향을 미칠 수 있습니다. 학습 예제에서도 마찬가지입니다. 최근성 편향 때문에 다양한 옵션을 시도하여 가장 효과적인 방법을 찾아보세요. |
| 모델에 "대안" 제공하기 | 모델이 어떤 이유로든 작업을 완료할 수 없는 경우 제공할 수 있는 대체 응답을 제공하세요. 이는 모델이 잘못된 정보나 허구의 응답을 생성할 가능성을 줄일 수 있습니다. |
모든 모범 사례와 마찬가지로, 모델, 작업 및 도메인에 따라 결과는 다를 수 있습니다. 이를 시작점으로 사용하고, 자신에게 가장 적합한 방법을 찾기 위해 반복하세요. 새로운 모델과 도구가 제공될 때마다 프롬프트 엔지니어링 프로세스를 지속적으로 재평가하고, 프로세스 확장성과 응답 품질에 중점을 두세요.
축하합니다! 수업을 끝까지 마쳤습니다! 이제 실제 예제를 통해 이러한 개념과 기법을 테스트해볼 시간입니다!
이번 과제에서는 Jupyter Notebook을 사용하여 대화형으로 연습 문제를 해결할 것입니다. 또한, 자신의 아이디어와 기법을 탐구하기 위해 Notebook에 자체적으로 Markdown 및 코드 셀을 확장할 수 있습니다.
- (추천) GitHub Codespaces 실행
- (대안) 저장소를 로컬 장치에 클론하고 Docker Desktop과 함께 사용
- (대안) 선호하는 Notebook 실행 환경에서 Notebook 열기
- 저장소 루트에 있는
.env.copy파일을.env로 복사하고AZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINT,AZURE_OPENAI_DEPLOYMENT값을 채우세요. 학습 샌드박스 섹션으로 돌아가서 방법을 배우세요.
- 실행 커널을 선택하세요. 옵션 1 또는 2를 사용하는 경우, dev 컨테이너에서 제공하는 기본 Python 3.10.x 커널을 선택하세요.
이제 연습 문제를 실행할 준비가 되었습니다. 여기에는 _정답과 오답_이 없습니다 - 단지 시행착오를 통해 옵션을 탐구하고 특정 모델과 응용 프로그램 도메인에 적합한 방법에 대한 직관을 구축하는 것입니다.
이러한 이유로 이 수업에는 코드 솔루션 세그먼트가 없습니다. 대신, Notebook에는 참조용으로 하나의 예제 출력이 표시된 "내 솔루션:"이라는 제목의 Markdown 셀이 포함되어 있습니다.
다음 중 몇 가지 합리적인 모범 사례를 따르는 좋은 프롬프트는 무엇인가요?
- 빨간 차의 이미지를 보여주세요
- 빨간색 차, Volvo 제조사, 모델 XC90, 절벽 옆에 주차된 해가 지는 이미지를 보여주세요
- 빨간색 차, Volvo 제조사, 모델 XC90의 이미지를 보여주세요
A: 2번, 가장 좋은 프롬프트로 "무엇"에 대한 세부 정보를 제공하며 구체적인 내용을 포함합니다(아무 차가 아니라 특정 제조사와 모델). 또한 전체적인 설정을 설명합니다. 3번은 다음으로 좋은 프롬프트로, 많은 설명을 포함하고 있습니다.
"빨간색 차, Volvo 제조사, 모델 XC90과 "라는 문장을 완성하라는 프롬프트를 사용하여 "단서" 기법을 활용해보세요. 모델이 어떤 응답을 제공하는지 확인하고, 이를 어떻게 개선할 수 있을지 생각해보세요.
프롬프트 엔지니어링의 다양한 개념에 대해 더 배우고 싶으신가요? 지속적인 학습 페이지로 이동하여 이 주제에 대한 다른 훌륭한 리소스를 찾아보세요.
Lesson 5로 이동하여 고급 프롬프트 기법을 살펴보세요!
면책 조항:
이 문서는 AI 번역 서비스 Co-op Translator를 사용하여 번역되었습니다. 정확성을 위해 최선을 다하고 있지만, 자동 번역에는 오류나 부정확성이 포함될 수 있습니다. 원본 문서의 원어 버전이 권위 있는 출처로 간주되어야 합니다. 중요한 정보의 경우, 전문적인 인간 번역을 권장합니다. 이 번역 사용으로 인해 발생하는 오해나 잘못된 해석에 대해 책임지지 않습니다.