Bu modül, üretken yapay zeka modellerinde etkili istemler oluşturmak için temel kavramları ve teknikleri kapsar. Bir LLM'ye yazdığınız istemin şekli de önemlidir. Özenle hazırlanmış bir istem, daha kaliteli yanıtlar alınmasını sağlar. Peki, prompt ve prompt engineering gibi terimler tam olarak ne anlama geliyor? Ve LLM'ye gönderdiğim istem girdisini nasıl geliştirebilirim? Bu bölümde ve bir sonrakinde bu sorulara yanıt arayacağız.
Üretken Yapay Zeka, kullanıcı isteklerine yanıt olarak yeni içerikler (ör. metin, görsel, ses, kod vb.) oluşturabilir. Bunu, doğal dil ve kod kullanımı için eğitilmiş OpenAI'nin GPT ("Generative Pre-trained Transformer") serisi gibi Büyük Dil Modelleri ile başarır.
Kullanıcılar artık bu modellere sohbet gibi tanıdık yöntemlerle, herhangi bir teknik bilgiye veya eğitime ihtiyaç duymadan erişebiliyor. Modeller istem tabanlı çalışır - kullanıcılar bir metin girişi (prompt) gönderir ve yapay zekadan bir yanıt (tamamlama) alır. Ardından, "yapay zekayla sohbet" ederek, çoklu adımlı konuşmalarla, istemlerini istedikleri yanıtı alana kadar geliştirebilirler.
"İstemler" artık üretken yapay zeka uygulamaları için birincil programlama arayüzü haline geldi; modellere ne yapacaklarını söyler ve dönen yanıtların kalitesini etkiler. "Prompt Engineering" ise, ölçekli ve kaliteli yanıtlar almak için istemlerin tasarımı ve optimizasyonuna odaklanan hızla büyüyen bir çalışma alanıdır.
Bu derste, Prompt Engineering'in ne olduğunu, neden önemli olduğunu ve belirli bir model ve uygulama amacı için daha etkili istemleri nasıl oluşturabileceğimizi öğreneceğiz. Prompt engineering için temel kavramları ve en iyi uygulamaları anlayacağız - ve bu kavramların gerçek örneklerde nasıl uygulandığını görebileceğimiz etkileşimli bir Jupyter Notebooks "oyun alanı" ortamını tanıyacağız.
Bu dersin sonunda şunları yapabileceğiz:
- Prompt engineering'in ne olduğunu ve neden önemli olduğunu açıklayabilmek.
- Bir istemin bileşenlerini ve nasıl kullanıldıklarını tanımlayabilmek.
- Prompt engineering için en iyi uygulamaları ve teknikleri öğrenmek.
- Öğrenilen teknikleri, bir OpenAI uç noktası kullanarak gerçek örneklerde uygulamak.
Prompt Engineering: Yapay zeka modellerini istenen çıktılara yönlendirmek için girdileri tasarlama ve iyileştirme uygulamasıdır. Tokenization: Metni, modelin anlayıp işleyebileceği daha küçük birimlere (tokenlara) dönüştürme sürecidir. Instruction-Tuned LLMs: Belirli talimatlarla yanıt doğruluğu ve alaka düzeyi artırılmış şekilde ince ayar yapılmış Büyük Dil Modelleridir (LLM).
Prompt engineering şu anda bilimden çok bir sanattır. Bu konuda sezgimizi geliştirmek için en iyi yol, daha fazla pratik yapmak ve uygulama alanı uzmanlığını önerilen teknikler ve modele özel optimizasyonlarla birleştiren deneme-yanılma yaklaşımını benimsemektir.
Bu derse eşlik eden Jupyter Notebook, öğrendiklerinizi hemen uygulayabileceğiniz bir oyun alanı sunar - ister ilerledikçe ister bölüm sonundaki kod meydan okuması kapsamında. Alıştırmaları çalıştırmak için şunlara ihtiyacınız olacak:
- Bir Azure OpenAI API anahtarı - dağıtılmış bir LLM için servis uç noktası.
- Bir Python Çalışma Zamanı - Notebook'un çalıştırılabileceği bir ortam.
- Yerel Ortam Değişkenleri - hazırlık için şimdi KURULUM adımlarını tamamlayın.
Notebook, başlangıç alıştırmalarıyla gelir - ancak daha fazla örnek veya fikir denemek ve istem tasarımı konusunda sezginizi geliştirmek için kendi Markdown (açıklama) ve Kod (prompt istekleri) bölümlerinizi eklemeniz teşvik edilir.
Derse başlamadan önce neleri kapsadığını genel hatlarıyla görmek ister misiniz? Bu illüstrasyonlu rehbere göz atın; ana başlıkları ve her birinde düşünmeniz gereken temel çıkarımları özetliyor. Dersin yol haritası, temel kavramları ve zorlukları anlamaktan başlayıp, bunları ilgili prompt engineering teknikleri ve en iyi uygulamalarla ele almaya kadar uzanıyor. Bu rehberdeki "İleri Teknikler" bölümü, bu müfredatın bir sonraki bölümünde ele alınan içeriğe atıfta bulunur.
Şimdi, bu konunun eğitime yapay zeka inovasyonu getirme misyonumuzla nasıl ilişkili olduğundan bahsedelim. Kişiselleştirilmiş öğrenme için yapay zeka destekli uygulamalar geliştirmek istiyoruz - peki uygulamamızın farklı kullanıcıları istemleri nasıl "tasarlayabilir", düşünelim:
- Yöneticiler, yapay zekadan müfredat verilerini analiz ederek kapsama alanındaki boşlukları tespit etmesini isteyebilir. Yapay zeka sonuçları özetleyebilir veya kodla görselleştirebilir.
- Eğitmenler, yapay zekadan belirli bir hedef kitle ve konu için ders planı oluşturmasını isteyebilir. Yapay zeka, istenen formatta kişiselleştirilmiş bir plan hazırlayabilir.
- Öğrenciler, yapay zekadan zorlandıkları bir konuda kendilerine özel ders vermesini isteyebilir. Yapay zeka, seviyelerine uygun dersler, ipuçları ve örneklerle öğrencilere rehberlik edebilir.
Bunlar sadece buzdağının görünen kısmı. Prompts For Education - eğitim uzmanları tarafından hazırlanmış açık kaynaklı bir istem kütüphanesine göz atın - olasılıkların ne kadar geniş olduğunu göreceksiniz! Bu istemlerden bazılarını oyun alanında veya OpenAI Playground'da çalıştırarak neler olacağını deneyin!
Bu derse, Prompt Engineering'i belirli bir uygulama amacı ve model için tutarlı ve kaliteli yanıtlar (tamamlamalar) almak üzere metin girdilerini (promptları) tasarlama ve optimize etme süreci olarak tanımlayarak başladık. Bunu iki adımlı bir süreç olarak düşünebiliriz:
- Belirli bir model ve amaç için ilk istemi tasarlamak
- Yanıtın kalitesini artırmak için istemi tekrarlı olarak iyileştirmek
Bu, en iyi sonuçları almak için kullanıcı sezgisi ve çabası gerektiren bir deneme-yanılma sürecidir. Peki neden önemlidir? Bu soruyu yanıtlamak için önce üç kavramı anlamamız gerekir:
- Tokenization = modelin istemi nasıl "gördüğü"
- Base LLMs = temel modelin bir istemi nasıl "işlediği"
- Instruction-Tuned LLMs = modelin artık "görevleri" nasıl görebildiği
Bir LLM, istemleri token dizisi olarak görür ve farklı modeller (veya model sürümleri) aynı istemi farklı şekillerde tokenlara ayırabilir. LLM'ler tokenlar üzerinde eğitildiğinden (ham metin üzerinde değil), istemlerin nasıl tokenlara ayrıldığı, üretilen yanıtın kalitesini doğrudan etkiler.
Tokenization'ın nasıl çalıştığına dair sezgi kazanmak için aşağıda gösterilen OpenAI Tokenizer gibi araçları deneyin. İsteminizi kopyalayın - ve bunun tokenlara nasıl dönüştüğüne bakın, boşluk karakterleri ve noktalama işaretlerinin nasıl ele alındığına dikkat edin. Bu örneğin eski bir LLM'yi (GPT-3) gösterdiğini unutmayın - daha yeni bir modelle denediğinizde farklı bir sonuç alabilirsiniz.
Bir istem tokenlara ayrıldıktan sonra, "Base LLM" (veya Temel model) ana işlevi, o dizideki bir sonraki tokenı tahmin etmektir. LLM'ler devasa metin veri setleriyle eğitildiğinden, tokenlar arasındaki istatistiksel ilişkileri iyi bilir ve bu tahmini belirli bir güvenle yapabilir. Ancak, istemdeki veya tokenlardaki kelimelerin anlamını bilmezler; sadece bir sonraki tahminleriyle "tamamlayabilecekleri" bir desen görürler. Kullanıcı müdahalesiyle veya önceden belirlenmiş bir koşulla durdurulana kadar diziyi tahmin etmeye devam edebilirler.
Prompt tabanlı tamamlamanın nasıl çalıştığını görmek ister misiniz? Yukarıdaki istemi Azure OpenAI Studio Chat Playground'a varsayılan ayarlarla girin. Sistem, istemleri bilgi talebi olarak ele alacak şekilde yapılandırılmıştır - bu nedenle bu bağlamı karşılayan bir tamamlama görmelisiniz.
Peki ya kullanıcı, belirli bir kriteri veya görev amacını karşılayan bir şey görmek isterse? İşte burada instruction-tuned LLM'ler devreye giriyor.
Instruction Tuned LLM, temel modelle başlar ve örnekler veya giriş/çıkış çiftleriyle (ör. çok adımlı "mesajlar") ince ayar yapılır; bu çiftler net talimatlar içerebilir - ve yapay zekadan gelen yanıt bu talimatı izlemeye çalışır.
Bu, modele talimatları takip etmeyi ve geri bildirimden öğrenmeyi öğretebilen İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme (RLHF) gibi teknikler kullanır; böylece pratik uygulamalara daha uygun ve kullanıcı hedefleriyle daha alakalı yanıtlar üretir.
Hadi deneyelim - yukarıdaki istemi tekrar kullanın, ancak şimdi sistem mesajını şu talimatı içerecek şekilde değiştirin:
Size verilen içeriği ikinci sınıf bir öğrenci için özetleyin. Sonucu bir paragraf ve 3-5 madde halinde tutun.
Sonucun artık istenen hedef ve formata göre ayarlandığını görebiliyor musunuz? Bir eğitmen bu yanıtı doğrudan o sınıf için slaytlarında kullanabilir.
Artık istemlerin LLM'ler tarafından nasıl işlendiğini bildiğimize göre, neden prompt engineering'e ihtiyacımız olduğundan bahsedelim. Bunun nedeni, mevcut LLM'lerin, güvenilir ve tutarlı tamamlamalar elde etmeyi, istemin oluşturulması ve optimize edilmesine çaba harcamadan daha zor hale getiren bir dizi zorluk barındırmasıdır. Örneğin:
-
Model yanıtları rastlantısaldır. Aynı istem, farklı modeller veya model sürümleriyle muhtemelen farklı yanıtlar üretecektir. Hatta aynı modelle farklı zamanlarda bile farklı sonuçlar alınabilir. Prompt engineering teknikleri, daha iyi sınırlar sağlayarak bu varyasyonları en aza indirmemize yardımcı olabilir.
-
Modeller yanıt uydurabilir. Modeller, büyük ama sonlu veri setleriyle önceden eğitildiğinden, bu eğitim kapsamı dışındaki kavramlar hakkında bilgiye sahip değildir. Sonuç olarak, yanlış, hayali veya bilinen gerçeklerle doğrudan çelişen tamamlamalar üretebilirler. Prompt engineering teknikleri, kullanıcıların bu tür uydurmaları tespit edip azaltmasına yardımcı olur; örneğin, yapay zekadan kaynak veya gerekçe istemek gibi.
-
Modellerin yetenekleri değişkenlik gösterir. Daha yeni modeller veya model nesilleri daha zengin yeteneklere sahip olur, ancak maliyet ve karmaşıklık açısından kendilerine özgü farklılıklar ve ödünler de getirir. Prompt engineering, farklılıkları soyutlayan ve modele özel gereksinimlere ölçeklenebilir, sorunsuz şekilde uyum sağlayan en iyi uygulamalar ve iş akışları geliştirmemize yardımcı olabilir.
Bunu OpenAI veya Azure OpenAI Playground'da uygulamalı olarak görelim:
- Aynı istemi farklı LLM dağıtımlarıyla kullanın (ör. OpenAI, Azure OpenAI, Hugging Face) - farklılıkları görebildiniz mi?
- Aynı istemi aynı LLM dağıtımıyla tekrar tekrar kullanın (ör. Azure OpenAI playground) - bu varyasyonlar nasıl farklılaştı?
Bu derste, LLM'lerin eğitimlerindeki sınırlamalar veya diğer kısıtlamalar nedeniyle bazen gerçeğe aykırı bilgi üretmesi olgusuna "uydurma" diyoruz. Bunu popüler makalelerde veya araştırma makalelerinde "halüsinasyon" olarak da duymuş olabilirsiniz. Ancak, makine kaynaklı bir sonuca insan benzeri bir özellik atfetmemek için "uydurma" terimini kullanmanızı öneriyoruz. Bu, Sorumlu Yapay Zeka yönergelerini terminoloji açısından da destekler; bazı bağlamlarda saldırgan veya kapsayıcı olmayan terimler de böylece kaldırılmış olur.
Uydurmaların nasıl çalıştığını görmek ister misiniz? Yapay zekaya, eğitim veri setinde bulunmayan hayali bir konu için içerik üretmesini isteyen bir istem düşünün. Örneğin - ben şu istemi denedim:
İpucu: 2076 Mars Savaşı hakkında bir ders planı oluşturun.
Öğrenciler, 2076 yılında Mars'ta gerçekleşen savaşı, nedenlerini, sonuçlarını ve insanlık üzerindeki etkilerini analiz edecekler.
- Mars Savaşı'nın arka planını ve nedenlerini açıklayabilmek
- Savaşın önemli olaylarını sıralayabilmek
- Savaşın sonuçlarını ve Mars'taki yaşam üzerindeki etkilerini değerlendirebilmek
- Farklı bakış açılarını tartışabilmek
- 2076 Mars Savaşı kronolojisi
- Haritalar ve görseller
- Tartışma soruları
- Video ve makale kaynakları
- Öğretmen, Mars Savaşı'nın kısa bir özetini sunar.
- Öğrencilere Mars'ta neden bir savaş çıkmış olabileceği sorulur.
- Mars'taki koloniler arasındaki gerilimler ve kaynak sıkıntısı tartışılır.
- Savaşın başlamasına yol açan olaylar anlatılır.
- Önemli savaşlar, stratejiler ve liderler üzerinde durulur.
- Haritalar ve görsellerle savaşın gelişimi gösterilir.
- Savaşın Mars'taki toplumsal ve politik yapıya etkileri incelenir.
- Dünya ile Mars arasındaki ilişkilerdeki değişiklikler tartışılır.
- Öğrenciler, savaşın kaçınılmaz olup olmadığını tartışır.
- Farklı gruplar, savaştan sonra Mars'ta barışın nasıl sağlanabileceği üzerine fikirler üretir.
- Kısa bir yazılı sınav veya sunum ile öğrencilerin konuyu ne kadar anladıkları ölçülür.
- Grup tartışmalarına katılım değerlendirilir.
- 2076 Mars Savaşı ile ilgili makaleler ve belgeseller
- Mars kolonilerinin tarihçesi
- Savaş sonrası Mars'ta yaşam üzerine analizler
Yorum: Bu ders planı, öğrencilerin 2076 Mars Savaşı'nı kapsamlı bir şekilde anlamalarını ve farklı bakış açıları geliştirmelerini amaçlamaktadır. Bir web araması, Mars savaşlarıyla ilgili kurgusal anlatımların (örneğin, televizyon dizileri veya kitaplar) olduğunu gösterdi – fakat 2076 yılında geçen bir hikaye yok. Mantık da bize 2076'nın gelecekte olduğunu ve dolayısıyla gerçek bir olayla ilişkilendirilemeyeceğini söylüyor.
Peki bu istemi farklı LLM sağlayıcılarıyla çalıştırdığımızda ne oluyor?
Yanıt 1: OpenAI Playground (GPT-35)
Yanıt 2: Azure OpenAI Playground (GPT-35)
Yanıt 3: : Hugging Face Chat Playground (LLama-2)
Beklendiği gibi, her model (veya model sürümü) stokastik davranış ve model yeteneklerindeki farklılıklar sayesinde biraz farklı yanıtlar üretiyor. Örneğin, bir model 8. sınıf seviyesindeki bir kitleyi hedeflerken, diğeri lise öğrencisi varsayabiliyor. Ancak üç model de, bilgisi olmayan bir kullanıcıyı olayın gerçek olduğuna ikna edebilecek yanıtlar üretti.
Metaprompting ve sıcaklık ayarı gibi istem mühendisliği teknikleri, modelin uydurma yanıtlarını bir ölçüde azaltabilir. Yeni istem mühendisliği mimari yaklaşımları ise, bu tür etkileri azaltmak veya önlemek için yeni araç ve teknikleri istem akışına sorunsuzca entegre ediyor.
Bu bölümü, istem mühendisliğinin gerçek dünyadaki çözümlerde nasıl kullanıldığını gösteren bir Vaka Çalışması ile tamamlayalım: GitHub Copilot.
GitHub Copilot, sizin "Yapay Zeka Eş Programcınız"dır – metin istemlerini kod tamamlama önerilerine dönüştürür ve geliştirme ortamınıza (örneğin, Visual Studio Code) entegre edilerek kesintisiz bir kullanıcı deneyimi sunar. Aşağıdaki blog serisinde belirtildiği gibi, en erken sürüm OpenAI Codex modeline dayanıyordu – mühendisler kısa sürede modeli ince ayar yapma ve daha iyi istem mühendisliği teknikleri geliştirme ihtiyacını fark etti, böylece kod kalitesini artırdılar. Temmuz ayında, Codex'in ötesine geçen geliştirilmiş bir yapay zeka modeliyle daha hızlı öneriler sunmaya başladılar.
Öğrenme yolculuklarını takip etmek için gönderileri sırayla okuyun.
- Mayıs 2023 | GitHub Copilot Kodunuzu Daha İyi Anlamaya Başlıyor
- Mayıs 2023 | GitHub'ın İçinden: GitHub Copilot'ın Arkasındaki LLM'lerle Çalışmak.
- Haziran 2023 | GitHub Copilot için Daha İyi İstemler Nasıl Yazılır.
- Temmuz 2023 | .. GitHub Copilot, geliştirilmiş yapay zeka modeliyle Codex'in ötesine geçiyor
- Temmuz 2023 | Geliştiriciler için İstem Mühendisliği ve LLM Rehberi
- Eylül 2023 | Kurumsal LLM Uygulaması Nasıl Kurulur: GitHub Copilot'tan Dersler
Ayrıca, bu modellerin ve tekniklerin gerçek dünya uygulamalarında nasıl kullanıldığını gösteren şu gönderi gibi daha fazla yazı için Mühendislik blogunu inceleyebilirsiniz.
İstem mühendisliğinin neden önemli olduğunu gördük – şimdi de istemlerin nasıl oluşturulduğunu anlayalım ki, daha etkili istem tasarımı için farklı teknikleri değerlendirebilelim.
Önce temel istemle başlayalım: modele başka bir bağlam olmadan gönderilen bir metin girişi. Örneğin – ABD milli marşının ilk birkaç kelimesini OpenAI Completion API'ye gönderdiğimizde, model yanıtı anında tamamlar ve sonraki satırları üretir; bu da temel tahmin davranışını gösterir.
| İstem (Girdi) | Tamamlama (Çıktı) |
|---|---|
| Oh say can you see | Görünüşe göre ABD'nin milli marşı "The Star-Spangled Banner"ın sözlerine başladınız. Tam sözleri ise ... |
Şimdi temel isteme bağlam ve talimat ekleyelim. Chat Completion API ile, karmaşık bir istemi mesajlar koleksiyonu olarak oluşturabiliyoruz:
- Girdi/çıktı çiftleriyle kullanıcı girişi ve asistan yanıtı.
- Asistanın davranışını veya kişiliğini belirleyen sistem mesajı.
Artık istek aşağıdaki formda; tokenizasyon bağlam ve konuşmadan ilgili bilgileri etkili şekilde yakalıyor. Sistem bağlamını değiştirmek, sağlanan kullanıcı girdileri kadar tamamlamaların kalitesini etkileyebiliyor.
response = openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Who won the world series in 2020?"},
{"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
{"role": "user", "content": "Where was it played?"}
]
)Yukarıdaki örneklerde, kullanıcı istemi bilgi talebi olarak yorumlanabilecek basit bir metin sorgusuydu. Talimat istemlerinde ise, bu metni bir görevi daha ayrıntılı şekilde belirtmek için kullanabiliriz ve yapay zekaya daha iyi rehberlik sağlarız. Örneğin:
| İstem (Girdi) | Tamamlama (Çıktı) | Talimat Türü |
|---|---|---|
| İç Savaş'ın bir tanımını yazın | basit bir paragraf döndü | Basit |
| İç Savaş'ın bir tanımını yazın. Önemli tarihleri ve olayları belirtin ve bunların önemini açıklayın | paragraf ve ardından önemli olayların tarihleriyle açıklamalar içeren bir liste döndü | Karmaşık |
| İç Savaş'ın bir tanımını 1 paragrafta yazın. 3 maddeyle önemli tarihleri ve anlamlarını belirtin. 3 maddeyle de önemli tarihi figürleri ve katkılarını yazın. Çıktıyı bir JSON dosyası olarak döndürün | daha kapsamlı detayları bir metin kutusunda, JSON formatında döndürür; dosyaya kopyalayıp doğrulayabilirsiniz | Karmaşık. Formatlı. |
Yukarıdaki örneklerde, istem hâlâ oldukça açık uçluydu ve LLM'nin hangi önceden eğitilmiş veri setinin ilgili olduğuna karar vermesine izin veriyordu. Birincil içerik tasarım deseninde ise, giriş metni iki bölüme ayrılır:
- bir talimat (eylem)
- ilgili içerik (eylemi etkileyen)
Örneğin, talimat "bunu 2 cümlede özetle" olabilir.
| İstem (Girdi) | Tamamlama (Çıktı) |
|---|---|
| Jüpiter, Güneş'ten beşinci ve Güneş Sistemi'nin en büyük gezegenidir. Bir gaz devidir ve kütlesi Güneş'in binde biri, fakat Güneş Sistemi'ndeki diğer tüm gezegenlerin toplamının iki buçuk katıdır. Jüpiter, çıplak gözle gece gökyüzünde görülebilen en parlak nesnelerden biridir ve kayıtlardan önceki dönemlerden beri eski uygarlıklar tarafından bilinmektedir. Adını Roma tanrısı Jüpiter'den alır.[19] Dünya'dan bakıldığında, Jüpiter'in yansıtılan ışığı gözle görülür gölgeler oluşturacak kadar parlak olabilir,[20] ve ortalama olarak Ay ve Venüs'ten sonra gece gökyüzündeki en parlak üçüncü doğal nesnedir. Bunu 2 kısa cümlede özetle |
Jüpiter, Güneş'ten beşinci gezegen olup Güneş Sistemi'nin en büyüğüdür ve gece gökyüzünde en parlak nesnelerden biri olarak bilinir. Roma tanrısı Jüpiter'in adını taşıyan bu gaz devi, diğer tüm gezegenlerin toplamının iki buçuk katı kütleye sahiptir. |
Birincil içerik bölümü, daha etkili talimatlar vermek için çeşitli şekillerde kullanılabilir:
- Örnekler – modele ne yapması gerektiğini açık bir talimatla söylemek yerine, ne yapılması gerektiğine dair örnekler verip, modelin kalıbı çıkarmasını sağlayabilirsiniz.
- İpuçları – talimatın ardından, tamamlamayı yönlendiren bir "ipucu" ekleyerek modeli daha ilgili yanıtlar vermeye yönlendirebilirsiniz.
- Şablonlar – belirli kullanım senaryoları için veriyle özelleştirilebilen, değişkenler içeren tekrar kullanılabilir 'reçeteler'dir.
Bunları uygulamada görelim.
Bu yaklaşımda, birincil içeriği kullanarak modele istenen çıktının örneklerini "besler" ve modelin istenen çıktının kalıbını çıkarmasını sağlarsınız. Verilen örnek sayısına göre sıfır-atış, tek-atış, birkaç-atış istemleme gibi türler oluşur.
İstem artık üç bileşenden oluşur:
- Bir görev tanımı
- İstenen çıktının birkaç örneği
- Yeni bir örneğin başlangıcı (bu da örtük bir görev tanımı olur)
| Öğrenme Türü | İstem (Girdi) | Tamamlama (Çıktı) |
|---|---|---|
| Sıfır-atış | "The Sun is Shining". İspanyolcaya çevir | "El Sol está brillando". |
| Tek-atış | "The Sun is Shining" => ""El Sol está brillando". "It's a Cold and Windy Day" => |
"Es un día frío y ventoso". |
| Birkaç-atış | Oyuncu üsleri koştu => Beyzbol Oyuncu bir as vurdu => Tenis Oyuncu altı sayı yaptı => Kriket Oyuncu smaç yaptı => |
Basketbol |
Sıfır-atış istemlemede açık talimat ("İspanyolcaya çevir") vermemiz gerekirken, tek-atış örneğinde bu talimat model tarafından çıkarılıyor. Birkaç-atış örneği ise, daha fazla örnek ekleyerek modelin ek talimat olmadan daha doğru çıkarımlar yapmasını sağlıyor.
Birincil içeriği kullanmanın bir diğer yolu da ipuçları vermektir. Burada, modelin istenen yanıt formatına uygun şekilde devam etmesini sağlamak için, yanıtın başlangıcına bir parça ekleyerek modeli yönlendiriyoruz. Model, bu ipucunu alıp aynı şekilde devam ediyor.
| İpucu Sayısı | İstem (Girdi) | Tamamlama (Çıktı) |
|---|---|---|
| 0 | Jüpiter, Güneş'ten beşinci ve Güneş Sistemi'nin en büyük gezegenidir. Bir gaz devidir ve kütlesi Güneş'in binde biri, fakat Güneş Sistemi'ndeki diğer tüm gezegenlerin toplamının iki buçuk katıdır. Jüpiter, çıplak gözle gece gökyüzünde görülebilen en parlak nesnelerden biridir ve kayıtlardan önceki dönemlerden beri eski uygarlıklar tarafından bilinmektedir. |
Bunu Özetle | Jüpiter, Güneş Sistemi'ndeki en büyük gezegen ve Güneş'e en yakın beşinci gezegendir. Kütlesi Güneş'in binde biri kadar olan bir gaz devidir, ancak diğer tüm gezegenlerin toplamından daha ağırdır. Antik uygarlıklar Jüpiter'i uzun zamandır biliyor ve gece gökyüzünde kolayca görülebiliyor. |
| 1 | Jüpiter, Güneş'ten beşinci ve Güneş Sistemi'nin en büyük gezegenidir. Kütlesi Güneş'in binde biri kadar olan bir gaz devidir, ancak Güneş Sistemi'ndeki diğer tüm gezegenlerin toplamının iki buçuk katıdır. Jüpiter, gece gökyüzünde çıplak gözle görülebilen en parlak cisimlerden biridir ve yazılı tarihten önceki antik uygarlıklar tarafından bilinmektedir.
Bunu Özetle
Öğrendiğimiz şey şu ki, Jüpiter | Güneş'ten beşinci ve Güneş Sistemi'nin en büyük gezegenidir. Kütlesi Güneş'in binde biri kadar olan bir gaz devidir, ancak diğer tüm gezegenlerin toplamının iki buçuk katıdır. Çıplak gözle kolayca görülebilir ve antik çağlardan beri bilinmektedir. |
| 2 | Jüpiter, Güneş'ten beşinci ve Güneş Sistemi'nin en büyük gezegenidir. Kütlesi Güneş'in binde biri kadar olan bir gaz devidir, ancak Güneş Sistemi'ndeki diğer tüm gezegenlerin toplamının iki buçuk katıdır. Jüpiter, gece gökyüzünde çıplak gözle görülebilen en parlak cisimlerden biridir ve yazılı tarihten önceki antik uygarlıklar tarafından bilinmektedir.
Bunu Özetle
Öğrendiğimiz En İyi 3 Gerçek: | 1. Jüpiter, Güneş'ten beşinci ve Güneş Sistemi'nin en büyük gezegenidir.
2. Kütlesi Güneş'in binde biri kadar olan bir gaz devidir...
3. Jüpiter, antik çağlardan beri çıplak gözle görülebilmektedir ... |
| | | |
Bir istem şablonu, önceden tanımlanmış bir istem tarifidir ve gerektiğinde saklanıp tekrar kullanılabilir, böylece büyük ölçekte daha tutarlı kullanıcı deneyimleri sağlanır. En basit haliyle, OpenAI'den bu örnekteki gibi hem etkileşimli istem bileşenlerini (kullanıcı ve sistem mesajları) hem de API tabanlı istek formatını içeren bir dizi istem örneğidir - tekrar kullanımı destekler.
Daha karmaşık bir formda, LangChain'den bu örnekteki gibi, yer tutucular içerir ve bunlar çeşitli kaynaklardan (kullanıcı girdisi, sistem bağlamı, harici veri kaynakları vb.) alınan verilerle değiştirilebilir ve böylece istem dinamik olarak oluşturulabilir. Bu sayede, programlı olarak büyük ölçekte tutarlı kullanıcı deneyimleri sağlamak için tekrar kullanılabilir istemlerden oluşan bir kütüphane oluşturabiliriz.
Son olarak, şablonların asıl değeri, dikey uygulama alanları için istem kütüphaneleri oluşturma ve yayımlama yeteneğinde yatar - burada istem şablonu artık uygulamaya özgü bağlamı veya örnekleri yansıtacak şekilde optimize edilmiştir ve yanıtları hedeflenen kullanıcı kitlesi için daha alakalı ve doğru hale getirir. Prompts For Edu deposu bu yaklaşımın harika bir örneğidir; eğitim alanı için ders planlama, müfredat tasarımı, öğrenci rehberliği gibi ana hedeflere vurgu yaparak bir istem kütüphanesi derler.
İstem oluşturmayı bir talimat (görev) ve bir hedef (birincil içerik) olarak düşünürsek, ikincil içerik ise çıktıyı bir şekilde etkilemek için sağladığımız ek bağlam gibidir. Bu, modelin yanıtını istenen kullanıcı hedeflerine veya beklentilerine uygun hale getirmesine yardımcı olabilecek ayar parametreleri, biçimlendirme talimatları, konu taksonomileri vb. olabilir.
Örneğin: Müfredattaki tüm mevcut dersler hakkında kapsamlı meta veriler (isim, açıklama, seviye, meta etiketler, eğitmen vb.) içeren bir ders kataloğu verildiğinde:
- "2023 Güz dönemi için ders kataloğunu özetle" şeklinde bir talimat tanımlayabiliriz
- İstenen çıktının birkaç örneğini birincil içerik olarak verebiliriz
- İlgi çekici ilk 5 "etiketi" belirlemek için ikincil içeriği kullanabiliriz.
Artık model, birkaç örnekle gösterilen biçimde bir özet sunabilir - ancak bir sonuçta birden fazla etiket varsa, ikincil içerikte belirlenen 5 etikete öncelik verebilir.
Artık istemlerin nasıl oluşturulabileceğini biliyoruz, onları en iyi uygulamaları yansıtacak şekilde nasıl tasarlayabileceğimizi düşünmeye başlayabiliriz. Bunu iki bölümde ele alabiliriz - doğru zihniyete sahip olmak ve doğru teknikleri uygulamak.
İstem mühendisliği deneme-yanılma sürecidir, bu yüzden üç temel rehber faktörü aklınızda bulundurun:
-
Alan Bilgisi Önemlidir. Yanıtların doğruluğu ve alaka düzeyi, uygulamanın veya kullanıcının faaliyet gösterdiği alana bağlıdır. Sezgilerinizi ve alan uzmanlığınızı kullanarak teknikleri daha da özelleştirin. Örneğin, sistem istemlerinizde alana özgü kişilikler tanımlayın veya kullanıcı istemlerinizde alana özgü şablonlar kullanın. Alanla ilgili bağlamları yansıtan ikincil içerik sağlayın veya modeli tanıdık kullanım kalıplarına yönlendirmek için alana özgü ipuçları ve örnekler kullanın.
-
Model Bilgisi Önemlidir. Modellerin doğası gereği rastlantısal olduğunu biliyoruz. Ancak model uygulamaları, kullandıkları eğitim veri seti (önceden eğitilmiş bilgi), sundukları yetenekler (ör. API veya SDK aracılığıyla) ve optimize edildikleri içerik türü (ör. kod, görsel, metin) açısından da farklılık gösterebilir. Kullandığınız modelin güçlü ve zayıf yönlerini anlayın ve bu bilgiyi görevleri önceliklendirmek veya modelin yeteneklerine göre optimize edilmiş özelleştirilmiş şablonlar oluşturmak için kullanın.
-
Yineleme ve Doğrulama Önemlidir. Modeller hızla gelişiyor, istem mühendisliği teknikleri de öyle. Bir alan uzmanı olarak, sizin özel uygulamanıza özgü başka bağlamlar veya kriterleriniz olabilir ve bunlar daha geniş topluluğa uymayabilir. İstem mühendisliği araç ve tekniklerini kullanarak istem oluşturmayı "hızlı başlatın", ardından kendi sezginiz ve alan uzmanlığınızla sonuçları yineleyin ve doğrulayın. Gözlemlerinizi kaydedin ve başkalarının gelecekte daha hızlı yineleme yapabilmesi için kullanılabilecek bir bilgi tabanı (ör. istem kütüphaneleri) oluşturun.
Şimdi OpenAI ve Azure OpenAI uygulayıcıları tarafından önerilen yaygın en iyi uygulamalara bakalım.
| Ne | Neden |
|---|---|
| En yeni modelleri değerlendirin. | Yeni model nesilleri muhtemelen geliştirilmiş özelliklere ve kaliteye sahiptir - ancak daha yüksek maliyetlere de yol açabilir. Etkilerini değerlendirin, ardından geçiş kararları verin. |
| Talimatları ve bağlamı ayırın | Modelinizin/sağlayıcınızın, talimatları, birincil ve ikincil içeriği daha net ayırmak için sınırlayıcılar tanımlayıp tanımlamadığını kontrol edin. Bu, modellerin belirteçlere daha doğru ağırlık vermesine yardımcı olabilir. |
| Spesifik ve net olun | İstenen bağlam, sonuç, uzunluk, biçim, stil vb. hakkında daha fazla ayrıntı verin. Bu, yanıtların hem kalitesini hem de tutarlılığını artıracaktır. Tarifleri tekrar kullanılabilir şablonlarda toplayın. |
| Açıklayıcı olun, örnekler kullanın | Modeller "göster ve anlat" yaklaşımına daha iyi yanıt verebilir. Bir sıfır atış yaklaşımıyla başlayın (talimat verin ama örnek vermeyin), ardından birkaç atış ile iyileştirin, istenen çıktının birkaç örneğini verin. Benzerliklerden yararlanın. |
| Tamamlamaları başlatmak için ipuçları kullanın | Yanıtı başlatması için modele bazı öncü kelime veya ifadeler vererek istenen sonuca yönlendirin. |
| Tekrar Vurgulayın | Bazen modele kendinizi tekrar etmeniz gerekebilir. Birincil içerikten önce ve sonra talimat verin, bir talimat ve bir ipucu kullanın, vb. Ne işe yaradığını görmek için yineleyin ve doğrulayın. |
| Sıra Önemlidir | Bilgiyi modele sunma sırası, öğrenme örneklerinde bile, yakınlık etkisi nedeniyle çıktıyı etkileyebilir. En iyi sonucu görmek için farklı seçenekler deneyin. |
| Modele bir “çıkış” verin | Modele, herhangi bir nedenle görevi tamamlayamazsa sunabileceği bir yedek tamamlama yanıtı verin. Bu, modelin yanlış veya uydurma yanıtlar üretme olasılığını azaltabilir. |
Her en iyi uygulamada olduğu gibi, model, görev ve alana göre sonuçlarınız değişebilir. Bunları bir başlangıç noktası olarak kullanın ve sizin için en iyi olanı bulmak için yineleyin. Yeni modeller ve araçlar kullanıma sunuldukça, istem mühendisliği sürecinizi sürekli olarak yeniden değerlendirin; ölçeklenebilirlik ve yanıt kalitesine odaklanın.
Tebrikler! Dersin sonuna geldiniz! Şimdi bu kavram ve tekniklerden bazılarını gerçek örneklerle test etme zamanı!
Ödevimiz için, etkileşimli olarak tamamlayabileceğiniz alıştırmalar içeren bir Jupyter Notebook kullanacağız. Ayrıca, kendi fikir ve tekniklerinizi keşfetmek için Notebook'a kendi Markdown ve Kod hücrelerinizi de ekleyebilirsiniz.
- (Tavsiye edilir) GitHub Codespaces'i başlatın
- (Alternatif olarak) Repoyu yerel cihazınıza klonlayın ve Docker Desktop ile kullanın
- (Alternatif olarak) Notebook'u tercih ettiğiniz Notebook çalışma ortamında açın.
- Repo kökündeki
.env.copydosyasını.envolarak kopyalayın veAZURE_OPENAI_API_KEY,AZURE_OPENAI_ENDPOINTveAZURE_OPENAI_DEPLOYMENTdeğerlerini doldurun. Nasıl yapılacağını öğrenmek için Öğrenme Alanı bölümüne geri dönün.
- Çalışma zamanı çekirdeğini seçin. Seçenek 1 veya 2'yi kullanıyorsanız, geliştirici konteynerinin sunduğu varsayılan Python 3.10.x çekirdeğini seçmeniz yeterlidir.
Alıştırmaları çalıştırmaya hazırsınız. Burada doğru veya yanlış cevaplar yoktur - sadece deneme-yanılma yoluyla seçenekleri keşfetmek ve belirli bir model ve uygulama alanı için neyin işe yaradığını anlamak amaçlanır.
Bu nedenle bu derste Kod Çözümü bölümleri yoktur. Bunun yerine, Notebook'ta "Çözümüm:" başlıklı Markdown hücreleri olacak ve referans için örnek bir çıktı gösterecek.
Aşağıdakilerden hangisi makul en iyi uygulamaları takip eden iyi bir istemdir?
- Bana kırmızı bir araba resmi göster
- Bana Volvo marka, XC90 model kırmızı bir arabanın, bir uçurumun kenarında gün batımında park etmiş bir resmini göster
- Bana Volvo marka, XC90 model kırmızı bir araba resmi göster
Cevap: 2, en iyi istemdir çünkü "ne" istediğini belirtir ve ayrıntıya girer (sadece herhangi bir araba değil, belirli bir marka ve model) ve ayrıca genel ortamı da tanımlar. 3 numara da oldukça açıklayıcı olduğu için ikinci en iyisidir.
"İpucu" tekniğini şu istemle kullanabilir misiniz: Cümleyi tamamlayın "Bana Volvo marka kırmızı bir araba resmi göster ve ". Model ne yanıt veriyor, siz nasıl geliştirirdiniz?
Farklı İstem Mühendisliği kavramları hakkında daha fazla bilgi edinmek ister misiniz? Bu konudaki diğer harika kaynakları bulmak için öğrenmeye devam sayfasına göz atın.
- Derse geçin, burada ileri düzey istem tekniklerine bakacağız!
Feragatname:
Bu belge, yapay zeka çeviri hizmeti Co-op Translator kullanılarak çevrilmiştir. Doğruluk için çaba göstersek de, otomatik çevirilerde hata veya yanlışlıklar bulunabilir. Belgenin orijinal dili, yetkili kaynak olarak kabul edilmelidir. Kritik bilgiler için profesyonel insan çevirisi önerilir. Bu çevirinin kullanımından doğabilecek yanlış anlamalar veya yanlış yorumlamalardan sorumlu değiliz.