RESOURCES.md

משאבים ללמידה עצמאית

השיעור נבנה באמצעות מספר משאבים מרכזיים מ-OpenAI ו-Azure OpenAI כהפניות למונחים ולמדריכים. הנה רשימה לא מקיפה, למסעות הלמידה העצמאיים שלך.

1. משאבים ראשיים

כותרת/קישור	תיאור
Fine-tuning עם מודלים של OpenAI	Fine-tuning משפר את הלמידה עם מעט דוגמאות על ידי אימון על הרבה יותר דוגמאות ממה שניתן להכניס להנחיה, חוסך לך עלויות, משפר את איכות התגובה ומאפשר בקשות עם זמן תגובה נמוך יותר. קבל סקירה של Fine-tuning מ-OpenAI.
מהו Fine-Tuning עם Azure OpenAI?	הבן מהו Fine-tuning (מושג), מדוע כדאי לך להסתכל עליו (בעיה מניעה), איזה נתונים להשתמש (אימון) ומדידת איכות
התאמה אישית של מודל עם Fine-Tuning	שירות Azure OpenAI מאפשר לך להתאים את המודלים שלנו לנתוני האישיים שלך באמצעות Fine-Tuning. למד כיצד לבצע Fine-tuning (תהליך) למודלים נבחרים באמצעות Azure AI Studio, Python SDK או REST API.
המלצות ל-Fine-Tuning של LLM	LLMs עשויים לא להציג ביצועים טובים בתחומים, משימות או קבוצות נתונים ספציפיים, או עשויים להפיק תוצאות לא מדויקות או מטעות. מתי כדאי לשקול Fine-Tuning כפתרון אפשרי לכך?
Fine-Tuning מתמשך	Fine-Tuning מתמשך הוא תהליך איטרטיבי של בחירת מודל שכבר עבר Fine-Tuning כמודל בסיס ו-Fine-Tuning נוסף שלו על קבוצות חדשות של דוגמאות אימון.
Fine-Tuning וקריאת פונקציות	Fine-Tuning של המודל שלך עם דוגמאות לקריאת פונקציות יכול לשפר את תפוקת המודל על ידי קבלת תוצאות מדויקות ועקביות יותר - עם תגובות בפורמט דומה וחיסכון בעלויות
Fine-Tuning של מודלים: הנחיות Azure OpenAI	חפש בטבלה זו כדי להבין אילו מודלים ניתן לבצע Fine-Tuning ב-Azure OpenAI, ובאילו אזורים הם זמינים. חפש את מגבלות הטוקן שלהם ותאריכי תפוגת נתוני האימון אם יש צורך.
לעשות Fine-Tune או לא לעשות Fine-Tune? זו השאלה	פרק זה של ה-AI Show בן 30 דקות אוקטובר 2023 דן ביתרונות, חסרונות ותובנות מעשיות שיסייעו לך לקבל החלטה זו.
התחלה עם Fine-Tuning של LLM	משאב זה של AI Playbook מלווה אותך דרך דרישות הנתונים, פורמט, Fine-Tuning של היפרפרמטרים ואתגרים/מגבלות שכדאי לדעת.
מדריך: Azure OpenAI GPT3.5 Turbo Fine-Tuning	למד ליצור קבוצת נתונים לדוגמה ל-Fine-Tuning, להתכונן ל-Fine-Tuning, ליצור עבודה של Fine-Tuning ולפרוס את המודל שעבר Fine-Tuning ב-Azure.
מדריך: Fine-tune מודל Llama 2 ב-Azure AI Studio	Azure AI Studio מאפשר לך להתאים מודלים של שפה גדולה לנתונים האישיים שלך באמצעות תהליך עבודה מבוסס UI המתאים למפתחים עם מעט קוד. ראה דוגמה זו.
מדריך:Fine-tune מודלים של Hugging Face עבור GPU יחיד ב-Azure	מאמר זה מתאר כיצד לבצע Fine-Tuning של מודל Hugging Face עם ספריית Hugging Face transformers על GPU יחיד עם Azure DataBricks + ספריות Hugging Face Trainer
הדרכה: Fine-tune מודל יסוד עם Azure Machine Learning	קטלוג המודלים ב-Azure Machine Learning מציע מודלים רבים בקוד פתוח שניתן לבצע Fine-Tuning למשימה הספציפית שלך. נסה מודול זה מנתיב הלמידה של AzureML Generative AI
מדריך: Azure OpenAI Fine-Tuning	Fine-Tuning של מודלים GPT-3.5 או GPT-4 ב-Microsoft Azure באמצעות W&B מאפשר מעקב וניתוח מפורט של ביצועי המודל. מדריך זה מרחיב את המושגים מהמדריך של OpenAI Fine-Tuning עם צעדים ותכונות ספציפיות ל-Azure OpenAI.

2. משאבים משניים

סעיף זה מכיל משאבים נוספים שכדאי לחקור, אך שלא היה לנו זמן לכסות בשיעור זה. הם עשויים להיות מכוסים בשיעור עתידי, או כאופציה למשימה משנית, במועד מאוחר יותר. לעת עתה, השתמש בהם כדי לבנות את המומחיות והידע שלך בנושא זה.

כותרת/קישור	תיאור
OpenAI Cookbook: הכנת נתונים וניתוח עבור Fine-Tuning של מודל צ'אט	מחברת זו משמשת ככלי לעיבוד וניתוח קבוצת הנתונים של צ'אט המשמשת ל-Fine-Tuning של מודל צ'אט. היא בודקת שגיאות פורמט, מספקת סטטיסטיקות בסיסיות ומעריכה ספירת טוקנים עבור עלויות Fine-Tuning. ראה: שיטת Fine-Tuning עבור gpt-3.5-turbo.
OpenAI Cookbook: Fine-Tuning עבור יצירה מוגברת באמצעות חיפוש (RAG) עם Qdrant	המטרה של מחברת זו היא לעבור על דוגמה מקיפה של כיצד לבצע Fine-Tuning למודלים של OpenAI עבור יצירה מוגברת באמצעות חיפוש (RAG). אנו גם נשלב Qdrant ולמידה עם מעט דוגמאות כדי לשפר את ביצועי המודל ולהפחית את ההמצאות.
OpenAI Cookbook: Fine-Tuning GPT עם Weights & Biases	Weights & Biases (W&B) היא פלטפורמת המפתחים AI, עם כלים לאימון מודלים, Fine-Tuning של מודלים וניצול מודלים יסודיים. קרא את מדריך OpenAI Fine-Tuning תחילה, ואז נסה את התרגיל של Cookbook.
מדריך קהילתי Phinetuning 2.0 - Fine-Tuning עבור מודלים של שפה קטנה	הכירו את Phi-2, המודל הקטן החדש של Microsoft, חזק במיוחד אך קומפקטי. מדריך זה ילווה אותך דרך Fine-Tuning של Phi-2, וידגים כיצד לבנות קבוצת נתונים ייחודית ולבצע Fine-Tuning למודל באמצעות QLoRA.
מדריך Hugging Face כיצד לבצע Fine-Tuning ל-LLMs ב-2024 עם Hugging Face	פוסט זה בבלוג מלווה אותך כיצד לבצע Fine-Tuning ל-LLMs פתוחים באמצעות Hugging Face TRL, Transformers וקבוצות נתונים ב-2024. אתה מגדיר מקרה שימוש, מקים סביבה לפיתוח, מכין קבוצת נתונים, מבצע Fine-Tuning למודל, בודק-מעריך אותו ואז מפרס אותו לייצור.
Hugging Face: AutoTrain Advanced	מביא אימונים ופרסומים מהירים וקלים יותר של מודלים למידת מכונה מתקדמים. ריפו מכיל מדריכים ידידותיים ל-Colab עם הדרכת וידאו ביוטיוב, ל-Fine-Tuning. משקף עדכון local-first עדכני. קרא את תיעוד AutoTrain

כתב ויתור:
מסמך זה תורגם באמצעות שירות תרגום AI Co-op Translator. בעוד שאנו שואפים לדיוק, יש להיות מודעים לכך שתרגומים אוטומטיים עשויים להכיל שגיאות או אי-דיוקים. המסמך המקורי בשפתו המקורית צריך להיחשב כמקור הסמכותי. עבור מידע קריטי, מומלץ להשתמש בתרגום מקצועי על ידי בני אדם. אנו לא נושאים באחריות לכל אי הבנות או פרשנויות שגויות הנובעות מהשימוש בתרגום זה.