איך להנדס הנחיות מדויקות ל-AI ולהשיג תוצאות מעולות - המדריך המלא

בסוף נובמבר 2022 נפל דבר, גל נוסף של טרנספורמציה דיגיטלית פרץ ממשרדי חברת OpenAI בסן פרנסיסקו קליפורניה, מייצר נחשולים של הלם שאינם פוסחים על אף משרד גדול או קטן ברחבי העולם. זו לא הפעם הראשונה שאנו חווים כזו סערה טכנולוגית שמאיימת לשנות את המציאות כפי שאנו מכירים אותה, ב-9 בינואר 2007 סטיב ג'ובס עשה זאת עם הכרזת האייפון, וההוכחה, אין כמעט אדם בעולם שלא מכיר או מסתובב עם סמארטפון בכיס.

כפי שמהפכת הסמארטפון יצרה כלכלה חדשה הכוללת מפתחי אפליקציות ומשחקים לסמארטפון, מהנדסים וטכנאי תיקונים, מנהלי תחום המובייל בארגונים, כל הדרך עד לכלכלת יוצרי הרשת (משפיענים) שחייבים רבות מההצלחה שלהם לשילוב של הרשתות החברתיות וסמארטפון שהולך איתנו לכל מקום, כך מהפכת הבינה המלאכותית היוצרת (Generative AI) מצמיחה מקצועות ותפקידים חדשים, שאת חלקם אנו רואים כיום אבל את רובם אנחנו עדיין לא יודעים לצפות.

למרות התחושה שאנו מנהלים שיח עם ישות בעלת תבונה ואינטליגנציה, כלי הצ'אט מבוססי הבינה המלאכותית איתם אנו משוחחים הם מודלי טקסט גדולים (Large Language Models) שמנחשים סטטיסטית (בינתיים) את ההסתברות למילה הבאה ברצף על בסיס מיליארדי דוגמאות שהם ראו לפני זה באינטרנט. הם למעשה לא באמת מבינים את מה שהם כותבים (ושוב חשוב להדגיש - "בינתיים").
מודלים אלו זכו לשם Foundation Models או מודלי בסיס, מכיוון שהם משמשים כבסיס להרבה מאוד יישומים מבוססי בינה מלאכותית כמו הצ'אטים המוכרים, כלי יצירת התמונות, יצירת דמויות היסטוריות הוידאו ועוד.

אלו מודלים עצומים בגודלם שלמדו מידע עצום ומגוון מהאינטרנט. אך היתרון של מודלים והמגוון העצום של מידע שנמצא ברשותם הוא גם החיסרון הגדול ביותר שלהם. אותו מגוון עצום גורם למודלים אלו לחבר מילים ומשפטים בעלי משמעות שנשמעים מאוד משכנעים אך אינם נכונים או מציאותיים, תופעה שזכתה לכינוי "הזיות" של הבינה המלאכותית.

כדי לקבל את המענה מדוייק לשאלה או לבקשה שלנו, אנו נדרשים "לכוון" את המודל ולסייע לו ל"חפש" את המידע הנכון והרלוונטי ביותר במקורות המהימנים ביותר במאגר הידע העצום שלו ("זיכרון שלו") כך שהוא יספק לנו את התשובה המדוייקת ביותר לשאלה או לבקשה שלנו מבלי להמציא עובדות שלא קיימות.

כלומר: ההנחיה שלנו מכוונת את המודל לספק לנו תשובה מדוייקת תוך צמצום המידע הלא רלוונטי, או השגוי מתוך כל המידע עליו אומן המודל באינטרנט. ככל שההנחיה שלנו תהיה יותר מדויקת התוצאה שנקבל תהיה פחות אקראית.

השימוש בהנחיות נכון לכל המודלים וכלי הבינה המלאכותית, אך לכל מודל וכלי יש את מבנה ההנחיה והדיוקים הרלוונטיים אליו, אלו נובעים מהאופן שבו אומן המודל, הנתונים ששימשו לאימון המודל, והתוצר הסופי שלו - כלומר טקסט, קול, תמונות, וידאו ועוד.

לכן הנחיות ליצירת תמונות ב Midjourney תהיה שונה מזו של Dall-E או Stable Diffusion וכל אלו יהיו שונים לחלוטין מהנחיות שנכתוב ל Chat GPT, Gemini או Claude. הנוסף חשוב לשים לב שאותה הנחיה בדיוק תספק לנו תשובות שונות בכלים השונים.

"הנדסת הנחיות" היא למעשה חיבור של התחומים הנדסה והנחיה. למעשה הרעיון הוא כתיבה לוגית בסדר מוגדר ומובנה של שאלות או בקשות למודל הבינה המלאכותית, כפי שכבר ציינו כדי לקבל את התשובה הנכונה ביותר לצורך שלנו. כאן גם המקום לציין שרובנו לא נעשה שימוש בהנדסת הנחיות אלא נלמד לנסח את השאלות שלנו בצורה נכונה. אבל נגיע לזה בהמשך.

כאשר מתייחסים להנדסת הנחיות או לתפקיד "מהנדס ההנחיות" הכוונה לעובד בעל כישורים לכתיבה לוגית של הנחיות לבינה מלאכותית בתהליך יצירה של כלים או מערכות אשר מתבססות על מודלי שפה גדולים כמו Chat GPT, הוא אמנם לא זה שמאמן ובונה את המודל אך הוא בהחלט זה "שמכוון" את המודל על מידע ארגוני וכותב את ההנחיות המדויקות כדי שהמודל מספק תשובות מבוססות ולא יסטה מהתסריט שהוא קיבל.

דוגמא ראשונה: מכיוון שמודלים אלו קוראים את ההנחיה שלנו כחלק מהטקסט אותו אנו רוצים לסכם, להרחיב או לשנות, אנו נדרשים לסמן למודל מהי ההנחיה שלנו ומה הטקסט עליו הוא נדרש לבצע את ההנחיה שלנו. נעשה זאת באמצעות סימון הטקסט שלנו בסדרה של סימנים כגון סולמיות או גרשיים.

למשל, במקום לכתוב "סכם את הטקסט" ואז לצרף באקראי את הטקסט שנרצה להוסיף, אפשר להנחות אותו כך: "סכם אך ורק את הטקסט שנמצא בין הסימונים ###. אל תתייחס ליתר החלקים בטקסט אלא רק לצורכי הסיכום. להלן הטקסט לסיכום". לאחר מכן, הוסיפו שלוש סולמית, את הקטע הטקסט אותו תרצו לסכם, ושלוש סולמיות נוספות.

דוגמא שניה מורכבת יותר, במקום לכתוב: "חלץ מהטקסט הבא את המאפיינים המרכזיים של המוצר - להלן מסמך או מפרט טכני של המוצר", רשמו לו את ההנחיה הבאה:

הגדרת התפקיד: התנהג כמנהל שיווק במדיה חברתית של חברת שיווק למוצרים ביתיים. תפקידך לנתח את תגובות המשתמשים ברשת ולסדר אותן במבנה שיאפשר לי לקלוט אותן למערכת השיווק שלנו.

קטע הטקסט הבא שבין הגרשיים מתאר את התגובות של המשתמשים השונים ברשת לפרסומים שלנו. אנא חלץ לכל מגיב או לקוח בנפרד רק את המידע שביקשתי, תוך דגש על ניתוח הסנטימנט של הלקוח. זה המידע שאבקש לחלץ: שם הלקוח, תפקיד, מקום מגורים, תיאור מקוצר של התגובה, סנטימנט התגובה.

אנא סכם טקסטים ארוכים ל-20 מילים ולא יותר, אם אין חלק מהמידע אנא אשר את הערך ריק. את התוצאה אבקש לקבל בקובץ JSON אך ורק במבנה הבא:
{
"שם הלקוח": "שם הלקוח",
"תפקיד הלקוח": "תפקיד הלקוח",
"מקום מגורים": "מקום מגורים",
"תיאור": "תקציר תיאור הטקסט",
"סנטימנט": "תיאור סנטימנט התוכן",
}

סכם בנקודות קצרות את ההנחיה שסיפקתי לך. רק לאחר אישור שהבנת את ההנחייה שלי בצורה נכונה, תקבל את תיאור התגובות של הלקוחות בטקסט בין סימוני הגרשיים.

להלן טקסט התגובות של הלקוחות מהרשתות החברתיות: (כאן תוסיפו את הטקסט בתוספת גרשיים לציון תחילתו וסופו של הטקסט).

שתי הדוגמאות שהוצגו הן דוגמאות פשוטות להנדסת הנחיות, כאלו שמשתמש ממוצע יכול ליצור אם כי נדרשת חשיבה לוגית מורכבת.

רוב הגישות להנדסת הנחיות הן הרבה יותר מורכבות וכוללות שילוב של חשיבה לוגית עם חשיבה אריתמטית. לדוגמא גישת Automatic Reasoning and Tool-use בה אנו מבקשים מהמודל להחליט מתי הוא עושה שימוש בכלים חיצוניים שאינם חלק ממודל השפה שלו כדי לספק לנו מענה, או גישת Program-Aided Language Models בה אנו מתמודדים עם בעיות מתמטיות ולוגיות מורכבות באמצעות שילוב בין שפה טבעית וכתיבת קוד (לרוב Python) שהמודל כותב לעצמו כדי לטפל בבקשות של ניתוח קבצים ומידע או בעיות חישוב מורכבות.

כפי שבטח כבר הבנתם רובנו לא כותבים כך את הבקשות והשאלות שלנו לבינה המלאכותית ולכן כשרובנו משתמשים במושג הנדסת הנחיות אנו למעשה מתכוונים לניסוח נכון ומובנה של בקשות למודלי השפה.

לאחר שנים שתחום הבינה המלאכותית היה נחלתם הבלעדית של מדעני נתונים, מהנדסי מכונות לומדות ולמידה עמוקה שתפקידם היה לאמן מודלים ספציפיים למשימות כמו זיהוי תמונות, תרגומי טקסטים, סיווג וניתוח של סוגי נתונים שונים, הבשורה האמיתית של OpenAI, גוגל, פייסבוק ואחרים הייתה הדמוקרטיזציה של הבינה המלאכותית. עכשיו כולנו יכולים לבקש מהבינה המלאכותית לבצע משימות ולענות על שאלות בצורה פשוטה יחסית.

במרחב שבין אלו שמאמנים ויוצרים את מודלי הבינה המלאכותית לכל השאר שעושים בה שימוש נוצר תחום שלם של מחקרים שנועד לסייע לנו למקסם את הערך מהכלים הנ"ל ולכתוב את השאלות שלנו בתצורה אופטימלית. זו אמנם מוגדרת על ידי כולם כהנדסת הנחיות אך למעשה זו יכול לדייק ולנסח את השאלות שלנו בצורה לוגית נכונה.

אז מהן הגישות הנפוצות להנדסת פרומפטים?

הנחיה בודדת (Zero Shot) היא הנחיה פשוטה הכוללת בקשה או משימה מוגדרת ללא הסברים או דוגמאות. במקרה זה המודל מסתמך אך ורק על הידע הקיים וההבנה הכללית שלו, כמו גם על יכולתו לנמק ולהסיק מידע מההנחיה שניתנה לו. זו ההנחיה הנפוצה ביותר שרובנו עושים בה שימוש אך גם זו בעלת הפוטנציאל הגדול ביותר להזיות ואי דיוקים.

הנחיה לדוגמא:
אנא צור סלוגן חדש ומושך למותג נעלי ספורט שמתמקד בנוחות, עיצוב מודרני וטכנולוגיה מתקדמת.
הסלוגן צריך להיות קצר וקולע (לא יותר מ-7 מילים).
יש לשלב בו מילים המדגישות את יתרונות המותג.
הסלוגן צריך להיות ברור וקל לזכירה.

כתיבת הנחיה בשילוב דוגמאות (One / Few Shot) היא שיטה בה אנו מספקים מספר מצומצם של דוגמאות כחלק מההנחיה וזאת בכדי למקד ולדייק את התשובה שנקבל. שילוב הדוגמאות בהנחיה היא שיטה "להסביר" למודל מה התוצאה שאנו רוצים לקבל מבלי לאמן אותו על מידע חדש.

הנחיה לדוגמא:

בהתבסס על הדוגמאות הבאות, צור סלוגן חדש ומושך למותג נעלי ספורט שמתמקד בנוחות, עיצוב מודרני וטכנולוגיה מתקדמת.

להלן מספר דוגמאות:
דוגמה 1: 'נעליים שמתקדמות איתך.'
דוגמה 2: 'קפיצה לעתיד של נוחות.'
דוגמה 3: 'הליכה בצעדי ענק של סטייל וטכנולוגיה.'

הנחיות נוספות:
הסלוגן צריך להיות קצר וקולע (לא יותר מ-7 מילים).
יש לשלב בו מילים המדגישות את יתרונות המותג.
הסלוגן צריך להיות ברור וקל לזכירה.

גישה זו עושה שימוש בתהליך של "חשיבת ביניים" כדי לפתור משימות מורכבות. במקום לספק תשובה ישירה, אנו מבקשים מהמודל לייצר לנו שרשרת של צעדי חשיבה שמובילים לתשובה הסופית. זה מאפשר למודל לפתור בעיות באופן יותר שיטתי ולהבין את התהליך שהוביל לתשובה.

שיטה זו נדרשת במיוחד כאשר מתמודדים עם בעיות הדורשות חשיבה רב-שלבית או כאשר יש צורך להסביר את התהליך שהוביל לתשובה. זה מסייע לנו להבין את הדרך בה המודל "חשב" על המענה ולבחון את ההיגיון שמאחורי התשובות שהוא מספק, מה שמגביר את האמינות והשקיפות של התשובה שקיבלנו.

הנחיה לדוגמא:

עקוב אחר ההנחיות הבאות כדי ליצור סלוגן חדש ומושך למותג נעלי ספורט שמתמקד בנוחות, עיצוב מודרני וטכנולוגיה מתקדמת

1. המותג מתמקד בנוחות - נשתמש במילים כמו 'נוחות', 'רכות' או 'אידיאליות'.
2. המותג מעוצב בצורה מודרנית - נוסיף מילים כמו 'מודרני', 'סטייל' או 'עיצוב'.
3. המותג משלב טכנולוגיה מתקדמת - נכלול מילים כמו 'טכנולוגיה', 'חדשנות' או 'מתקדם'.
4. נשלב את המילים הנבחרות לסלוגן קצר וקולע.

הנחיות נוספות:
הסלוגן צריך להיות קצר וקולע (לא יותר מ-7 מילים).
יש לשלב בו מילים המדגישות את יתרונות המותג.
הסלוגן צריך להיות ברור וקל לזכירה.

תחילה הסבר לי צעד אחר צעד מה הם השלבים ליצירת הסלוגן. בסיום מבלי לבקש ממני הנחיות נוספות ועל בסיס התובנות שציינתי, אבקש שתיצור לי את הסלוגן המתאים והאפקטיבי ביותר למותג הנעליים.

שרשור הנחיות הוא טכניקה בה הבקשה מהמודל מורכבת וגדולה. במקרים כאלו המודל עלול "להתבלבל" עקב ריבוי המלל והבקשות שלנו בהנחיה. במקרה זה אנו יכולים לייעל את ההנחיה באמצעות פירוק הבקשה שלנו לתתי משימות קטנות ומוגדרות היטב. במקום לתת למודל בקשה ארוכה ומפורטת, אנו מפרקים את הבקשות/משימות שלנו לשאלות קצרות ומשתמשים בפלט של שלב אחד כקלט לשלב הבא. כך אנו יוצרים שרשרת של בקשות שמנחות את המודל לעבר התוצאה הרצויה.

הנחיה לדוגמא:

עבור יצירה של סלוגן למותג נעלי ספורט אנא מצא את מילות המפתח שמתארות את התכונות הבאות של מותג נעלי הספורט שלנו. נוחות, עיצוב מודרני, טכנולוגיה מתקדמת.

תוצאה אפשרית (לדוגמה):
נוחות: רכות, אווריריות, מפנקות
עיצוב מודרני: סטייליש, חדשני, אלגנטי
טכנולוגיה מתקדמת: חכמות, מתקדמות, חדשניות.

בהתבסס על התוצאות שיצרת והמילים הנוספות הבאות: רכות, אווריריות, מפנקות, סטייליש, חדשני, אלגנטי, חכמות, מתקדמות, חדשניות - נא צור סלוגן מושך למותג הנעליים.

תוצאה (דוגמה):
"צעדים רכים בעיצוב חדשני וטכנולוגיה חכמה."

עכשיו כשיש לנו סלוגן מוסכם, אנא שפר את הסלוגן לפרסום באינסטגרם כך שיגרום לעליה של 50% בהקלקות על המודעה.

• Self-consistency - שיטת העקביות העצמית - שיטה בה המודל מייצר מספר תשובות אפשריות ולאחר השוואה ביניהן בוחר את התשובה המתאימה ביותר.
• Generate Knowledge Prompting - בגישה זו אנו מבקשים לקבל ידע לפני המענה הסופי לשאלה. רק לאחר יצירת התוכן אנו מבקשים ממנו על בסיס הידע שהוא יצר לקבל תשובה.
• Tree of Thoughts - בגישה מורכבת זו אנו בונים יחד עם המודל עץ של תשובות ביניים, כאשר כל תשובה מייצגת שלב במסלול שונה לפתרון הבעיה. המודל בוחן כל מסלול ומציג מספר אפשרויות מתוכם נבחר את המתאימה והנכונה ביותר.
• Automatic Prompt Engineer - בגישה זו נבקש מהמודל לאחר מספר הנחיות ותשובות שקיבלנו שישפר בצורה עצמאית את ההנחיה הראשונית שלנו וזאת על מנת לקבל תשובות מדויקות יותר לצורך שלנו.
• Active Prompt - בגישה זו נעשה שימוש במשימות מורכבות. גישה זו משלבת את גישת שרשור החשיבה (COT). החידוש המרכזי הוא בחירת השאלות החשובות והמועילות ביותר שיסייעו למודל במתן המענה לשאלה.
• Directional Stimulus Prompting - בגישה זו אנו מספקים למול "כיוון" באמצעות הצגת הקשר, דוגמאות, הגבלות או תנאים ספציפיים שיסייעו למודל להבין טוב יותר את המטרה המבוקשת ולייצר תגובות שהן יותר רלוונטיות ומדויקות.

גישות אלו מתארות טכניקות שונות שנחקרו והוכחו ככאלו שהלכה למעשה משפרות את המענה של מודלי הבינה המלאכותית השונים. אך כמו בכל מתכון טוב המפתח להצלחה הוא בחירת המרכיבים הנכונים.

במהלך השנה האחרונה פורסמו הרבה מאוד שיטות מומלצות לכתיבת הנחיות וזאת על בסיס הניסיון של המשתמשים והמחקרים שפורסמו. אין זה אומר שחייבים להשתמש בכל המרכיבים הבאים אלא שמומלץ לעשות בהם שימוש בהתאם להקשר והמשימה שלכם כדי להגיע לתוצאות טובות יותר.

ברשת מסתובבים מבנים רבים להרכבת הנחיות בצורה שתייצר מענה אופטימלי. ברוב המקרים לא מדובר במבנה מגובה מחקר אלא על בסיס הניסיון המצטבר של המשתמשים והמחקרים השונים שפורסמו. כל השיטות המתוארות מרכיבות הנחיות על בסיס הרכיבים השונים שתיארתם בסעיף הקודם:

כל מי שעוסק בתחום ובוחן את הקצב והמגמה מבין שככל שמודלי הבינה המלאכותית יהפכו לחכמים יותר כך הצורך לנסח להם הנחיות מדויקות בצורה מובנת מדויקת ולוגית ילך ויקטן. האם זה יקח שנה, שנתיים או חמש, עדיין לא ברור. אבל כבר היום המודלים הרבה יותר "חכמים" ויודעים לתת מענה לשאלות וההנחיות שלנו גם כשהן קצרות וללא דוגמאות. ככל הנראה, בעתיד הם ידעו לכתוב לעצמן את ההנחיות בצורה הרבה יותר מדויקת על בסיס הצורך שלנו. המשמעות היא שמשתמש הממוצע לא יזדקק עוד ללמוד את כל הטכניקות והשיטות שהוצגו במאמר זה. הוא פשוט יוכל לשאול או לבקש בקשה קצרה והמודל יענה בצורה מדויקת וברורה וללא הטיות והזיות.

הנדסת הנחיות המשמשת ליצירה של כלים מבוססי הבינה המלאכותית תתייתר גם היא בסופו של דבר, אך זה יקח יותר זמן בגלל הרגולציה, שדורשת שתמיד יהיה אדם כחלק מהתהליכים בהם מעורבת בינה מלאכותית. לא סתם הפורום הכלכלי העולמי הגדיר את התפקיד הנ"ל כ"תפקיד העתיד" וסם אלטמן צייץ שזו מיומנות בעלת ערך גבוה.

"writing a really great prompt for a chatbot persona is an amazingly high-leverage skill and an early example of programming in a little bit of natural language"

עמית קמה הוא מנכ"ל ובעלים של קמדיה שירותים טכנולוגיים אשר עוסקת בייעוץ, פיתוח, ואיפיון תפיסת הפעלה ואוריינות דיגיטלית בארגונים.