פלטפורמת קוד פתוח חדשה מבית NVIDIA שמה גבולות לצ'טבוטים מבוססי בינה מלאכותית. בין הפיצ'רים: מיקוד על תחומי מומחיות ספציפיים, הפניה למקורות מידע ומסנני שפה מתקדמים. אז מה צריך לדעת?
מומחים לבינה מלאכותית ואפילו האנשים שבונים אותה, מתארים את הטכנולוגיה הזו כאיום קיומי. סטיבן הוקינג אמר פעם ש"פיתוח של בינה מלאכותית מלאה יכול לבשר על סופו של המין האנושי", והוסיף כי "בלי שנלמד כיצד להתכונן ולמנוע סיכונים פוטנציאליים, AI יכול להיות האירוע הגרוע ביותר בהיסטוריה של התרבות האנושית, שעלול לשבש לחלוטין את הכלכלה שלנו".
במילים אחרות, אם לא נציב לבינה המלאכותית גבולות ברורים, היא תשתלט על כולנו. כאן נכנסת לתמונה הפלטפורמה החדשה, שמטרתה להוסיף רובד של אמינות, רלוונטיות ובטיחות ליישומי בינה מלאכותית כמו ChatGPT, Jasper ואחרים.
יישומים אלה עונים על שאלות, מנסחים טקסטים, כותבים תוכנה ואפילו מאיצים את פיתוחן של תרופות. הם מאפשר לחברות וארגונים לפתח, לאמן, לכוונן ולהשיק צא'טבוטים חכמים המבוססים על המידע הקנייני שלהם, ולהשיב באופן עצמאי לשאלות הנוגעות לתחומי המומחיות הספציפיים של החברות המפעילות אותם, בין אם זה לצורך שירות ושימור לקוחות או לכל צורך אחר.
איך זה עובד?
הכלי החדש יסייע להבטיח שכלים אלה יפעלו על פי רצון החברה שמפעילה אותם ולא יפתחו 'רצונות' משלהם. היא נועדה לעזור למפתחים להגדיר את גבולות הגזרה של צ'אטבוטים המבוססים על מודלי שפה גדולים (LLMs), וזאת על מנת להבטיח שהתשובות שהם יתנו למשתמשים יהיו מדויקות, יישארו בתחומי המומחיות של החברה ולא יסטו לנושאים אחרים, יסננו החוצה שפה לא רצויה, ויפנו רק למקורות מידע אמינים ובטוחים.
למשל, בוט שמופקד על שירות לקוחות של מותג אופנה יהיה בקיא בטרנדים עדכניים מעולם האופנה וידע לספר לכם על כל מה שחם בתעשייה, אבל אם תשאלו אותו שאלה שקשורה למשל לפוליטיקה, הוא ישיב שאינו יכול לענות עליה.
קוד פתוח בשירות התעשייה
המערכת מבוססת על קוד פתוח, מה שאומר שכל מפתח או חברה יוכלו להשתמש בה. היא אינה מצריכה מומחיות בלמידת מכונה או ב-Data Science. באמצעות מספר שורות קוד פשוטות, תוכלו לייצר את המגבלות הספציפיות לצ'אטבוט שלכם, בהתאם לאופי המותג והקהל שלכם.
חלקים גדולים מהמערכת כבר זמינים להורדה כקוד פתוח ב-GitHub. ארגונים יכולים להשתמש בו בחינם, או לרכוש את המוצר המשופר כחלק מחבילת השירותים הרחבה יותר של החברה.
המערכת יודעת להתממשק עם כל הכלים שבהם משתמשים מפתחי אפליקציות ארגוניות כמו LangChain, קוד פתוח עם ערכת כלים שמפתחים מאמצים במהירות כדי לחבר יישומי צד שלישי לעוצמה של LLMs. בנוסף, המערכת תוכנה לעבוד עם מגוון רחב של יישומים התומכים ב-LLM, כמו Zapier, פלטפורמת אוטומציה המסייעת ליותר מ-2 מיליון עסקים לשלב בינה מלאכותית באוטומציות שלהם.