מאפליה אלגוריתמית ועד החרמות בבתי הספר - למה כולם מפחדים מבינה מלאכותית?

אתם יושבים במושב האחורי ברכב האוטונומי החדש שלכם וקוראים מיילים בדרככם לעבודה. פתאום מתפרץ ילד אל הכביש, רודף אחרי כדור שנשמט לו מהיד. אין זמן להסס ונדרשת החלטה מיידית. ניתוח של אלגוריתם הבינה מלאכותית, המשלב את כל נתוני הרכב והסנסורים, מגיע למסקנה שרוב הסיכויים הם שעצירת חירום לא תספיק במקרה הנתון. כעת נדרשת לקבל החלטה במאית השנייה - האם בולמים ופוגעים בילד או סוטים ימינה מהדרך ומתנגשים במדרכה שבה צועדת אם עם עגלת תינוק, או אולי שמאלה שם ניצב עץ בעל גזע רחב. מה עושים? ילד, אם והתינוק שלה או הנהג עצמו?

מהפכת הבינה המלאכותית, שרק הולכת ותופסת תאוצה, צפויה לשנות את חיינו בתחומים שונים ומביאה עמה לא מעט שאלות מוסריות ואתיות כמו זו שלעיל, אבל לא רק. תחומים רבים אחרים ישלבו בינה מלאכותית במוקדם או במאוחר וכולם יושפעו בדרך זו או אחרת. רחפנים, מכשור רפואי ואף תחומים 'רכים' יותר כגון קבלה לעבודה, ניתוח אופי, רשתות חברתיות וחינוך יהיו במרכז המהפכה.

היכולת שלנו כבני האדם להתפתח, והמוח האנושי בפרט, בנויים על הניסיון והלימוד שאנו חווים לאורך השנים. רשמים, דעות, קריאה ושיחות עם אחרים מאפשרים לנו לצבור התנסויות, לאגור נתונים, לנתחם, לגבש דעה ולהפיק תובנות. בינה מלאכותית בנויה על עקרון דומה, שבבסיסו טכנולוגיה של אימון ולימוד נתונים ודוגמאות מהעבר.

חלק ניכר מהתוצרים של הבינה המלאכותית מתבסס על מידע שהופק על ידי בני אדם, שבתוכו תובנות ומסקנות אישיות ולאו דווקא עובדות בדוקות. כלומר, מודל האלגוריתם של הבינה מכיל בבסיסו הטיות ודעות אנושיות. דמיינו למשל כלי משטרתי לזיהוי חשודים - כלי שבוודאי יכול לייעל את עבודת המשטרה. אם המערכת תוזן על בסיס הנתונים של מעצרים קודמים, יש להניח כי תיווצר הטייה המבוססת על העבר, "סטיגמה", נגד אנשים ספציפיים, שהם לאו דווקא החשודים המיידיים.

מה שעוד יותר מפתיע הוא שגם עובדות יכולות לייצר סוג של הטייה במודלים או פייק ניוז כיוון שהם לומדים מצב קיים ובכך מנציחים ומשמרים אותו. למשל, הכלי המופלא ChatGPT (שאליו עוד נחזור בהמשך) אומן על מידע שתקף עד שנת 2021, כך שאם תשאלו אותו מי נשיא ארה"ב הנוכחי הוא לא יוכל להשיב לכם. מבחינתו נשיא ארה"ב הוא עדיין טראמפ.

דוגמא מפורסמת להטייה של בינה מלאכותית הינה מודל שפיתחה אמזון, אחת מחברות הטכנולוגיה הגדולות בעולם עם יותר מ-1.6 מיליון עובדים ועם קצב גדילה של עשרות אחוזים בשנה. בשנת 2018 קיבלה החברה כמות עצומה של קורות חיים, שדרשו ממנה מאמצים ומשאבים רבים לתהליך הסינון והגיוס. אמזון החליטה להתבסס על יכולות הבינה מלאכותית שפיתחה ועל הדאטה שקיים בארגון, ולבצע סינון ראשוני מבוסס על למידת מכונה.

למרבה ההפתעה (או שלא), מדעני מחקר בינה מלאכותית באמזון חשפו הטיות נגד נשים בתהליך הגיוס. כמו ביתר חברות הטכנולוגיה המובילות בארה"ב, שעדיין לא צמצמו את הפער בין המינים בגיוס עובדים (בעיקר בצוותים הטכניים), רוב העובדים באמזון הינם גברים.

האלגוריתם שפותח והיה מבוסס על עובדות ונתוני אמת, המשיך את המגמה ושמר על היחס הקיים בחברה, מה שלא באמת איפשר הזדמנות זהה לנשים וגברים. יתרה מכך, מספר הנשים בענקית הטכנולוגיה כל כך קטן ביחס לגברים שגם אם המודל היה פוסל סטטיסטית את כל הנשים המועמדות, הוא עדיין היה בעל שיעורי הצלחה גבוהים מאוד. לחברה לקח זמן עד שהיא עלתה על הבעיה, וכאשר זיהתה זאת היא הפסיקה באופן מיידי את השימוש במערכת הגיוס.

בתחילת החודש דווח כי בתי ספר ציבוריים בעיר ניו יורק יאסרו על תלמידים ומורים להשתמש במחשבים שלהם ב-ChatGPT, אותו כלי צ'אטבוט עוצמתי שהשיקה לאחרונה חברת המחקר OpenAI. החשש הוא שהפלטפורמה, שיכולה ליצור חיבורים בהתאם להנחיות המשתמשים, תסייע לתלמידים במשימותיהם ועלולה להפיץ מידע שגוי ולתת לו סוג של הכשר. "למרות שהכלי יכול לספק תשובות מהירות וקלות לשאלות, הוא אינו בונה מיומנויות של חשיבה ביקורתית ופתרון בעיות, שהן חיוניות להצלחה אקדמית ולחיים בכלל", מסרה ג'נה לייל, דוברת מטעם מחלקת החינוך של ניו יורק.

לעניות דעתי, חשוב שתלמידי בית הספר יכירו את ChatGPT, ילמדו את מגבלות הטכנולוגיה, יפתחו חשיבה ביקורתית כלפי התוצרים, ידעו לשאול את השאלות הנכונות ולהצליב מידע ממקורות נוספים. בשנים האחרונות אנו עדים לתופעה בה אנשים לא בודקים את מהימנות המידע ונוטים לקבלו כמובן מאליו. מיותר לציין, כי גם אם בתי הספר יגבילו את הגישה לפלטפורמה, תלמידים וסטודנטים ימצאו את הדרך אליה. במקום לנסות להגביל אותה, ניתן לבקש מהתלמידים והסטודנטים להוסיף גילוי נאות כי חיבור זה או פסקה זו נכתבו בסיוע של בינה מלאכותית.

החשש מפני טכנולוגיות חדשות, שנתפסות בתחילה כמאיימות הוא לא דבר חדש והוא מובן בהחלט. יחד עם זאת, במקום לבטל לחלוטין את השימוש באותן טכנולוגיות יש למצוא דרכים לפתח אותן בצורה נכונה, כמו גם להיות מודעים ליכולת ההטיות שלהן ולמגבלות. ההיסטוריה הוכיחה כי לא ניתן לעצור את הקידמה והדרך הנכונה היא לדעת כיצד לחיות איתה לצד היתרונות והחסרונות. בהסתכלות קדימה עוד עשור, אפשר להגיד שבינה מלאכותית לא תחליף את האנשים, האנשים שמשתמשים בבינה מלאכותית יחליפו את אלה שלא.

יודי בר און הוא מנכ"ל ומייסד קאליידו (Kaleidoo), חברת בת של בינת תקשורת מחשבים