על פי דוח הסיכונים העולמי לשנת 2024 של הפורום הכלכלי העולמי (WEF), שמבוסס על סקר מקיף של מאות מנכ"לים מרחבי העולם, חשש מהשלכות של אימוץ טכנולוגיית AI וסיכוני סייבר היו שני גורמי הסיכון הטכנולוגיים המובילים, ולא סתם הם כרוכים יחד.
מתחים עולמיים, סכסוכים מזוינים מקומיים ולחץ כלכלי תורמים כולם להגברת פשיעת הסייבר, ריגול סייבר ופעילויות סייבר התקפיות, אבל זה לא יוצא דופן. למעשה, מדי שנה ה-WEF מוציא אזהרה דומה, אבל בהתחשב באימוץ המוגבר של AI על ידי פושעי סייבר, הם מסוגלים כעת להגדיל את מספר הורטיקלים שהם יכולים לכוון אליהם וגם את נפח ההתקפות, ולהוריד את ה"עלות להתקפה" מתחת לסף מגוחך שלמעשה מאפשר להם להתקיף ללא עלות.
המזכיר הכללי של האינטרפול, יורגן סטוק, שדיבר בדאבוס, הדגיש את האתגרים שה-AI מציב בפני מגיני הסייבר. הוא אמר כי "רשויות אכיפת החוק העולמיות נאבקות בהיקף העצום של פשיעה הקשורה לסייבר. הונאה נכנסת למימד חדש עם כל המכשירים שהאינטרנט מספק. הפשע יודע רק כיוון אחד, למעלה".
הטכנולוגיה עובדת בשני הכיוונים
אם ארגונים ינועו מהר מספיק הם יוכלו לרתום את הטכנולוגיות החדשות כדי להילחם בהתקפות הללו, אבל סביר להניח שזה לא יהיה המקרה עבור רוב החברות. מכיוון שנוף איומי הסייבר משתנה במהירות, ה-WEF מזהיר מפני הפער ההולך וגובר בין ממשלות וארגונים שיוכלו להתמודד עם מתקפות הסייבר הנוצרות על ידי בינה מלאכותית, לבין אלה שלא.
אבל האם האזהרות הללו ימנעו או יאטו ארגונים מלאמץ את הבינה המלאכותית? ספק רב. עד כה, AI נתפסת כטכנולוגיה המבטיחה ביותר על ידי מנהיגים עסקיים. סקר שנערך לאחרונה על ידי Ernst & Young מצא שכמעט כל (99%) מובילי השירותים הפיננסיים שנשאלו דיווחו שהארגונים שלהם עושים שימוש בבינה מלאכותית בצורה כלשהי, וכולם כבר משתמשים, או מתכננים להשתמש, בבינה מלאכותית יוצרת (Generative AI). עם זאת, מנכ"לים אינם עיוורים לסיכונים. סקר שבוצע על ידי PWC מצא כי 77% מהמנכ"לים חושבים ש-Gen AI עשוי להגביר את הסיכון למתקפות סייבר.
רגולציה? בבקשה
אם טכנולוגיה חדשה מבטיחה ומפחידה כאחד (כגון המצאת הרכב, המטוס או החשמל) - האם היא לא צריכה להיות מוסדרת על ידי ממשלות? מכיוון שהעולם עבר מספר מחזורים טכנולוגיים ב-150 השנים האחרונות, אנו יודעים שזה חכם שסוכנויות ממשלתיות יהיו מעורבות באימוץ טכנולוגיות חדשות. למשל, אף אחד לא מאמין שרכבים אוטונומיים צריכים פשוט להתחיל לשוטט ללא פיקוח. רכבים אלו עוברים בדיקות אינטנסיביות תחת עינו הזהירה של הרגולטור הרלוונטי כדי לוודא שהם לא יגרמו לסכנות מיותרות לאנשים ולסביבה. כך גם לגבי תרופות חדשות, דגמי מטוסים חדשים וחומרי הדברה חדשים. למה AI צריך להיות שונה? רבים מאמינים שצריך לווסת את האימוץ שלו.
"זו הטכנולוגיה החזקה ביותר של זמננו", אמר אראטי פראבהקאר, מנהל המשרד למדיניות מדע וטכנולוגיה של הבית הלבן בארה"ב באירוע בדאבוס. הוא הוסיף כי: "ארה"ב רואה ב-AI משהו שחייב להיות מנוהל. יש לנהל את הסיכונים".
האיחוד האירופי היה הראשון להגיב עם חוק הבינה המלאכותית אותו העביר בחודש שעבר. טיוטת הרגולציה נועדה להבטיח שמערכות AI הממוקמות בשוק האירופי ומשמשות באיחוד האירופי בטוחות ומכבדות את זכויות היסוד ואת האיחוד האירופי. ארה"ב לא רחוקה מאחור, עם צו ביצוע משלה על פיתוח ושימוש בטוח, מאובטח ואמין בבינה מלאכותית שהוצא על ידי ממשל ביידן עוד באוקטובר 2023.
מרוץ טכנולוגי או צבאי?
מרוץ הבינה המלאכותית יכול להפוך בקלות למרוץ חימוש צבאי. לאחרונה דווח שחיל האוויר האמריקאי בודק תוכנת בינה מלאכותית חדשה כדי להטיס את המל"טים המתקדמים שלו, וכן פורסם שחברת OpenAI האמריקאית עובדת עם הפנטגון על מספר פרויקטים כולל פיתוח יכולות אבטחת סייבר. אך סוגיית ה-AI יכולה דווקא לשרת את המטרה ההפוכה, של בניית גשרים בין ארה"ב ויריביה.
לאחרונה דווח על ידי הפייננשל טיימס כי במהלך שנת 2023, שחקנים מרכזיים בתעשיית הבינה המלאכותית האמריקאית עסקו בדיונים דיסקרטיים עם מומחי בינה מלאכותית סינית, אולי בניסיונות ראשוניים לקבוע קווים מנחים לפיתוח בטוח של בינה מלאכותית. נכון לעכשיו, סין מפגרת אחרי ארה"ב בפיתוח ואימוץ בינה מלאכותית, וכאשר ממשלתה מציבה יעד שאפתני להפוך למובילת בינה מלאכותית עולמית עד 2030, הנחיות כאלה עשויות למנוע שימוש פזיז בטכנולוגיה מצידה. ג'ף וונג, מנהל חדשנות עולמי בארנסט אנד יאנג, אמר כי "נדרש שיתוף פעולה גלובלי לקביעת ערכים משותפים ויש צורך במדיניות מחקר ומסגרות משפטיות משותפות כדי להדביק את הטכנולוגיה".
אז האם AI טוב או רע?
נראה שכולם מסכימים שלא משנה מה התשובה, הטכנולוגיה כאן כדי להישאר. זה כבר משפיע על עסקים, זה מתחיל להשפיע על אבטחת הסייבר ויהיו לזה השלכות צבאיות ובינלאומיות בקרוב מאוד. ה-WEF עשה עבודה מצוינת והדגיש את חשיבותו של נושא זה, תוך שהוא מניע דיונים בינלאומיים ראשוניים על דרכים לרסן את הסיכונים הטמונים בבינה המלאכותית.
חן בורשן הוא מנכ"ל סקייהוק סקיוריטי