זהירות, בינה מלאכותית בשירות האקרים

לאחרונה קראו יזמי הייטק, מומחים ומדענים מובילים בתחום הבינה המלאכותית, ובראשם אלון מאסק, לעצור למשך כחצי שנה את הפיתוח של מערכות בינה מלאכותית עוצמתיות כמו ChatGPT4 בטענה שמודלים מתקדמים כאלו משבשים ומעצבים מחדש את עולם הטכנולוגיה. לזה מצטרפת התביעה הייצוגית הראשונה נגד OPENAI, שנרשמה ממש השבוע בבית המשפט המחוזי בלוד.

טכנולוגיות מבוססות בינה מלאכותית (AI) ולמידת מכונה (ML), שהפכו פופולריות מאוד בשנים האחרונות, מספקות יתרונות רבים בתחומים כמו בריאות, פיננסים ותחבורה, עם זאת, הן אינן משמשות רק לטובת החברה.

לבינה מלאכותית תפקיד גדול באבטחת הסייבר, אבל דווקא האקרים עלולים להפיק תועלת רבה מהשימוש בה, הזהיר כתב הטכנולוגיה בוב ויולינו במאמר ל-CNBC כבר בשנה שעברה. לדבריו, תוקפים נעזרים בבינה מלאכותית ולמידת מכונה כדי לבצע התקפות מתוחכמות וממוקדות יותר, שמהוות איום הולך וגובר על ארגונים בכל הגדלים.

באמצעות בינה מלאכותית ולמידת מכונה יכולים האקרים לבצע אוטומציה והרחבה של התקפות הסייבר. הם מנתחים במהירות ובקלות כמויות גדולות של נתונים, מזהים נקודות תורפה ומפעילים התקפות בקנה מידה עצום. שימוש זה עלול להוביל להתקפות מוצלחות יותר ולפריצות נתונים גדולות יותר, ולגרום לנזק כספי ופגיעה משמעותית במוניטין של ארגונים.

לדוגמה, כפי שמוזכר במאמר של ויולינו, מומחי אבטחה ציינו שלמייל פישינג שנוצר על ידי בינה מלאכותית יש שיעורי פתיחה יותר גבוהים לעומת מייל פישינג שנוצרו באופן ידני.

עבור האקרים, יתרון נוסף בשימוש בטכנולוגיות בינה מלאכותית ולמידת מכונה בהתקפות סייבר הוא היכולת להסתגל וללמוד את הסביבה בה הם פועלים. באמצעות טכנולוגיות אלה, התוקפים יכולים ליצור תוכנות זדוניות מותאמות אישית שיכולות להתחמק מאמצעי אבטחה מסורתיים וללמוד מהאינטראקציות עם רשת היעד, דבר המקשה עוד יותר על זיהוי התקיפות וצמצומן.

אז מה יכולים ארגונים לעשות כדי להתגונן מפני האיומים האלו?

ראשית, ניתן למנף את טכנולוגיות הבינה המלאכותית ולמידת המכונה לחיזוק הגנות אבטחת הסייבר של הארגון. באמצעות טכנולוגיות אלו למשל לנתח את תעבורת הרשת ולזהות התנהגות חריגה ואיומים פוטנציאליים לפני שהם הופכים לבעיה. בנוסף, טכנולוגיות אלו יכולות לשמש לאוטומציה של תגובה לאיומים, מה שמאפשר לארגונים להגיב לאירועי אבטחה במהירות. כמו כן, ניתן להשתמש בטכנולוגיות אלו לבניית מודיעין איומים ולהיערך באופן יזום לווקטורי התקפה חדשים.

מומלץ לארגונים לאמץ מודל אבטחה אפס אמון, במיוחד במקומות עבודה בהם העובדים ממשיכים לעבוד מרחוק או באופן היברידי. מודל אפס אמון מניח מראש שכל הבקשות, המשתמשים, ההתקנים וחיבורי הרשת הם בעלי פוטנציאל זדוני ויש לאמת אותם לפני מתן גישה. מודל זה מספק רמת אבטחה גבוהה יותר מאשר מודלים מסורתיים מבוססי אבטחת תשתית/רשת מסורתיים, ויכול לסייע באיתור ומניעת התקפות משוכללות.

לבסוף, ואולי הכי חשוב, יש להשקיע בחינוך עובדים למודעות לתקיפות סייבר. לעתים קרובות, האקרים משתמשים בטכניקות של הנדסה חברתית, כדי להערים על עובדים ולגרום להם לחשוף מידע רגיש או להוריד תוכנות זדוניות. ארגונים שמסבירים לעובדים שלהם כיצד לזהות ולהגיב לטקטיקות אלו, יכולים להפחית באופן משמעותי את הסיכון להתקפה מוצלחת. חשוב גם לערוך תרגילי אבטחת סייבר באופן קבוע כדי לבחון את הידע ויכולות התגובה של העובדים. תרגילים אלו יכולים לדמות התקפות סייבר ולסייע לעובדים לזהות איומים בזמן אמת.

עולם הטכנולוגיה רק הולך ומשתכלל, לרוב לטובת האנושות, אך לעיתים גם נגדה. חשוב שנהיה מוכנים לכל תרחיש אפשרי.


גיא חורש הוא מהנדס פריסייל בחטיבת אבטחת מידע וסייבר בבינת תקשורת מחשבים