בעבר הלא רחוק זה היה נשמע כמו מדע בדיוני, שתמונות מהרשתות החברתיות ומרחבי האינטרנט יתארו אירועים שמעולם לא קרו, ואילו היום, היכולות המדהימות של הבינה המלאכותית הפכו את הפייק לעניין שבשיגרה ואת תעשיית השקר למשגשגת יותר מתמיד.
מצד אחד, בינה מלאכותית יכולה לשמש ליצירת מערכות הגנה מתקדמות, זיהוי אוטומטי של מטרות אויב, מודיעין מדויק יותר, וקבלת החלטות מורכבות במהירות. מצד שני, היא גם יכולה ליצור תוכן שגוי או פייק ניוז שמשפיע על דעת הקהל, לערער את האמון בממשלה, ולגרום לאנשים לנקוט בפעולות מסוכנות.
למשל, כאשר ממשלות או ארגוני טרור משתמשים בבינה מלאכותית כדי ליצור תמונות או סרטונים מזויפים, או כדי לתרגם מידע שקרי לשפות שונות, אין ממש מה לעשות לגבי זה ורק מעטים יבחינו בזיוף. עם כמה שזה נשמע מטריד והזוי, תופתעו לגלות שלא חסרות דוגמאות לסיכונים כאלו, והן נפוצות לא רק בקרב האקרים אנונימיים שמסתתרים במרתפים חשוכים, אלא גם במשרדיהן הרשמיים של ממשלות רבות.
הנה כמה דוגמאות מהעולם האמיתי
- ממש לפני 3 חודשים, בספטמבר האחרון, ניתוח של חברת מיקרוסופט חשף כי גורמים סיניים משתמשים בתמונות AI כדי להפיץ מידע שגוי בקרב מצביעי ארה"ב לקראת הבחירות לנשיאות ב-2024. תמונות אלו מתמקדות בדרך כלל בנושאים שנויים במחלוקת, כגון גזענות, זכויות נשים והיחסים בין ארה"ב לסין.
- ב-2018, רוסיה הואשמה בפעולות דומות, כאשר השתמשה בתמונות מזויפות של מנהיגים אמריקאים לאותה מטרה בדיוק.
- ב-2020, דאע"ש השתמש בבינה מלאכותית כדי ליצור סרטונים מזויפים של פעולות טרור, במטרה לגייס תומכים חדשים.
- ב-2022, ממשלת רוסיה השתמשה ב-AI כדי להפיץ מידע שקרי על המלחמה באוקראינה, במטרה להצדיק את פלישתה לאוקראינה.
רותמים את הטכנולוגיה לטובת המדינה
כדי שישראל לא תיפול בפח של תעמולה פרו פלסטינית, חברת המודיעין העסקי Aman החליטה בתחילת המלחמה לקחת את ההגה לידיים ולרתום את הטכנולוגיה שלה למען ההסברה הישראלית בעולם.
"כחברה שמתעסקת בשגרה בנתונים וביג דאטה, ידענו לזהות ולנתח את כמויות המידע העצומות שמסתובבות ברשת בקלות. לקחנו את הכלים שיש לנו בחברה, המשמשים בשגרה חברות לצרכי ארגון נתונים, הסבנו אותם לצרכי הסברה ובעצם פיתחנו כלי חכם שמשתמש בבינה מלאכותית כדי להילחם בבינה מלאכותית יריבה - הכל למען חיזוק הלגיטימציה של ישראל בעולם", מספר אריאל עוז, CTO בחברת Aman.
"אני מאמין שבזכות הנתונים שמוציאה המערכת נוכל להשתמש במגוון שימושים חיוביים, כולל לחימה בטרור. באמצעות איסוף מידע מהרשת ושילוב מתודולוגיות הנדסת נתונים עם בינה מלאכותית, ניתן לבנות תמונה של קשרים בין ארגונים, עסקים, ואנשים פרטיים כתומכים בארגוני טרור. המערכת שפיתחנו מגיעה לרזולוציות מדויקות ביותר, בהן אנו יכולים לזהות פוסטים חדשים בעלי תוכן שקרי ותכנים בעייתיים בעלי פוטנציאל להפוך לוויראליים, כשלנגד עינינו עומדת המטרה לדיווח אפקטיבי על אותם התכנים ומחיקתם המוחלטת מהרשתות החברתיות והאינטרנט."
אז מה בעצם נדרש כדי להילחם בטרור ברשת?
בגדול, כל אחד יכול לסייר ברשת, לאתר פוסטים פוגעניים המכילים מידע שקרי ולדווח עליהם, אבל מדובר בעבודה סוחטת רגשית שלא נגמרת אף פעם ובכלל, יש גבול למה שאדם בודד מסוגל לעשות באופן ידני. מערכות אוטומטיות לניתוח נתונים, כמו זו שמציעה החברה, מסייעות לעשות זאת באופן יעיל ומקיף הרבה יותר.
אריאל מציין שהפרויקט, ששמו SeekNet-AI חשוף לקהל הרחב תחת קוד פתוח בגיטהאב, וכל שנדרש כדי להשתמש בו הוא תהליך אימות קצר, סביבת עבודה חזקה שמסוגלת לעבד ולנתח כמויות מידע גדולות, והתקנות "פריימוורק" בסיסיות מסוג פייטון וספארק, עבור איסוף, עיבוד, וניתוח מידע גדול.
לדבריו, "ניתן להשתמש בטכנולוגיה של החברה כדי לזהות קבוצות של אנשים או ארגונים המפגינים התנהגות חשודה ברשת, כגון שימוש בשפה תומכת טרור או רכישת מוצרים ושירותים הקשורים לטרור. בנוסף, קיימות מגוון יכולות למציאה וזיהוי של משתמשים תומכי טרור תוך שימוש בנתונים."
הוא מוסיף כי "טכניקה מוכרת נוספת היא למידת מכונה, המשמשת לבניית מודלים של התנהגות. ניתן להשתמש במודלים אלו כדי לזהות התנהגות חשודה, כגון ניסיון לגייס אנשים לארגוני טרור או לרכוש ציוד ואמצעים לטרור. הטכניקה השלישית ואולי המוכרת ביותר, היא בינה מלאכותית, המשמשת לביצוע משימות מורכבות, זיהוי קשרים בין אנשים או ארגונים התומכים בארגוני טרור, זיהוי פעילות חשודה, מעקב אחר תנועות כספים חשודות, או דפוסים של פעילות טרור חוזרת."
ויש גם לא מעט אתגרים בדרך
אריאל מספר כי "אחד האתגרים העיקריים הוא כמות הנתונים העצומה שיש לאסוף ולנתח. רשת האינטרנט מייצרת כמות עצומה של נתונים בכל יום, וכדי לזהות תבניות התנהגות חשודה, צריך לאסוף ולנתח כמות עצומה של נתונים. האופי הדינאמי של הרשת הפתוחה פירושו שהנתונים מתעדכנים כל הזמן, וכדי לשמור על רלוונטיות צריך לעדכן את המודלים של ניתוח הנתונים באופן קבוע. בשל כך, ארגוני טרור משנים את האסטרטגיה שלהם באופן מתמיד, מה שמקשה עוד יותר לעקוב אחריהם באמצעות ניתוח נתונים."
איך ניתן לייעל את התהליך הזה ולהתגבר על האתגרים?
לדברי אריאל, כדי לייעל את הניתוח, 3 ערכים מרכזיים חייבים להתממש: "ראשית, חייבים להתפתח סטנדרטים בינלאומיים לניתוח נתונים לחשיפת טרור, כדי להבטיח שהנתונים יעבדו באופן אחיד ויעיל, ויסייעו לשפר את השיתוף בין מדינות. שנית, יש להשקיע יותר במחקר ופיתוח של טכנולוגיות ניתוח נתונים מתקדמות, ושלישית, יש ליצור מנגנונים משפטיים ורגולטוריים להגנה על הפרטיות, שיסייעו להבטיח שהשימוש בטכנולוגיות ניתוח נתונים יהיה אחראי ומוגן."
היום שאחרי המלחמה
אריאל מסכם את הדברים עם הערה חשובה לגבי מה שהעולם יזכור מהמלחמה הזאת כאשר היא סוף סוף תסתיים: "תעשיית הפייק ניוז שהתפתחה בשנים האחרונות מייצרת כמויות מידע עצומות, שהאדם הממוצע פשוט לא יכול להתמודד איתן. בהסתכלות לעתיד, אני בטוח שנראה קושי להוכיח אירועים שהתרחשו בעולם האמיתי, לאור ריבוי המידע השקרי שקיים בכל רחבי הרשת. השימוש בכלים טכנולוגיים, יחד עם המלחמה על חשיבות האמת אותה, אנחנו מנהלים בימים אלו, היא קריטית כדי להבטיח שהנרטיב השקרי לא ישרוד במבחן הזמן."