בגלל הבינה המלאכותית: הדיפ-פייק עולה שלב

אם אינכם רואים את הסרטונים בעמוד זה, אנא כבו את חוסם הפרסומות.

אין ספק ש-AI זו המילה החמה של התקופה האחרונה. היא כותבת שירים ומאמרים, מציירת ופותרת מבחנים, ובכל יום שעובר אנחנו מגלים על עוד יכולת או תכונה חדשה.

אחד השימושים שצוברים תאוצה לאחרונה הוא ה-Deepfake וה-Voice Generator. אתר FAKEYOU למשל, מאפשר לכם לבחור את המפורסם אותו תרצו "לחקות". לאחר שתקלידו את הטקסט, לחצו על SPEAK, והאתר יפיק עבורכם קטע אודיו בקולו של האדם שבחרתם. האתר גם יאפשר לכם להנפיש את הטקסט על תמונה שתבחרו ממגוון התמונות והגיפים באתר: דונלד טראמפ נואם, וולטר וויט זועם, אלברט איינשטיין עם מבט מהורהר וכו'. זו רק דוגמה אחת מבין רבות לכלים שקיימים היום. הסרטון הזה מסכם את העניין בצורה טובה:

כשאלפרד נובל המציא את הדינמיט, הוא לא דמיין שישתמשו בו כדי להרוג ולהילחם. באופן דומה, גם לתכונות החדשות והמסעירות של ה-AI יש יישומים מסוכנים שסוטים מהתכנית המקורית, שהיא בגדול, להפוך את חיינו לקלים יותר.

אחד השימושים המבחילים ביותר הוא זיוף סרטונים אירוטיים של מפורסמים, תופעה שהחלה עם הגעתה של הטכנולוגיה לבשלות. בעוד שיש הגיון להעביר את תחום הפורנו לידיהן של מכונות, ובכך למנוע תופעות של ניצול ונזק גופני לצעירות, 'הפשטת' נשים אמיתיות בתמונות וסרטונים באמצעות AI ופרסום התוצרים ללא הסכמתן היא תופעה חמורה, ואתרי פורנו רבים, ביניהם פורנהאב, כבר הודיעו שיחסמו סרטונים כאלה. כך, הטכנולוגיה שהיתה יכולה להפוך את הקערה על פיה אילצה את תעשיית הפורנו להסתדר בלעדיה ולהיצמד לדרכיה הישנות, לפחות לעת עתה.

שימוש מזעזע נוסף הוא בתחום ההונאות והסחיטות. תחקיר שפורסם בוושינגטון פוסט בתחילת מרץ חשף כיצד נוכלים השתמשו בבינה מלאכותית כדי לחקות את קולם של בני המשפחה של הקורבנות. אותם נוכלים התחזו לבן משפחה במצוקה והצליחו להוציא מהקורבנות, שמיהרו לעזור לקרוביהם, סכומי כסף גבוהים.

אבל אם חשבתם שיותר נמוך מזה כבר לא יכול להיות, תחשבו רגע על צמד המילים "הנדסת תודעה", ובואו נמשיך.

בידיים הלא נכונות, תוכנות ה-Deepfake הופכות למכונות רעל של פייק ניוז. רק לפני שנה, רוסיה פרסמה סרטון מזויף בו הנשיא ז'לינסקי קורא לאוקראינים להיכנע לפלישה הרוסית, כאשר מהצד השני של הגבול, סרטון מזויף בו פוטין מודיע על שלום בין רוסיה לאוקראינה פורסם גם הוא.

אם עד עכשיו חשבנו שקשה לעקוב אחר הפייק ניוז כי כל אחד יכול לכתוב מה שבא לו ברשת, עכשיו כל אחד להשתמש באיזה קול או דמות שבא לו כדי להגיד את זה! האם יש דרך להתמודד עם זה? בשתי מילים, זה מורכב.

בדומה לתכונות כמו ה- AI Text Classifier של OpenAI, המסוגלת לאבחן אם טקסט מסוים "אותנטי" או שהוא נכתב על ידי בינה מלאכותית, כלים חדשים כמו ה-Deepware Scanner צצים כמו פטריות אחרי הגשם במטרה לאפשר למשתמשים לאבחן סרטוני Deepfake, שבאופן כללי נתפסים כאמינים יותר כי "אין כמו מראה עיניים".

לצד זה, כבר עכשיו צצות ברשת מגוון שיטות איך לעקוף את גלאי ה-AI על ידי החלפת שפת המקור בה נכתב הטקסט, או בקשה מראש מהתוכנה שתכתוב באופן יותר 'אנושי'. המשמעות היא שייתכן שגם בתחום ה-Deepfake נראה 'מירוץ חימוש': יותר ויותר גלאי אמת יפותחו, ובתגובה יותר ויותר כלים ושיטות יפותחו כדי לעקוף את אותם גלאים ולהקנות אמינות לזיופים.

באוקטובר 2022 פרסמה מדינת ישראל מסמך מדיניות שאמור להיות אבן היסוד של רגולציה מתאימה שתגיע בהמשך. המסמך מדגיש את החשיבות של עקרונות כדוגמת שמירה על פרטיות, כיבוד שלטון החוק והאינטרס הציבורי ועוד.

בהמשך, הודיעה ממשלת איטליה על איסור שימוש ב- ChatGPT, מחולל הטקסט של OpenA, במהלך שהמחיש יותר מכל את חוסר ההבנה הממשלה את המצב, שכן מדובר רק בכלי אחד מיני רבים מאוד שצפויים לשבש תעשיות שלמות מהיסוד.

במקביל, מומחים קוראים לעצור את פיתוח מודלי ה-AI לתקופה של חצי שנה. מאות אנשי עסקים ואקדמיה כבר חתמו על העצומה, ביניהם אילון מאסק, המחזיק בין השאר בבעלות על טוויטר, שנפטרה לאחרונה מצוות אתיקת ה-AI שלה.

גם בממלכה המאוחדת לא נשארו אדישים וב-29 במרץ פרסמה ממשלת בריטניה דוח בנושא בינה מלאכותית שמטרתו להעלות את אמון הציבור בבינה מלאכותית ולעודד את השימוש בה לצרכי חדשנות בעבודה. הדוח מציג חמישה עקרונות מחייבים לאלו העושים שימוש בבינה המלאכותית: בטיחות, שקיפות, הגינות, אחריות ותיקון תוצאות מזיקות, אם ישנן כאלה. על פי הדוח, חברות העושות שימוש ב-AI צריכות לספק הסבר על אופן השימוש ותהליך קבלת ההחלטות, תוך התייחסות לסיכונים הנובעים מהשימוש בה.

עדיין לא ברור מה תהיה ההשפעה של אותם דוחות, מסמכי מדיניות ועצומות הקוראים לבלום את הדהירה לעולם מלאכותי, אך מה שבטוח, כלי Deepfake מבוססי ה-AI משנים כבר עכשיו את כללי המשחק מהיסוד. השאלה האמיתית היא האם האנושות, שכרגע עסוקה בלחתום על הצהרות יפות, אכן תצליח להתגבר על ה'מפלצת' שיצרה, או שאנחנו בפתחו של עידן שבו כבר באמת בלתי אפשרי להבחין בין שקר לאמת?

עו"ד רעות גולדמן היא מנכ"ל קבוצת גאומטריקס, חברת ועדת "הלסינקי" בבי"ח בלינסון, וחברת דירקטוריון בעמותת נאמני בי"ח שניידר לילדים