והרי החדשות: הבינה המלאכותית משתלטת על המהדורה המרכזית

בהרבה בתים מדובר בריטואל קבוע. לקראת השעה 20:00 בערב כולם מתגודדים בסלון ומחכים לשמוע את המהדורה המרכזית. זה לא משנה מי הדמות על המרקע. בעבר היה רק ערוץ 1, קראו לו בשם המקורי: "ערוץ 1" וחיים יבין הוביל אותו בגאון עם קול רדיופוני ודיקציה שלא ניתן לטעות בה. היום קיימות כמה דמויות מרכזיות, נקרא להם טאלנטים מבלי לדבר על העדפות. זה לא משנה אם אנחנו מדברים על יונית לוי, דני קושמרו, אודי סגל, טלי מורנו או ינון מגל, כולם כבר מכירים אותם, וכבר היום רבים מתקשים לסמוך עליהם, האם ה-AI הולך להמשיך לאתגר את זה עוד יותר את האמון שלנו?

דיפ פייק פרץ לעולם עוד לפני מהפכת ChatGPT וחבריו. לוקחים דמות אמיתית ובעזרת הטכנולוגיה גורמים לה להתנהג ולומר דברים שהיא לא באמת אמרה או עשתה. אפשר לתת לסנופ דוג להמליץ על דוכן שווארמה ולאילון מאסק למכור לנו תרמית קריפטו. הדוגמה האחרונה נפוצה יותר ממה שאתם חושבים.

בדרך כלל יש לנו רמזים שמדובר בפייק. למשל, הלוקיישן, תנועות הגוף של הדמויות וכמובן הקונטקסט. למאסק יש מספיק כסף ולא סביר שהוא ימכור לנו תרמית קריפטו, ולסנופ? גם לו יש מספיק כסף, והוא כנראה לא זה שימליץ על השווארמה הכי חמה בחיפה. אבל מה קורה כאשר הרמזים לא מספיק ברורים, והטכנולוגיה מתחילה להתקדם ולהראות כמו הדבר האמיתי? חברות כמו DI-D כבר מאפשרות לנו לייצר וידאו מפרומפט, ומה לגבי מהדורת חדשות שלמה?

עם החדשות זה קצת יותר קשה. אני יכול לשדר לכם ש"משאית זבל התהפכה ונשפכת ממנה לבה בכל הכביש", אבל כנראה שלא תאמינו לי כי זה מוגזם אפילו אם אני אשלב בידיעה סרטון של המשאית. אבל אם אני אדווח ש"משאית זבל התהפכה", בלי הלבה, ויש סרטון, האם זה באמת קרה?

זה מתחיל להיות טריקי. אם דני קושמרו עומד ב-20:00 בערב ומדווח על משאית זבל שהתהפכה, או ששר בממשלה תקף פיזית אזרחית, האם מישהו יטרח לבדוק שהסיפור אמיתי בכלל, או שנקבל את הדברים כאמת לאמיתה?

היום בעידן הפייק ניוז הצופים פחות בודקים עובדות, ואם ניתן לבצע מניפולציות על האמת, הרי שהמצב הופך להיות מאתגר לכל הפחות, ומסוכן ומפחיד ברמה של הטייה של ממש במקרים יותר קיצוניים.

לפעמים לא צריך אפילו הוכחות. "אמרו את זה בחדשות" מספיק להרבה אנשים בשביל להתקבל כאמת. ולמה אנחנו ממהרים להאמין לאנשי החדשות? הדבר יכול לנבוע מסיבות של אמון וקרדביליות בטאלנטים, עצלנות אם אין לנו זמן לבדוק את העובדות, או סתם חוסר ידע כאשר אנחנו לא מספיק מבינים בתחום בשביל להתחיל לפרק אותו לחלקיו ולבדוק כל רכיב.

לפני שבועיים הופיע בחשבון של חברת Channel 1 ב-X (לשעבר טוויטר) סרטון שהציג מהדורת חדשות המורכבת מהרבה אלמנטים של AI מהצד הטכני וההפקה אך מבחינת החדשות, היא שילבה סיפורים אמיתיים ועדכניים. המהדורה הרובוטית הציגה פתיח שמספר על המהפכה שהיא עצמה הביאה - מהדורת חדשות המורכבת מקריינים לא אמיתיים ובוטים, שמתמללים טקסט שנכתב להם מראש. כמובן שבעולם ה-AI, השפה היא ממש לא מכשול והקריין יכול לדבר בספרדית, איטלקית ואפילו עברית בלחיצת כפתור, כשהכל נראה טבעי ויחסית אנושי.

חברת Channel 1 הוקמה בידי המפיק ובמאי הטלוויזיה סקוט זבילסקי, ואדם מוסאם, יזם חברתי שהשקיע במספר חברות טכנולוגיה בעבר ועזר להן לגדול. הערוץ צפוי לעלות ב-2024, ומוסאם מספר שמטרתו היא "לתת למשתמשים דרך חדשה ואישית יותר לצפות בחדשות גלובליות, המופעלות באמצעות AI גנרטיבי". ולמי שמעוניין במודל העסקי, מדובר כנראה על פלטפורמה מבוססת פרסומות.

מוסאם מתייחס גם לאתגרים, ובשביל למנוע הפצת פייק ניוז, תכנים שיש להם נגיעת AI יסומנו ככאלו, כמו עריכות או שינוי שפת המקור, ואת החדשות עצמן הם לוקחים מ"מקורות מוסמכים" לפי טענתם.

אבל זה לא מרשים אותי, כי גם על ChatGPT היה אמורים לשים "גדר בטיחות" ואיכשהו אנשים הצליחו לגרום לו לספר לנו איך להכין פצצת מימן והוא לא היסס גם לתת לנו מתכון קליל שכל אחד יכול בבית לגז כלור.

כמו כל דבר טוב ומתוחכם, גם הישראלים רוצים. חברת Act News היא חברת חדשות ה-AI של העיתונאית מירי מיכאלי והיועץ הפוליטי משה קלוגהפט. בניגוד ל-Channel 1 פה החברה דווקא מתמקדת בטאלנטים מוכרים, ונמסר שעמית סגל כבר הסכים לתרום את דמותו וקולו לשימוש בידי החברה.

החברה לא רק מנסה לייצר ערוץ חדשות שרובו מורכב מכלי AI, אלא גם לבסס אמינות עם דמויות מוכרות כמו סגל. זוכרים את הדוגמא שהזכרנו מוקדם יותר? אז אם עמית סגל מדווח לכם על משאית זבל שהתהפכה, האם זה אמת? האם מדובר בדעה? האם זה AI שנכתב מאחורי הקלעים?

החברה מונה 8 עובדים בשר ודם אבל הטכנולוגיה שלה נשענת על מגוון מערכות מוכרות שחלקם ישראליות. מירי מספרת שבתחום האווטארים, הם משתמשים בספקים כמו D-ID עבור עמית סגל ומירי מיכאלי,וב-HeyGen AI עבר השדרנים בחו"ל. את הקולות הם מייצרים עם ElevenLabs, ויש עוד רשימת חברות וטכנולוגיות מאחורי הקלעים. בפועל כל שנדרש מבחינתם זה יום צילומים אחד בו מיכאלי וסגל היו צריכים להצטלם, ולאחריו הקולות והקמויות שלהם כבר היו מוכנים לעולם ה-AI. החברה מכוונת להביא טאלנטים מוכרים נוספים מהארץ ומחו"ל, שישמשו כמגישי החדשות, ללא העלות הכרוכה בהעסקתם יום יום.

יחד עם AI חזק במערכת חדשות מגיעה גם אחריות גדולה. הסכנות והאפשרות למניפולציות הן רבות. צריך שנכיר בהן, וחלק מהחברות שהזכרתי כבר מכירות ומנסות להימנע.

• לקיחת מקומות עבודה. מיכאלי מסבירה שאין תחליף לבני האדם וה-AI מאפשר להם יותר זמן לייצר את החדשות במקום לקריין אותם. העיתונאות חיה וקיימת, וה-AI עוזר להפיץ את השדרנים ולהפוך אותם לסופר עיתונאים! כלומר, העיתונאים ימשיכו לקבל תשלום על עבודותיהם, וגם כל עבודות האווטארים שלהם. אך כבר ראינו בעבר שככל שהטכנולוגיה מתקדמת, מערכות גדולות מנסות לעגל פינות ולחסוך בהוצאות עם ה-AI.
• הצגת צד אחד של הסיפור: כיוון שיש פה בני אדם ששולטים על החדשות, קצת כמו העורכים בחדשות המוכרות, קיים חשש גדול שיוצג רק צד אחד של הסיפור. למשל, תקראו את הכתבה הזאת בלי החלק הזה, ותגלו שיש רק טוב בחדשות AI. בלי הצד של הסכנות, אנחנו מציגים רק חלק אחד של הסיפור.
• פייק ניוז מדמויות אמינות: ברגע שאנחנו שומעים חדשות מדמויות מפתח שמוכרות לנו, סביר יותר שניקח את דבריהם כאמינים. ואנחנו יודעים שכבר היום עם דיפ פייק אפשר לייצר חדשות מזויפות. כעת עם הטאלנטים שתרמו את דמותם וקולם, הסכנה עולה פי כמה.
• מניפולציה של ממש: לא צריך להסתכל רחוק מדי לצערנו. ערוצים כמו אל ג'זירה מגיעים עם אג'נדה משלהם. לפי דיווחים, חברת Channel 1 מתכננת להפיק 1000-500 סגמנטים ביום. עכשיו תחשבו אם יש להם אג'נדה או אם שילמו להם כדי לנתב את החדשות לכיוון מסויים. פה אני לא מדבר בהכרח על Channel 1, אני מדבר על המתחרים שלה שיעלו "חדשות בתשלום", כאשר התשלום מגיע ממי שרוצה את החדשות בצורה מסוימת ומוכן לשלם על כך, והרבה.

על פניו חדשות AI הן חדשות טובות. נותנים לטאלנטים קיימים להרוויח יותר, ואפשר לספק יותר חדשות בפחות זמן, בלי להתעסק עם פקקים, איפור, תזמון, עריכה, צילום ועוד. בנוסף, החברות שבתחום מבטיחות שלא רק שזה לא יפגע בעבודה אלא אפילו ייצור יותר עבודה, כי עכשיו יש יותר זמן להתמקד בחדשות עצמם, ולא במסביב.

אבל חשוב גם לזכור את הסכנות, והסכנה הכי גדולה היא הפצת פייק ניוז באופן מהיר וסיסטמטי ופגיעה בשכרם של קריינים ומגישים. ראינו את זה קורה בתעשיית הבידור עם שביתת התסריטאים, אחת השביתות הגדולות בהיסטוריה, שהתקיימה בעיקר בעקבות החשש שהבוטים יקחו את העבודה שלהם. במקרה הנ"ל הושג הסכם שהמפיקות הגדולות יצטרכו לבקש הסכמה לשימוש באווטרים של השחקנים המוכרים והם יקבלו תגמול על השימוש בהם.

עוד מוקדם מדי להבין את ההשלכות וניתן לקוות שהדברים לא יהוו סכנה כמו שאני מתאר פה, אבל חשוב שנהיה מודעים לדברים ולא נסמוך על החדשות באופן עיוור, בין אם הן מונעות על ידי AI או על ידי טאלנטים אמיתיים.


אבי צדקה הוא מומחה לינקדאין לחברות וארגונים ומנכ"ל חברת ד"ר לינקדאין.