חזון צוקרברג: פרסומות שכותבות את עצמן וקהל שכבר לא מאמין לכלום

דמיינו עולם שבו כל פרסומת מותאמת אישית אליכם ברמה כזו שהיא יודעת בדיוק מה ללחוש לכם באוזן כדי שתלחצו על כפתור הקנייה. עולם שבו אלגוריתמים מתוחכמים לומדים את הפחדים, התשוקות והחולשות שלכם, ומנצלים אותם כדי לשכנע אתכם לרכוש מוצרים ושירותים שלא בהכרח תצטרכו או תרצו. זה לא עוד סיפור מדע בדיוני, אלא חזון שמארק צוקרברג מדבר עליו באופן גלוי, ומציאות שמתקרבת אלינו בצעדי ענק, ויש האומרים שהיא כבר כאן.

"בשנים הקרובות, בינה מלאכותית תוכל גם לייצר קריאייטיב למפרסמים, וגם להתאים את איך שאנשים רואים אותו", אמר מנכ"ל Meta, מארק צוקרברג, בשיחת משקיעים בה סיכמו את רווחי הרבעון השני של 2024. "בטווח הארוך, מפרסמים יוכלו לומר לנו יעד עסקי ותקציב, ואנחנו נעשה את כל השאר עבורם. אנחנו הולכים להגיע לשם בהדרגה עם הזמן, אבל אני חושב שזה הולך להיות עניין גדול מאוד", אמר המנכ"ל, ששימועים בסנאט וקנסות במיליארדים אינם זרים לו כלל וכלל.

עכשיו בואו נוריד את כל זה לקרקע, כי מה שגורם לסימני הדולר לנצנץ בעיניים של צוקרברג ומה שטוב לאנושות זה בהכרח לא אותו הדבר.

בפוסט שפרסם מתי מריאנסקי בקבוצת הפייסבוק המשובחת "עליית המכונות" שבניהולו, שחלקים ממנו ומהתגובות אליו מובאים בכתבה זו, הוא מציג תרחיש מדאיג שבו מערכת בינה מלאכותית מתוחכמת ממציאה קורסים המבטיחים התעשרות מהירה וקלה, הצלחה וניצחון מוחלט. המערכת בונה עבור המשתמש סט של משימות שנראות פשוטות, אך למעשה לא ניתנות להשגה בלי הרבה מזל, כישרון ויוזמה (שאם היו לך, היית מצליח/ה גם בלי הקורס).

בדוגמא של מריאנסקי, המערכת מתחילה לייצר פרסומות לקורס. "בכל פעם, היא תוקפת את תאוות הבצע והעצלנות הטבועות בנו מכיוון אחר. פעם זו קריינית צעירה ומצחקקת, פעם זה איש לבן שיער עם חליפה, פעם זה בחור מהשכונה, מהשכונה שלך ממש, רחוב לידך. הפנייה שונה בכל פעם, הדגשים אחרים, ההקדמה שונה, והשיא נמצא במקום אחר", הוא כותב ומביא כמה דוגמאות:

• "הקורסים האחרים הם שטויות"
• "הקורסים האחרים מעולים, אבל זה שונה מהם"
• "הקורס הזה שינה את חיי"
• "הקורס הזה עובד מצויין אם אתם מישהו כמוני"
• "אל תקנו את הקורס הזה"

"כל זווית אפשרית עוברת בדיקה כדי להבין מה מכל הדברים הכי מדבר ספציפית אליך; פעם זו פרסומת גלויה ופעם סמויה; הפרסומת של הבוקר שונה מזו של הצהריים, וזו שלפני האוכל שונה מזו של אחרי האוכל, אבל הפרסומת של מאוחר בלילה אחרת לחלוטין; המערכת לא מייצרת אותן מראש בכלל, אלא תוך כדי שהן נצפות, והוידאו מיוצר מחדש שוב ושוב - כל פעם בשינויים קלים", כותב מריאנסקי.

עכשיו קחו את התרחיש הזה והלבישו אותו על מגוון המפרסמים שקיים בפלטפורמות מטא: מותגים, עסקים וחברות, ארגונים חברתיים וממשלתיים, פוליטיקאים ולוביסטים, משפיענים בסדרי גודל שונים, מפיצי קונספירציות, מתחזים ונוכלים - כולם יהנו מסט כלים משופר שיסייע לשכנע כמה שיותר משתמשים לבצע את הפעולה הרצויה להם, בהתאם למיליון קריטריונים המבוססים על היסטוריית הפעולות של המשתמשים, ושאיש מלבד עובדי מטא לא יודע מה טיבם. "בסוף תהיה לנו מערכת חיסונית שתדחה את כל הפסולת הזו. אבל עד אז, הרבה יכול לקרות".

המאבק על תשומת הלב שלנו הוא אחד האתגרים הגדולים של המאה ה-21. חברות טכנולוגיה משקיעות מיליארדים כדי לפתח אלגוריתמים שיידעו לשמור אותנו דבוקים למסכים. הפרסומות המותאמות אישית הן רק קצה הקרחון. ככל שהטכנולוגיה מתקדמת, כך גדלה היכולת שלנו למקד את המסרים השיווקיים לקהל יעד מצומצם מאוד, ולשכנע אותו בצורה יעילה יותר. הבעיה מתחילה כאשר מרוב דובים לא רואים את היער, או במילים אחרות, כאשר מרוב התאמה אישית קשה לדעת מה מכל התוכן שאנחנו רואים באמת מתאים לנו ומה פשוט תוצאה של עבודה שיווקית טובה ותכתיבים מלמעלה.

כבר היום אנחנו יודעים שרמת הבקרה והולידציה שמטא מבצעת למפרסמים במערכת הפרסום שלה נמוכה מאוד. כעת, כשהכלים החדשים יגיעו לידיים הלא נכונות, תוקפים, מתחזים ונוכלים יוכלו להגיע הרבה יותר רחוק. השימוש בבינה מלאכותית ליצירת פרסומות מותאמות אישית מגביר את החששות, בפרט סביב הנושאים הבאים:

• מניפולציה: האפשרות למניפולציה בתודעה האנושית היא גבוהה מאוד. אלגוריתמים יכולים לזהות את הפחדים והחולשות שלנו ולנצל אותם כדי לגרום לנו לקבל החלטות לא רציונליות.
• פרטיות: איסוף נתונים אישיים על מנת ליצור פרסומות מותאמות אישית מעלה שאלות קשות בנוגע לפרטיות שלנו.
• פייק ניוז: הבינה המלאכותית יכולה לשמש ליצירת תוכן מזויף ומטעה בקנה מידה גדול, מה שמקשה עלינו להבדיל בין אמת לשקר.

כל זה לא רק מהווה סיכון למשתמשים, אלא גם למטא עצמה, שמחוייבת לעמוד בתקנות ה-AI החדשות של האיחוד האירופי, תקנות הפרטיות של קליפורניה, ותקנות נוספות קיימות וחדשות שיצוצו עם הזמן ככל שהטכנולוגיה תתפתח.

חוק ה-AI של אירופה הוא אמנם התחלה טובה, אבל הוא לא מכסה את כל ההיבטים ונוגע בעיקר להתנהלות של חברות ותאגידים. כדי להגן על הציבור מפני מניפולציה, ממשלות יצטרכו להטיל רגולציה על השימוש בבינה מלאכותית ספציפית בענף הפרסום, ולוודא שמפרסמים עומדים בדרישות סטנדרטיות של שקיפות לציבור ושמירה על פרטיות המשתמשים.

אנחנו המשתמשים, לומדים מהר מאד לזהות זבל רפטטיבי, וככל שהפרסום האוטומטי יתחיל להידמות לפרסום האיכותי והמושקע, כך האפקטיביות של הפרסום כולו תרד. ממילא תמיד היינו חשדניים כלפי פרסומות, אבל במוקדם או במאוחר, אנחנו פשוט נפסיק להאמין להן.

במקום לדחוף לנו עוד ועוד פרסומות מותאמות אישית, על ענקיות הטק להשקיע בכלים טכנולוגיים שיהפכו את הפלטפורמות שלהן למקום בטוח עבור המשתמשים, למשל, כלים לזיהוי תוכן מזויף, זדוני או שגוי, ואופציה לחסום כל תוכן שנוצר על ידי בינה מלאכותית.

מייסד טוויטר ג'ק דורסי אמר לא מזמן שתוך 5-10 שנים כבר לא נוכל להאמין לשום דבר. לדבריו, חברה שתצליח לעשות מזה כסף תהיה מוצלחת מאוד.

ואכן, איש לא יתפלא אם בקרוב מאוד יתחילו לצוץ כלי AI שיסננו את התוכן המג'ונרט החוצה מהפיד. כמו שפעם תיבת הדואר האלקטרוני היתה מפוצצת בזבל, והיום מסנני הספאם הפכו לכמעט בלתי מנוצחים, וכמו המלחמה שכל הזמן משתדרגת בין פלטפורמות הפרסום לבין ה-ad blockers, גם כאן אנחנו נראה קרב פיתוח בין אלה שמייצרים את התוכן המג'ונרט לבין אלה שמנסים למגר אותו. ואם מטא תחליט להפוך את הפלטפורמות שלה ליצרניות של פרסום זבל, היא פשוט תלך לפח.