בין חוויית משתמש להנדסת תודעה עובר גבול דק שלא כדאי לחצות

ההבטחה הייתה ברורה: חוויות מותאמות אישית שישדרגו כל רגע בחיים. אבל כשהכול מתוזמן, מחושב ומתוזמר בהתאם לפרופיל רגשי מתעדכן — קשה לדעת אם זו קפיצת מדרגה טכנולוגית, או כלוב שקוף שאט אט נבנה סביבנו. בין יעילות להתניה, בין קידום מכירות להנדסת תודעה — משהו עמוק משתנה בלי שנשים לב.

הטכנולוגיה מבטיחה להכיר אותנו לעומק: לדעת מה נרצה, מתי ואיך — עוד לפני שניסחנו שאלה. היא מתאימה לנו מוצרים, תכנים ושירותים בקצב פעימות הלב. אבל מתחת לפני השטח, נבנית מציאות מדויקת מדי, חלקה מדי — כזו שמלטפת אותנו לתוך שקט תודעתי. האם זה שיפור חוויית החיים — או עיצוב מחדש של התודעה?

המערכות שנבנו כדי לשרת אותנו החלו לעצב אותנו. הן זוכרות יותר טוב מאיתנו, מגיבות מהר מאיתנו, ובוחרות עבורנו בשם הנוחות. כשכל גירוי, המלצה ומידע נמסרים בעטיפה אישית מדי — איפה נגמר האדם ומתחיל האלגוריתם? אולי מה שאיבדנו הוא לא את השליטה, אלא את היכולת לחוש בהיעדרה.

בעולם שבו הגבולות בין בינה אנושית לבינה מלאכותית הולכים ומיטשטשים, הציפיות של הצרכנים רק מתחזקות. יותר ויותר אנשים כבר לא מסתפקים בהמלצות כלליות, בשירותים בסיסיים או בעצות גנריות. חוויות מותאמות אישית — שמבוססות על תחומי עניין, העדפות וצרכים ייחודיים — הופכות לנורמה חדשה. מה שהיה פעם כלי שיווקי נקודתי, מתגבש היום כסטנדרט שצפוי רק להתעצם. הרעיון של יצירת חוויה ייחודית לכל אדם משנה לא רק את האופן שבו עסקים מתקשרים עם לקוחותיהם, אלא גם את הדרך שבה אנשים מנהלים את חייהם ביומיום.

הודות לבינה מלאכותית, ובמיוחד לבינה מלאכותית גנרטיבית (Generative AI), חברות מצליחות היום לייצר חוויות מותאמות לעומק שלא הכרנו בעבר, ונראה שהלקוחות אוהבים את זה. מקינזי מדווחת כי 78% מהצרכנים אמרו שתקשורת מותאמת אישית ממותג גרמה להם לרכוש שוב ושוב, וגם להמליץ ​​על המותג לחברים ובני משפחה. 71% מהצרכנים מצפים שחברות יספקו אינטראקציות מותאמות אישית, ו-76% מתוסכלים כשחברות לא עושות את זה.

עם ההתקדמות המרשימה של הבינה המלאכותית הגנרטיבית, הפרסונליזציה חורגת מהשיטות המוכרות של חלוקת אנשים לפלחי שוק או יצירת פרסונות כלליות. GenAI מאפשרת לייצר חוויות מותאמות אישית בקנה מידה עצום, עד רמת הפרט הבודד — דבר שלא היה אפשרי בעבר. החל מלמידה והדרכה מותאמות אישית, דרך יצירת תוכן ייחודי ועד לפתרונות שונים שמותאמים אישית לצרכן, למצבו באותו הרגע וגם לפוטנציאל ההתנהגות שלו בעתיד.

היפר-פרסונליזציה, אחד מדפוסי הפעולה הבולטים של בינה מלאכותית, הוא למעשה בניית פרופיל ייחודי ודינמי לכל אדם, שמתעדכן לאורך זמן. זה כולל המלצות מותאמות אישית לתוכן, מוצרים, שירותי בריאות, פיננסים וחינוך, לצד ייעוץ ותובנות מדויקות מבעבר.

בניגוד לפרסונליזציה בסיסית כמו שימוש בשם במייל או פילוח דמוגרפי, היפר-פרסונליזציה מתבססת על ניתוח דפוסים מורכב ממאגרי נתונים עצומים, כדי לספק חוויה מותאמת להעדפות ולהתנהגויות של כל משתמש.

לצורך המחשה: במקום לשלוח ללקוח מייל כללי עם הנחות רק על בסיס ההתנהגות שלו באתר (פרסונליזציה), מערכת היפר-פרסונליזציה תשלח לו הצעה ייחודית למידותיו, לצבע ולסגנון שהוא מעדיף, בהתחשב במזג האוויר בעיר שלו ובפריטים שהוא צפה בהם באתר.

רק לאחרונה, נטפליקס, בשיתוף פעולה עם OpenAI, החלה לשלב היפר-פרסונליזציה במנוע החיפוש שלה — מהלך שמסמן את הדור הבא של חוויית הצפייה (כעת בשלב ניסיוני באוסטרליה וניו זילנד).
מנוע החיפוש החדש מסוגל לפרש שאילתות מורכבות ומלאות ניואנסים, לא רק לפי ז'אנרים או שמות של סרטים, אלא גם לפי גוון הקול, מצב רוח, ואופן הניסוח של המשתמשים. כך למשל, אפשר לבקש "סרט מחמם לב עם כלב", "משהו נוסטלגי משנות ה-90" או "סרט מדע בדיוני קצר בלי אלימות", והמערכת שמבוססת על הבנת שפה טבעית, תזהה את הכוונה המדויקת ותספק חוויית חיפוש מותאמת אישית ושיחתית — בדומה לאופי ההמלצות של ChatGPT.

לעסקים, חוויות מותאמות פירושן סיכוי גובר למעורבות גבוהה יותר, נאמנות חזקה יותר והגדלת הכנסות. עבור המשתמשים עצמם, זה אומר גישה לשירותים המותאמים אישית לצרכים ולמאפיינים שלהם — החל מהדרכות בהתאם לסגנון הלמידה האישי, דרך פתרונות פיננסיים מותאמים, ועד לאוזניות חכמות שמזהות בזמן אמת את מצב הרוח, רמת המתח והריכוז של המשתמש (באמצעות חיישנים ביומטריים וקוליים), ומתאימות לו אוטומטית מוזיקה, הודעות, המלצות או תזכורות, כדי לשפר את החוויה או היעילות באותו רגע.

כל זה מאפשר להגיע לרמות חדשות של דיוק, מהירות ואיכות. היפר-פרסונליזציה תעזור לנו בהמון היבטים, היא תייעל, תקצר, תשפר ותזרז - בדיוק כמו שטכנולוגיה טובה יודעת לעשות - אבל במקרה הנוכחי, היא עלולה להפוך אותה לכלוב שלא נדע איך לצאת ממנו.

מערכות ההמלצה שמפעילה הבינה המלאכותית שינו את הדרך שבה אנחנו צורכים מידע — וזה כבר לא רק סיפור טכנולוגי. בעשור האחרון הן יצרו סביבנו "תיבות תהודה מונעות AI", או כפי שהן מוכרות לעיתים: בועות פילטר.

זו לא רק מטאפורה — מדובר ברשת הדוקה והולכת, שמזינה אותנו בתכנים שחוזרים על עצמם, מחזקת את הדעות שלנו ומצמצמת כמעט לגמרי את המפגש עם רעיונות חדשים.

והתקופה הנוכחית? כאמור, אנחנו בעיצומה של התחזקות חסרת תקדים של הבועה הזו, רגע לפני שהיא תתהדק לכדי כלוב. בעבר, מערכות ההמלצה שירתו בעיקר את עולם השיווק והפרסום, עם טרגוטים מדויקים והתאמה אישית של תוכן. גם כיום אנשי שיווק תורמים להתחזקות הבועה — אך עיקר התופעה שייך לעולמות התוכן החדשותי, התרבותי והחברתי. האלגוריתמים לא רק מוכרים לנו נעליים; הם מעצבים את התודעה הקולקטיבית שלנו.

בעוד שבעבר מערכות פרסונליזציה התבססו על דמוגרפיה והיסטוריית רכישות, ההיפר-פרסונליזציה משלבת נתונים בזמן אמת, תובנות מונעות בינה מלאכותית ותוכן אדפטיבי. היא כוללת התאמה בזמן אמת של אלמנטים כגון: תוכן באתרים, מיילים וממשקים דיגיטליים; המלצות חכמות בשירותי סטרימינג כפי שצוין קודם לכן, מסחר אלקטרוני ובנקאות; עוזרים וירטואליים ושירותי צ'אט שמזהים רגשות, כוונות והיסטוריה של המשתמש; קמפיינים פרסומיים שמתאימים תוכן, שפה ותזמון לכל משתמש בנפרד תוך כדי תנועה - וזו רק ההתחלה.

בעולם השיווק זה יתרון אדיר — אבל בחיי היומיום, זה עוד נדבך שמחזק את בועת הפילטר: כל אחד מקבל תוכן מותאם להפליא, עד שהוא כבר כמעט לא פוגש רעיונות שמאתגרים אותו.

והסכנה? הקצנה, ניכור חברתי וקריסה של שיח דמוקרטי שרבים יאמרו שאת ניצניו אנחנו רואים כבר היום. קצרה היריעה מלהיכנס כאן למחקרים שנעשו על הקשר בין הקצנה פוליטית, טרור ואלגוריתמים — אבל למתעניינים, המאמר הבא יכול להיות נקודת פתיחה מסקרנת.

תיבות התהודה, בועות פילטר, אלו כבר מזמן לא רק עניין אקדמי. הן תורמות להקצנה פוליטית (כל מחנה שומע רק את עצמו), הן הפכו את הדיסאינפורמציה לבעיה בריאותית (ע"ע קורונה/חיסונים), החלישו את החשיבה הביקורתית (כבר נגיע לקונספירציות), פרקו את המרקם החברתי ויצרו כר נוח למניפולציות, מפרשת קמברידג' אנליטיקה המוכרת ועד בוטים שמטים את הבחירות ברחבי העולם וליטרלי — משנים לנו את המציאות ואורח החיים.

בניגוד לעבר, כיום צצות קונספירציות חדשות לבקרים, וניתן להניח שעידן ההיפר-פרסונליזציה רק יגביר את התופעה הזו. כשכל אחד מקבל זרם בלתי פוסק של מידע שנתפר בדיוק עבורו, גם כשהוא רחוק מהאמת - אין מקום לשיח מפרה.

בשנים האחרונות ראינו קונספירציות מכל הסוגים: "גניבת הבחירות" בארה"ב ב-2020, הכחשת קורונה וחיסונים אחרים לפני כן, טענות על שבבים בחיסוני פייזר, ועד תיאוריות על כך שביל גייטס מייצר שלג מלאכותי כדי לשלוט במזג האוויר, שמועות על מלפפונים מסומנים למעקב, אנטנות 5G שמפיצות רעל, מדוזות שהן רובוטי ריגול, וכן, גם תיאוריות על שליטת אנשי לטאה בעולם (מוזמנים לצרף בתגובות תיאוריות שאתם מכירים, יש בשפע). האלגוריתמים, שיודעים למי להגיש כל סיפור, רק מעצימים את התופעה — בלי שום מסנני מציאות.

למרות מורכבות הבעיה, יש אור בקצה המסך. הנה כמה מהאסטרטגיות המרכזיות שיש ליישם — וכנראה שעוד נשמע עליהן רבות בתור מענה לעולם ההולך ונעשה מותאם אישית.

1. עיצוב מחדש של האלגוריתמים
אולי זה דמיוני (ובטח לא כלכלי) לחשוב על זה כיום, אבל אפשר לדמיין עולם טוב יותר (ויש לא מעט שותפים לדמיון הזה) בו המכונה מתעדפת אמת וגיוון על פני קליקים ומעורבות. אלגוריתמים שיציעו נקודות מבט מגוונות יבדקו עובדות של התוכן לפני שיתנו לו עדיפות.

ואולי החשוב מכל - בינה מלאכותית שמתריעה כאשר המשתמשים שוקעים בבועת פילטר/תיבת תהודה. דוגמה: גוגל ניוז מציגה את מצב "סיקור מלא", המציג כתבות ממקורות מרובים כדי להבטיח שמשתמשים יראו נקודות מבט שונות ולא רק נקודת מבט מוטה אחת, ומיזמים כמו HearHere מציעים לקוראים לקבל תכנים אלטרנטיביים ממה שהם רגילים.

2. שקיפות והסבריות ב-AI
קיימת חשיבות הולכת וגוברת בהנגשת מידע למשתמשים על אופן פעולתם של האלגוריתמים. פייסבוק, למשל, הוסיפה את "מדוע אני רואה את הפוסט הזה?", ויש שיח על הצורך בדוחות שקיפות ובהסברים נגישים וברורים. דרישת האיחוד האירופי לסימון תמונות AI מספקת קווים מנחים להתנהלות אתית ושקופה במרחב הדיגיטלי.

3. רגולציה והתערבות ממשלתית
בדיון הציבורי עולה הצורך בפיקוח ממשלתי על האלגוריתמים, הכולל טיפול בהטיות, קידום אחריות משפטית והגבלת מיקרו-טרגוט פוליטי. האיחוד האירופי כבר מקדם את חוק השירותים הדיגיטליים (DSA) בכיוון זה.

4. הגברת הפיקוח האנושי לצד AI
רבים מדגישים את הצורך להגביר את השילוב בין סינון אוטומטי לבין פיקוח אנושי שכולל בדיקות עובדתיות ואזהרות בנוגע לתוכן שנוצר על ידי מכונות. פלטפורמות רבות כבר משלבות בין סינון אוטומטי מבוסס AI לבין פיקוח אנושי הכולל בדיקות עובדתיות ואימות תוכן — במיוחד בנושאים רגישים כמו דיסאינפורמציה, הסתה ותוכן פוגעני, אך נדמה כי השילוב של השניים, חשוב כיום מתמיד.

5. אוריינות דיגיטלית
החינוך הדיגיטלי נחשב לאחד הכלים המרכזיים בזיהוי מניפולציות ובהפעלת חשיבה ביקורתית. פינלנד, לדוגמה, מקדמת כבר מ-2014 תוכנית מקיפה בשם Media Literacy in Finland, שבשנים האחרונות קיבלה דגש חזק על התמודדות עם דיסאינפורמציה, פייק ניוז ומניפולציות ברשת.

6. מודלים חלופיים
אמנם הן לא תופסות מקום מרכזי, אך יש לזכור כי יש חלופות מבוזרות וחופשיות מ-AI ממוקד רווח, כמו רשתות מאסטודון ובלוסקי. כמו כן, נבחנים מודלים מבוססי מנויים או פלטפורמות ללא מטרות רווח כפתרונות אפשריים לעתיד.

בסופו של דבר, היפר-פרסונליזציה מביאה איתה הבטחה גדולה, אך גם אחריות כבדה. היא יכולה לייעל, להקל ולשפר כמעט כל היבט בחיינו, אבל גם לסגור אותנו בבועה שקשה יהיה לפרוץ. האתגר האמיתי בעידן הנוכחי הוא לא רק לאמץ את החדשנות, אלא לדעת לאזן אותה, כדי לשמור על חוויות עשירות, על מגוון דעות — ובעיקר על היכולת שלנו לחשוב בשביל עצמנו.


ברק בן חמו הוא בעלים של ברק מדיה. מומחה לשיווק דיגיטלי, מרצה במכללות ויועץ לחברות וארגונים בישראל.