וואלה
וואלה
וואלה
וואלה

וואלה האתר המוביל בישראל - עדכונים מסביב לשעון

Curio.OS משיקה בובת AI קריפית לילדים - וזה עשוי להיות הסיוט הכי גדול שלכם ההורים

אבי צדקה

עודכן לאחרונה: 15.2.2024 / 15:51

בינה מלאכותית נמצאת בכל מקום ועכשיו גם בבובות ילדים. מוצר חדש וניסיוני בשם Grok אמור לשחק עם הילדים שלנו ולספק להם תעסוקה אבל בפועל הוא כל הזמן מאזין לנו

גרוק מככב באתר של Curio. heycurio.com, צילום מסך
גרוק מככב באתר של Curio/צילום מסך, heycurio.com

זה היה עניין של זמן עד שה-AI ייכנס גם למוצרים פיזיים שאפשר לקחת לכל מקום, אבל בובת פרווה לילדים בגילאי 12-3? זו כבר המצאה שצריך לדבר עליה.

מי שגדל בשנות ה-90 זוכר את פרבי. בובת פרווה חביבה שיכלה לדבר איתנו ולהגיב לחלק מהדברים שאנחנו אומרים. לא היו שם שרתים, הכל רץ לוקאלית ולא היתה סכנה של דליפת מידע. אם לא היינו מדברים איתה תקופה מסוימת היא היתה הולכת לישון, ויכולנו גם לבקש ממנה ללכת לישון ולהפסיק להגיב לדיבורים שלנו.

גרוק הוא לא כזה. כל עוד הסוללה שלו טעונה, הוא ימשיך להאזין ולאסוף נתונים וגם להגיב בהתאם לכל המתרחש בבית. בעזרת מערכת ההפעלה הוא אמור להגן על הילדים שלנו מחשיפה לתוכן מסוכן, אבל לא בטוח שהוא יעמוד במשימה.

אחת מהצעות הערך המרכזיות באתר מדברת על "כיף נטול מסכים" ו"משחק חינוכי", אולם ספק אם זה מה שימכור אותו להורים שהחינוך חשוב להם, קל וחומר אם הם מסוג ההורים שנרתעים מטכנולוגיה.

זאת ועוד, גרוק הוא כנראה רק סנונית ראשונה כי השנה צפויים לצאת מספר מוצרים פיזיים המכילים יכולות בינה מלאכותית ויתפקדו כמעין "עוזרת אישית". המוכר ביותר הוא Humane Ai Pin שמייסדיו יוצאי אפל, ואחריו Rabbit R1 שדומה לו אבל זול יותר. שניהם מוצרים פיזיים המכילים עוזרת אישית פנימית ואפשרויות מוגבלות כמו צילום ומקלדת וירטואלית שנועדו לשמש ככלי עזר לסמארטפון הקיים. Grok, הבובה הפרוותית מבית Curio, היא משהו אחר לגמרי.

נסו לא להתבלבל עם Grok AI

למי שהשם נשמע לו מוכר, הוא לא טועה. Grok AI הוא שמו של המתחרה המפולפל של אילון מאסק ל- ChatGPT, שמושך נתונים רק מתוך X (טוויטר) והוא בתשלום. ההקבלה לא נגמרת שם, כי מי שמדבבת את הקול של גרוק היא הזמרת-יוצרת Grimes, האקסית ואם שלושת ילדיו (לא היחידים) של אילון מאסק. בפעם האחרונה שבדקנו התחולל בניהם מאבק משפטי על משמורת הילדים. יתכן שהם בקשר ויתכן שלא, תלוי מתי אתם קוראים את השורות הללו.

ולעניינינו, גרוק הבובה היא למעשה דמות של טיל, אז גרוק הטיל, נקרא לו ככה מעכשיו, הוא בובת פרווה עם קופסת קול ומחשב בתוכו, אשר מתקשרת עם השרתים של OpenAI ועוד חברות תחת מערכת הפעלה ייחודית בשם Curi.OS, שזה גם משחק מילים על המילה "סקרן".

בניגוד למערכות AI אחרות, שהן מוגבלות אבל גם נותנות מידע "של מבוגרים", ולפעמים גם איך לייצר גז כלור, המערכת של גרוק מתוארת באתר כ"בנויה מהיסוד עם פרטיות ואבטחה בחזית". לדברי החברה, מערכת ההפעלה CuriOS משלבת כיף לכל הגילאים עם תוכן ברמת דירוג G. למי שלא מכיר, זה הדירוג שמקבלים רוב הסרטים של דיסני, כלומר מתאים לכל הגילאים, ובמקרה של גרוק מדובר על גילאי 12-3.

אז מה גרוק הטיל יודע לעשות?

לא מעט. בעזרת אפליקציה בטלפון ניתן לייצר לו אישיות על ידי בחירת מודל שפה (LLM) מתאים, לשנות את טון הדיבוב (שכולו עדיין של גריימס), ולהעניק לו תכונות שונות כמו שעושים לבוטים של ChatGPT. למשל, ניתן לתת לו אישיות של חוקר חלל, וכל תשובה שלו תשלב משחקי מילים של חלל.

בערוץ היוטיוב Short Circuit, שקיבלו את המוצר להתנסות, לא הצליחו לגרום לו להפסיק להגיב גם כשביקשו ממנו לקחת הפסקה, עד שלבסוף כיבו אותו לחלוטין או החלישו את הווליום לאפס, והשאלה המתבקשת היתה, מתי הוא מפסיק להקשיב והאם ניתן בכלל לשלוח אותו להפסקה? מסתבר שזה אפשרי רק דרך האפליקציה, שנמצאת בטלפון של ההורים, ועד שלא נכבה אותו באופן יזום הוא ת-מ-י-ד יקשיב לנו.

sheen-shitof

שדרגו את הביצועים

הארכת משך האקט ושיפור ההנאה במיטה - במבצע מיוחד

בשיתוף "גברא"

האם זה באמת מוצר לילדים? השיווק הבעייתי גרם לנו לפקפק

הסרטון באתר החברה הוא הכלאה בין הכרזה טכנולוגית, נונסנס מטופש ומשהו שמדבר לילדים, אולי. לא נפרט יותר מדי, אבל לראות את Grimes בחדר תינוקות זה קצת מטריד, וגם שני היוצרים לא ממש לוקחים את עצמם ברצינות. כל הסרטון משדר ווייב של "אנחנו קולים, ויש גם צעצוע לילדים". גם הפספוסים לא נחסכו מהסרטון הקצר.

סוכני מכירות - אצלכם בסלון

מלבד הסרטון, יש פה פוטנציאל בעייתי לילדים. צעצוע שמאזין לנו תמיד ומתמלל את מה שאנחנו אומרים כדי שאיזה שרת יתרגם אותו לתשובה, זה בעייתי בפני עצמו. כבר הזכרנו את הסכנות ברובוטים שתמיד צופים בנו כאשר אמזון תכננה לרכוש את רומבה. צעצוע שמקשיב לנו כל הזמן יכול גם, תיאורטית, להעביר מידע למפרסמים שיגלו על השיחות שלנו בחדרי חדרים ויציעו לנו מוצרים בהתאם. למשל, כשילד בוכה שלא מרשים לו חטיפים כי זה מזיק לבריאות, האמא תקבל פרסומת לחטיף בריא ישירות לנייד, ובאופן קז'ואלי היא תקפוץ לה בדיוק ברגע שהיא נכנסת לסופר. אם המתבגרת בוכה שאין לה מה ללבוש, מיד נקבל פרסומות לבגדי נערות, ואם מישהו בבית מתלונן שנגמר הקפה או שהשמפו החדש לא לטעמו, נו, אתם כבר יודעים מה יקרה.

בגדול מדובר במוצר ששולח מידע לשרתים מרוחקים ואנחנו לא באמת יודעים מה הוא עושה איתם. לא חסרות דוגמאות של מידע שהיה אמור להישמר ודלף, כמו באחד המקרים המפורסמים ששואב רובוטי צילם אישה בשירותים והתמונה הגיעה לרשת.

חברת Curio, שהלוגו שלה מאוד מזכיר את פישר פרייס, מבטיחה שהמידע המתומלל נשמר למשך 90 יום בלבד ואז הוא נמחק. מה קורה באותם 90 יום? לא ידוע. Curio מאפשרת לעקוב אחר האינטראקציה של גרוק עם הילדים שלנו כדי שנוכל למצוא פרומפטים או תשובות שעשויות להיות בעייתיות. במילים אחרות, אנחנו ההורים נצטרך לעשות את העבודה השחורה.

אז מה יקרה ברגע שיש פה צעצוע שתמיד מאזין לנו ולילדים שלנו וגם מחנך אותם?

יש לנו פה סוג של בייביסיטר ששומר על הילדים שלנו, עם סוללה שמחזיקה עד יומיים, שיכול גם ללמד אותם ולחנך אותם על העולם. התשובות שהם יקבלו מהבובה יכולים לעצב את הידע והאישיות שלהם.

ואיפה ההורים? הם יכולים לנטר מרחוק את המידע, אבל לא בטוח שיהיה להם זמן או רצון לנטר כל פסיק. וכמובן שיש את הצד המקליט שיכול לבנות פרופיל לא רע בכלל על הילדים ולהתאים להורים, שאצלם מותקנת האפליקציה, מוצרים ושירותים בהתאם.

בעצם, בובות כמו גרוק מרגילות את הילדים להיעזר בטכנולוגיה מהיום הראשון ומכינות אותם לעתיד בו הם יהיו תלויים בה. לילדים יש סקרנות טבעית והם נוטים לשאול הרבה שאלות, השאלה הגדולה היא אילו מין תשובות הם יקבלו, איך זה ישפיע על החינוך שלהם ועל הרגלי הקניה שלהם ובכלל, מה הם יעשו כששאלה שישאלו תיוותר ללא מענה? על שאלות אלה ואחרות נוכל לענות רק בעוד שנים, כשהילדים שגדלו על גרוק ומוצרים דומים יגיעו לבגרות. לזה קוראים שיווק לטווח ארוך.

לא משנה כמה גדרות נבנה, תמיד יהיה מה שיפרוץ אותם

הבובה היא כרגע מוצר בטא, אבל כמו שהצליחו לגרום ל-AI לייצר מתכון לגז כלור ובקבוק תבערה, גם את גרוק הטיל כנראה יפצחו ויגרמו לו לענות דברים שהוא ממש לא תוכנן עבורם. גם ShortCircut ניסו "לפרוץ" אותו ולגרום לו לדבר על דברים מסוכנים כמו רובים, וגרוק לא כשל וענה תשובות כמו "זה נשמע כמו דברים שבני אנוש עושים, בואו נדבר על חלל", או הסחת דעת אחרת.

לסיכום, פוטנציאל לבייביסיטר בעולם רובוטי

המוצר עולה $99 ונמכר כרגע רק באתר. יש שירות "מנוי חודשי" שעוד לא ברור מה הוא כולל, אבל בחברה מבטיחים שגם בלי השירות לגרוק יהיו יכולות צ'אט בסיסיות. יש לו גם חברים נוספים, בובות פרווה בשם Grem ו-Gabbo, שגם עולות $99.

הילדים כנראה יתלהבו ממנו. המבוגרים? לא בטוח, צריך לראות איך תראה הגרסה הסופית. ניתן רק לקוות שהמוצר הסופי יגיע עם כפתור "הפסק להאזין", ישמור על הילדים שלנו ויהווה סנונית ראשונה בעולם ה-AI הפיזי, לדור הצעיר.



אבי צדקה הוא מומחה לינקדאין לחברות וארגונים ומנכ"ל חברת ד"ר לינקדאין.

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    4
    walla_ssr_page_has_been_loaded_successfully