Curio.OS משיקה בובת AI קריפית לילדים - וזה עשוי להיות הסיוט הכי גדול שלכם ההורים

זה היה עניין של זמן עד שה-AI ייכנס גם למוצרים פיזיים שאפשר לקחת לכל מקום, אבל בובת פרווה לילדים בגילאי 12-3? זו כבר המצאה שצריך לדבר עליה.

מי שגדל בשנות ה-90 זוכר את פרבי. בובת פרווה חביבה שיכלה לדבר איתנו ולהגיב לחלק מהדברים שאנחנו אומרים. לא היו שם שרתים, הכל רץ לוקאלית ולא היתה סכנה של דליפת מידע. אם לא היינו מדברים איתה תקופה מסוימת היא היתה הולכת לישון, ויכולנו גם לבקש ממנה ללכת לישון ולהפסיק להגיב לדיבורים שלנו.

גרוק הוא לא כזה. כל עוד הסוללה שלו טעונה, הוא ימשיך להאזין ולאסוף נתונים וגם להגיב בהתאם לכל המתרחש בבית. בעזרת מערכת ההפעלה הוא אמור להגן על הילדים שלנו מחשיפה לתוכן מסוכן, אבל לא בטוח שהוא יעמוד במשימה.

אחת מהצעות הערך המרכזיות באתר מדברת על "כיף נטול מסכים" ו"משחק חינוכי", אולם ספק אם זה מה שימכור אותו להורים שהחינוך חשוב להם, קל וחומר אם הם מסוג ההורים שנרתעים מטכנולוגיה.

זאת ועוד, גרוק הוא כנראה רק סנונית ראשונה כי השנה צפויים לצאת מספר מוצרים פיזיים המכילים יכולות בינה מלאכותית ויתפקדו כמעין "עוזרת אישית". המוכר ביותר הוא Humane Ai Pin שמייסדיו יוצאי אפל, ואחריו Rabbit R1 שדומה לו אבל זול יותר. שניהם מוצרים פיזיים המכילים עוזרת אישית פנימית ואפשרויות מוגבלות כמו צילום ומקלדת וירטואלית שנועדו לשמש ככלי עזר לסמארטפון הקיים. Grok, הבובה הפרוותית מבית Curio, היא משהו אחר לגמרי.

למי שהשם נשמע לו מוכר, הוא לא טועה. Grok AI הוא שמו של המתחרה המפולפל של אילון מאסק ל- ChatGPT, שמושך נתונים רק מתוך X (טוויטר) והוא בתשלום. ההקבלה לא נגמרת שם, כי מי שמדבבת את הקול של גרוק היא הזמרת-יוצרת Grimes, האקסית ואם שלושת ילדיו (לא היחידים) של אילון מאסק. בפעם האחרונה שבדקנו התחולל בניהם מאבק משפטי על משמורת הילדים. יתכן שהם בקשר ויתכן שלא, תלוי מתי אתם קוראים את השורות הללו.

ולעניינינו, גרוק הבובה היא למעשה דמות של טיל, אז גרוק הטיל, נקרא לו ככה מעכשיו, הוא בובת פרווה עם קופסת קול ומחשב בתוכו, אשר מתקשרת עם השרתים של OpenAI ועוד חברות תחת מערכת הפעלה ייחודית בשם Curi.OS, שזה גם משחק מילים על המילה "סקרן".

בניגוד למערכות AI אחרות, שהן מוגבלות אבל גם נותנות מידע "של מבוגרים", ולפעמים גם איך לייצר גז כלור, המערכת של גרוק מתוארת באתר כ"בנויה מהיסוד עם פרטיות ואבטחה בחזית". לדברי החברה, מערכת ההפעלה CuriOS משלבת כיף לכל הגילאים עם תוכן ברמת דירוג G. למי שלא מכיר, זה הדירוג שמקבלים רוב הסרטים של דיסני, כלומר מתאים לכל הגילאים, ובמקרה של גרוק מדובר על גילאי 12-3.

לא מעט. בעזרת אפליקציה בטלפון ניתן לייצר לו אישיות על ידי בחירת מודל שפה (LLM) מתאים, לשנות את טון הדיבוב (שכולו עדיין של גריימס), ולהעניק לו תכונות שונות כמו שעושים לבוטים של ChatGPT. למשל, ניתן לתת לו אישיות של חוקר חלל, וכל תשובה שלו תשלב משחקי מילים של חלל.

בערוץ היוטיוב Short Circuit, שקיבלו את המוצר להתנסות, לא הצליחו לגרום לו להפסיק להגיב גם כשביקשו ממנו לקחת הפסקה, עד שלבסוף כיבו אותו לחלוטין או החלישו את הווליום לאפס, והשאלה המתבקשת היתה, מתי הוא מפסיק להקשיב והאם ניתן בכלל לשלוח אותו להפסקה? מסתבר שזה אפשרי רק דרך האפליקציה, שנמצאת בטלפון של ההורים, ועד שלא נכבה אותו באופן יזום הוא ת-מ-י-ד יקשיב לנו.

הסרטון באתר החברה הוא הכלאה בין הכרזה טכנולוגית, נונסנס מטופש ומשהו שמדבר לילדים, אולי. לא נפרט יותר מדי, אבל לראות את Grimes בחדר תינוקות זה קצת מטריד, וגם שני היוצרים לא ממש לוקחים את עצמם ברצינות. כל הסרטון משדר ווייב של "אנחנו קולים, ויש גם צעצוע לילדים". גם הפספוסים לא נחסכו מהסרטון הקצר.

מלבד הסרטון, יש פה פוטנציאל בעייתי לילדים. צעצוע שמאזין לנו תמיד ומתמלל את מה שאנחנו אומרים כדי שאיזה שרת יתרגם אותו לתשובה, זה בעייתי בפני עצמו. כבר הזכרנו את הסכנות ברובוטים שתמיד צופים בנו כאשר אמזון תכננה לרכוש את רומבה. צעצוע שמקשיב לנו כל הזמן יכול גם, תיאורטית, להעביר מידע למפרסמים שיגלו על השיחות שלנו בחדרי חדרים ויציעו לנו מוצרים בהתאם. למשל, כשילד בוכה שלא מרשים לו חטיפים כי זה מזיק לבריאות, האמא תקבל פרסומת לחטיף בריא ישירות לנייד, ובאופן קז'ואלי היא תקפוץ לה בדיוק ברגע שהיא נכנסת לסופר. אם המתבגרת בוכה שאין לה מה ללבוש, מיד נקבל פרסומות לבגדי נערות, ואם מישהו בבית מתלונן שנגמר הקפה או שהשמפו החדש לא לטעמו, נו, אתם כבר יודעים מה יקרה.

בגדול מדובר במוצר ששולח מידע לשרתים מרוחקים ואנחנו לא באמת יודעים מה הוא עושה איתם. לא חסרות דוגמאות של מידע שהיה אמור להישמר ודלף, כמו באחד המקרים המפורסמים ששואב רובוטי צילם אישה בשירותים והתמונה הגיעה לרשת.

חברת Curio, שהלוגו שלה מאוד מזכיר את פישר פרייס, מבטיחה שהמידע המתומלל נשמר למשך 90 יום בלבד ואז הוא נמחק. מה קורה באותם 90 יום? לא ידוע. Curio מאפשרת לעקוב אחר האינטראקציה של גרוק עם הילדים שלנו כדי שנוכל למצוא פרומפטים או תשובות שעשויות להיות בעייתיות. במילים אחרות, אנחנו ההורים נצטרך לעשות את העבודה השחורה.

יש לנו פה סוג של בייביסיטר ששומר על הילדים שלנו, עם סוללה שמחזיקה עד יומיים, שיכול גם ללמד אותם ולחנך אותם על העולם. התשובות שהם יקבלו מהבובה יכולים לעצב את הידע והאישיות שלהם.

ואיפה ההורים? הם יכולים לנטר מרחוק את המידע, אבל לא בטוח שיהיה להם זמן או רצון לנטר כל פסיק. וכמובן שיש את הצד המקליט שיכול לבנות פרופיל לא רע בכלל על הילדים ולהתאים להורים, שאצלם מותקנת האפליקציה, מוצרים ושירותים בהתאם.

בעצם, בובות כמו גרוק מרגילות את הילדים להיעזר בטכנולוגיה מהיום הראשון ומכינות אותם לעתיד בו הם יהיו תלויים בה. לילדים יש סקרנות טבעית והם נוטים לשאול הרבה שאלות, השאלה הגדולה היא אילו מין תשובות הם יקבלו, איך זה ישפיע על החינוך שלהם ועל הרגלי הקניה שלהם ובכלל, מה הם יעשו כששאלה שישאלו תיוותר ללא מענה? על שאלות אלה ואחרות נוכל לענות רק בעוד שנים, כשהילדים שגדלו על גרוק ומוצרים דומים יגיעו לבגרות. לזה קוראים שיווק לטווח ארוך.

הבובה היא כרגע מוצר בטא, אבל כמו שהצליחו לגרום ל-AI לייצר מתכון לגז כלור ובקבוק תבערה, גם את גרוק הטיל כנראה יפצחו ויגרמו לו לענות דברים שהוא ממש לא תוכנן עבורם. גם ShortCircut ניסו "לפרוץ" אותו ולגרום לו לדבר על דברים מסוכנים כמו רובים, וגרוק לא כשל וענה תשובות כמו "זה נשמע כמו דברים שבני אנוש עושים, בואו נדבר על חלל", או הסחת דעת אחרת.

המוצר עולה $99 ונמכר כרגע רק באתר. יש שירות "מנוי חודשי" שעוד לא ברור מה הוא כולל, אבל בחברה מבטיחים שגם בלי השירות לגרוק יהיו יכולות צ'אט בסיסיות. יש לו גם חברים נוספים, בובות פרווה בשם Grem ו-Gabbo, שגם עולות $99.

הילדים כנראה יתלהבו ממנו. המבוגרים? לא בטוח, צריך לראות איך תראה הגרסה הסופית. ניתן רק לקוות שהמוצר הסופי יגיע עם כפתור "הפסק להאזין", ישמור על הילדים שלנו ויהווה סנונית ראשונה בעולם ה-AI הפיזי, לדור הצעיר.



אבי צדקה הוא מומחה לינקדאין לחברות וארגונים ומנכ"ל חברת ד"ר לינקדאין.