וואלה
וואלה
וואלה
וואלה

וואלה האתר המוביל בישראל - עדכונים מסביב לשעון

הסוף למניפולציות: האיחוד האירופי אישר חוקים מחמירים נגד AI

ברק בן חמו

עודכן לאחרונה: 10.12.2023 / 11:06

הסכם מדיני חדש בין מדינות אירופה עושה היסטוריה בתחום הבינה המלאכותית: יאסור מעקב משטרתי אחר אזרחים וקביעה מראש מי עלול לבצע פשע. תמונות שנוצרו עם AI יחוייבו בגילוי נאות

מגבלות חדשות יאסרו על שימוש פולשני בבינה מלאכותית באירופה.. Pixabay.com
מגבלות חדשות יאסרו על שימוש פולשני בבינה מלאכותית באירופה./Pixabay.com

ביום שישי (8.12.23) אחרי דיונים רבים בנושא, נחתם ההסכם על כללי הבינה המלאכותית המקיפים הראשונים בעולם ובכך שינה את חוקי המשחק - ויצר פיקוח משפטי ורגולטורי על טכנולוגיות ה-AI. למעשה, זהו מענה ראשוני ומשמעותי לאזהרות אודות הסכנות האורבות לאנושות בעקבות שימוש בכלים של בינה מלאכותית. טיוטה ראשונה של חוקי ה-AI שוחררה בשנת 2021 אבל הנוגעים בדבר נאלצו לשכתב אותה שוב ושוב בעקבות כלי AI חדשים שהופיעו תוך כדי תנועה.

העקרונות גובשו לאחר משא ומתן של הפרלמנט האירופי עם 27 מדינות החברות בגוש, שבו דנו על מגוון נקודות שנויות במחלוקת, בין היתר, על שימוש משטרי במעקבי זיהוי פנים באמצעות בינה מלאכותית. לבסוף הצדדים חתמו על הסכם מדיני טנטטיבי ל"חוק הבינה המלאכותית".

"היסטוריה! האיחוד האירופי הופך ליבשת הראשונה שקבעה כללים ברורים לשימוש בבינה מלאכותית", כתב תיירי ברטון, הנציב האירופי ברשת החברתית X וחתם: "הטוב עוד לפנינו!". החוק עדיין צריך לעבור כמה שלבים אחרונים לאישור, אבל ההסכם המדיני משקף שמתווה המפתח שלו נקבע, כפי שפורסם בניו יורק טיימס.

למה זה חשוב? הסרטון הבא מבהיר זאת במדויק

הסוף לשימוש בטכנולוגיות חיזוי ומעקב פולשניות

הפרלמנט האירופי הבטיח איסורים על שימוש בטכנולוגיות ביומטריות וטכנולוגיות של מעקב בזמן אמת כלפי אזרחים עם שלושה מקרים יוצאים דופן. לפי דברי ברטון, המשטרה תוכל להשתמש בטכנולוגיות פולשניות רק במקרה של איום בלתי צפוי של פיגוע טרור, צורך בחיפוש אחר קורבנות, וצורך בהעמדה לדין של פשע חמור.

מעבר לנושא המעקב והפגיעה האפשרית בפרטיות, נראה כי חברי הפרלמנט מודאגים מאפשרויות החיזוי של מערכות הבינה, קצת בדומה לסרט "דו"ח מיוחד" בו אנשים מסוימים יכולים לחזות מראש רצח שעדיין לא התרחש. "מעולם לא ביקשנו למנוע מאכיפת החוק את הכלים שהם [המשטרה] צריכים כדי להילחם בהונאה; את הכלים שהם צריכים כדי להבטיח חיים בטוחים לאזרחים. אבל כן, רצינו - ומה שכן השגנו - זה איסור על טכנולוגיית AI שתחליט או תקבע מראש מי עלול לבצע פשע", אמר חבר הפרלמנט דראגוש טודוראצ'ה, כפי שפורסם בגרדיאן.

הצדדים סיכמו כי החקיקה תכלול איסורים שונים על שימוש בבינה מלאכותית לצורך "ניקוד חברתי". בעבר בוצעו מחקרים במדינות באירופה שגילו כי מערכות ניקוד חברתיות מבוססות בינה מלאכותית משבשות את הגישה של אנשים לתמיכה בביטוח לאומי ומציגות אותם בדרכים מפלות המבוססות על סטריאוטיפים לגבי עוני. במילים פשוטות: האיחוד לא מעודד, בלשון המעטה, שימוש במכונות שינתחו בני אדם ויחלקו אותם לקטגוריות - למי מגיע ולמי לא מגיע.

בניו יורק טיימס ציינו כי מערכות ה-AI הפופולריות היום, כך לפי טיוטות עבר, יידרשו להתמודד עם תקנות שקיפות חדשות. צ'אטבוטים וטכנולוגיות דיפ-פייק (Deep Fake) למינהן יצטרכו להבהיר כי התוצרים שאנשים רואים נוצרו על-ידי AI. בנוסף, פרקטיקות מסוימות של "שאיבת" (scraping) מידע ויזואלי של תמונות מהאינטרנט כדי ליצור מסד נתונים לזיהוי פנים - כפי שכבר אושר בישראל - יאסרו על הסף.

sheen-shitof

שדרגו את הביצועים

הארכת משך האקט ושיפור ההנאה במיטה - במבצע מיוחד

בשיתוף "גברא"

חברות AI יצטרכו לקחת את כל הסיכונים בחשבון בטרם ישיקו מוצרים חדשים

קובעי המדיניות הסכימו למה שהם כינו "גישה מבוססת סיכונים" להסדרת כלי הבינה המלאכותית בעולם. חברות שמייצרות כלי AI המהווים נזק פוטנציאלי ליחידים ולחברה, למשל בנושאי גיוס וחינוך, יצטרכו לספק לרגולטורים הוכחות להערכות סיכונים והבטחות שהכלים שיצרו לא גורמים נזק כמו הנצחת הטיות גזעיות (דבר שראינו בעבר מספר פעמים).

בסוכנות הידיעות רויטרס נכתב כי ההסכם אוסר על מניפולציות התנהגותיות באמצעות כלים של בינה מלאכותית, ביטול האפשרות "לתייג" תמונות של פנים מהאינטרנט או במעגל סגור, וכאמור, איסור על "ניקוד חברתי" ומערכות סיווג ביומטריות למיניהן במטרה להגיע למסקנות אודות אמונות פוליטיות, פילוסופיות, דתיות, נטייה מינית או גזע של אנשים.

לצרכנים תהיה אפשרות לתבוע חברות במיליוני יורו

כמה קבוצות טכנולוגיה לא היו מרוצות מההסכם המתגבש. ססיליה בונפלד-דאל, מנכ"לית DigitalEurope, המייצגת את מגזר הטכנולוגיה של היבשת, אמרה: "יש לנו עסקה, אבל באיזה מחיר? תמכנו באופן מלא בגישה מבוססת סיכונים [RBA] הנשענת על השימושים בפועל של ה-AI, ולא על הטכנולוגיה עצמה" וטענה כי: "הדרישות החדשות - בנוסף לחוקים חדשים וגורפים אחרים כמו חוק הנתונים - ידרשו משאבים רבים לחברות לעמוד בהן, משאבים שיוצאו על עורכי דין במקום לשכור מהנדסי בינה מלאכותית"

לצרכנים, נכתב, תהיה הזכות להגיש תלונות ולקבל הסברים מנומקים על הפרות, בעוד שהקנסות ינועו בין 7.5 מיליון יורו או 1.5% מהמחזור ההכנסות העולמי ל-35 מיליון יורו או 7% ממחזור ההכנסות העולמי.

יש לציין שהדיונים סביב החוקים האלו לא נוצרו בואקום ריק. מערכות בינה מלאכותית נכנסו לתודעת העולם והפכו לדבר החם כמעט במהירות שהן שולפות תשובות מעמיקות ומפורטות לשאלות מורכבות. המשתמשים הופנטו מהיכולות לייצר טקסטים, שירים, חידות, סיפורים קצרים, תמונות ועוד שלל נפלאות. אך לצד זאת, הן עוררו גם חשש לגבי הסיכונים שהן יכולות לטמון בחובן. החל מנושא הפרטיות, זכויות יוצרים, מקומות עבודה ועד רגשות וחוויה קיומית.


*חלק מתוכן הכתבה תורגם מניו-יורק טיימס, גרדיאן וסוכנות הידיעות רויטרס.

ברק בן חמו הוא מומחה לשיווק דיגיטלי, מרצה במכללות ויועץ לחברות וארגונים בישראל.

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    4
    walla_ssr_page_has_been_loaded_successfully