כאשר AI נכשל והמכוניות הרובוטיות מתרסקות
מכוניות האוטונומיות של גוגל מעורבות בתאונות פי 2 יותר מנהגים אנושיים
מכוניות רובוטיות: יותר או פחות תאונות?
מכוניות הנהיגה העצמית של גוגל מעורבות לכאורה בפי 2 תאונות יותר מנהגים אנושיים - אם אתם חושבים שזה רק טכנולוגיה חדשה ומלאת באגים, מורכבת מדי מההתחלה - ובכן, אתם צודקים חלקית. פרט חשוב שעליי לשתף: נכון לדצמבר 2015, כמעט כל התאונות לא היו באשמת הרובוטים.
התאונות נגרמות על ידי נהגים אנושיים שאינם מכירים נהגים רובוטיים. יתרה מכך, גוגל תכנתה את המכוניות לציית לחוק באופן מוחלט - לעולם לא לחרוג מהמהירות, קושי בהשתלבות בתנועה צפופה או מהירה בכבישים מהירים.
זה פותח מגוון שאלות משפטיות ואתיות (זה ידוע כבעיית העגלה) -
- האם זה אי פעם בסדר:
- להימנע מהתנגשות אחורית אם זה אומר לנסוע מעבר למעבר החצייה באור אדום בהנחה שהנתיב פנוי?
- לנסוע על המדרכה כדי להימנע מאופניים שחוצים נתיבים? - האם זה בסדר שבינה מלאכותית תקבל הפרה זו של ‘חוקי הדרך’?
אני מבין את הגישה של גוגל, במיוחד כשמנסים למזער אחריות: תמיד לעקוב אחרי החוקים - מבחינה לוגית נובע שאי אפשר באמת להיות אשם אם אתה תמיד מציית לחוק.
תהיה אחריות עצומה אם תתרחש תאונה בגלל ‘גמישות’ שתוכננה בכוונה סביב החוקים.
אל תתנו לעתיד לחמוק מאיתנו
העתיד עדיין יגיע, גם אם הרובוטים ינהגו כמו בני שמונים.
אולי פתרון פשוט לעת עתה יהיה להשתמש בנורות LED אדומות מהבהבות (חשבו על אוטובוסים של בית ספר) כדי להזהיר נהגים אנושיים שהם עומדים להתנגש מאחור ברובוט תמים.
הייתי מרגיש יותר נוח עם מכונית שיש בה רמות של ציות והקפדה על חוקים. לדעתי זה יהיה קרוב הרבה יותר לאופן שבו בני אדם נוהגים.
דמיינו 3 רמות של תפיסת מערכת כדלקמן: (שכבות ההחלטה ואחרות הושמטו לפשטות)
- בסיסית: מצייתת לחוקים בדיוק מעצבן
- מקומית: התאמות גמישות על בסיס התנועה הנוכחית - כדי לאפשר השתלבות בכביש מהיר אם נדרשת תוספת של, נניח, 10 מייל לשעה. לחלופין, אם התנועה פשוט מהירה מדי, המכונית צריכה להיות חכמה מספיק כדי לעצור בצד כדי לא להפריע לנהגים אחרים.
- 360: חישוב כל סיכון התנגשות קיצוני פוטנציאלי/אמצעי הימנעות - נסיעה על השול או
סביר להניח שזה ידרוש איזון חכם - נניח שרמה 1 מזהה תאונה מתקרבת שלא ניתן להימנע ממנה תוך ציות לחוקים, אז היא תעביר את כל כוח העיבוד לרמה 3 - בתקווה למצוא דרך יצירתית להימנע מנזק.
מכוניות רובוטיות נמצאות על סף היותן חכמות ומהירות יותר מבחינה טכנית מכל נהג אנושי. קבלו זאת. ברוכים הבאים.