जब AI विफल होता है और रोबोटिक कारें दुर्घटनाग्रस्त होती हैं
Google की सेल्फ-ड्राइविंग कारें मानव चालकों की तुलना में दोगुनी दुर्घटनाओं में शामिल हैं
रोबोटिक कारें: ज़्यादा या कम दुर्घटनाएँ?
Google की self-driving कारें, ऐसा लगता है, मानव चालकों की तुलना में 2 गुना अधिक दुर्घटनाओं में शामिल रही हैं—अगर आपको लगता है कि यह बस शुरुआत से ही बहुत जटिल, खराब नई तकनीक का नतीजा है—तो आप आंशिक रूप से सही हैं। एक महत्वपूर्ण बात जो मुझे साझा करनी चाहिए: दिसंबर 2015 तक हुई लगभग सभी दुर्घटनाओं के लिए रोबोट ज़िम्मेदार नहीं थे।
दुर्घटनाएँ रोबोटिक ड्राइवरों से अपरिचित मानव चालकों के कारण हुईं। इसके अलावा, Google ने कारों को कानून का पूर्ण रूप से पालन करने के लिए प्रोग्राम किया है—कभी तेज़ गति से न चलना, और घने या तेज़ freeway ट्रैफ़िक में merge करने में कठिनाई।
इससे कई कानूनी और नैतिक सवाल उठते हैं (इसे trolley problem के नाम से जाना जाता है)—
- क्या कभी यह उचित है:
- पीछे से होने वाली टक्कर से बचने के लिए लाल बत्ती पर पैदल-पथ से आगे निकल जाना, यह मानते हुए कि रास्ता साफ़ है?
- लेनों के बीच से काटकर आ रही साइकिल से बचने के लिए फुटपाथ पर गाड़ी चलाना?—क्या AI के लिए ‘सड़क के नियमों’ का यह उल्लंघन स्वीकार करना ठीक है?
मैं Google के दृष्टिकोण को समझता हूँ, खासकर जब वह अपनी देनदारी को न्यूनतम रखने की कोशिश कर रहा हो: हमेशा नियमों का पालन करो—तार्किक रूप से देखें तो अगर आप हमेशा कानून का पालन करते हैं, तो वास्तव में आपकी गलती नहीं मानी जा सकती।
अगर किसी दुर्घटना का कारण कानूनों के प्रति जानबूझकर डिज़ाइन की गई ‘लचीलापन’ होती, तो बहुत बड़ी देनदारी पैदा होती।
भविष्य को हाथ से न जाने दें
रोबोट अगर अस्सी साल के बुज़ुर्गों की तरह गाड़ी चलाएँ, तब भी भविष्य आएगा।
फिलहाल एक आसान समाधान यह हो सकता है कि चमकती लाल फ्लैशिंग LEDs लगाई जाएँ (स्कूल बसों के बारे में सोचिए), ताकि मानव चालकों को चेतावनी मिल सके कि वे एक निर्दोष रोबोट को पीछे से टक्कर मारने वाले हैं।
मैं ऐसी कार को लेकर अधिक सहज रहूँगा जिसमें नियमों के पालन के कई स्तर हों। मेरे विचार से यह उस तरीके के कहीं अधिक करीब होगा, जिस तरह इंसान गाड़ी चलाते हैं।
कल्पना कीजिए कि system-perception के 3 स्तर इस तरह हों: (सरलता के लिए decision और अन्य layers को छोड़कर)
- base: परेशान करने वाली सटीकता के साथ कानूनों का पालन
- local: मौजूदा ट्रैफ़िक के आधार पर लचीले समायोजन—जैसे highway पर merge करने के लिए, अगर मान लीजिए 10MPH+ की गति आवश्यक हो। इसके विपरीत, अगर ट्रैफ़िक बस बहुत तेज़ चल रहा हो, तो कार इतनी समझदार होनी चाहिए कि किनारे हटकर रुक जाए और दूसरे चालकों के लिए परेशानी न बने।
- 360: टक्कर के किसी भी संभावित गंभीर जोखिम या उससे बचने के उपायों की गणना—shoulder पर गाड़ी चलाना या
इसके लिए संभवतः एक समझदार संतुलन बनाना होगा—मान लीजिए tier 1 को ऐसी आसन्न दुर्घटना का पता चलता है जिसे कानून का पालन करते हुए टाला नहीं जा सकता। तब वह सारी processor power tier 3 में लगा देगा—उम्मीद है कि नुकसान से बचने का कोई रचनात्मक तरीका खोज लेगा।
रोबोटिक कारें तकनीकी रूप से किसी भी मानव चालक से अधिक बुद्धिमान और तेज़ होने की कगार पर हैं। इसे स्वीकार कीजिए। इसका स्वागत कीजिए।