सेल्फ-ड्राइविंग कार से कौन मारेगा? मशीन, जितना हो सके उतने लोगों को बचाओ, लेकिन सबसे बढ़कर, मुझे बचाओ!

यदि ऐसी स्थिति उत्पन्न होती है जहां कार की स्वायत्त प्रणाली को त्वरित विकल्प चुनना पड़ता है कि आसन्न दुर्घटना की स्थिति में किसे बलिदान देना है, तो उसे कैसे प्रतिक्रिया देनी चाहिए? पैदल यात्रियों को बचाने के लिए यात्रियों की बलि दे रहे हैं? यदि आवश्यक हो, तो किसी पैदल यात्री को मार डालो, उदाहरण के लिए, कार में यात्रा कर रहे चार लोगों के परिवार को? या शायद उसे हमेशा पहले अपनी रक्षा करनी चाहिए?

अकेले कैलिफ़ोर्निया में साठ से अधिक कंपनियों को पहले से ही व्यक्तिगत परीक्षण के लिए मंजूरी दे दी गई है, यह कहना मुश्किल है कि उद्योग नैतिक दुविधाओं का सामना करने की तैयारी कर रहा है। अभी के लिए, यह अधिक बुनियादी मुद्दों से जूझ रहा है - सिस्टम का संचालन और नेविगेशनल दक्षता और टकराव और अप्रत्याशित घटनाओं से बचना। हाल ही में एरिज़ोना में एक पैदल यात्री की हत्या या उसके बाद हुई दुर्घटनाओं (1) जैसी स्थितियों में, अब तक चर्चा केवल सिस्टम विफलताओं के बारे में रही है, न कि कार के किसी "नैतिक विकल्प" के बारे में।

अमीरों और युवाओं को बचाएं

इस प्रकार के निर्णय लेने में शामिल मुद्दे अमूर्त समस्याएँ नहीं हैं। कोई भी अनुभवी ड्राइवर इसकी पुष्टि कर सकता है। पिछले साल, एमआईटी मीडिया लैब के वैज्ञानिकों ने दुनिया भर के उत्तरदाताओं से चालीस मिलियन से अधिक प्रतिक्रियाओं का विश्लेषण किया था, जो उन्होंने 2014 में शुरू किए गए शोध के दौरान एकत्र किए थे। सर्वेक्षण प्रणाली जिसे उन्होंने "एथिकल मशीन" कहा था, से पता चला कि समान प्रश्न विभिन्न हिस्सों में पूछे जाते हैं। दुनिया. अलग-अलग उत्तर.

सबसे सामान्य निष्कर्ष पूर्वानुमेय हैं। विषम परिस्थितियों में लोग जानवरों की देखभाल करने के बजाय लोगों को बचाना पसंद करते हैं, उनका लक्ष्य जितना संभव हो उतने लोगों की जान बचाना है, और वृद्ध लोगों की तुलना में उनकी उम्र कम होती है (2)। जब पुरुषों की तुलना में महिलाओं को, गरीब लोगों की तुलना में उच्च स्थिति वाले लोगों को, और कार यात्रियों की तुलना में पैदल यात्रियों को बचाने की बात आती है, तो कुछ, लेकिन कम स्पष्ट, प्राथमिकताएँ होती हैं।.

2. मशीन को किसे बचाना चाहिए?

चूँकि लगभग आधे मिलियन उत्तरदाताओं ने जनसांख्यिकीय प्रश्नावली भरीं, इसलिए उनकी प्राथमिकताओं को उम्र, लिंग और धार्मिक मान्यताओं के साथ सहसंबंधित करना संभव था। शोधकर्ताओं ने निष्कर्ष निकाला कि इन मतभेदों ने लोगों के निर्णयों को "महत्वपूर्ण रूप से प्रभावित" नहीं किया, लेकिन कुछ सांस्कृतिक प्रभावों को नोट किया। उदाहरण के लिए, फ़्रांसीसी, मौतों की अनुमानित संख्या के आधार पर निर्णय लेने की प्रवृत्ति रखते थे, जबकि जापान में यह ज़ोर सबसे कम था। हालाँकि, उगते सूरज की भूमि में, बुजुर्गों के जीवन को पश्चिम की तुलना में बहुत अधिक महत्व दिया जाता है।

“इससे पहले कि हम अपनी कारों को अपने नैतिक निर्णय लेने की अनुमति दें, हमें इस बारे में वैश्विक बहस करने की ज़रूरत है। जब स्वायत्त प्रणालियों पर काम करने वाली कंपनियां हमारी प्राथमिकताओं के बारे में जानेंगी, तो वे उनके आधार पर मशीनों में नैतिक एल्गोरिदम विकसित करेंगी, और राजनेता पर्याप्त कानूनी प्रावधान पेश करना शुरू कर सकते हैं, ”वैज्ञानिकों ने अक्टूबर 2018 में नेचर में लिखा था।

मोरल मशीन प्रयोग में शामिल शोधकर्ताओं में से एक, जीन-फ्रांकोइस बोनेफॉन ने उच्च स्थिति वाले लोगों (जैसे बेघर लोगों के बजाय अधिकारियों) को बचाने की प्राथमिकता को परेशान करने वाला पाया। उनकी राय में, यह काफी हद तक संबंधित है किसी देश में आर्थिक असमानता का स्तर. जहां असमानता अधिक थी, वहां गरीबों और बेघरों को बलि दी जाती थी।

पिछले एक अध्ययन में, विशेष रूप से, पाया गया कि उत्तरदाताओं का मानना ​​था कि एक स्वायत्त कार को यथासंभव अधिक से अधिक लोगों की सुरक्षा करनी चाहिए, भले ही इसका मतलब यात्रियों को खोना हो। हालाँकि, उत्तरदाताओं ने कहा कि वे इस तरह से प्रोग्राम की गई कार नहीं खरीदेंगे। शोधकर्ताओं ने इसे समझाया हालाँकि लोगों को लगता है कि अधिक लोगों को बचाना अधिक नैतिक है, वे अपने स्वार्थ से भी प्रेरित हैं, जो निर्माताओं के लिए एक संकेत हो सकता है कि ग्राहक परोपकारी प्रणालियों से लैस कारों को खरीदने के लिए अनिच्छुक होंगे।. कुछ समय पहले, मर्सिडीज-बेंज के प्रतिनिधियों ने कहा था कि यदि उनका सिस्टम केवल एक व्यक्ति को बचाता है, तो वे पैदल यात्री के बजाय ड्राइवर को चुनेंगे। जनता के विरोध की लहर ने कंपनी को अपनी घोषणा वापस लेने के लिए मजबूर कर दिया। लेकिन शोध से साफ पता चलता है कि इस पवित्र आक्रोश में बहुत बड़ा पाखंड था.

कुछ देशों में ऐसा पहले से ही हो रहा है कानूनी विनियमन का पहला प्रयास खेत मेँ। जर्मनी ने एक कानून पारित किया है जिसके तहत हर कीमत पर चोट या मृत्यु से बचने के लिए चालक रहित कारों की आवश्यकता होती है। कानून यह भी कहता है कि एल्गोरिदम कभी भी उम्र, लिंग, स्वास्थ्य या पैदल चलने वालों जैसी विशेषताओं के आधार पर निर्णय नहीं ले सकता है।

ऑडी ने कार्यभार संभाला

डिज़ाइनर कार के उपयोग के सभी परिणामों की भविष्यवाणी करने में सक्षम नहीं है। वास्तविकता हमेशा उन चरों का संयोजन प्रदान कर सकती है जिनका पहले कभी परीक्षण नहीं किया गया है। यह किसी मशीन को "नैतिक रूप से प्रोग्रामिंग" करने की संभावना में हमारे विश्वास को कमज़ोर करता है। हमें ऐसा लगता है कि ऐसी स्थितियों में जहां "कार की गलती के कारण" कोई त्रुटि होती है और कोई त्रासदी होती है, सिस्टम के निर्माता और डेवलपर को जिम्मेदारी उठानी चाहिए।

शायद यह तर्क सही है, लेकिन शायद इसलिए नहीं क्योंकि यह ग़लत था। बल्कि, क्योंकि एक ऐसे आंदोलन की अनुमति दी गई थी जो 2019% इसके कमीशन की संभावना से मुक्त नहीं था। ऐसा प्रतीत होता है कि यही कारण है, और कंपनी द्वारा समग्र जिम्मेदारी से बचा नहीं जा रहा है, जिसने हाल ही में घोषणा की थी कि वह 8-वर्षीय A3 से जुड़ी दुर्घटनाओं की जिम्मेदारी लेगी जब उसने स्वचालित ट्रैफिक जाम पायलट प्रणाली का उपयोग किया था।

3. ऑडी ट्रैफिक जाम पायलट इंटरफ़ेस

दूसरी ओर, लाखों लोग ऐसे भी हैं जो कार चलाते हैं और गलतियाँ भी करते हैं। तो मशीनें, जो सांख्यिकीय रूप से मनुष्यों की तुलना में बहुत कम गलतियाँ करती हैं, जैसा कि कई त्रुटियों से प्रमाणित है, इस संबंध में उनके साथ भेदभाव क्यों किया जाना चाहिए?

अगर किसी को लगता है कि स्वायत्त वाहनों की दुनिया में नैतिकता और जिम्मेदारी की दुविधाएं सरल हैं, तो सोचते रहें...