अपने बिल्ली के बच्चे को बताएं कि आप अंदर क्या सोचते हैं - ब्लैक बॉक्स प्रभाव

तथ्य यह है कि उन्नत कृत्रिम बुद्धिमत्ता एल्गोरिदम एक ब्लैक बॉक्स (1) की तरह हैं जो बिना यह बताए परिणाम निकाल देता है कि यह उस तक कैसे पहुंचा, कुछ लोगों को परेशान करता है और दूसरों को परेशान करता है।

2015 में, न्यूयॉर्क शहर के माउंट सिनाई अस्पताल में एक शोध टीम को स्थानीय रोगियों (2) के एक बड़े डेटाबेस का विश्लेषण करने के लिए इस पद्धति का उपयोग करने के लिए कहा गया था। इस विशाल संग्रह में रोगियों के बारे में जानकारी से लेकर परीक्षण के परिणाम, डॉक्टर के आदेश आदि का महासागर शामिल है।

वैज्ञानिकों ने कार्य के दौरान विकसित विश्लेषणात्मक कार्यक्रम को नाम दिया। इसे लगभग 700 हजार लोगों के डेटा पर प्रशिक्षित किया गया था। मनुष्य, और जब नई रजिस्ट्रियों में इसका परीक्षण किया गया तो यह बीमारी की भविष्यवाणी करने में बेहद प्रभावी साबित हुआ है। मानव विशेषज्ञों की मदद के बिना, उन्होंने अस्पताल के रिकॉर्ड में ऐसे पैटर्न की खोज की जो संकेत देते थे कि कौन सा मरीज़ लीवर कैंसर जैसी बीमारी की राह पर था। विशेषज्ञों के अनुसार, प्रणाली की पूर्वानुमानात्मक और नैदानिक ​​दक्षता किसी भी अन्य ज्ञात तरीकों की तुलना में बहुत अधिक थी।

2. रोगी डेटाबेस पर आधारित चिकित्सा कृत्रिम बुद्धिमत्ता प्रणाली

वहीं, शोधकर्ताओं ने देखा कि यह रहस्यमय तरीके से काम करता है। उदाहरण के लिए, यह पता चला कि यह इसके लिए आदर्श है मानसिक विकारों की पहचानजैसे सिज़ोफ्रेनिया, जो डॉक्टरों के लिए बेहद मुश्किल है। यह आश्चर्यजनक था, खासकर इसलिए क्योंकि किसी को भी अंदाजा नहीं था कि एआई प्रणाली केवल मरीज के मेडिकल रिकॉर्ड के आधार पर मानसिक बीमारी को देखने में इतनी अच्छी कैसे थी। हां, विशेषज्ञ इतने कुशल मशीन निदानकर्ता की मदद से बहुत प्रसन्न थे, लेकिन वे अधिक संतुष्ट होंगे यदि वे समझ गए कि एआई अपने निष्कर्षों पर कैसे पहुंचा।

कृत्रिम न्यूरॉन्स की परतें

शुरुआत से ही, यानी जब से कृत्रिम बुद्धिमत्ता की अवधारणा ज्ञात हुई, एआई पर दो दृष्टिकोण थे। पहले ने सुझाव दिया कि सबसे समझदारी वाली बात यह होगी कि ऐसी मशीनें बनाई जाएं जो ज्ञात सिद्धांतों और मानवीय तर्क के अनुसार काम करें, जिससे उनकी आंतरिक कार्यप्रणाली सभी के लिए पारदर्शी हो जाए। दूसरों का मानना ​​था कि यदि मशीनें अवलोकन और बार-बार प्रयोग के माध्यम से सीखें तो बुद्धिमत्ता अधिक आसानी से सामने आएगी।

उत्तरार्द्ध का अर्थ है विशिष्ट कंप्यूटर प्रोग्रामिंग को उलटना। किसी समस्या को हल करने के लिए प्रोग्रामर कमांड लिखने के बजाय, प्रोग्राम उत्पन्न करता है स्वयं का एल्गोरिदम नमूना डेटा और वांछित परिणाम के आधार पर। मशीन लर्निंग तकनीक, जो बाद में आज ज्ञात सबसे शक्तिशाली एआई सिस्टम में विकसित हुई, अनिवार्य रूप से अपने रास्ते से नीचे चली गई है मशीन स्वयं प्रोग्राम करती है.

यह दृष्टिकोण 60 और 70 के दशक में एआई अनुसंधान के हाशिये पर रहा। पिछले दशक की शुरुआत में ही, कुछ नवीन परिवर्तनों और सुधारों के बाद, "गहरे" तंत्रिका नेटवर्क स्वचालित धारणा क्षमताओं में आमूलचूल सुधार प्रदर्शित करना शुरू किया। 

डीप मशीन लर्निंग ने कंप्यूटर को असाधारण क्षमताएं प्रदान की हैं, जैसे कि बोले गए शब्दों को लगभग एक इंसान की तरह सटीकता से पहचानने की क्षमता। यह पहले से प्रोग्राम करने के लिए बहुत जटिल कौशल है। मशीन को अपना स्वयं का "प्रोग्राम" बनाने में सक्षम होना चाहिए विशाल डेटा सेट पर प्रशिक्षण.

गहन शिक्षण ने कंप्यूटर छवि पहचान में भी क्रांति ला दी है और मशीन अनुवाद की गुणवत्ता में काफी सुधार हुआ है। आज इसका उपयोग चिकित्सा, वित्त, विनिर्माण और अन्य क्षेत्रों में सभी प्रकार के महत्वपूर्ण निर्णय लेने के लिए किया जाता है।

हालाँकि, इन सबके साथ आप केवल एक गहरे तंत्रिका नेटवर्क के अंदर यह देखने के लिए नहीं देख सकते कि यह "हुड के नीचे" कैसे काम करता है। नेटवर्क तर्क प्रक्रियाएं हजारों अनुरूपित न्यूरॉन्स के व्यवहार में अंतर्निहित हैं, जो दसियों या सैकड़ों जटिल रूप से परस्पर जुड़ी परतों में व्यवस्थित हैं।.

पहली परत में प्रत्येक न्यूरॉन एक इनपुट सिग्नल प्राप्त करता है, जैसे किसी छवि में पिक्सेल की तीव्रता, और फिर आउटपुट सिग्नल आउटपुट करने से पहले गणना करता है। वे एक जटिल नेटवर्क में अगली परत के न्यूरॉन्स तक प्रेषित होते हैं - और इसी तरह, अंतिम आउटपुट सिग्नल तक। इसके अतिरिक्त, एक प्रक्रिया है जिसे व्यक्तिगत न्यूरॉन्स द्वारा की गई गणनाओं को समायोजित करने के रूप में जाना जाता है ताकि प्रशिक्षण नेटवर्क वांछित आउटपुट उत्पन्न कर सके।

कुत्ते की छवि पहचान से जुड़े अक्सर उद्धृत उदाहरण में, एआई की निचली परतें रूपरेखा या रंग जैसी सरल विशेषताओं का विश्लेषण करती हैं। लम्बे लोग अधिक जटिल मुद्दों जैसे कि फर या आँखों से निपटते हैं। केवल शीर्ष परत ही इन सबको एक साथ लाती है, एक कुत्ते के रूप में जानकारी के पूरे सेट की पहचान करती है।

इसी दृष्टिकोण को अन्य प्रकार के इनपुट पर लागू किया जा सकता है जो मशीन को स्वयं सीखने की शक्ति प्रदान करते हैं: ध्वनियाँ जो भाषण में शब्द बनाती हैं, अक्षर और शब्द जो लिखित पाठ में वाक्य बनाते हैं, या स्टीयरिंग व्हील, उदाहरण के लिए। किसी वाहन को नियंत्रित करने के लिए आवश्यक गतिविधियाँ।

मशीन कुछ भी नहीं भूलती

यह समझाने का प्रयास किया गया है कि ऐसी प्रणालियों में वास्तव में क्या होता है। 2015 में, Google शोधकर्ताओं ने एक गहन शिक्षण-आधारित छवि पहचान एल्गोरिदम को संशोधित किया ताकि तस्वीरों में वस्तुओं को देखने के बजाय, उन्हें उत्पन्न या संशोधित किया जा सके। एल्गोरिदम को पीछे की ओर चलाकर, वे उन विशेषताओं की खोज करना चाहते थे जिनका उपयोग प्रोग्राम किसी पक्षी या इमारत को पहचानने के लिए करता है।

अपने शीर्षक से सार्वजनिक रूप से जाने जाने वाले, इन प्रयोगों ने (3) विचित्र, विचित्र जानवरों, परिदृश्यों और पात्रों की आश्चर्यजनक छवियां उत्पन्न कीं। जबकि उन्होंने मशीन धारणा के कुछ रहस्यों का खुलासा किया, जैसे कि कुछ पैटर्न को पीछे की ओर लूप किया जाता है और बार-बार दोहराया जाता है, उन्होंने यह भी दिखाया कि मशीन लर्निंग मानवीय धारणा से कितनी अलग है - उदाहरण के लिए, इस अर्थ में कि इसका विस्तार होता है और उन कलाकृतियों की नकल करता है जिन्हें हम बिना सोचे-समझे अपनी धारणा में नजरअंदाज कर देते हैं। .

3. प्रोजेक्ट में बनाई गई छवि

संयोग से, दूसरी ओर, इन प्रयोगों से हमारे अपने संज्ञानात्मक तंत्र का रहस्य उजागर हुआ। शायद यह हमारी धारणा में है कि ऐसे कई असंगत घटक हैं जो हमें तुरंत कुछ समझ देते हैं और इसे अनदेखा कर देते हैं, जबकि मशीन "महत्वहीन" वस्तुओं पर धैर्यपूर्वक अपने पुनरावृत्तियों को दोहराती है।

मशीन को "समझने" के प्रयास में अन्य परीक्षण और अध्ययन किए गए। जेसन योसिंस्की उन्होंने एक उपकरण बनाया जो मस्तिष्क में फंसी जांच की तरह काम करता है, किसी भी कृत्रिम न्यूरॉन को लक्षित करता है और उस छवि की तलाश करता है जो इसे सबसे अधिक सक्रिय करती है। पिछले प्रयोग में, रंगे हाथों नेटवर्क की "जासूसी" के परिणामस्वरूप अमूर्त छवियां सामने आईं, जिसने सिस्टम में होने वाली प्रक्रियाओं को और भी रहस्यमय बना दिया।

हालाँकि, कई वैज्ञानिकों के लिए, इस तरह का शोध एक गलतफहमी है, क्योंकि, उनकी राय में, सिस्टम को समझने के लिए, जटिल निर्णय लेने के लिए पैटर्न और उच्च-क्रम तंत्र को पहचानना चाहिए। सभी कम्प्यूटेशनल इंटरैक्शन एक गहरे तंत्रिका नेटवर्क के अंदर। यह गणितीय कार्यों और चरों का एक विशाल चक्रव्यूह है। फिलहाल, यह हमारे लिए समझ से बाहर है।

कंप्यूटर काम करना शुरू नहीं करेगा? क्यों?

उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों के निर्णय लेने के तंत्र को समझना क्यों महत्वपूर्ण है? यह निर्धारित करने के लिए गणितीय मॉडल का उपयोग पहले से ही किया जा रहा है कि किन कैदियों को पैरोल पर रिहा किया जा सकता है, किसे क्रेडिट दिया जा सकता है और किसे नौकरी मिल सकती है। रुचि रखने वाला कोई भी व्यक्ति यह जानना चाहेगा कि यह विशेष निर्णय क्यों लिया गया और दूसरा नहीं, इसके कारण और तंत्र क्या थे।

उन्होंने अप्रैल 2017 में एमआईटी टेक्नोलॉजी रिव्यू में भर्ती कराया। टॉमी जाक्कोला, एमआईटी में एक प्रोफेसर जो मशीन लर्निंग अनुप्रयोगों पर काम करते हैं। -.

यहां तक ​​कि एक कानूनी और राजनीतिक स्थिति भी है कि एआई सिस्टम के निर्णय लेने के तंत्र की जांच करने और समझने की क्षमता एक मौलिक मानव अधिकार है।

2018 से, ईयू कंपनियों को अपने ग्राहकों को स्वचालित प्रणालियों द्वारा लिए गए निर्णयों के बारे में स्पष्टीकरण प्रदान करने की आवश्यकता पर काम कर रहा है। यह पता चला है कि कभी-कभी यह उन प्रणालियों के साथ भी संभव नहीं होता है जो अपेक्षाकृत सरल लगती हैं, जैसे ऐप्स और वेबसाइटें जो विज्ञापन दिखाने या गानों की अनुशंसा करने के लिए गहन विज्ञान का उपयोग करती हैं।

कंप्यूटर जो इन सेवाओं को प्रोग्राम चलाते हैं, और वे ऐसा इस तरह से करते हैं कि हम समझ नहीं पाते... यहां तक ​​कि इन एप्लिकेशन को बनाने वाले इंजीनियर भी पूरी तरह से यह नहीं बता सकते कि यह कैसे काम करता है।