दुनिया भर में कृत्रिम बुद्धिमत्ता में प्रगति के विशाल बहुमत के पीछे यू.एस. और चीन में सिर्फ नौ विशाल तकनीकी कंपनियां हैं। अपनी नई किताब में, द बिग नाइन: हाउ द टेक टाइटन्स एंड देयर थिंकिंग मशीनें मानवता को ताना मार सकती हैं (पब्लिक अफेयर्स, 5 मार्च), एमी वेब तीन संभावित भविष्य की कल्पना करता है, आशावादी से लेकर सर्वनाश तक, जो हमारे द्वारा किए गए कार्यों के परिणामस्वरूप हो सकता है - या नहीं - एआई के विकास को नियंत्रित करने के लिए। और इसके वैश्विक प्रभाव को आकार देते हैं। इस अंश में, वह कठिन नैतिक प्रश्नों की एक श्रृंखला प्रस्तुत करती है, जो मनुष्य ए.आई. सिस्टम को अपने काम का मार्गदर्शन करने के लिए उपयोग करना चाहिए।
नियम - एल्गोरिदम - जिसके द्वारा हर संस्कृति, समाज और राष्ट्र रहता है, और हमेशा रहता है, हमेशा कुछ ही लोगों द्वारा बनाए गए थे। लोकतंत्र, साम्यवाद, समाजवाद, धर्म, शाकाहार, स्वदेशीवाद, उपनिवेशवाद - ये ऐसे निर्माण हैं जिन्हें हमने अपने निर्णयों को निर्देशित करने में मदद करने के लिए पूरे इतिहास में विकसित किया है। सर्वोत्तम मामलों में भी, वे भविष्य के लिए उपयुक्त नहीं हैं। तकनीकी, सामाजिक और आर्थिक ताकतें हमेशा हस्तक्षेप करती हैं और हमें अनुकूल बनाती हैं।
दस आज्ञाएँ ५,००० साल से अधिक पहले जीवित मनुष्यों के लिए एक बेहतर समाज बनाने के उद्देश्य से एक एल्गोरिथम बनाती हैं। आज्ञाओं में से एक यह है कि सप्ताह में एक पूरा दिन आराम करें और उस दिन कोई भी काम न करें। आधुनिक समय में, अधिकांश लोग सप्ताह-दर-सप्ताह ठीक उसी दिन या घंटे काम नहीं करते हैं, इसलिए नियम को तोड़ना असंभव होगा। परिणामस्वरूप, जो लोग मार्गदर्शक सिद्धांत के रूप में दस आज्ञाओं का पालन करते हैं, वे लंबे कार्यदिवसों, सॉकर अभ्यास और ईमेल की वास्तविकताओं को देखते हुए अपनी व्याख्या में लचीले होते हैं। अनुकूलन करना ठीक है - यह हमारे लिए और हमारे समाजों के लिए वास्तव में अच्छा काम करता है, जिससे हमें ट्रैक पर रहने की इजाजत मिलती है। दिशानिर्देशों के एक बुनियादी सेट पर सहमत होने से हम अपने लिए अनुकूलन कर सकते हैं।
एआई के लिए आज्ञाओं का एक सेट बनाने का कोई तरीका नहीं होगा। हम मानवता के लिए सही ढंग से अनुकूलित करने के लिए सभी नियमों को नहीं लिख सके, और ऐसा इसलिए है क्योंकि सोचने वाली मशीनें तेज और शक्तिशाली हो सकती हैं, लेकिन उनमें लचीलेपन की कमी होती है। अपवादों का अनुकरण करने, या हर एक आकस्मिकता के बारे में पहले से सोचने और सोचने का कोई आसान तरीका नहीं है। जो भी नियम लिखे जाते हैं, भविष्य में हमेशा एक ऐसी स्थिति होगी जिसमें कुछ लोग नियमों की अलग-अलग व्याख्या करना चाहते हैं, या उन्हें पूरी तरह से अनदेखा करना चाहते हैं, या किसी अप्रत्याशित परिस्थिति को प्रबंधित करने के लिए संशोधन करना चाहते हैं।
यह जानते हुए कि हम पालन करने के लिए सख्त आज्ञाओं का एक सेट नहीं लिख सकते हैं, क्या हमें इसके बजाय, व्यवस्थाओं का निर्माण करने वाले मनुष्यों पर अपना ध्यान केंद्रित करना चाहिए? इन लोगों - ए.आई. की जनजातियाँ - को अपने आप से असहज प्रश्न पूछने चाहिए, जिसकी शुरुआत:
- एआई के लिए हमारी प्रेरणा क्या है? क्या यह मानवता के सर्वोत्तम दीर्घकालिक हितों के अनुरूप है?
- हमारे अपने पूर्वाग्रह क्या हैं? हम अपने कबीले में किन विचारों, अनुभवों और मूल्यों को शामिल करने में असफल रहे हैं? हमने किसकी उपेक्षा की है?
- क्या हमने एआई का भविष्य बनाने के उद्देश्य से अपने से अलग लोगों को शामिल किया है? बेहतर- या क्या हमने कुछ निश्चित कोटा पूरा करने के लिए अपनी टीम में विविधता को शामिल किया है?
- हम कैसे सुनिश्चित कर सकते हैं कि हमारा व्यवहार समावेशी है?
- एआई के तकनीकी, आर्थिक और सामाजिक निहितार्थ कैसे हैं? इसके निर्माण में शामिल लोगों द्वारा समझा गया?
- हमारी ओर से निर्णय लेने के लिए उपयोग किए जा रहे डेटा सेट, एल्गोरिदम और प्रक्रियाओं से पूछताछ करने के लिए हमारे पास कौन से मौलिक अधिकार होने चाहिए?
- मानव जीवन के मूल्य को परिभाषित करने के लिए कौन मिलता है? उस मूल्य को किसके विरुद्ध तौला जा रहा है?
- एआई की जनजातियों में कब और क्यों महसूस किया जाता है कि एआई के सामाजिक निहितार्थों को संबोधित करना उनकी जिम्मेदारी है?
- क्या हमारे संगठन का नेतृत्व और हमारे ए.आई. जनजातियाँ अनेक प्रकार के लोगों को प्रतिबिम्बित करती हैं?
- एआई का व्यावसायीकरण करने वालों की क्या भूमिका है? एआई के सामाजिक निहितार्थों को संबोधित करने में खेलते हैं?
- क्या हमें एआई की तुलना करना जारी रखना चाहिए? मानव सोच के लिए, या हमारे लिए इसे कुछ अलग के रूप में वर्गीकृत करना बेहतर है?
- क्या एआई बनाना ठीक है? जो मानवीय भावनाओं को पहचानता है और उनका जवाब देता है?
- क्या एआई बनाना ठीक है? मानव भावनाओं की नकल करने में सक्षम सिस्टम, खासकर अगर यह वास्तविक समय में हमसे सीख रहा है?
- स्वीकार्य बिंदु क्या है जिस पर हम एआई के साथ ठीक हैं? मनुष्यों के बिना सीधे लूप में विकसित हो रहा है?
- किन परिस्थितियों में ए.आई. सामान्य मानवीय भावनाओं का अनुकरण और अनुभव करें? दर्द, हानि और अकेलेपन के बारे में क्या? क्या हम उस पीड़ा को ठीक कर रहे हैं?
- क्या हम एआई विकसित कर रहे हैं? खुद की गहरी समझ तलाशने के लिए? क्या हम एआई का उपयोग कर सकते हैं? मानवता को अधिक परीक्षित जीवन जीने में मदद करने के लिए?
नौ बड़ी टेक कंपनियां- छह अमेरिकी और तीन चीनी- हैं जो कृत्रिम बुद्धिमत्ता के भविष्य के लिए अत्यधिक जिम्मेदार हैं। यू.एस. में, वे Google, Microsoft, Amazon, Facebook, IBM और Apple ('G-MAFIA') हैं। चीन में, यह बैट है: Baidu, अलीबाबा और Tencent।
जी-माफिया ने विभिन्न शोध और अध्ययन समूहों के माध्यम से मार्गदर्शक सिद्धांतों की समस्या का समाधान करना शुरू कर दिया है। Microsoft के भीतर FATE नामक एक टीम है - A.I में निष्पक्षता, जवाबदेही, पारदर्शिता और नैतिकता के लिए। कैम्ब्रिज एनालिटिका घोटाले के मद्देनजर, फेसबुक ने एक नैतिकता टीम शुरू की जो यह सुनिश्चित करने के लिए सॉफ्टवेयर विकसित कर रही थी कि उसका ए.आई. सिस्टम ने पूर्वाग्रह से परहेज किया। (विशेष रूप से, फेसबुक एआई पर केंद्रित एक नैतिकता बोर्ड बनाने के लिए इतनी दूर नहीं गया था) दीपमाइंड ने एक नैतिकता और समाज टीम बनाई। आईबीएम नैतिकता और एआई के बारे में नियमित रूप से प्रकाशित करता है। Baidu में एक घोटाले के मद्देनजर - खोज इंजन ने एक सैन्य-संचालित अस्पताल से भ्रामक चिकित्सा दावों को प्राथमिकता दी, जहां एक इलाज के परिणामस्वरूप एक 21 वर्षीय छात्र की मृत्यु हो गई - Baidu के सीईओ रॉबिन ली ने स्वीकार किया कि कर्मचारियों ने बनाया था Baidu की आय में वृद्धि के लिए समझौता किया और भविष्य में नैतिकता पर ध्यान केंद्रित करने का वादा किया।
द बिग नाइन नैतिकता अध्ययन और श्वेत पत्र तैयार करता है, यह नैतिकता पर चर्चा करने के लिए विशेषज्ञों को बुलाता है, और यह नैतिकता के बारे में पैनल की मेजबानी करता है - लेकिन यह प्रयास एआई पर काम करने वाली विभिन्न टीमों के दिन-प्रतिदिन के संचालन के साथ पर्याप्त रूप से जुड़ा नहीं है।
द बिग नाइन की ए.आई. व्यावसायिक मूल्य दिखाने वाले उत्पादों के निर्माण के लिए सिस्टम तेजी से हमारे वास्तविक दुनिया के डेटा तक पहुंच बना रहे हैं। निवेशकों की उम्मीदों के साथ तालमेल बिठाने के लिए विकास चक्र तेज हो रहे हैं। हम इच्छुक हैं - अगर अनजाने में - भविष्य में प्रतिभागियों को जल्दबाजी में बनाया जा रहा है और पहले उन सभी सवालों का जवाब दिए बिना। जैसा कि ए.आई. सिस्टम आगे बढ़ते हैं और रोज़मर्रा की ज़िंदगी का ज़्यादातर हिस्सा स्वचालित हो जाता है, हमारे बारे में और हमारे लिए किए जा रहे फैसलों पर हमारा वास्तव में कम नियंत्रण होता है।
एमी वेब में दिखाई देंगी इंक. फाउंडर्स हाउस ऑस्टिन में 11 मार्च।
