के एआइ नैतिकवान हुन सक्छ ?

मानव समाजमा अनेकखाले कल्पना र सपनाहरूको व्यापार हुन्थ्यो, हुँदैछ र शायद हुनेछ । पहिले-पहिले धर्मको नाममा अनेक खाले स्वर्ग, नर्क र परमधामहरूको सपना बाँडिन्थ्यो र मान्छेहरूले पत्याउँथे र अझै पत्याइरहेका छन् । 

उन्नाइसौँ शताब्दी र खासगरी बीसौँ शताब्दीमा समाजबादी रामराज्यको सपना बाँडियो जसकारण दशौँ करोड मान्छेहरूले ज्यान गुमाउनुपर्यो । ठिक त्यस्तै अहिले २१ औँ शताब्दिमा प्रविधिको रामराज्यको सपना बाँडिदै छ जुन प्राय: मान्छेहरूले पत्याइरहेका छन् । 

नपत्याउन् पनि किन ? केही वर्ष अगाडिसम्म पनि अकल्पनीय र असोचनीय मानिएका कुराहरू अहिले हाम्रो जीवनको हिस्सा भएका छन् ।

प्रविधिको अहिलेको सबैभन्दा धेरै बहसको विषय बनेको विषय भनेको एआइ हो भन्दा फरक नपर्ला । यसले अहिले नै संसारमा दशौँ लाखको जागिर खाइदिएको छ भने, थुप्रै अध्ययनलाई पत्याउने हो भने, अबको एक,दुई दशकमै शायद अरबौँको जागिर खाइदिने छ । त्यसमा सत्यता पनि छ, धेरै हदसम्म ।

प्रविधिका आशावादी र निराशावादीहरु दुबै कतिसम्म भन्न थालेका छन् भने अब एआइले मान्छेलाई नै विस्थापित गर्छ । अबको संसार भनेको एआइको हो । अर्को १००,२०० वर्षमा मान्छेको नै अस्तित्व हराउन थाल्छ, विश्वव्यापी तापमान वृध्दिको कारण मात्र हैन, एआइको शक्तिको कारण ।

के एआइ त्यति शक्तिशाली बन्ला ? 

केही दशक अगाडितिर जाऔँ जतिबेला अमेरिकामा स्टार वार्स नामक फिल्मका सिरिजहरू बनेका थिए । त्यो फिल्मको अनुसार एक्काइसौँ शताब्दिको सुरूतिरै संसारभरि रकेट, प्राइभेट जेटहरू किराफट्याङ्ग्रा जसरी उड्नेछन् अनि यस्तो हुन्छ र उस्तो हुन्छ । आदि इत्यादी ।

त्यो फिल्म बनेको झण्डै पचास वर्ष पुग्न लाग्यो तर के संसार त्यस्तो भएको छ ? त्यसको ठिक उल्टो अहिले संसारका सबैभन्दा विकसित भनिएका देशका सडकहरू साइकलमैत्री भएका छन् । 

विज्ञानले देखाएका सपनाहरू सबै पूरा हुँदैनन् भन्ने यो एउटा सानो उदारहण हो । अहिले प्रविधिले देखाएका सपनाहरू पनि सबै पूरा हुँदैनन् भन्ने हामीलाई लाग्छ । यसले मानव समाजलाई अभूतपूर्व योगदान दिएको छ र दिने नै छ तर मानवलाई नै विस्थापित गर्ला भन्ने हामीलाई लाग्दैन ।

धेरैले भन्ने गरेजस्तै एआइलाई अवमूल्यन गर्नु हुँदैन तर अधिमूल्यन पनि गर्नु हुँदैन । यसले मानव समाजलाई सहयोग गर्ने हिसाबले अघि बढ्छ र गरिरहन्छ भन्ने सुरक्षित अनुमान गर्नु नै राम्रो हुन्छ जस्तो हामीलाई लाग्छ । 

एआइ मा नैतिकता होला ?

नैतिकता देश, काल, धर्म, परिस्थिति इत्यादी अनुसार फरक-फरक हुन्छ तर सामान्य अर्थमा तिनै फरक-फरक देशकाल अनुसार यसले मानव समाजसँग सामञ्जस्य हुने गरि आफुलाई विकसित गर्ला कि नगर्ला ? त्यही अनुसार यो नैतिकवान होला कि नहोला भन्नेबारे हामी यहाँ केही चर्चा गर्दैछौँ ।

पहिलो कुरा त मान्छे ने नैतिक छैन, एआइ कसरी नैतिक होला ? चार्ल्स डार्विनले मान्छे जनावरबाट विकास हुँदै आएको हो भनेर प्रमाणित गरेको शताब्दी नै बितिसकेको छ । मान्छे जनावर भएकैले ऊ पनि जनावर जस्तै अनैतिक हुन्छ तर नैतिक हुनको लागी उसले कानुन, धर्म, सामाजिक मूल्यमान्यता इत्यादी बनाएको छ र त्यसको पालाना गर्छ ।

के एआइले पनि त्यस्तै गर्न सक्छ ?

यसको सिधा जवाफ हो – सक्छ । तर एकहदसम्म मात्र ।

आखिर एआइ भनेको मान्छेले नै बनाउने हो र उसले जस्तो बनायो, जस्तो प्रोग्राम र एल्गोरिदम हाल्यो, त्यसै अनुसार यसले काम गर्ने न हो । तर त्यो भनेको एउटा निश्चित अवस्थामा मात्र गर्न सक्ने हो । 

वास्तविक संसार साह्रै अनिश्चित हुन्छ जहाँ कतिबेला के हुने हो, कसरी निर्णय गर्ने हो, कसरी प्रतिक्रिया जनाउने हो, कतिखेर के गर्ने, के बोल्ने, कसरी जवाफ दिने लगायतका यावत कुराहरू हुन्छन् जुन एआइको लागी साह्रै गाह्रो कुरा हो किनकी एआईले अहिलेसम्म अनिश्चित अवस्थामा कसरी काम गर्ने भन्ने सिकेको छैन र काम गर्दा पनि गर्दैन ।

जस्तै चेस खेल्ने एआइ बनाइयो जसले निकै छोटो समयमा आफैले चेसका नियमहरू सिकेन मात्र, संसारका सर्वाधिक प्रतिभाशाली मानव चेस खेलाडीलाई समेत एकैचोटिमा हराइदियो । 

चेसमा हरायो होला किनकी चेसमा निश्चित स्टेपहरु मात्र छन् तर वास्तविक जीवनमा चेसमा जस्तो निश्चित स्टेपहरू मात्र हुँदैनन् । यहाँ अनिश्चितताको आँधीबेरी नै आउँछ र कतिखेर कतिबेरसम्म आउँछ त्यो पनि भन्न सकिन्न । 

मान्छेले यस्ता अनिश्चितताहरूसँग जुध्नको लागि उसमा जैविक, भावनात्मक, विचारात्मक, काल्पनिक कुराहरूको सहारा लिन्छ तर एआइसँग केबल भूतकालका डेटाहरू मात्र हुन्छ जसको मद्दतले उसले प्रतिक्रिया देखाउँछ जुन वास्तविक जिन्दगीमा सधैँ काम नलाग्न सक्छ ।

त्यसमाथि भूतकालमा जे घट्यो, भविष्यमा त्यही नै घट्छ भन्ने छैन । भविष्य सधैँ अनिश्चित छ र अनिश्चित घटनाहरूले नै यसलाई डोर्याइरहेको हामी पाउँछौँ । 

तर यो क्षेत्रमा काम गरिरहेका प्राविधिकहरु एआइलाई मान्छे जस्तै बनाउने दाबी गर्छन् जसकारण मान्छेले जसरी लाखौँ वर्षदेखि अनिश्चितताहरूसँग जुध्यो, एआइले पनि सक्ने आँकलन गरिएको छ । तर हामी त्यो हदसम्म अहिले नै पत्याउँदैनौँ । 

अर्को कुरा, नैतिकता भनेको मूलत: मानिसको भावना र मनोविज्ञानसँग जोडिने कुरा हो । तिनै कुराहरू एआइको छैन । मान्छेले एआइलाई कुनै खास नियमहरू भएका प्रोग्रामहरू राखेर नैतिक जस्तो लाग्ने एआइ बनाउन सक्ला तर त्यो यन्त्र जस्तो मात्र हुन्छ, नैतिकवान नै चाहीँ भन्न नमिल्ला किनकी त्यसले आफैले सोचेर त्यस्तो गरेको हुँदैन मान्छेले जस्तो ।

नैतिकता भनेको ज्यादै-ज्यादै जटिल कुरा हो जुन व्यक्तिगत तहमा मात्र सीमित छैन । यो समुदाय, धर्म, वर्ण, जात, देश, काल, परिस्थिति, लिङ्ग लगायत यावत कुराहरूमा भर पर्छ । संसारमा अनेकखाले नैतिकता छन् । 

धेरै मामिलामा एआइ आफैले पनि आफू नैतिकवान हुन नसक्ने बताएको छ । यो यान्त्रिक रूपमा नैतिकवान होला तर मानिस जस्तो जीवन्त हिसाबले नैतिक हुन सक्दैन भन्ने हामीलाई लाग्छ । 

अर्को अति महत्वपूर्ण कुरा भनेको यसले गर्ने काम र निर्णयको लागी जवाफदेहीता कसले लिने र त्यसका परिणामहरूले यसलाई के फरक पार्छ ? वास्तविक जिन्दगीमा मान्छेले बोलेको एउटा शब्दले समेत कति धेरै फरक पार्छ र त्यसैको लागी पनि उच्च नैतिकता पालना गर्नुपर्ने हुन्छ ।

तर एआइको भावना, मन, दिमाग इत्यादी नहुने हुनाले यसलाई अरूले के सोच्लान् , के गर्लान् , के भन्लान् इत्यादीको कुनै पर्वाह नै हुँदैन । यसले सबैलाई उस्तै व्यवहार गर्ने हुँदा यसको लागी को असल, को खराब भन्ने नै मतलब हुँदैन । यो दृष्टिबाट हेर्दा पनि यो नैतिकवान हुन सक्दैन । 

जस्तै नैतिकता पालना गर्न नसक्दा सन् २०१६ मा माइक्रोसफ्टको ट्विटर च्याटबट, जसले मानिसहरूको अन्तरक्रियाबाट सिक्ने भनिएको थियो, लञ्च भएको २४ घण्टामै व्यापक आलोचनापछि बन्द गर्नुपरेको थियो। यसले जातीय, लैङ्गिक लगायत विभिन्न कुराहरूमा आपत्तिजनक प्रतिक्रिया दिएको थियो ।

लामो समयदेखि बन्ने भनिएको स्वचालित गाडी (self-driving vehicles) पनि यस्तै मनोवैज्ञानिक र नैतिक अनिश्चितताको कारणले अझै पनि ग्राहकमाझ आउन सकेको छैन । गुगलको अनुहार चिन्ने एप उहिल्यै बन्द भएको थियो यस्तै मानव नैतिकता पालना गर्न नसक्दा ।

यि त केही उदारहण मात्र हुन् । अमेरिकामा थुप्रै क्षेेत्रमा उहिल्यैदेखि एआइको प्रयोग हुँदै अनि नैतिकता प्रदर्शन गर्न नसक्दा खारेज हुँदै आएका थुप्रै एपहरू छन् । गैरसरकारी मात्र हैन, अमेरिकाको न्यायिक क्षेत्र र जासुसी निकाय जस्ता गम्भीर सरकारी क्षेत्रहरूमा समेत यस्ता एआइहरू नैतिकवान हुन नसक्दा प्रयोग भएर बन्द भएका छन् ।

तर मान्छे हिम्मत हार्ने प्राणी हैन । एआइका व्यापक असफलताका बाबजुद पनि यसलाई मान्छेजस्तै बनाउने र यसका सीमितताहरूलाई जित्ने प्रयासहरू प्राविधिकहरुले गरिरहेका छन् ।

तर, दार्शनिक थोमस कुहनले उहिल्यै भनेजस्तो, कम्प्युटर (अहिलेको सन्दर्भमा एआइ) ले मानिसलाई कहिल्यै जित्न सक्दैन ( र नैतिकवान पनि हुन सक्दैन ) किनकी एआइ भनेको आगमनात्मक (inductive) विचार प्रणालीमार्फत् बनेको हुन्छ तर मान्छेको सोचाइ, कल्पना, मन, दिमाग इत्यादी त्यसको परिधिभन्दा धेरै बृहत छ ।

अन्त्यमा, हामी अहिलेको लागी यति चाहीँ भन्न सक्छौँ कि एआइ मान्छेजस्तो कहिल्यै हुन नसक्ने हुनाले यो मान्छेजस्तो नैतिकवान हुन सक्दैन । यान्त्रिक हिसाबले नैतिकवान हुनु बेग्लै कुरा ।