‘किलर रोबोट’ को चिन्ता

किनकि दुवै देशको बागडोर यस्ता सन्की नेताको हातमा थियो जो न कुनै नैतिक परिबन्दको ख्याल गर्छन् न कुनै संवेदना । बरु आफ्नो सनकको भरमा निर्णय गर्न रुचाउँछन् । भलै वास्तविकता त्यस्तो नहुन सक्छ तर उनीहरूको सार्वजनिक छवि यसरी नै निर्माण गरिएको छ । यो चिन्ता किन पनि व्यक्त भएको हो भने उत्तर कोरिया र अमेरिका दुवै एकअर्कालाई सबैभन्दा ठूलो शत्रु र सुरक्षा चुनौती मान्छन् र दुवै नेता आफूसँग भएको सैनिक सामथ्र्यमा गर्व गरिरहेका छन् । मानिसको नियन्त्रणमा रहने विनाशकारी आणविक हतियार परिचालन हुन सक्ने चिन्ता यो तहमा यसअघि सायदै भएको थियो । 

संवेदना, सम्बन्ध र विभिन्न आयामहरूले मानिसलाई जोखिमपूर्ण निर्णय गर्नबाट सीमित बनाउन सक्छन् । यसैले होला अहिले विश्वका कैयौं देश आणविक शक्तिले सम्पन्न भए पनि दोस्रो विश्वयुद्धको अन्त्यताका जापानको हिरोसिमा र नागासाकीमा अमेरिकी परमाणु बम खसेपछि अन्यले यसलाई दोहोर्‍याउने मुख्र्याईं गरेका छैनन् ।
यो त भयो मानवीय नियन्त्रणमा रहने शक्तिशाली र घातक हतियारका कुरा । यहाँ चर्चा गर्न खोजिएको विषय मानवीय नियन्त्रणबाहिरको हतियारबारे हो जसको निर्माणमा धेरै निजी कम्पनी र सरकारी निकाय धेरै अघि बढिसकेका छन् र त्यसको जोखिमबारे जानकारहरूले चेतावनी दिइरहेका छन् ।
सन् २०१५ मा वैज्ञानिक स्टेफन हकिङ्सले बीबीसीलाई अन्तर्वार्ता दिने क्रममा भनेका थिए— प्रविधिको अनियन्त्रित विकास मानव जीवनका लागि खतरा बन्न सक्छ । उनको भनाइको तात्पर्य अहिले जोडतोडका साथ विकास भइरहेको रोबोट र त्यसमा जडित प्रविधिप्रति केन्द्रित थियो । यस्तो प्रविधि जसलाई समग्रमा आर्टिफिसियल इन्टेलिजेन्सको नाममा चिनिन्छ र यसको उद्देश्य हो— मानवले जस्तै विवेक प्रयोग गरेर काम गर्न सक्ने सफ्टवेयर वा उपकरणको विकास । हकिङ्सको दाबीलाई आधार मान्ने हो भने यस्तो प्रविधिको अनियन्त्रित विकासले मानव प्रभुत्वको अन्त्य गर्न सक्छ । एक दिन यस्तो आउनेछ, मानवीय सम्बन्धहरू संवेदनाले होइन, रोबोटको सही र गलत निर्णयबाट प्रभावित हुनेछ ।
हकिङ्सले डिसेम्बरमा यो विचार राख्नुअघि सोही वर्ष जुलाईमा भएको अन्तर्राष्ट्रिय एआई (आर्टिफिसियल इन्टेलिजेन्स) कन्फ्रेन्समा खुलापत्र लेख्दै एक हजारभन्दा बढी प्रविधिविज्ञहरूले मानव नियन्त्रणबिना चल्न सक्ने स्वचालित हतियारको विकासबारे चेतावनी दिएका थिए । 
यसका हस्ताक्षरकर्तामा हकिङ्ससहित प्रविधि व्यवसायी एलनमस्क, एप्पलका सहसंस्थापक वाजनियाक पनि थिए । उनीहरूले आर्टिफिसियल इन्टेलिजेन्सलाई स्वचालित हतियार बनाउनका लागि प्रयोग गर्न दिए ती हतियारहरू मानवको अर्थपूर्ण नियन्त्रणबाहिर जाने भन्दै प्रतिबन्ध लगाउन माग गरेका थिए ।
उक्त बेला संयुक्त राष्ट्रसंघको एक समितिले स्वचालित हतियारमा आर्टिफिसियल इन्टेलिजेन्सको प्रयोगमा प्रतिबन्ध लगाउने विषयमा छलफल गरिरहेको थियो । र, यो समिति अहिले पनि छलफलको चरणमै छ ।
मानवीय नियन्त्रणबिना पनि सञ्चालन हुन सक्नेहतियारको रूपमा यहाँ रिमोट कन्ट्रोल र सफ्टवेयरबाट दिइएको आदेशमा सञ्चालन हुन सक्ने हतियारको कुरा गरिएको होइन । यहाँ चर्चा गर्न खोजिएको हतियार, हतियारको रूपमा मात्रै नभएर रोबोट, ड्रोन र विमानको रूपमा हुनेछ र यिनले कुनै पनि मानवीय निर्देशनबिना कोही व्यक्ति, ठाउँमा प्रहार गर्न सक्नेछ ।
यसलाई प्रतिबन्ध लगाउनुपर्ने माग गर्नेहरूको तर्क छ— जब कुनै सफ्टवेयरबाट स्वचालित रोबोट, ड्रोन वा विमानलाई आफ्नै विवेकमा सञ्चालन हुन सक्ने गरी विकास गरिन्छ तब यसमा मानवीय नियन्त्रण कम हुँदै जान्छ । उनीहरूले यो विकासलाई प्यान्डोरा बक्सको संज्ञा दिएका छन् जुन खोल्दा विश्वलाई सुख होइन, पीडा र दु:खको लहर पाउनेछ किनकि यस्ता हतियारलाई जतिसुकै प्रशिक्षित गरे पनि यिनले को शत्रु र को मित्र भनेर छुटयाउने सामथ्र्य राख्न सक्नै छैनन् । यी हतियार ल्यान्डमाइनजस्तै हुन् जसमा स्वयम् बिछ्याउनेले टेके पनि पड्किनबाट रोकिँदैन । यस्ता हतियारलाई समग्रमा बुझाउन पछिल्लो समय ‘किलर रोबोट’ को नाम दिइएको छ । गत साता मात्रै पनि एक सयभन्दा बढी एआईविज्ञहरूले संयुक्त राष्ट्रसंघलाई पत्र लेखी यो विषयमा सचेत गराएका छन् । 
यस्ता हतियारमाथि प्रतिबन्ध लगाउनुपर्ने माग दुई वर्षअघिबाट अलि चर्को रूपमा उठे पनि यसको विकासक्रम भने लामो छ । सन् २००० मै अमेरिकी सिनेटले सरकारलाई एकतिहाइ बंकर र विमानलाई रोबोटबाट चल्ने गरी विस्थापित गर्न निर्देशन दिएको थियो । यसको प्रयोग सन् २००६ मै अमेरिकाले इराक र अफगानिस्तानमा पनि गरिसकेको छ । इराक र अफगानिस्तानमा परीक्षण गराइएका यस्ता रोबोटले शंकास्पद व्यक्ति लुकेको ठाउँमा सैनिकभन्दा अघि गएर ढोका ढक्ठक्याउने, जमिनमा फाइबर बिछ्याउने जस्ता काममा सैनिकलाई सघाएको थियो । सन् २००५ मै न्युयोर्क टाइम्सले स्वचालित हतियार निर्माणमा अमेरिकी योजनाबारे खुलासा गरेको थियो ।
अमेरिका मात्रै होइन, अन्य देशमा पनि स्वचालित हतियारको विकासको लामो यात्रामा निस्किसकेका छन् । उनीहरूको अबको योजना रिमोट कन्ट्रोलबाट चल्ने हतियार नभई आफ्नो निर्णय आफैं गर्न सक्ने खालको हतियार हो जसले युद्ध वा आक्रमणमा मानवीय जनशक्तिको आवश्यकता कम गर्नेछ । अमेरिकासँगै यस्ता हतियार निर्माणमा चासो राख्नेमा बेलायत पनि पर्छ । उसले विरोध गर्नेहरूलाई जवाफस्वरूप यसअघि नै विज्ञप्तिमार्फत यस्ता स्वचालित हतियारमानवीय नियन्त्रणभन्दा बाहिर नजाने र यिनलाई नियन्त्रण गर्न विद्यमान अन्तर्राष्ट्रिय कानुन नै पर्याप्त भएको दाबी गरेको छ । तर, यसका विरोधीहरूको अर्को पनि तर्क छ कि यस्तो स्वचालित हतियारहरू ह्याक हुने सम्भावना पनि उत्तिकै छ । यो दाबी कुनै आम मानिसहरूबाट आएको नभई प्रविधि क्षेत्रमा लामो समय काम गरेका मानिसहरूको समूहबाट आएको हो । र, अहिले सार्वजनिक हुने ह्याकिङका घटनाहरू हेर्दा यो दाबीमा दम छ । अमेरिका र बेलायतबाहेक यस्ता ‘किलर रोबोट’ को विकासमा अग्रस्थानमा पुगेको अर्को देश दक्षिण कोरिया पनि हो । उसले आफ्नो पारस्परिक शत्रु देश उत्तर कोरियासँगको सिमानामा केही वर्षयता यस्तै स्वचालित हतियारको प्रयोग गर्न जोड दिइरहेको छ जसले २४ सै घण्टा सिमानाको निरीक्षण गर्न सक्छ । साथै, दक्षिण कोरियाली सहर डेजोङमा रहेका विभिन्न कम्पनी पनि यस्ता हतियारको परीक्षणमा जुटिरहेका छन् ।

अनैतिक विकास !
किलर रोबोटलाई प्रतिबन्ध लगाउनुपर्छ भन्नेहरूको दाबी के पनि छ भने–यस्तो खालको विकास अनैतिक हो जुन मानवीय नियन्त्रणमा नहुन सक्छ । उदाहरणका लागि : एक आक्रमणमा प्रयोग हुने स्वचालित विमानलाई लिऔं । आक्रमणमा प्रयोग भएको विमान मानवीय नियन्त्रणमा छ र कहाँ बम खसाल्ने र कहाँ नखसाल्ने निर्णय मानवीय निर्णयमा भर पर्छ भने कुनै एक शत्रुलाई मार्नका लागि उसले अन्य निर्दोषको ज्यान जाने गरी बम नखसाल्न सक्छ । तर, स्वचालित विमानसँग यस्तो नैतिकता रहन्छ ? कुनै सीमामा तैनाथ स्वचालित हतियारले आफ्नो अगाडि चहलपहल गरिरहेको आफ्नै सैनिक र शत्रु पक्षलाई कसरी पहिचान गर्न सक्छ ?

नयाँ युद्धको परिकल्पना
यस्ता हतियारको विकासले भविष्यमा हुन सक्ने युद्धको नयाँ प्रारूपको संकेत गर्छ जसमा मानवीय भूमिका कम र रोबोटको भूमिका बढी हुन सक्छ । यसको प्रयोगले युद्धमा सैनिक क्षति त कमी होला तर मानवीय क्षति कमी हुने आस गर्न सकिँदैन । किनकि यस्ता रोबोट (वा भनौं, स्वचालित ड्रोन वा विमान) सँग मानवीय सैनिकले देखाउने संवेदना र विवेकको अपेक्षा गर्न पनि सकिँदैन ।

के हो ‘किलर रोबोट’ ?
मानिसको आवश्यकताबिना निसाना पहिचान गरी आफैं प्रहार गर्न सक्ने हतियारको परिकल्पनालाई सांकेतिक रूपमा किलर रोबोट भनिएको हो । यस्ता स्वचालित हतियार हतियारको रूपमा मात्रै नभई रोबोट, ड्रोन, विमान, ट्यांकरको रूपमा हुन सक्छन् । यसको परिकल्पनाअनुसार यो पूर्णत: तयार भइसकेको छैन तर अहिले विभिन्न हतियार कम्पनी र विभिन्न देशका सैनिकले गरेको परीक्षण र यसमा समायोजन भइरहेको प्रविधिका कारण यो निकट भविष्यमै वास्तविकताको रूपमा आउन सक्ने सम्भावना छ ।
–एजेन्सीहरूको सहयोगमा