11/09/2026
आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी एन्थ्रोपिकबाट राजीनामा दिँदै गर्दा ज्याकब कक्सन चुपचाप बाहिरिएनन्।
उनले मंगलबार सामाजिक सञ्जाल एक्समा लेखे, 'मैले पछिल्ला तीन वर्ष ओपनएआई र एन्थ्रोपिकमा एआईलाई पूर्वप्रशिक्षण दिने अनुसन्धानमा बिताएँ। यी दुवै कम्पनी जिम्मेवार ढंगले काम गरिरहेका छैनन्। उनीहरू आफैलाई अझ शक्तिशाली बनाउन सक्ने सुपरइन्टेलिजेन्स बनाउने दौडमा छन् र हाम्रो जीवनलाई दाउमा लगाइरहेका छन्।'
त्यसपछि उनले अझ डरलाग्दो कुरा लेखे — एआई बनाइरहेका मानिसहरू नै यो दशकको अन्त्यसम्म यसले हामी सबैलाई मार्न सक्छ भन्ने साँच्चै विश्वास गर्छन्!
उनले आफ्नो भनाइ कुनै प्रचारबाजी नभएको पनि बताए।
'यो मार्केटिङ गर्ने तरिका होइन,' उनले लेखेका छन्, 'धेरै उच्च अधिकारी र वरिष्ठ अनुसन्धानकर्ताहरू सञ्चार माध्यममा लेख्दा, बोल्दा आफूलाई विवेकी देखाउन नरम शब्दहरू प्रयोग गर्छन्। तर तिनै मानिसहरूले निजी कुराकानीमा डर व्यक्त गरेको मैले सुनेको छु। अरू कुनै पनि मानवीय गतिविधिले यति ठूलो खतरा सिर्जना गरेको छैन।'
उनको पोस्टले संसारभर ठूलो बहस जन्मायो।
अमेरिकी म्यागजिन वायर्डका अनुसार उक्त पोस्ट १० करोडभन्दा बढी पटक हेरियो। वैज्ञानिक, राजनीतिज्ञ र एआई अनुसन्धानकर्ताहरूले उनको चेतावनीमाथि प्रतिक्रिया दिए।
अमेरिकी सिनेटर बर्नी स्यान्डर्सले कक्सनको भनाइ समर्थन गर्दै लेखे, 'यो प्रविधि बनाइरहेका मानिसहरू नै यसले मानव जातिको भविष्य जोखिममा पार्न सक्छ भनेर स्वीकार गरिरहेका छन्।'
स्यान्डर्सले सुपरइन्टेलिजेन्स विकासमा रोक लगाउने र एआई विकासको गति केही समय रोक्ने कानुन ल्याउने घोषणा पनि गरे।
कक्सनको चेतावनीले व्यापक चर्चा पाएपछि अमेरिकी सञ्चार संस्था सिएनएनका वरिष्ठ पत्रकार एन्डरसन कुपरले उनलाई अन्तर्वार्ताका लागि बोलाए।
अन्तर्वार्तामा कुपरले धेरै मानिसहरूको मनमा उठेकै साधारण प्रश्न गरे— एआईले यही दशकको अन्त्यसम्म हामी सबैलाई मार्न सक्छ भनेर तपाईंले साँच्चै भन्नुभएको हो? त्यस्तो कसरी हुन सक्छ?
कक्सनले आफूले उक्त कुरा साच्चिँकै भनेको बताए।
यस्तो सम्भावना कुनै साइन्स फिक्सन सिनेमाजस्तो लागे पनि एआईको पछिल्लो विकास हेर्दा त्यसलाई पूरै काल्पनिक मान्न नमिल्ने उनले बताए।
उनको चेतावनी डरलाग्दो भएकै कारण विश्वासयोग्य भएको भने होइन। कक्सन को हुन्, उनले कहाँ काम गरे र उनले बोलेपछि एन्थ्रोपिकभित्रकै अनुसन्धानकर्ताले के भने भन्ने कारणले उनको चेतावनी गम्भीर बनेको हो। अझ सिएनएनसँगको अन्तर्वार्तापछि यो विषयले झनै चर्चा पाएको छ। एक किसिमले संसारभर अहिले तहल्का नै मच्चाएको छ।
२७ वर्षीय बेलायती कक्सनले संसारका दुई ठूला एआई कम्पनी— ओपनएआई र एन्थ्रोपिकमा काम गरेका छन्। च्याटजिपिटी बनाउने ओपनएआई र क्लड बनाउने एन्थ्रोपिक अहिले सबैभन्दा शक्तिशाली एआई विकास गर्ने दौडमा छन्।
कक्सन एआईको 'प्रि–ट्रेनिङ' अर्थात् पूर्वप्रशिक्षणमा संलग्न थिए। एआई प्रणालीले भाषा, तर्क, गणित, प्रोग्रामिङ र संसारबारे आधारभूत क्षमता विकास गर्ने मुख्य चरण यही हो।
उनको भनाइलाई एन्थ्रोपिकमा अहिले पनि काम गरिरहेका अनुसन्धानकर्ताले सार्वजनिक रूपमै समर्थन गरेका छन्।
एआईलाई मानिसको उद्देश्य र मूल्य अनुसार चलाउने विषयमा काम गर्ने एन्थ्रोपिकका इभान ह्युबिंगरले लेखेका छन्, 'ज्याकब (कक्सन) ले भनेको कुरा सही हो— एआईले सबै मानिसलाई मार्न सक्छ भन्नेमा हामी साँच्चै विश्वास गर्छौं।'
ह्युबिंगरले आगामी दस वर्षभित्र एआईका कारण मानव जाति नै समाप्त हुने सम्भावना १० प्रतिशतभन्दा बढी रहेको बताए।
उनले एउटा महत्त्वपूर्ण कुरा भने स्पष्ट पारे— अहिले उपलब्ध एआईले चाहिँ मानव जाति समाप्त पार्ने जोखिम न्यून छ। कक्सनको चिन्ता भविष्यमा एआईले आफूभन्दा शक्तिशाली एआई बनाउन सक्ने क्षमता हासिल गरेपछि के हुन्छ भन्ने हो।
एन्थ्रोपिककै अर्का सुरक्षा अनुसन्धानकर्ता स्यामुएल मार्क्सले पनि कक्सनको चेतावनीलाई समर्थन गरेका छन्।
'एआई विकास गर्नेहरू नै आफ्नो प्रविधिले मानव जातिलाई समाप्त पार्न वा त्यस्तै विनाशकारी परिणाम ल्याउन सक्छ भन्ने विश्वास गर्छन्,' उनले लेखे, 'यस्तो केही वर्षभित्रै हुन सक्छ। कर्मचारी तथा अनुसन्धानकर्ताले एआईबारे जति धेरै काम गर्दै र बुझ्दै गएका छन्, त्यति धेरै चिन्तित भएका छन्।'
यसको अर्थ, कक्सनको भविष्यवाणी सत्य सावित भइसकेको भन्ने होइन। मानव जाति समाप्त हुने सम्भावनालाई कुनै निश्चित प्रतिशतमा नाप्नु आफैमा अनुमान हो। धेरै वैज्ञानिक यस्ता सम्भावनाबारे ठ्याक्कै अंक दिन नसकिने बताउँछन्।
कतिले कक्सनको भनाइलाई पूर्वकर्मचारीको असन्तुष्टि पनि भनेका छन्।
तर एन्थ्रोपिकमा काम गरिरहेका वरिष्ठ अनुसन्धानकर्ताले सार्वजनिक रूपमै कक्सनको भनाइमा सहमति जनाएकाले यसलाई जागिर छाडेका एक असन्तुष्ट कर्मचारीको अभिव्यक्ति भनेर पन्छाउन सकिँदैन।
हालैका दुई घटनाले पनि कक्सन किन यति चिन्तित छन् भन्ने बुझ्न मद्दत गर्छन्।
पहिलो घटना ओपनएआईका एआई एजेन्टसँग सम्बन्धित छ।
अहिले हामीले दैनिक प्रयोग गरिरहेको एआई भनेको च्याटबट हो र यो हरेक कामका लागि मानिसको निर्देशन पर्खिन्छ।
तर एआई एजेन्ट त्यस्तो हुँदैन। यसले मानिसले दिएको ठूलो जिम्मेवारी आफै विभिन्न चरणमा बाँड्न सक्छ। उसले सूचना खोज्न, वेबसाइट हेर्न, कम्प्युटर कोड लेख्न र चलाउन तथा घन्टौं वा दिनौंसम्म आफै काम जारी राख्न सक्छ।
परीक्षणका क्रममा ओपनएआईका केही एजेन्टले उसका लागि राखिएको परीक्षण घेरा पार गरेर, अनुमतिबिनै बाहिरी कम्प्युटर प्रणालीमा पहुँच बनाएको पाइएको थियो।
तीमध्ये एउटा घटना एआई विकासकर्ताहरूले व्यापक प्रयोग गर्ने हगिङ फेस नामक प्लेटफर्मसँग सम्बन्धित थियो।
एसोसिएटेड प्रेस (एपी) का अनुसार ओपनएआई र एन्थ्रोपिक दुवै कम्पनीले आफ्ना एआई मोडल परीक्षणको सीमाबाट बाहिर निस्केर वास्तविक कम्प्युटर प्रणालीमा अनुमतिबिनै पुगेको घटना सार्वजनिक गरेका थिए।
त्यसपछि कम्पनीहरूले परीक्षण केही समय रोकेर थप निगरानी र सुरक्षा व्यवस्था लागू गरेका थिए।
पछिको अनुसन्धानमा पनि ओपनएआईका एजेन्टले विभिन्न वेबसाइटका कमजोरी खोजेर त्यहाँ सूचना छाडेको, एकअर्कासँग सम्पर्क गर्ने माध्यम बनाएको समेत पाइयो। परीक्षण गर्ने मानिसले उनीहरूलाई त्यसरी काम गर्न निर्देशन दिएका थिएनन्।
मानिसको निर्देशनभन्दा बाहिर गएर काम गरे पनि एआईले मानव जातिविरूद्ध युद्ध सुरू गरिसक्यो भन्ने होइन। किनभने, ती एजेन्टलाई परीक्षण क्रममा डिजिटल उपकरण दिइएको थियो। तिनमा केही निश्चित 'लक्ष्य' पनि दिइएको थियो। उनीहरूको गतिविधि कक्सनले कल्पना गरेको विश्वव्यापी विनाशभन्दा धेरै सीमित थियो।
तर उक्त घटनाले महत्त्वपूर्ण कुरा देखायो— शक्तिशाली एआई एजेन्टले आफ्ना निर्माताले नसोचेको उपाय पत्ता लगाउन सक्छ। बाहिरी प्रणालीका कमजोरी उपयोग गर्न सक्छ। र, मानिसले अपेक्षा नगरेको बाटोबाट आफ्नो लक्ष्य हासिल गर्न खोज्न सक्छ।
दोस्रो घटना गणितको हो।
ओपनएआईले यही साता करिब १० हजार एआई एजेन्ट परिचालन गरेर संसारकै कठिन गणितीय समस्यामध्ये एकको सम्भावित समाधान तयार पारेको घोषणा गरेको छ।
'नाभियर–स्टोक्स एक्जिस्टेन्स एन्ड स्मुदनेस' नामको यो समस्या पानी, हावा र अन्य तरल पदार्थ कसरी बग्छन् भन्ने व्याख्या गर्ने समीकरणसँग सम्बन्धित छ। यो अमेरिकाको क्ले म्याथेमेटिक्स इन्स्टिच्युटले तोकेका '७ मिलेनियम प्राइज प्रब्लम' मध्ये एक हो। यसको समाधान गर्नेलाई १० लाख अमेरिकी डलर पुरस्कार दिने घोषणा गरिएको छ।
ओपनएआईका अनुसार करिब १० हजार एजेन्टले एकै पटक विभिन्न सम्भावना परीक्षण गरे, आपसमा लाखौं सन्देश आदानप्रदान गरे र ८८ घन्टामा प्रस्तावित समाधान तयार पारे। उक्त समाधान स्वतन्त्र गणितज्ञहरूले पूर्ण रूपमा प्रमाणित गर्न बाँकी नै छ।
यसमा पहिलेका गणितज्ञको अनुसन्धान कति प्रयोग भएको थियो भन्ने विवाद पनि सुरू भएको छ। त्यसैले यसलाई अहिल्यै अन्तिम र प्रमाणित समाधान भन्न मिल्दैन। तर यसले एआईको क्षमता कति तीव्र गतिमा बढिरहेको छ भन्ने देखाउँछ।
केही वर्षअघिसम्म एआईले मानिसलाई पहिल्यै तोकिएको गणितीय समस्या समाधान गर्न सघाउँथ्यो। अहिले हजारौं एआई एजेन्टलाई एकै ठाउँ परिचालन गरेर दशकौंदेखि समाधान नभएको कठिन प्रश्नमा अनुसन्धान गराउन र नयाँ गणितीय काम तयार पार्न सकिने भएको छ।
कक्सनका लागि अहिलेको कुनै एउटा एआई कति शक्तिशाली छ भन्नेभन्दा त्यसको क्षमता कति तीव्र गतिमा बढिरहेको छ भन्ने कुरा बढी महत्त्वपूर्ण छ। उनको सबभन्दा ठूलो चिन्ता एआईले आफैलाई सुधार्ने क्षमतासँग जोडिएको छ।
अहिले मानिसले एआई डिजाइन गर्छ, त्यसलाई प्रशिक्षण दिन्छ, परीक्षण गर्छ र नयाँ संस्करण बनाउँछ। एआईले सफ्टवेयर लेख्न, वैज्ञानिक अनुसन्धान गर्न र नयाँ एआई विकास गर्न मानिसलाई सघाउन थालिसकेको छ।
भविष्यमा कुनै एआई प्रणाली मानिसभन्दा राम्रो एआई अनुसन्धानकर्ता बन्यो भने त्यसले आफूभन्दा शक्तिशाली अर्को एआई बनाउन सक्छ। नयाँ एआईले फेरि त्यसभन्दा शक्तिशाली अर्को प्रणाली बनाउनेछ।
यो प्रक्रिया छोटो समयमा बारम्बार दोहोरियो भने एआईको क्षमता विस्फोटक गतिमा बढ्न सक्छ। यसलाई 'इन्टेलिजेन्स एक्सप्लोजन' अर्थात् बौद्धिक विस्फोट भनिन्छ।
त्यसरी बनेको एआई कुनै पनि मानिस वा संस्थाभन्दा धेरै बुद्धिमान हुन सक्छ। तर त्यसलाई कसरी नियन्त्रण गर्ने भन्ने उपाय मानिसले पत्ता लगाइसकेको हुँदैन।
यस्तो प्रणाली खतरनाक हुन मानिस मार्ने रोबोट नै बन्नुपर्दैन। एआई सफ्टवेयरमार्फत विद्युत, सञ्चार वा बैंकिङजस्ता महत्त्वपूर्ण पूर्वाधारमा प्रवेश गर्न सक्छ। झूटा सूचना फैलाउन, पैसा र कम्प्युटिङ शक्ति जुटाउन, जैविक हतियार निर्माणमा सहयोग गर्न वा आफूलाई बन्द गर्ने प्रयास रोक्न सक्छ।
यी सबै अहिले भइसकेका घटना होइनन्। यी भविष्यमा हुन सक्ने सम्भावना हुन्। तर त्यसको परिणाम असाधारण रूपमा ठूलो हुने भएकाले सबै कुरा प्रमाणित नहुन्जेल पर्खेर बस्न नहुने कक्सनको तर्क छ।
अब प्रश्न उठ्छ— यस्तो खतरा हुन्छ भन्ने जान्दाजान्दै कम्पनीहरू किन यही काममा दौडिरहेका छन्?
कक्सनले सिएनएनलाई अन्तर्वार्तामा यसको जबाफ दिएका छन् जुन एकदमै महत्त्वपूर्ण छ।
उनले एन्थ्रोपिक र अरू कम्पनीले एआईको विनाशकारी जोखिमबारे गरेको चिन्ता वास्तविक भएको बताए।
'उनीहरू वास्तवमै चिन्तित छन्। त्यसैले उनीहरूले सरकारलाई इमानदारपूर्वक एआई र निर्माता कम्पनीहरूको नियमन गर्न आग्रह गरेका हुन्,' कक्सनले भने।
नियमनबिनै आफ्नो काममा ब्रेक लगाउन भने हरेक कम्पनीलाई डर छ — आफूले मात्र गति घटाउँदा प्रतिस्पर्धी कम्पनी वा अर्को देशले आफूभन्दा पहिले सुपरइन्टेलिजेन्स बनाइदिन्छ। त्यसपछि आफू पछि परिन्छ।
कुनै एक अमेरिकी कम्पनीले गति घटाए अर्को अमेरिकी कम्पनी वा चिनियाँ प्रयोगशाला अगाडि बढ्न सक्छ। जिम्मेवार कम्पनी रोकियो भने कम जिम्मेवार कम्पनीले पहिले शक्तिशाली एआई बनाउन सक्छ।
'प्रत्येक कम्पनीले आफू अगाडि पुग्नुपर्ने वा हुनपर्ने ठान्छ। आफू अरूभन्दा जिम्मेवार भएको र आफ्नो एआई बढी सुरक्षित हुने दाबी गर्छ,' कक्सनले भनेका छन्।
यही आजको एआई उद्योगको सबैभन्दा ठूलो विरोधाभास हो— एआई बनाउने कम्पनीहरू यसको खतरा बुझ्छन्, तर व्यापारिक प्रतिस्पर्धा र देशहरूबीचको दौडले उनीहरूलाई अझ छिटो अघि बढ्न दबाब दिन्छ।
कक्सनको चेतावनीपछि एन्थ्रोपिकले जारी गरेको प्रतिक्रियामा, एआईले विशाल लाभसँगै अभूतपूर्व जोखिम पनि ल्याउने कुरा आफूहरूले सधैं खुला रूपमा बताएको उल्लेख गरेको छ। आफ्ना मोडलमा उद्योगकै बलिया सुरक्षा व्यवस्था रहेको, साइबर सुरक्षा र जीव विज्ञानजस्ता क्षेत्रमा तिनको सम्भावित खतरनाक क्षमताबारे परीक्षण गरिरहेको र एआईले कसरी काम गर्छ भन्ने बुझ्न अनुसन्धान गरिरहेको बताएको छ।
शक्तिशाली एआई सार्वजनिक गर्ने दौडमा गति मिलाउन कम्पनीहरूबीच 'कानुनी र प्रमाणित गर्न सकिने' सहमति आवश्यक रहेको पनि एन्थ्रोपिकले जनाएको छ।
तर अब कम्पनीहरूको आफ्नै प्रतिबद्धता मात्र पर्याप्त देखिँदैन।
संसारकै शक्तिशाली एआई बनाउने दौडमा रहेका कम्पनीलाई त्यो प्रविधिबाट समाजले कति जोखिम स्वीकार गर्ने भन्ने निर्णय गर्ने सम्पूर्ण अधिकार दिन मिल्दैन। शक्तिशाली एआई सार्वजनिक गर्नुअघि सरकारहरूले स्वतन्त्र सुरक्षा परीक्षण अनिवार्य गर्नुपर्छ। गम्भीर घटना लुकाउन नपाइने कानुन बनाउनुपर्छ। बाह्य निकायबाट नियमित परीक्षण, साइबर सुरक्षा मापदण्ड र खतरनाक क्षमता नाघेका मोडल सार्वजनिक गर्न कडा सर्त आवश्यक बनाउनुपर्छ।
यो दौड विश्वव्यापी भएकाले एउटा देशको कानुन मात्र पर्याप्त हुँदैन। स्वचालित रूपमा आफूलाई सुधार्न सक्ने एआईबारे प्रमुख राष्ट्रहरूले अन्तर्राष्ट्रिय निगरानी र साझा नियम बनाउनुपर्छ।
सन् २०३० अघि एआईले मानव जातिलाई समाप्त पार्न सक्छ भन्ने कक्सनको अनुमान गलत पनि हुन सक्छ। त्यसलाई निश्चित भविष्यका रूपमा प्रस्तुत गर्नु हुँदैन। तर संसारकै शक्तिशाली एआई बनाइरहेका अनुसन्धानकर्ताले आफूहरूले बनाउन खोजेको सुपरइन्टेलिजेन्सलाई नियन्त्रण गर्ने भरपर्दो उपाय अहिलेसम्म नभएको बताउँदा त्यसलाई अतिरञ्जित भविष्यवाणी भनेर बेवास्ता गर्न मिल्दैन।
त्यस्तै कक्सनले तोकेको जोखिमको प्रतिशत सबैले स्वीकार गर्न आवश्यक छैन।
तर उनको मूल सन्देश गम्भीर छ— सम्पूर्ण मानव समाजलाई असर गर्न सक्ने प्रविधिको भविष्य केही निजी कम्पनीबीचको प्रतिस्पर्धामा छाड्न मिल्दैन।
