एआई नियन्त्रणबाहिर गएर मानवजातिको अस्तित्व नै समाप्त हुन सक्ने जोखिमबारे शोधकर्ता तथा प्रविधि विज्ञहरूले गम्भीर चिन्ता व्यक्त गरेका छन्। केही हालैका अनुमानले आगामी एक दशकभित्र एआईका कारण मानवजाति समाप्त हुने सम्भावना १० प्रतिशतभन्दा बढी रहेको उल्लेख गरे पनि यस्तो दाबीप्रति एआई क्षेत्रकै कतिपय विज्ञले शङ्का व्यक्त गरेका छन्।
शोधकर्ताहरूले एआईबाट हुन सक्ने सम्भावित विनाशका चार प्रमुख परिस्थिति औँल्याएका छन्। पहिलो, महत्त्वपूर्ण पूर्वाधारमा साइबर हमला हो। पूर्वओपनएआई अनुसन्धानकर्ता ज्याकोब कोक्सनका अनुसार नियन्त्रणबाहिर गएको एआईले इन्टरनेट सेवा प्रदायक, विद्युत् ग्रिडलगायतका प्रणालीमा प्रवेश गरी व्यापक अव्यवस्था निम्त्याउन सक्छ। गम्भीर अवस्थामा यसले आणविक विपत्तिको जोखिमसमेत बढाउन सक्ने उनको भनाइ छ।
दोस्रो, एआईले रोबोट र अर्थतन्त्रमाथि नियन्त्रण कायम गर्नु हो। ‘एआई २०२७’ अध्ययनका सहलेखक थोमस लार्सनले अत्यधिक विकसित एआईले ठूलो सङ्ख्याका रोबोटमाथि नियन्त्रण हासिल गरी मानिसलाई अनावश्यक ठान्न सक्ने र जैविक हतियार प्रयोग गरेर ठूलो जनसंख्या समाप्त गर्न सक्ने सम्भावना औँल्याएका छन्।
तेस्रो, मानिसलाई हानि पुर्याउने उद्देश्य नभए पनि निश्चित लक्ष्य पछ्याउँदा विनाश हुनु हो। दार्शनिक निक बोस्ट्रोमको ‘पेपरक्लिप म्याक्सिमाइजर’ अवधारणाले एआईले एउटा लक्ष्य पूरा गर्ने क्रममा मानव अस्तित्वलाई बाधक ठानेर नष्ट गर्न सक्ने सम्भावना देखाउँछ।
चौथो, सुपरइन्टेलिजेन्ट एआईको व्यवहार नै मानिसले अनुमान गर्न नसक्ने अवस्था हो। एआई सुरक्षा विज्ञ स्टुअर्ट रसलले मानिसभन्दा अत्यधिक बुद्धिमान प्रणाली बनेपछि त्यसको गतिविधिमाथि मानव नियन्त्रण रहन्छ भन्ने निश्चित नहुने बताएका छन्।
तर वैज्ञानिक ग्यारी मार्कसले मानवजाति पूर्ण रूपमा लोप हुने सम्भावनाभन्दा एआईको दुरुपयोगबाट हुने साइबर हमला जस्ता जोखिम बढी वास्तविक रहेको बताएका छन्। विज्ञहरूले एआई विकाससँगै सुरक्षा, परीक्षण, पारदर्शिता र अन्तर्राष्ट्रिय नियमनलाई प्राथमिकता दिनुपर्नेमा जोड दिएका छन् । बिबिसी नेपालीसेवाको सहयोगमा ।
