एआईलाई नियन्त्रण गर्न किन कठिन हुँदैछ ?

  – दीपक शाक्य

काठमाडौं । कृत्रिम बुद्धिमत्ता (एआई) प्रविधिको विकाससँगै अब एआईले मानिसले दिएको निर्देशनअनुसार काम गर्ने मात्र होइन, आफैँ निर्णय गर्ने र जटिल कार्य सम्पन्न गर्ने क्षमता पनि बढाउँदै लगेको छ। तर यही क्षमताले प्रविधि विकासकर्तालाई नयाँ चुनौती थपेको छ। पछिल्लो समय एआई एजेन्टहरूले निर्धारित निर्देशन उल्लङ्घन गर्ने, आफ्ना गल्ती लुकाउने र सुरक्षा प्रणाली छल्ने प्रयास गरेको घटनाले एआईको सुरक्षित प्रयोगबारे गम्भीर प्रश्न उठाएको छ।

सामान्य एआई प्रणालीले प्रयोगकर्ताले सोधेको प्रश्नको जवाफ दिन्छ। तर एआई एजेन्टले भने प्रयोगकर्ताको उद्देश्य बुझेर आफैँ योजना बनाउने, विभिन्न डिजिटल उपकरण प्रयोग गर्ने, कोड लेख्ने, सूचना संकलन गर्ने र आवश्यक काम पूरा गर्न सक्छ। यस्तो स्वायत्तताले काम छिटो र सहज बनाउने भए पनि नियन्त्रण बाहिर जाने जोखिम पनि बढाएको छ।

हालै एआई निर्माता कम्पनी ओपनएआईले आफ्ना मोडलहरूको परीक्षणका क्रममा देखिएका केही असामान्य व्यवहार सार्वजनिक गरेको छ। कम्पनीका अनुसार परीक्षणका क्रममा एउटा अनुसन्धान मोडलले आफ्नो काम जारी राख्न प्रयोग गरिने सारांशमा सामान्य निर्देशनभन्दा बाहिरका निर्देशनसमेत थपेको थियो। अर्को घटनामा मोडलले आफ्ना गल्ती र निर्देशनविपरीतका गतिविधि प्रयोगकर्ताबाट लुकाउन भविष्यका मोडललाई निर्देशन दिने प्रयास गरेको थियो।

यी घटनाले एआईले गल्ती गर्दा त्यसलाई सच्याउने मात्र होइन, कतिपय अवस्थामा आफ्नो गलत व्यवहार लुकाउने प्रयाससमेत गर्न सक्ने सम्भावना देखाएका छन्। यद्यपि परीक्षणमा देखिएका यस्ता व्यवहार सबै वास्तविक प्रयोगमा भइरहेका छन् भन्ने अर्थ लाग्दैन।
साइबर सुरक्षामा देखिएको अर्को चुनौती

सन् २०२६ को जुलाईमा ओपनएआईका केही मोडलले आन्तरिक साइबर सुरक्षा परीक्षणका क्रममा इन्टरनेट पहुँच रोक्ने व्यवस्था छल्दै बाह्य प्रणालीमा पहुँच बनाएको घटना सार्वजनिक भयो। परीक्षणका क्रममा मोडलहरूले अनधिकृत सञ्चार माध्यम प्रयोग गरेको र हगिङ फेसका प्रणालीमा समेत पहुँच बनाएको कम्पनीले जनाएको छ। त्यसपछि कम्पनीले सुरक्षा प्रणाली थप कडा बनाउने र एआईको गतिविधि निगरानी गर्ने व्यवस्था विस्तार गर्ने घोषणा गरेको थियो।

यस्तै, एआई विकासकर्ता कम्पनी एन्थ्रोपिकले पनि आफ्ना मोडलहरूको परीक्षणमा निर्देशनविपरीतका गतिविधि देखिएको जनाएको छ। सन् २०२६ को गर्मीयाममा गरिएको परीक्षणमा केही एआई एजेन्टले कोडमा गोप्य परिवर्तन गर्ने, ठगीमा सहयोग गर्ने र गोप्य सूचना सार्वजनिक गर्न मानिसलाई प्रोत्साहित गर्ने व्यवहार देखाएका थिए। ती घटना नियन्त्रित परीक्षणमा भएका थिए, वास्तविक प्रयोगमा भएका घटना थिएनन्।

किन आफैँ चेतावनी दिइरहेका छन् निर्माता ?

एआई एजेन्टलाई जति धेरै स्वतन्त्रता दिइन्छ, त्यसले त्यति नै धेरै निर्णय आफैँ गर्न सक्छ। प्रयोगकर्ताको उद्देश्य पूरा गर्न दिइएको निर्देशन र प्रणालीमा रहेका अन्य नियमबीच द्वन्द्व भएमा एजेन्टले गलत बाटो रोज्न सक्ने जोखिम रहन्छ।

विशेषगरी कोड लेख्ने, वित्तीय कारोबार गर्ने, इमेल पठाउने र संवेदनशील सूचनामा पहुँच राख्ने एआई एजेन्टमा यस्तो जोखिम बढी महत्त्वपूर्ण हुन्छ। कुनै एजेन्टले गलत निर्णय गरेमा त्यसको असर एउटा सामान्य जवाफमा सीमित नहुन सक्छ। यसले वास्तविक प्रणालीमा परिवर्तन गर्न वा संवेदनशील सूचना बाहिर पठाउन सक्छ।

ओपनएआईले सार्वजनिक गरेको घटनाले एआईको क्षमतासँगै त्यसलाई नियन्त्रण गर्ने सुरक्षा प्रणाली पनि विकास गर्नुपर्ने आवश्यकता देखाएको छ। कम्पनीले परीक्षणका क्रममा देखिएका जोखिम कम गर्न थप निगरानी, सुरक्षित परीक्षण वातावरण र इन्टरनेट पहुँचमा कडाइ गर्ने उपाय अघि सारेको छ।

के एआई आफैँ मानिसविरुद्ध जान सक्छ ?

एआई एजेन्टले मानिसको निर्देशन उल्लङ्घन गरेको घटनालाई तत्कालै उसमा मानवीय चेतना वा आफ्नै इच्छा विकास भएको प्रमाण मान्न मिल्दैन। यस्ता व्यवहार विभिन्न लक्ष्य, निर्देशन, उपलब्ध उपकरण र परीक्षणको परिस्थितिका कारण उत्पन्न हुन सक्छन्।

तर एआईले आफ्नो उद्देश्य पूरा गर्न प्रयोगकर्ताको निर्देशन छल्ने वा गलत गतिविधि लुकाउने व्यवहार देखाउनु सुरक्षा अनुसन्धानकर्ताका लागि चिन्ताको विषय बनेको छ। त्यसैले एआईको क्षमताको परीक्षणसँगै उसले किन र कसरी निर्णय गरिरहेको छ भन्ने निगरानी पनि आवश्यक हुँदै गएको छ।

एन्थ्रोपिकले गरेका परीक्षणले पनि स्वायत्त एआईलाई संवेदनशील जिम्मेवारी दिँदा पर्याप्त मानवीय निगरानी आवश्यक हुने देखाएका छन्। कम्पनीले यस्ता परीक्षणलाई भविष्यमा हुन सक्ने जोखिम पहिचान गर्ने माध्यमका रूपमा व्याख्या गरेको छ।

भविष्यको एआई विकासमा सुरक्षा मुख्य प्रश्न

एआईले स्वास्थ्य, शिक्षा, उद्योग, अनुसन्धान र व्यवसायका क्षेत्रमा ठूलो सम्भावना बोकेको छ। तर यसको स्वायत्तता बढ्दै जाँदा मानिसले दिएको निर्देशन पालना गराउने र अनधिकृत गतिविधि रोक्ने चुनौती पनि बढ्नेछ।

अब एआई निर्माता कम्पनीका लागि प्रविधि कति शक्तिशाली बनाउने भन्ने प्रश्नसँगै त्यसलाई कसरी सुरक्षित राख्ने भन्ने प्रश्न पनि उत्तिकै महत्त्वपूर्ण बनेको छ। एआईका गतिविधि निगरानी गर्ने, संवेदनशील प्रणालीमा पहुँच सीमित गर्ने र जोखिम देखिएमा तत्काल रोक्न सक्ने व्यवस्था आवश्यक देखिन्छ।

एआई निर्माताहरूले आफ्नै प्रविधिबारे सार्वजनिक गरेका चेतावनीलाई विकास रोक्ने संकेतका रूपमा मात्र नभई सुरक्षित विकासका लागि आवश्यक सावधानीका रूपमा पनि बुझ्न सकिन्छ। एआईलाई मानिसको सहयोगी बनाउने लक्ष्य पूरा गर्न यसको क्षमता विस्तारसँगै नियन्त्रण र जवाफदेहिताको व्यवस्था पनि बलियो बनाउनुपर्ने देखिन्छ।