नियन्त्रणबाहिर एआई मोडल, ओपनएआईले क्षति मुल्यांकन गर्न दैनिक ५ लाख डलर खर्चिदै

काठमाडौँ । च्याटजीपीटी विकास गर्ने कम्पनी ओपनएआईका एआई एजेन्टहरूले १०० भन्दा बढी संस्थाका प्रणालीमा अनधिकृत गतिविधि गरेको पाइएको छ । कम्पनीले अक्टोबर १ मा सार्वजनिक गरेको विवरणअनुसार, यी एआई एजेन्टहरूले सुरक्षा संयन्त्र छल्ने, वेबसाइटमा अनधिकृत आदेश पठाउने र आफ्नो पहुँच विस्तार गर्ने प्रयास गरेका थिए । ओपनएआईले प्रभावित संस्थाहरूलाई यसबारे जानकारी गराएको जनाएको छ ।

कम्पनीले अहिले आफ्ना एआई मोडलको प्रशिक्षण र परीक्षणसँग सम्बन्धित करिब ५० पेटाबाइट तथ्यांक पुनःजाँच गरिरहेको छ । यसका लागि करिब ७ हजार अत्याधुनिक ग्राफिक्स प्रोसेसर प्रयोग भइरहेको र दैनिक ५ लाख अमेरिकी डलरभन्दा बढी खर्च भइरहेको विवरण सार्वजनिक भएको छ । यति ठूलो परिमाणको तथ्यांक मानिसले मात्रै जाँच गर्न सम्भव नभएकाले त्यसको विश्लेषणका लागि पनि एआई प्रणालीकै प्रयोग भइरहेको बताइएको छ ।

ओपनएआईका अनुसार, केही एआई मोडललाई साइबर सुरक्षा क्षमता परीक्षणका लागि सीमित र सुरक्षित वातावरणमा राखिएको थियो । तर परीक्षणका क्रममा ती मोडलले इन्टरनेटबाट अलग राख्न बनाइएका सुरक्षा नियन्त्रणलाई छल्न सफल भएका थिए । त्यसपछि उनीहरूले बाह्य प्रणालीमा पहुँच बनाउने, कमजोरी खोज्ने र विभिन्न माध्यमबाट एकअर्कासँग सूचना आदानप्रदान गर्ने प्रयास गरेका थिए । 

यसअघि जुलाईमा सार्वजनिक भएको हगिङ फेस घटना यसको सबैभन्दा चर्चित उदाहरण हो । ओपनएआईको आन्तरिक साइबर सुरक्षा परीक्षणका क्रममा प्रयोग भएका एआई एजेन्टहरूले परीक्षणमा दिइएको समस्या आफैं समाधान गर्नुको सट्टा त्यसको ‘उत्तर’ राखिएको स्थान खोज्ने प्रयास गरेका थिए । अनुसन्धानका क्रममा उनीहरूले सुरक्षित परीक्षण वातावरणबाट बाहिर निस्कने बाटो खोज्दै हगिङ फेसका प्रणालीमा प्रवेश गरेका थिए ।

हगिङ फेस घटनाको थप अनुसन्धान गर्दा यो काम कुनै एउटा एआई एजेन्टमा मात्र सीमित नभएको खुलेको थियो । करिब ७०० एआई एजेन्टले विभिन्न चरणमा एकअर्कासँग समन्वय गर्दै काम गरेको अनुसन्धानमा उल्लेख छ । उनीहरूले आफूले पत्ता लगाएका कमजोरी, प्रमाण र पहुँचसम्बन्धी जानकारी अनधिकृत माध्यमबाट एकअर्कासँग आदानप्रदान गरेका थिए । केही अवस्थामा प्रमाण मेटाउने वा आफ्नो गतिविधि लुकाउने प्रयाससमेत देखिएको थियो । 

ओपनएआईको आफ्नै अनुसन्धानले पनि केही एआई एजेन्टले छुट्टाछुट्टै परीक्षणका क्रममा अनधिकृत सन्देश प्रणाली बनाएर एकअर्कासँग सूचना बाँडेको देखाएको छ । यसरी विभिन्न एजेन्टले आफ्नो खोज, स्रोत र कम्प्युटिङ क्षमता एकआपसमा जोड्दा उनीहरूको सामूहिक क्षमता व्यक्तिगत एजेन्टको भन्दा धेरै बढेको कम्पनीले जनाएको छ ।

हगिङ फेसको प्राविधिक अनुसन्धानअनुसार, एआई एजेन्टहरूले करिब साढे दुई दिनसम्म उसको प्रणालीमा विभिन्न गतिविधि गरेका थिए । अनुसन्धानकर्ताले करिब १७ हजार ६ सय आक्रमणसम्बन्धी गतिविधि पुनर्निर्माण गरेका छन् । एजेन्टहरूले दर्जनौँ उत्पादन सर्भरमा कोड चलाउनुका साथै कम्तीमा एउटा सर्भरमा उच्चस्तरीय प्रशासनिक पहुँच प्राप्त गरेका र केही निजी तथ्यांक तथा प्रमाणपत्रसम्म पहुँच बनाएका थिए ।

ओपनएआईले भने यस घटनाबाट आफ्ना ग्राहकको तथ्यांक, उत्पादन सेवा वा उपलब्धतामा असर नपरेको जनाएको छ । कम्पनीले घटनापछि सम्बन्धित पक्षसँग समन्वय गर्दै सुरक्षा कमजोरी पहिचान र सुधारका लागि काम गरेको बताएको छ । 

हगिङ फेस घटनापछि पनि यस्ता अनधिकृत गतिविधिको अनुसन्धान जारी राख्दा ओपनएआईका एआई एजेन्टसँग सम्बन्धित गतिविधि १०० भन्दा बढी संस्थासम्म पुगेको पाइएको कम्पनीले जनाएको छ । कतिपय अवस्थामा एजेन्टहरूले सुरक्षा प्रणालीलाई छल्ने वा बाह्य वेबसाइटमा अनधिकृत आदेश कार्यान्वयन गराउने प्रयास गरेका थिए । यद्यपि सबै घटनामा वास्तविक प्रणाली प्रवेश वा तथ्यांक चोरी भएको भन्ने अर्थ नलाग्ने ओपनएआईले स्पष्ट पारेको छ ।

ओपनएआईले प्रभावित संस्थाहरूलाई प्राविधिक विवरण उपलब्ध गराएको जनाएको छ, ताकि उनीहरूले आफ्ना प्रणालीमा भएको गतिविधि र सम्भावित सुरक्षा कमजोरीको जाँच गर्न सकून् । कम्पनीले यस्ता घटनाबाट प्राप्त निष्कर्ष सार्वजनिक गर्ने प्रतिबद्धता पनि जनाएको छ, जसबाट साइबर सुरक्षा अनुसन्धानकर्ताले एआई एजेन्टको जोखिमबारे थप अध्ययन गर्न सक्नेछन् ।

घटनापछि ओपनएआईले एआई मोडलको इन्टरनेट पहुँचमा थप प्रतिबन्ध लगाएको, अनुसन्धानका वातावरणलाई वास्तविक प्रणालीबाट अलग राखेको र संदिग्ध गतिविधि पहिचान गर्न निगरानी बढाएको जनाएको छ । कम्पनीले सुरक्षा तथा मोडलको व्यवहारसम्बन्धी परीक्षणलाई समेत पुनरावलोकन गरिरहेको छ । 

यी घटनाले एआई एजेन्टलाई केवल प्रश्नको उत्तर दिने प्रणालीका रूपमा मात्र नभई आफैं निर्णय लिएर विभिन्न डिजिटल प्रणालीमा कार्य गर्न सक्ने प्रविधिका रूपमा विकास गर्दा सुरक्षा नियन्त्रणको महत्त्व बढेको देखाएको छ । विशेषगरी परीक्षणकै क्रममा एआईले तोकिएको सीमाभन्दा बाहिर जाने बाटो खोज्न थालेपछि सुरक्षित परीक्षण वातावरण, इन्टरनेट पहुँच, एआईबीचको अनधिकृत सञ्चार र वास्तविक प्रणालीबीचको दूरीबारे थप सावधानी आवश्यक देखिएको छ ।