साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ?

परिचय

जेनेरेटिभ एआई - नयाँ सामग्री वा भविष्यवाणीहरू सिर्जना गर्न सक्षम कृत्रिम बुद्धिमत्ता प्रणालीहरू - साइबर सुरक्षामा एक रूपान्तरणकारी शक्तिको रूपमा उदाइरहेको छ। ओपनएआईको GPT-4 जस्ता उपकरणहरूले जटिल डेटा विश्लेषण गर्ने र मानव-जस्तै पाठ उत्पन्न गर्ने क्षमता प्रदर्शन गरेका छन्, जसले साइबर खतराहरू विरुद्ध रक्षा गर्न नयाँ दृष्टिकोणहरू सक्षम पारेको छ। उद्योगहरूमा साइबर सुरक्षा पेशेवरहरू र व्यावसायिक निर्णय-निर्माताहरूले कसरी जेनेरेटिभ एआईले विकसित आक्रमणहरू विरुद्ध प्रतिरक्षालाई बलियो बनाउन सक्छ भनेर अन्वेषण गरिरहेका छन्। वित्त र स्वास्थ्य सेवादेखि खुद्रा र सरकारसम्म, प्रत्येक क्षेत्रका संस्थाहरूले परिष्कृत फिसिङ प्रयासहरू, मालवेयर र अन्य खतराहरूको सामना गर्छन् जसको सामना जेनेरेटिभ एआईले गर्न मद्दत गर्न सक्छ। यस श्वेतपत्रमा, हामी वास्तविक-विश्व अनुप्रयोगहरू, भविष्यका सम्भावनाहरू, र अपनाउनको लागि महत्त्वपूर्ण विचारहरू हाइलाइट गर्दै साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ भनेर

जेनेरेटिभ एआई परम्परागत विश्लेषणात्मक एआई भन्दा फरक छ, केवल ढाँचाहरू पत्ता लगाउने मात्र होइन तर सिर्जना गर्ने - चाहे प्रतिरक्षालाई तालिम दिन आक्रमणहरूको नक्कल गर्ने होस् वा जटिल सुरक्षा डेटाको लागि प्राकृतिक-भाषा व्याख्याहरू उत्पादन गर्ने। यो दोहोरो क्षमताले यसलाई दोधारे तरवार बनाउँछ: यसले शक्तिशाली नयाँ रक्षात्मक उपकरणहरू प्रदान गर्दछ, तर खतरा अभिनेताहरूले पनि यसको शोषण गर्न सक्छन्। निम्न खण्डहरूले साइबर सुरक्षामा जेनेरेटिभ एआईको लागि प्रयोगका केसहरूको विस्तृत दायरा अन्वेषण गर्दछ, फिसिङ पत्ता लगाउने स्वचालित गर्नेदेखि घटना प्रतिक्रिया बढाउनेसम्म। हामी यी एआई आविष्कारहरूले प्रतिज्ञा गर्ने फाइदाहरू, जोखिमहरू (जस्तै एआई "भ्रम" वा विरोधी दुरुपयोग) सँगसँगै छलफल गर्छौं जुन संस्थाहरूले व्यवस्थापन गर्नुपर्छ। अन्तमा, हामी व्यवसायहरूलाई उनीहरूको साइबर सुरक्षा रणनीतिहरूमा जेनेरेटिभ एआईको मूल्याङ्कन गर्न र जिम्मेवारीपूर्वक एकीकृत गर्न मद्दत गर्न व्यावहारिक टेकवेहरू प्रदान गर्दछौं।

साइबर सुरक्षामा जेनेरेटिभ एआई: एक सिंहावलोकन

साइबर सुरक्षामा जेनेरेटिभ एआई भन्नाले एआई मोडेलहरूलाई बुझाउँछ - प्रायः ठूला भाषा मोडेलहरू वा अन्य तंत्रिका सञ्जालहरू - जसले सुरक्षा कार्यहरूमा सहयोग गर्न अन्तर्दृष्टि, सिफारिसहरू, कोड, वा सिंथेटिक डेटा पनि उत्पन्न गर्न सक्छ। विशुद्ध भविष्यवाणी गर्ने मोडेलहरू भन्दा फरक, जेनेरेटिभ एआईले परिदृश्यहरू अनुकरण गर्न सक्छ र यसको प्रशिक्षण डेटाको आधारमा मानव-पठनीय आउटपुटहरू (जस्तै रिपोर्टहरू, अलर्टहरू, वा दुर्भावनापूर्ण कोड नमूनाहरू) उत्पादन गर्न सक्छ। यो क्षमता पहिले भन्दा बढी गतिशील तरिकामा खतराहरूको भविष्यवाणी गर्न, पत्ता लगाउन र प्रतिक्रिया दिन साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्कहरू )। उदाहरणका लागि, जेनेरेटिभ मोडेलहरूले विशाल लगहरू वा खतरा बुद्धिमत्ता भण्डारहरूको विश्लेषण गर्न सक्छन् र सुरक्षा टोलीहरूलाई एआई "सहायक" जस्तै काम गर्दै संक्षिप्त सारांश वा सिफारिस गरिएको कार्य उत्पादन गर्न सक्छन्।

साइबर रक्षाको लागि जेनेरेटिभ एआईको प्रारम्भिक कार्यान्वयनले आशाजनक देखाएको छ। २०२३ मा, माइक्रोसफ्टले सुरक्षा विश्लेषकहरूको लागि GPT-4-संचालित सहायक, सुरक्षा कोपाइलट प्रस्तुत माइक्रोसफ्ट सेक्युरिटी कोपाइलट साइबरसुरक्षाको लागि नयाँ GPT-4 AI सहायक हो | द भर्ज )। विश्लेषकहरूले यो प्रणालीलाई प्राकृतिक भाषामा प्रम्प्ट गर्न सक्छन् (जस्तै "पछिल्लो २४ घण्टामा सबै सुरक्षा घटनाहरूको सारांश" ), र कोपाइलटले उपयोगी कथा सारांश उत्पादन गर्नेछ। त्यस्तै गरी, गुगलको थ्रेट इन्टेलिजेन्स एआईले गुगलको विशाल थ्रेट इंटेल डाटाबेस मार्फत कुराकानीत्मक खोज सक्षम पार्न जेमिनी नामक जेनेरेटिभ मोडेल प्रयोग गर्दछ साइबरसुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यी उदाहरणहरूले सम्भाव्यतालाई चित्रण गर्दछ: जेनेरेटिभ एआईले जटिल, ठूलो मात्रामा साइबरसुरक्षा डेटा पचाउन सक्छ र पहुँचयोग्य रूपमा अन्तर्दृष्टि प्रस्तुत गर्न सक्छ, निर्णय लिने प्रक्रियालाई गति दिन्छ।

एकै समयमा, जेनेरेटिभ एआईले अत्यधिक यथार्थपरक नक्कली सामग्री सिर्जना गर्न सक्छ, जुन सिमुलेशन र प्रशिक्षणको लागि वरदान हो (र, दुर्भाग्यवश, सामाजिक इन्जिनियरिङ बनाउने आक्रमणकारीहरूको लागि)। हामी विशिष्ट प्रयोगका केसहरूमा अगाडि बढ्दै जाँदा, हामी देख्नेछौं कि जेनेरेटिभ एआईको संश्लेषण र विश्लेषण गर्ने यसको धेरै साइबरसुरक्षा अनुप्रयोगहरूलाई आधार दिन्छ। तल, हामी प्रमुख प्रयोगका केसहरूमा डुब्छौं, फिसिङ रोकथामदेखि सुरक्षित सफ्टवेयर विकाससम्म सबै कुरा फैलाएर, प्रत्येक उद्योगहरूमा कसरी लागू भइरहेको छ भन्ने उदाहरणहरू सहित।

साइबर सुरक्षामा जेनेरेटिभ एआईका प्रमुख अनुप्रयोगहरू

चित्र: साइबर सुरक्षामा जेनेरेटिभ एआईको लागि प्रमुख प्रयोगका केसहरूमा सुरक्षा टोलीहरूको लागि एआई कोपाइलटहरू, कोड भेद्यता विश्लेषण, अनुकूली खतरा पत्ता लगाउने, शून्य-दिन आक्रमण सिमुलेशन, परिष्कृत बायोमेट्रिक सुरक्षा, र फिसिङ पत्ता लगाउने समावेश छन् ( साइबर सुरक्षामा जेनेरेटिभ एआईको लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )।

फिसिङ पत्ता लगाउने र रोकथाम

फिसिङ सबैभन्दा व्यापक साइबर खतराहरू मध्ये एक हो, जसले प्रयोगकर्ताहरूलाई दुर्भावनापूर्ण लिङ्कहरू क्लिक गर्न वा प्रमाणहरू खुलासा गर्न ठग्छ। जेनेरेटिभ एआई फिसिङ प्रयासहरू पत्ता लगाउन र सफल आक्रमणहरू रोक्न प्रयोगकर्ता प्रशिक्षण बढाउन दुवैको लागि तैनाथ गरिएको छ। रक्षात्मक पक्षमा, एआई मोडेलहरूले नियम-आधारित फिल्टरहरूले छुटाउन सक्ने फिसिङका सूक्ष्म संकेतहरू पत्ता लगाउन इमेल सामग्री र प्रेषक व्यवहारहरूको विश्लेषण गर्न सक्छन्। वैध बनाम धोखाधडी इमेलहरूको ठूला डेटासेटहरूबाट सिकेर, जेनेरेटिभ मोडेलले स्वर, शब्द, वा सन्दर्भमा विसंगतिहरूलाई फ्ल्याग गर्न सक्छ जसले घोटालालाई संकेत गर्दछ - व्याकरण र हिज्जेले अब यसलाई दिँदैन भने पनि। वास्तवमा, पालो अल्टो नेटवर्क्सका अनुसन्धानकर्ताहरूले नोट गर्छन् कि जेनेरेटिभ एआईले "फिसिङ इमेलहरूको सूक्ष्म संकेतहरू पहिचान गर्न सक्छ जुन अन्यथा पत्ता नलाग्न सक्छ", संस्थाहरूलाई स्क्यामरहरू भन्दा एक कदम अगाडि रहन मद्दत गर्दछ ( साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्क्स )।

सुरक्षा टोलीहरूले फिसिङ आक्रमणहरूको नक्कल गर्न । उदाहरणका लागि, आइरनस्केल्सले GPT-संचालित फिसिङ सिमुलेशन उपकरण प्रस्तुत गर्‍यो जसले स्वचालित रूपमा संस्थाका कर्मचारीहरूको लागि तयार पारिएको नक्कली फिसिङ इमेलहरू उत्पन्न गर्दछ ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यी एआई-निर्मित इमेलहरूले नवीनतम आक्रमणकारी रणनीतिहरू प्रतिबिम्बित गर्दछ, जसले कर्मचारीहरूलाई फिशी सामग्री पत्ता लगाउन यथार्थपरक अभ्यास दिन्छ। यस्तो व्यक्तिगत प्रशिक्षण महत्त्वपूर्ण छ किनकि आक्रमणकारीहरूले आफैंले थप विश्वस्त आकर्षणहरू सिर्जना गर्न एआई अपनाउँछन्। उल्लेखनीय रूपमा, जेनेरेटिभ एआईले धेरै पॉलिश गरिएको फिसिङ सन्देशहरू उत्पादन गर्न सक्छ (सजिलै देखिने भाँचिएको अङ्ग्रेजीको दिनहरू गएका छन्), डिफेन्डरहरूले एआई अपराजेय नभएको पत्ता लगाएका छन्। २०२४ मा, IBM सुरक्षा अनुसन्धानकर्ताहरूले मानव-लिखित फिसिङ इमेलहरूलाई एआई-उत्पन्न गरिएकाहरूसँग तुलना गर्ने एक प्रयोग चलाएका थिए, र "आश्चर्यजनक रूपमा, एआई-उत्पन्न इमेलहरू तिनीहरूको सही व्याकरणको बावजुद अझै पनि पत्ता लगाउन सजिलो थियो" ( साइबर सुरक्षामा जेनेरेटिभ एआईको लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। यसले सुझाव दिन्छ कि एआई-सहायता प्राप्त पत्ता लगाउनेसँग मिलेर मानव अन्तर्ज्ञानले अझै पनि एआई-लिखित घोटालाहरूमा सूक्ष्म असंगतिहरू वा मेटाडेटा संकेतहरू पहिचान गर्न सक्छ।

जेनेरेटिभ एआईले अन्य तरिकाले पनि फिसिङ प्रतिरक्षालाई सहयोग गर्छ। मोडेलहरू स्वचालित प्रतिक्रियाहरू वा शंकास्पद इमेलहरू परीक्षण गर्ने फिल्टरहरू उत्पन्न गर्न प्रयोग गर्न सकिन्छ। उदाहरणका लागि, एआई प्रणालीले प्रेषकको वैधता प्रमाणित गर्न निश्चित प्रश्नहरू सहितको इमेलको जवाफ दिन सक्छ वा स्यान्डबक्समा इमेलको लिङ्कहरू र संलग्नकहरूको विश्लेषण गर्न LLM प्रयोग गर्न सक्छ, त्यसपछि कुनै पनि दुर्भावनापूर्ण उद्देश्यलाई संक्षेपमा प्रस्तुत गर्न सक्छ। NVIDIA को सुरक्षा प्लेटफर्म मोर्फियसले यस क्षेत्रमा एआईको शक्ति प्रदर्शन गर्दछ - यसले इमेलहरूको द्रुत विश्लेषण र वर्गीकरण गर्न जेनेरेटिभ NLP मोडेलहरू प्रयोग गर्दछ, र यसले परम्परागत सुरक्षा उपकरणहरूको तुलनामा भाला-फिसिङ इमेल पत्ता लगाउन २१% ( साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। मोर्फियसले असामान्य व्यवहार पत्ता लगाउन प्रयोगकर्ता सञ्चार ढाँचाहरू पनि प्रोफाइल गर्दछ (जस्तै प्रयोगकर्ताले अचानक धेरै बाह्य ठेगानाहरू इमेल गर्दै), जसले फिसिङ इमेलहरू पठाउने सम्झौता गरिएको खातालाई संकेत गर्न सक्छ।

व्यवहारमा, उद्योगहरूमा कम्पनीहरूले सामाजिक इन्जिनियरिङ आक्रमणहरूको लागि इमेल र वेब ट्राफिक फिल्टर गर्न AI मा विश्वास गर्न थालेका छन्। उदाहरणका लागि, वित्तीय फर्महरूले तार धोखाधडी निम्त्याउन सक्ने प्रतिरूपण प्रयासहरूको लागि सञ्चार स्क्यान गर्न जेनेरेटिभ AI प्रयोग गर्छन्, जबकि स्वास्थ्य सेवा प्रदायकहरूले फिशिङ-सम्बन्धित उल्लंघनहरूबाट बिरामीको डेटा जोगाउन AI प्रयोग गर्छन्। यथार्थपरक फिशिङ परिदृश्यहरू उत्पन्न गरेर र दुर्भावनापूर्ण सन्देशहरूको पहिचान गरेर, जेनेरेटिभ AI ले फिशिङ रोकथाम रणनीतिहरूमा एक शक्तिशाली तह थप्छ। निष्कर्ष: AI ले फिशिङ आक्रमणहरूलाई छिटो र अधिक सही रूपमा पत्ता लगाउन र निशस्त्रीकरण गर्न मद्दत गर्न सक्छ, आक्रमणकारीहरूले आफ्नो खेल बढाउन उही प्रविधि प्रयोग गरे पनि।

मालवेयर पत्ता लगाउने र खतरा विश्लेषण

आधुनिक मालवेयर निरन्तर विकसित हुँदैछ - आक्रमणकारीहरूले एन्टिभाइरस हस्ताक्षरहरू बाइपास गर्न नयाँ भेरियन्टहरू उत्पन्न गर्छन् वा अस्पष्ट कोड उत्पन्न गर्छन्। जेनेरेटिभ एआईले मालवेयर पत्ता लगाउने र यसको व्यवहार बुझ्ने दुवैको लागि नयाँ प्रविधिहरू प्रदान गर्दछ। एउटा दृष्टिकोण भनेको मालवेयरको "दुष्ट जुम्ल्याहा" उत्पन्न गर्न हो: सुरक्षा अनुसन्धानकर्ताहरूले त्यो मालवेयरको धेरै उत्परिवर्तित भेरियन्टहरू सिर्जना गर्न ज्ञात मालवेयर नमूनालाई जेनेरेटिभ मोडेलमा खुवाउन सक्छन्। त्यसो गरेर, तिनीहरूले आक्रमणकारीले गर्न सक्ने ट्वीक्सहरूको प्रभावकारी रूपमा अनुमान गर्छन्। यी एआई-उत्पन्न भेरियन्टहरू त्यसपछि एन्टिभाइरस र घुसपैठ पत्ता लगाउने प्रणालीहरूलाई तालिम दिन प्रयोग गर्न सकिन्छ, ताकि मालवेयरको परिमार्जित संस्करणहरू पनि जंगलमा पहिचान गर्न सकियोस् ( साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। यो सक्रिय रणनीतिले चक्र तोड्न मद्दत गर्दछ जहाँ ह्याकरहरूले पत्ता लगाउनबाट बच्न आफ्नो मालवेयरलाई थोरै परिवर्तन गर्छन् र डिफेन्डरहरूले प्रत्येक पटक नयाँ हस्ताक्षरहरू लेख्न दौडनु पर्छ। एउटा उद्योग पोडकास्टमा उल्लेख गरिएझैं, सुरक्षा विशेषज्ञहरूले अब "नेटवर्क ट्राफिकको नक्कल गर्न र परिष्कृत आक्रमणहरूको नक्कल गर्ने दुर्भावनापूर्ण पेलोडहरू उत्पन्न गर्न" जेनेरेटिभ एआई प्रयोग गर्छन्, एकल उदाहरणको सट्टा खतराहरूको सम्पूर्ण परिवार विरुद्ध आफ्नो प्रतिरक्षालाई तनाव-परीक्षण गर्दै। यो अनुकूली खतरा पत्ता लगाउनुको अर्थ सुरक्षा उपकरणहरू बहुरूपी मालवेयरको लागि अझ लचिलो हुन्छन् जुन अन्यथा चिप्लन सक्छ।

पत्ता लगाउनुभन्दा बाहिर, जेनेरेटिभ एआईले मालवेयर विश्लेषण र रिभर्स इन्जिनियरिङमा , जुन परम्परागत रूपमा खतरा विश्लेषकहरूको लागि श्रम-गहन कार्यहरू हुन्। ठूला भाषा मोडेलहरूलाई शंकास्पद कोड वा स्क्रिप्टहरू जाँच गर्ने र कोडले के गर्ने उद्देश्यले हो भनेर सरल भाषामा व्याख्या गर्ने काम दिन सकिन्छ। वास्तविक-विश्व उदाहरण भाइरस टोटल कोड इनसाइट , गुगलको भाइरस टोटलको एक सुविधा जसले सम्भावित दुर्भावनापूर्ण कोडको प्राकृतिक भाषा सारांशहरू उत्पादन गर्न जेनेरेटिभ एआई मोडेल (गुगलको सेक-पाएलएम) प्रयोग गर्दछ ( साइबरसुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यो अनिवार्य रूपमा "सुरक्षा कोडिङमा समर्पित एक प्रकारको च्याटजीपीटी" हो, जसले मानव विश्लेषकहरूलाई खतराहरू बुझ्न मद्दत गर्न २४/७ काम गर्ने एआई मालवेयर विश्लेषकको रूपमा काम गर्दछ ( साइबरसुरक्षामा जेनेरेटिभ एआईको लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। अपरिचित स्क्रिप्ट वा बाइनरी कोडमा खोजी गर्नुको सट्टा, सुरक्षा टोली सदस्यले एआईबाट तत्काल स्पष्टीकरण प्राप्त गर्न सक्छ - उदाहरणका लागि, "यो स्क्रिप्टले XYZ सर्भरबाट फाइल डाउनलोड गर्ने र त्यसपछि प्रणाली सेटिङहरू परिमार्जन गर्ने प्रयास गर्दछ, जुन मालवेयर व्यवहारको सूचक हो।" यसले घटना प्रतिक्रियालाई नाटकीय रूपमा गति दिन्छ, किनकि विश्लेषकहरूले नयाँ मालवेयरलाई पहिलेभन्दा छिटो ट्राइएज गर्न र बुझ्न सक्छन्।

विशाल डेटासेटहरूमा मालवेयर पत्ता लगाउन जेनेरेटिभ एआई पनि प्रयोग गरिन्छ । परम्परागत एन्टिभाइरस इन्जिनहरूले ज्ञात हस्ताक्षरहरूको लागि फाइलहरू स्क्यान गर्छन्, तर जेनेरेटिभ मोडेलले फाइलको विशेषताहरूको मूल्याङ्कन गर्न सक्छ र सिकेका ढाँचाहरूको आधारमा यो दुर्भावनापूर्ण छ कि छैन भनेर पनि भविष्यवाणी गर्न सक्छ। अरबौं फाइलहरू (दुर्भावनापूर्ण र सौम्य) को विशेषताहरूको विश्लेषण गरेर, एआईले कुनै स्पष्ट हस्ताक्षर अवस्थित नभएको ठाउँमा दुर्भावनापूर्ण उद्देश्य समात्न सक्छ। उदाहरणका लागि, जेनेरेटिभ मोडेलले कार्यान्वयनयोग्यलाई शंकास्पदको रूपमा फ्ल्याग गर्न सक्छ किनभने यसको व्यवहार प्रोफाइल "देखिन्छ" , यद्यपि बाइनरी नयाँ छ। यो व्यवहार-आधारित पत्ता लगाउने नयाँ वा शून्य-दिन मालवेयरको प्रतिरोध गर्न मद्दत गर्दछ। गुगलको थ्रेट इन्टेलिजेन्स एआई (क्रोनिकल/म्यान्डियन्टको भाग) ले सम्भावित दुर्भावनापूर्ण कोडको विश्लेषण गर्न र "मालवेयर र अन्य प्रकारका खतराहरूसँग लड्न सुरक्षा पेशेवरहरूलाई अझ कुशलतापूर्वक र प्रभावकारी रूपमा सहयोग गर्न" यसको जेनेरेटिभ मोडेल प्रयोग गर्दछ। ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )।

अर्कोतर्फ, हामीले स्वीकार गर्नुपर्छ कि आक्रमणकारीहरूले यहाँ पनि जेनेरेटिभ एआई प्रयोग गर्न सक्छन् - स्वचालित रूपमा मालवेयर सिर्जना गर्न जुन आफैंलाई अनुकूल बनाउँछ। वास्तवमा, सुरक्षा विज्ञहरूले चेतावनी दिन्छन् कि जेनेरेटिभ एआईले साइबर अपराधीहरूलाई पत्ता लगाउन गाह्रो मालवेयर विकास गर्न मद्दत गर्न सक्छ ( साइबरसुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्क्स )। एआई मोडेललाई मालवेयरको टुक्रालाई बारम्बार मोर्फ गर्न निर्देशन दिन सकिन्छ (यसको फाइल संरचना, इन्क्रिप्शन विधिहरू, आदि परिवर्तन गर्दै) जबसम्म यसले सबै ज्ञात एन्टिभाइरस जाँचहरूबाट बच्दैन। यो विरोधी प्रयोग बढ्दो चिन्ताको विषय हो (कहिलेकाहीं "एआई-संचालित मालवेयर" वा बहुरूपी मालवेयरलाई सेवाको रूपमा पनि चिनिन्छ)। हामी पछि यस्ता जोखिमहरू छलफल गर्नेछौं, तर यसले रेखांकित गर्दछ कि जेनेरेटिभ एआई डिफेन्डर र आक्रमणकारी दुवै द्वारा प्रयोग गरिने यो बिरालो-मुसा खेलमा एक उपकरण हो।

आक्रमणकारी जस्तै सोच्न सक्षम बनाएर मालवेयर प्रतिरक्षालाई बढाउँछ - घरभित्रै नयाँ खतराहरू र समाधानहरू उत्पन्न गर्दै। पत्ता लगाउने दरहरू सुधार गर्न सिंथेटिक मालवेयर उत्पादन गर्ने होस् वा नेटवर्कहरूमा पाइने वास्तविक मालवेयरलाई व्याख्या गर्न र समावेश गर्न एआई प्रयोग गर्ने होस्, यी प्रविधिहरू उद्योगहरूमा लागू हुन्छन्। बैंकले स्प्रेडसिटमा शंकास्पद म्याक्रोको द्रुत विश्लेषण गर्न एआई-संचालित मालवेयर विश्लेषण प्रयोग गर्न सक्छ, जबकि एक निर्माण फर्मले औद्योगिक नियन्त्रण प्रणालीहरूलाई लक्षित गर्ने मालवेयर पत्ता लगाउन एआईमा भर पर्न सक्छ। जेनेरेटिभ एआईको साथ परम्परागत मालवेयर विश्लेषणलाई बढाएर, संस्थाहरूले मालवेयर अभियानहरूमा पहिले भन्दा छिटो र अधिक सक्रिय रूपमा प्रतिक्रिया दिन सक्छन्।

खतरा बुद्धिमत्ता र स्वचालित विश्लेषण

हरेक दिन, संस्थाहरू खतराको गुप्तचर डेटाले भरिएका हुन्छन् - नयाँ पत्ता लागेका सम्झौताका संकेतकहरू (IOCs) को फिडदेखि लिएर उदीयमान ह्याकर रणनीतिहरूको बारेमा विश्लेषक रिपोर्टहरू सम्म। सुरक्षा टोलीहरूको लागि चुनौती भनेको जानकारीको यो बाढीबाट छानबिन गर्नु र कार्ययोग्य अन्तर्दृष्टि निकाल्नु हो। जेनेरेटिभ एआई खतराको गुप्तचर विश्लेषण र उपभोगलाई स्वचालित गर्न । दर्जनौं रिपोर्टहरू वा डाटाबेस प्रविष्टिहरू म्यानुअल रूपमा पढ्नुको सट्टा, विश्लेषकहरूले मेसिन गतिमा खतराको इंटेललाई संक्षेप र सन्दर्भबद्ध गर्न एआई प्रयोग गर्न सक्छन्।

एउटा ठोस उदाहरण गुगलको थ्रेट इन्टेलिजेन्स सुइट हो, जसले जेनेरेटिभ एआई (जेमिनी मोडेल) लाई गुगलको म्यान्डियन्ट र भाइरस टोटलबाट आएको खतरा डेटाको भण्डारसँग एकीकृत गर्दछ। यो एआईले "गुगलको थ्रेट इन्टेलिजेन्सको विशाल भण्डारमा कुराकानीत्मक खोज" , जसले प्रयोगकर्ताहरूलाई धम्कीहरूको बारेमा प्राकृतिक प्रश्नहरू सोध्न र डिस्टिल्ड उत्तरहरू प्राप्त गर्न अनुमति दिन्छ ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। उदाहरणका लागि, एक विश्लेषकले सोध्न सक्छ, "के हामीले हाम्रो उद्योगलाई लक्षित गर्ने थ्रेट ग्रुप एक्ससँग सम्बन्धित कुनै मालवेयर देखेका छौं?" र एआईले सान्दर्भिक इंटेलिजेन्स तान्नेछ, सायद "हो, थ्रेट ग्रुप एक्स गत महिना मालवेयर वाई प्रयोग गरेर फिसिङ अभियानमा लिङ्क गरिएको थियो" , त्यो मालवेयरको व्यवहारको सारांश सहित। यसले अन्तर्दृष्टिहरू सङ्कलन गर्न समयलाई नाटकीय रूपमा घटाउँछ जसलाई अन्यथा धेरै उपकरणहरू सोध्न वा लामो रिपोर्टहरू पढ्न आवश्यक पर्दछ।

खतरा प्रवृत्तिहरूलाई पनि सहसम्बन्धित र संक्षेप गर्न सक्छ । यसले हजारौं सुरक्षा ब्लग पोस्टहरू, उल्लङ्घन समाचारहरू, र डार्क वेब च्याटरहरू मार्फत संयोजन गर्न सक्छ र त्यसपछि CISO को ब्रीफिंगको लागि "यस हप्ता शीर्ष साइबर खतराहरू" को कार्यकारी सारांश उत्पन्न गर्न सक्छ। परम्परागत रूपमा, विश्लेषण र रिपोर्टिङको यो स्तरले महत्त्वपूर्ण मानवीय प्रयास लियो; अब राम्रोसँग ट्युन गरिएको मोडेलले यसलाई सेकेन्डमा ड्राफ्ट गर्न सक्छ, मानिसहरूले मात्र आउटपुटलाई परिष्कृत गर्छन्। ZeroFox जस्ता कम्पनीहरूले FoxGPT , जुन विशेष रूपमा "ठूला डेटासेटहरूमा बुद्धिमत्ताको विश्लेषण र सारांशलाई गति दिन" डिजाइन गरिएको एक जेनेरेटिभ एआई उपकरण हो, जसमा दुर्भावनापूर्ण सामग्री र फिसिङ डेटा ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू ) समावेश छन्। पढ्ने र क्रस-रेफरेन्सिङ डेटाको भारी लिफ्टिङलाई स्वचालित गरेर, एआईले खतरा इंटेल टोलीहरूलाई निर्णय लिने र प्रतिक्रियामा ध्यान केन्द्रित गर्न सक्षम बनाउँछ।

अर्को प्रयोगको मामला कुराकानीत्मक खतरा खोजी । कल्पना गर्नुहोस् कि एक सुरक्षा विश्लेषकले एआई सहायकसँग अन्तर्क्रिया गर्छ: "मलाई पछिल्लो ४८ घण्टामा डेटा एक्सफिल्टरेसनको कुनै संकेत देखाउनुहोस्" वा "यस हप्ता आक्रमणकारीहरूले शोषण गरिरहेका शीर्ष नयाँ कमजोरीहरू के के हुन्?" एआईले क्वेरीको व्याख्या गर्न सक्छ, आन्तरिक लगहरू वा बाह्य इंटेल स्रोतहरू खोजी गर्न सक्छ, र स्पष्ट उत्तर वा सान्दर्भिक घटनाहरूको सूचीको साथ प्रतिक्रिया दिन सक्छ। यो टाढाको कुरा होइन - आधुनिक सुरक्षा जानकारी र घटना व्यवस्थापन (SIEM) प्रणालीहरूले प्राकृतिक भाषा क्वेरी समावेश गर्न थालेका छन्। उदाहरणका लागि, IBM को QRadar सुरक्षा सुइटले २०२४ मा जेनेरेटिभ एआई सुविधाहरू थप्दैछ ताकि विश्लेषकहरूले घटनाको "[...] संक्षेपित आक्रमण मार्गको बारेमा विशिष्ट प्रश्नहरू सोध्न" "अत्यधिक सान्दर्भिक खतरा बुद्धिमत्ताको व्याख्या र संक्षेप" ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। अनिवार्य रूपमा, जेनेरेटिभ एआईले प्राविधिक डेटाको पहाडलाई मागमा च्याट-आकारको अन्तर्दृष्टिमा परिणत गर्दछ।

सबै उद्योगहरूमा, यसको ठूलो प्रभाव छ। एक स्वास्थ्य सेवा प्रदायकले पूर्ण-समय अनुसन्धानमा विश्लेषकलाई समर्पित नगरी अस्पतालहरूलाई लक्षित गर्ने नवीनतम ransomware समूहहरूमा अद्यावधिक रहन AI प्रयोग गर्न सक्छ। खुद्रा कम्पनीको SOC ले स्टोर IT कर्मचारीहरूलाई ब्रीफिंग गर्दा नयाँ POS मालवेयर रणनीतिहरू द्रुत रूपमा संक्षेप गर्न सक्छ। र सरकारमा, जहाँ विभिन्न एजेन्सीहरूबाट खतरा डेटा संश्लेषित गरिनुपर्छ, AI ले प्रमुख चेतावनीहरू हाइलाइट गर्ने एकीकृत रिपोर्टहरू उत्पादन गर्न सक्छ। खतरा खुफिया सङ्कलन र व्याख्यालाई स्वचालित , जेनेरेटिभ AI ले संस्थाहरूलाई उदीयमान खतराहरूमा छिटो प्रतिक्रिया दिन मद्दत गर्दछ र आवाजमा लुकेका महत्वपूर्ण चेतावनीहरू हराउने जोखिम कम गर्दछ।

सुरक्षा सञ्चालन केन्द्र (SOC) अप्टिमाइजेसन

सुरक्षा सञ्चालन केन्द्रहरू अलर्ट थकान र डेटाको क्रशिंग भोल्युमको लागि कुख्यात छन्। एक सामान्य SOC विश्लेषकले सम्भावित घटनाहरूको अनुसन्धान गर्दै हरेक दिन हजारौं अलर्ट र घटनाहरू मार्फत जान सक्छ। जेनेरेटिभ AI ले नियमित कार्यलाई स्वचालित गरेर, बुद्धिमान सारांशहरू प्रदान गरेर, र केही प्रतिक्रियाहरू पनि व्यवस्थित गरेर SOC हरूमा बल गुणकको रूपमा काम गरिरहेको छ। लक्ष्य SOC कार्यप्रवाहहरूलाई अनुकूलन गर्नु हो ताकि मानव विश्लेषकहरूले सबैभन्दा महत्त्वपूर्ण मुद्दाहरूमा ध्यान केन्द्रित गर्न सकून् जबकि AI सह-पायलटले बाँकी काम ह्यान्डल गर्दछ।

एउटा प्रमुख अनुप्रयोग भनेको जेनेरेटिभ एआईलाई "विश्लेषकको सह-पायलट" । पहिले उल्लेख गरिएको माइक्रोसफ्टको सुरक्षा सह-पायलटले यसको उदाहरण दिन्छ: यो "सुरक्षा विश्लेषकको कामलाई प्रतिस्थापन गर्नुको सट्टा सहयोग गर्न डिजाइन गरिएको हो," घटना अनुसन्धान र रिपोर्टिङमा मद्दत गर्दछ ( माइक्रोसफ्ट सुरक्षा सह-पायलट साइबर सुरक्षाको लागि नयाँ GPT-4 AI सहायक हो | द भर्ज )। व्यवहारमा, यसको अर्थ विश्लेषकले कच्चा डेटा - फायरवाल लगहरू, घटना समयरेखा, वा घटना विवरण - इनपुट गर्न सक्छ र AI लाई यसको विश्लेषण गर्न वा संक्षेप गर्न भन्न सक्छ। सह-पायलटले "यस्तो देखिन्छ कि बिहान २:३५ बजे, सर्भर Y मा IP X बाट एक शंकास्पद लगइन सफल भयो, त्यसपछि असामान्य डेटा स्थानान्तरण भयो, जसले त्यो सर्भरको सम्भावित उल्लङ्घनलाई संकेत गर्दछ।" यस प्रकारको तत्काल सन्दर्भीकरण अमूल्य हुन्छ जब समय सारांश हुन्छ।

एआई कोपाइलटहरूले लेभल-१ ट्राइज बोझ कम गर्न पनि मद्दत गर्छन्। उद्योग तथ्याङ्क अनुसार, सुरक्षा टोलीले हप्तामा १५ घण्टा लगभग २२,००० अलर्ट र गलत सकारात्मकहरू ( साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] ) क्रमबद्ध गर्न बिताउन सक्छ। जेनेरेटिभ एआईको साथ, यी धेरै अलर्टहरू स्वचालित रूपमा ट्राइज गर्न सकिन्छ - एआईले स्पष्ट रूपमा सौम्य (तर्क दिएर) ती अलर्टहरूलाई खारेज गर्न सक्छ र साँच्चै ध्यान चाहिनेहरूलाई हाइलाइट गर्न सक्छ, कहिलेकाहीँ प्राथमिकता पनि सुझाव दिन्छ। वास्तवमा, सन्दर्भ बुझ्ने सन्दर्भमा जेनेरेटिभ एआईको शक्तिको अर्थ यसले अलर्टहरूलाई क्रस-सहसम्बन्धित गर्न सक्छ जुन अलगावमा हानिरहित लाग्न सक्छ तर सँगै बहु-चरण आक्रमणलाई संकेत गर्दछ। यसले "अलर्ट थकान" को कारणले आक्रमण हराउने सम्भावना कम गर्छ।

SOC विश्लेषकहरूले पनि शिकार र अनुसन्धानलाई गति दिन AI सँग प्राकृतिक भाषा प्रयोग गरिरहेका छन्। उदाहरणका लागि, Purple AI "सादा अंग्रेजीमा जटिल खतरा-शिकार प्रश्नहरू सोध्न र द्रुत, सटीक उत्तरहरू प्राप्त गर्न" ( साइबर सुरक्षामा जेनेरेटिभ AI कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। एक विश्लेषकले टाइप गर्न सक्छ, "के गत महिनामा डोमेन badguy123[.]com सँग कुनै अन्तिम बिन्दुहरू सञ्चार गरिएको छ?" , र पर्पल AI ले जवाफ दिन लगहरू मार्फत खोजी गर्नेछ। यसले विश्लेषकलाई डाटाबेस प्रश्नहरू वा स्क्रिप्टहरू लेख्नबाट बचाउँछ - AI ले यो हुड मुनि गर्छ। यसको अर्थ यो पनि हो कि जुनियर विश्लेषकहरूले पहिले क्वेरी भाषाहरूमा दक्ष अनुभवी इन्जिनियरको आवश्यक पर्ने कार्यहरू ह्यान्डल गर्न सक्छन्, AI सहायता मार्फत टोलीलाई प्रभावकारी रूपमा बढावा दिन्छ । वास्तवमा, विश्लेषकहरूले रिपोर्ट गर्छन् कि जेनेरेटिभ एआई मार्गदर्शनले "उनीहरूको सीप र दक्षता बढाउँछ" , किनकि जुनियर कर्मचारीहरूले अब एआईबाट माग अनुसार कोडिङ समर्थन वा विश्लेषण सुझावहरू प्राप्त गर्न सक्छन्, जसले गर्दा वरिष्ठ टोली सदस्यहरूलाई सधैं मद्दतको लागि सोध्ने निर्भरता कम हुन्छ ( साइबर सुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )।

अर्को SOC अप्टिमाइजेसन भनेको स्वचालित घटना सारांश र कागजात हो। घटना ह्यान्डल गरिसकेपछि, कसैले रिपोर्ट लेख्नुपर्छ - जुन काम धेरैलाई कठिन लाग्छ। जेनेरेटिभ एआईले फोरेन्सिक डेटा (सिस्टम लग, मालवेयर विश्लेषण, कार्यहरूको समयरेखा) लिन सक्छ र पहिलो-ड्राफ्ट घटना रिपोर्ट उत्पन्न गर्न सक्छ। IBM ले यो क्षमता QRadar मा निर्माण गरिरहेको छ ताकि "एकल क्लिक" विभिन्न सरोकारवालाहरू (कार्यकारीहरू, IT टोलीहरू, आदि) को लागि घटनाको सारांश उत्पादन गर्न सकियोस् ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यसले समय बचत मात्र गर्दैन तर रिपोर्टमा केहि पनि बेवास्ता नगरिएको सुनिश्चित गर्दछ, किनकि AI ले सबै सान्दर्भिक विवरणहरू निरन्तर समावेश गर्न सक्छ। त्यस्तै गरी, अनुपालन र लेखा परीक्षणको लागि, AI ले घटना डेटामा आधारित फारमहरू वा प्रमाण तालिकाहरू भर्न सक्छ।

वास्तविक-विश्व परिणामहरू आकर्षक छन्। स्विमलेनको एआई-संचालित SOAR (सुरक्षा अर्केस्ट्रेसन, स्वचालन, र प्रतिक्रिया) को प्रारम्भिक अपनाउनेहरूले ठूलो उत्पादकता लाभको रिपोर्ट गर्छन् - उदाहरणका लागि, ग्लोबल डाटा सिस्टम्सले उनीहरूको सेकअप्स टोलीले धेरै ठूलो केस लोड व्यवस्थापन गरेको देखे; एक निर्देशकले भने, "आज म ७ विश्लेषकहरूसँग जे गर्छु त्यसमा २० कर्मचारी सदस्यहरू लाग्न सक्छन्" एआई-संचालित स्वचालन बिना ( साइबरसुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ )। अर्को शब्दमा, SOC मा AI ले क्षमता गुणा गर्न सक्छ । उद्योगहरूमा, चाहे त्यो क्लाउड सुरक्षा अलर्टहरूसँग काम गर्ने प्राविधिक कम्पनी होस् वा OT प्रणालीहरूको अनुगमन गर्ने उत्पादन प्लान्ट होस्, SOC टोलीहरूले जेनेरेटिभ एआई सहायकहरूलाई अँगालेर छिटो पत्ता लगाउने र प्रतिक्रिया, कम छुटेका घटनाहरू, र थप कुशल सञ्चालनहरू प्राप्त गर्न खडा छन्। यो स्मार्ट काम गर्ने बारे हो - मेसिनहरूलाई दोहोरिने र डेटा-भारी कार्यहरू ह्यान्डल गर्न अनुमति दिने ताकि मानिसहरूले आफ्नो अन्तर्ज्ञान र विशेषज्ञता लागू गर्न सकून् जहाँ यो सबैभन्दा महत्त्वपूर्ण छ।

जोखिम व्यवस्थापन र खतरा सिमुलेशन

आक्रमणकारीहरूले शोषण गर्न सक्ने सफ्टवेयर वा प्रणालीहरूमा कमजोरीहरू पहिचान गर्नु र व्यवस्थापन गर्नु - साइबर सुरक्षाको एक मुख्य कार्य हो। जेनेरेटिभ एआईले खोजलाई तीव्र बनाएर, प्याच प्राथमिकतामा सहयोग गरेर, र तयारी सुधार गर्न ती कमजोरीहरूमा आक्रमणहरूको नक्कल गरेर पनि जोखिम व्यवस्थापनलाई बढाइरहेको छ। सारमा, एआईले संस्थाहरूलाई उनीहरूको कवचमा प्वालहरू छिटो फेला पार्न र समाधान गर्न मद्दत गरिरहेको छ, र सक्रिय रूपमा प्रतिरक्षा परीक्षण गरिरहेको छ।

एउटा महत्त्वपूर्ण अनुप्रयोग भनेको स्वचालित कोड समीक्षा र जोखिम पत्ता लगाउनको । ठूला कोडबेसहरू (विशेष गरी लिगेसी प्रणालीहरू) मा प्रायः सुरक्षा त्रुटिहरू हुन्छन् जुन ध्यान नदिइन्छ। जेनेरेटिभ एआई मोडेलहरूलाई सुरक्षित कोडिङ अभ्यासहरू र सामान्य बग ढाँचाहरूमा तालिम दिन सकिन्छ, त्यसपछि सम्भावित जोखिमहरू फेला पार्न स्रोत कोड वा कम्पाइल गरिएको बाइनरीहरूमा जारी गर्न सकिन्छ। उदाहरणका लागि, NVIDIA अनुसन्धानकर्ताहरूले एक जेनेरेटिभ एआई पाइपलाइन विकास गरे जसले लेगेसी सफ्टवेयर कन्टेनरहरूको विश्लेषण गर्न सक्छ र "उच्च शुद्धताका साथ - मानव विशेषज्ञहरू भन्दा ४x छिटो" कमजोरीहरू पहिचान गर्न सक्छ। ( साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। एआईले अनिवार्य रूपमा असुरक्षित कोड कस्तो देखिन्छ भनेर सिक्यो र दशकौं पुरानो सफ्टवेयर मार्फत स्क्यान गर्न सक्षम भयो जसले जोखिमपूर्ण कार्यहरू र पुस्तकालयहरूलाई फ्ल्याग गर्यो, म्यानुअल कोड अडिटिङको सामान्यतया ढिलो प्रक्रियालाई व्यापक रूपमा गति दियो। यस प्रकारको उपकरण ठूला, पुरानो कोडबेसहरूमा भर पर्ने वित्त वा सरकार जस्ता उद्योगहरूको लागि खेल-परिवर्तक हुन सक्छ - एआईले कर्मचारीहरूलाई महिनौं वा वर्ष लाग्न सक्ने समस्याहरू (यदि कहिल्यै) पत्ता लगाउन मद्दत गरेर सुरक्षालाई आधुनिकीकरण गर्न मद्दत गर्दछ।

जेनेरेटिभ एआईले भेलेन्लेबिलिटी व्यवस्थापन कार्यप्रवाहमा । टेनेबलको एक्सपोजरएआई जेनेरेटिभ एआई प्रयोग गर्छन् जसले विश्लेषकहरूलाई स्पष्ट भाषामा भेलेन्लेबिलिटी डेटा क्वेरी गर्न र तत्काल उत्तरहरू प्राप्त गर्न दिन्छ ( साइबरसुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। एक्सपोजरएआईले "कथामा पूर्ण आक्रमण मार्ग संक्षेप" , कसरी आक्रमणकारीले प्रणालीलाई सम्झौता गर्न अन्य कमजोरीहरूसँग बाँध्न सक्छ भनेर व्याख्या गर्दछ। यसले सुधार गर्न कार्यहरू पनि सिफारिस गर्दछ र जोखिमको बारेमा फलो-अप प्रश्नहरूको जवाफ दिन्छ। यसको मतलब जब नयाँ महत्वपूर्ण CVE (सामान्य जोखिम र एक्सपोजर) घोषणा गरिन्छ, एक विश्लेषकले AI लाई सोध्न सक्छ, "के हाम्रो कुनै सर्भरहरू यस CVE बाट प्रभावित छन् र यदि हामीले प्याच गरेनौं भने सबैभन्दा खराब अवस्था के हो?" र संगठनको आफ्नै स्क्यान डेटाबाट लिइएको स्पष्ट मूल्याङ्कन प्राप्त गर्दछ। कमजोरीहरूलाई सन्दर्भबद्ध गरेर (जस्तै यो इन्टरनेट र उच्च-मूल्य सर्भरमा खुलासा गरिएको छ, त्यसैले यो उच्च प्राथमिकता हो), जेनेरेटिभ एआईले टोलीहरूलाई सीमित स्रोतहरूसँग स्मार्ट रूपमा प्याच गर्न मद्दत गर्दछ।

ज्ञात कमजोरीहरू पत्ता लगाउने र व्यवस्थापन गर्नुको साथै, जेनेरेटिभ एआईले प्रवेश परीक्षण र आक्रमण सिमुलेशनमा - अनिवार्य रूपमा अज्ञात कमजोरीहरू पत्ता लगाउने वा सुरक्षा नियन्त्रणहरूको परीक्षण गर्ने। जेनेरेटिभ एडभर्सरियल नेटवर्कहरू (GANs), एक प्रकारको जेनेरेटिभ एआई, वास्तविक नेटवर्क ट्राफिक वा प्रयोगकर्ता व्यवहारको नक्कल गर्ने सिंथेटिक डेटा सिर्जना गर्न प्रयोग गरिएको छ, जसमा लुकेका आक्रमण ढाँचाहरू समावेश हुन सक्छन्। २०२३ को एक अध्ययनले घुसपैठ पत्ता लगाउने प्रणालीहरूलाई तालिम दिन वास्तविक शून्य-दिन आक्रमण ट्राफिक उत्पन्न गर्न GANs प्रयोग गर्ने सुझाव दियो ( साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। आईडीएसलाई एआई-निर्मित आक्रमण परिदृश्यहरू (जुन उत्पादन नेटवर्कहरूमा वास्तविक मालवेयर प्रयोग गर्ने जोखिम लिँदैन) खुवाएर, संस्थाहरूले वास्तविकतामा तिनीहरूबाट हिट हुने प्रतीक्षा नगरी नयाँ खतराहरू पहिचान गर्न आफ्नो प्रतिरक्षालाई तालिम दिन सक्छन्। त्यसैगरी, एआईले प्रणालीको जाँच गर्ने आक्रमणकारीको नक्कल गर्न सक्छ - उदाहरणका लागि, कुनै सफल हुन्छ कि भनेर हेर्नको लागि सुरक्षित वातावरणमा स्वचालित रूपमा विभिन्न शोषण प्रविधिहरू प्रयास गर्दै। अमेरिकी रक्षा उन्नत अनुसन्धान परियोजना एजेन्सी (DARPA) ले यहाँ आशा देख्छ: यसको २०२३ एआई साइबर चुनौतीले प्रतिस्पर्धाको भागको रूपमा "ओपन-सोर्स सफ्टवेयरमा स्वचालित रूपमा कमजोरीहरू फेला पार्न र समाधान गर्न" DARPA ले एआई विकास गर्ने लक्ष्य राख्छ, स्वायत्त अनुप्रयोगहरू युद्धकर्मीहरूले विश्वास गर्न सक्छन् > अमेरिकी रक्षा विभाग > रक्षा विभाग समाचार )। यो पहलले एआईले ज्ञात प्वालहरू प्याच गर्न मात्र मद्दत गरिरहेको छैन भन्ने कुरालाई जोड दिन्छ; यसले सक्रिय रूपमा नयाँहरू पत्ता लगाइरहेको छ र समाधानहरू प्रस्ताव गरिरहेको छ, जुन कार्य परम्परागत रूपमा कुशल (र महँगो) सुरक्षा अनुसन्धानकर्ताहरूमा सीमित छ।

जेनेरेटिभ एआईले बुद्धिमान हनीपोट र डिजिटल जुम्ल्याहाहरू । स्टार्टअपहरूले एआई-संचालित डिकोय प्रणालीहरू विकास गरिरहेका छन् जसले वास्तविक सर्भर वा उपकरणहरूको विश्वस्त अनुकरण गर्दछ। एक सीईओले व्याख्या गरेझैं, जेनेरेटिभ एआईले "वास्तविक प्रणालीहरूको नक्कल गर्न र ह्याकरहरूलाई लोभ्याउन डिजिटल प्रणालीहरू क्लोन गर्न सक्छ" ( साइबरसुरक्षामा जेनेरेटिभ एआईको लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] एआई द्वारा बढाइएको छल प्रयोग गरेर आक्रमणकारीहरूलाई तालिकाहरू घुमाउने एक अग्रगामी तरिका प्रदान गर्दछ।

सबै उद्योगहरूमा, छिटो र स्मार्ट जोखिम व्यवस्थापनको अर्थ कम उल्लङ्घनहरू हुन्। उदाहरणका लागि, स्वास्थ्य सेवा IT मा, AI ले मेडिकल उपकरणमा कमजोर पुरानो पुस्तकालयलाई तुरुन्तै पत्ता लगाउन सक्छ र कुनै पनि आक्रमणकारीले यसको शोषण गर्नु अघि फर्मवेयर समाधान गर्न सक्छ। बैंकिङमा, AI ले ग्राहक डेटा सबै परिदृश्यहरूमा सुरक्षित रहन सुनिश्चित गर्न नयाँ अनुप्रयोगमा भित्री आक्रमणको नक्कल गर्न सक्छ। यसरी जेनेरेटिभ AI ले संस्थाहरूको सुरक्षा मुद्राको लागि माइक्रोस्कोप र तनाव-परीक्षक दुवैको रूपमा काम गर्दछ: यसले लचिलोपन सुनिश्चित गर्न कल्पनाशील तरिकामा लुकेका त्रुटिहरू र दबाब प्रणालीहरूलाई उज्यालो पार्छ।

सुरक्षित कोड उत्पादन र सफ्टवेयर विकास

जेनेरेटिभ एआईको प्रतिभा आक्रमणहरू पत्ता लगाउनमा मात्र सीमित छैन - तिनीहरू सुरुदेखि नै थप सुरक्षित प्रणालीहरू सिर्जना । सफ्टवेयर विकासमा, एआई कोड जेनरेटरहरू (जस्तै GitHub Copilot, OpenAI Codex, आदि) ले विकासकर्ताहरूलाई कोड स्निपेटहरू वा सम्पूर्ण प्रकार्यहरू सुझाव दिएर कोड छिटो लेख्न मद्दत गर्न सक्छन्। साइबर सुरक्षा कोणले यी एआई-सुझाव गरिएका कोड टुक्राहरू सुरक्षित छन् र कोडिङ अभ्यासहरू सुधार गर्न एआई प्रयोग गर्दैछ भनी सुनिश्चित गर्दैछ।

एकातिर, जेनेरेटिभ एआईले सुरक्षाका उत्कृष्ट अभ्यासहरूलाई एम्बेड गर्ने कोडिङ सहायकको । विकासकर्ताहरूले एआई उपकरणलाई "पाइथनमा पासवर्ड रिसेट प्रकार्य उत्पन्न गर्नुहोस्" भनेर प्रम्प्ट गर्न सक्छन्, र आदर्श रूपमा कोड फिर्ता प्राप्त गर्न सक्छन् जुन कार्यात्मक मात्र होइन तर सुरक्षित दिशानिर्देशहरू पनि पालना गर्दछ (जस्तै उचित इनपुट प्रमाणीकरण, लगिङ, जानकारी चुहावट नगरी त्रुटि ह्यान्डलिङ, आदि)। व्यापक सुरक्षित कोड उदाहरणहरूमा प्रशिक्षित यस्तो सहायकले मानवीय त्रुटिहरूलाई कम गर्न मद्दत गर्न सक्छ जसले कमजोरीहरू निम्त्याउँछ। उदाहरणका लागि, यदि विकासकर्ताले प्रयोगकर्ता इनपुटलाई सेनिटाइज गर्न बिर्सन्छ (SQL इंजेक्शन वा यस्तै समस्याहरूको ढोका खोल्दै), एआईले पूर्वनिर्धारित रूपमा त्यो समावेश गर्न सक्छ वा तिनीहरूलाई चेतावनी दिन सक्छ। केही एआई कोडिङ उपकरणहरू अब यो सही उद्देश्य पूरा गर्न सुरक्षा-केन्द्रित डेटासँग फाइन-ट्यून गरिएका छन् - अनिवार्य रूपमा, एआईले सुरक्षा विवेकसँग प्रोग्रामिङ जोड्छ ।

यद्यपि, यसको अर्को पक्ष पनि छ: यदि राम्रोसँग व्यवस्थापन गरिएन भने जेनेरेटिभ एआईले सजिलैसँग कमजोरीहरू परिचय गराउन सक्छ। सोफोस सुरक्षा विज्ञ बेन भर्सचेरेनले उल्लेख गरेझैं, कोडिङको लागि जेनेरेटिभ एआई प्रयोग गर्नु "छोटो, प्रमाणित कोडको लागि ठीक छ, तर उत्पादन प्रणालीहरूमा अनचेक कोड एकीकृत हुँदा जोखिमपूर्ण" छ । जोखिम यो हो कि एआईले तार्किक रूपमा सही कोड उत्पादन गर्न सक्छ जुन एक गैर-विशेषज्ञले याद नगर्ने तरिकाले असुरक्षित हुन्छ। यसबाहेक, दुर्भावनापूर्ण अभिनेताहरूले जानाजानी सार्वजनिक एआई मोडेलहरूलाई कमजोर कोड ढाँचाहरू (डेटा विषाक्तताको एक रूप) सँग जोडेर प्रभाव पार्न सक्छन् ताकि एआईले असुरक्षित कोड सुझाव दिन्छ। धेरैजसो विकासकर्ताहरू सुरक्षा विशेषज्ञ होइनन् , त्यसैले यदि एआईले सुविधाजनक समाधान सुझाव दिन्छ भने, तिनीहरूले यसलाई अन्धाधुन्ध प्रयोग गर्न सक्छन्, यो महसुस नगरी कि यसमा त्रुटि छ ( साइबरसुरक्षामा जेनेरेटिभ एआईको लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। यो चिन्ता वास्तविक छ - वास्तवमा, LLMs (ठूला भाषा मोडेलहरू) को लागि अब OWASP शीर्ष १० सूची छ जसले कोडिङको लागि एआई प्रयोग गर्दा यस प्रकारका सामान्य जोखिमहरूलाई रूपरेखा दिन्छ।

यी समस्याहरूको सामना गर्न, विज्ञहरूले कोडिङ क्षेत्रमा "जेनेरेटिभ एआईसँग जेनेरेटिभ एआईसँग लड्ने" कोड समीक्षा र परीक्षण गर्न । एआईले नयाँ कोड स्क्यान गर्न सक्छ जसले मानव कोड समीक्षक भन्दा धेरै छिटो कमिट गर्छ र सम्भावित कमजोरीहरू वा तर्क समस्याहरूलाई फ्ल्याग गर्छ। हामीले पहिले नै सफ्टवेयर विकास जीवनचक्रमा एकीकृत हुने उपकरणहरू देखा परिरहेको देख्छौं: कोड लेखिएको छ (सायद एआईको मद्दतले), त्यसपछि सुरक्षित कोड सिद्धान्तहरूमा प्रशिक्षित जेनेरेटिभ मोडेलले यसको समीक्षा गर्छ र कुनै पनि चिन्ताको रिपोर्ट उत्पन्न गर्छ (जस्तै, बहिष्कृत प्रकार्यहरूको प्रयोग, हराइरहेको प्रमाणीकरण जाँचहरू, आदि)। NVIDIA को अनुसन्धान, जसले पहिले उल्लेख गरिएको छ, कोडमा ४ गुणा छिटो जोखिम पत्ता लगाउने काम सुरक्षित कोड विश्लेषणको लागि एआई प्रयोग गर्ने उदाहरण हो ( साइबर सुरक्षामा जेनेरेटिभ एआईको लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )।

यसबाहेक, जेनेरेटिभ एआईले सुरक्षित कन्फिगरेसन र स्क्रिप्टहरू सिर्जना गर्न । उदाहरणका लागि, यदि कुनै कम्पनीलाई सुरक्षित क्लाउड पूर्वाधार तैनाथ गर्न आवश्यक छ भने, एक इन्जिनियरले एआईलाई सुरक्षा नियन्त्रणहरू (जस्तै उचित नेटवर्क विभाजन, न्यूनतम विशेषाधिकार IAM भूमिकाहरू) सहित कन्फिगरेसन स्क्रिप्टहरू (कोडको रूपमा पूर्वाधार) उत्पन्न गर्न अनुरोध गर्न सक्छ। हजारौं यस्ता कन्फिगरेसनहरूमा प्रशिक्षित भइसकेपछि एआईले आधारभूत उत्पादन गर्न सक्छ जुन इन्जिनियरले त्यसपछि फाइन-ट्यून गर्दछ। यसले प्रणालीहरूको सुरक्षित सेटअपलाई गति दिन्छ र गलत कन्फिगरेसन त्रुटिहरूलाई कम गर्छ - क्लाउड सुरक्षा घटनाहरूको एक सामान्य स्रोत।

केही संस्थाहरूले सुरक्षित कोडिङ ढाँचाहरूको ज्ञान आधार कायम राख्न जेनेरेटिभ एआईको पनि प्रयोग गरिरहेका छन्। यदि कुनै विकासकर्तालाई कुनै निश्चित सुविधा कसरी सुरक्षित रूपमा कार्यान्वयन गर्ने भन्ने कुरामा अनिश्चित छ भने, तिनीहरूले कम्पनीको विगतका परियोजनाहरू र सुरक्षा दिशानिर्देशहरूबाट सिकेको आन्तरिक एआईलाई सोध्न सक्छन्। एआईले सिफारिस गरिएको दृष्टिकोण वा कोड स्निपेट पनि फिर्ता गर्न सक्छ जुन कार्यात्मक आवश्यकताहरू र कम्पनीको सुरक्षा मापदण्ड दुवैसँग मिल्दोजुल्दो छ। यो दृष्टिकोण सेक्योरफ्रेमको प्रश्नावली स्वचालन , जसले कम्पनीको नीतिहरू र विगतका समाधानहरूबाट जवाफहरू तान्छ ताकि सुसंगत र सही प्रतिक्रियाहरू सुनिश्चित गर्न सकियोस् (अनिवार्य रूपमा सुरक्षित कागजातहरू उत्पन्न गर्दै) ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यो अवधारणा कोडिङमा अनुवाद हुन्छ: एक एआई जसले तपाईंले पहिले कुनै कुरा कसरी सुरक्षित रूपमा लागू गर्नुभयो भनेर "सम्झन्छ" र तपाईंलाई फेरि त्यसरी गर्न मार्गदर्शन गर्दछ।

संक्षेपमा, जेनेरेटिभ एआईले सुरक्षित कोडिङ सहायतालाई अझ सुलभ बनाएर । धेरै अनुकूलन सफ्टवेयर विकास गर्ने उद्योगहरू - प्रविधि, वित्त, रक्षा, आदि - एआई सह-पाइलटहरू भएकोले लाभान्वित हुन्छन् जसले कोडिङलाई गति दिने मात्र होइन तर सधैं सतर्क सुरक्षा समीक्षकको रूपमा काम गर्छन्। उचित रूपमा शासित हुँदा, यी एआई उपकरणहरूले नयाँ कमजोरीहरूको परिचय कम गर्न सक्छन् र विकास टोलीहरूलाई उत्कृष्ट अभ्यासहरू पालना गर्न मद्दत गर्न सक्छन्, टोलीसँग हरेक चरणमा सुरक्षा विशेषज्ञ संलग्न नभए पनि। परिणामस्वरूप सफ्टवेयर पहिलो दिनदेखि नै आक्रमणहरू विरुद्ध बढी बलियो हुन्छ।

घटना प्रतिक्रिया समर्थन

जब कुनै साइबर सुरक्षा घटना हुन्छ - चाहे त्यो मालवेयर प्रकोप होस्, डेटा उल्लंघन होस्, वा आक्रमणबाट प्रणाली आउटेज होस् - समय महत्वपूर्ण हुन्छ। घटना प्रतिक्रिया (IR) टोलीहरूलाई समर्थन गर्न । विचार यो हो कि एआईले घटनाको समयमा केही अनुसन्धान र कागजात भार वहन गर्न सक्छ, र केही प्रतिक्रिया कार्यहरू सुझाव वा स्वचालित पनि गर्न सक्छ।

IR मा AI को एउटा प्रमुख भूमिका वास्तविक-समय घटना विश्लेषण र सारांश । घटनाको बीचमा, प्रतिक्रियाकर्ताहरूलाई "आक्रमणकारी कसरी भित्र पस्यो?" , "कुन प्रणालीहरू प्रभावित छन्?" , र "कुन डेटा सम्झौता हुन सक्छ?" । जेनेरेटिभ AI ले प्रभावित प्रणालीहरूबाट लगहरू, अलर्टहरू, र फोरेन्सिक डेटा विश्लेषण गर्न सक्छ र द्रुत रूपमा अन्तर्दृष्टि प्रदान गर्न सक्छ। उदाहरणका लागि, माइक्रोसफ्ट सेक्युरिटी कोपाइलटले घटना प्रतिक्रियाकर्तालाई विभिन्न प्रमाणहरू (फाइलहरू, URL हरू, घटना लगहरू) फिड गर्न र समयरेखा वा सारांशको लागि सोध्न अनुमति दिन्छ ( माइक्रोसफ्ट सेक्युरिटी कोपाइलट साइबरसुरक्षाको लागि नयाँ GPT-4 AI सहायक हो | द भर्ज )। AI ले जवाफ दिन सक्छ: "उल्लङ्घन सम्भवतः प्रयोगकर्ता JohnDoe लाई 10:53 GMT मा मालवेयर X भएको फिसिङ इमेलबाट सुरु भएको थियो। एक पटक कार्यान्वयन भएपछि, मालवेयरले ब्याकडोर सिर्जना गर्‍यो जुन दुई दिन पछि फाइनान्स सर्भरमा पार्श्व रूपमा सार्न प्रयोग गरिएको थियो, जहाँ यसले डेटा सङ्कलन गर्‍यो।" घण्टाको सट्टा मिनेटमा यो सुसंगत तस्वीर भएकोले टोलीलाई सूचित निर्णयहरू (जस्तै कुन प्रणालीहरूलाई अलग गर्ने) धेरै छिटो गर्न सक्षम बनाउँछ।

जेनेरेटिभ एआईले नियन्त्रण र उपचार कार्यहरू पनि सुझाव दिन । उदाहरणका लागि, यदि कुनै अन्तिम बिन्दु ransomware द्वारा संक्रमित छ भने, एआई उपकरणले त्यो मेसिनलाई अलग गर्न, निश्चित खाताहरू असक्षम गर्न, र फायरवालमा ज्ञात दुर्भावनापूर्ण आईपीहरू ब्लक गर्न स्क्रिप्ट वा निर्देशनहरूको सेट उत्पन्न गर्न सक्छ - मूल रूपमा प्लेबुक कार्यान्वयन। पालो अल्टो नेटवर्क्सले नोट गर्छ कि जेनेरेटिभ एआई "घटनाको प्रकृतिमा आधारित उपयुक्त कार्यहरू वा स्क्रिप्टहरू उत्पन्न गर्न" , प्रतिक्रियाको प्रारम्भिक चरणहरू स्वचालित गर्दै ( साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्क्स )। सुरक्षा टोली अभिभूत भएको अवस्थामा (सयौं उपकरणहरूमा व्यापक आक्रमण भन्नुहोस्), एआईले पूर्व-अनुमोदित अवस्थाहरू अन्तर्गत यी कार्यहरू मध्ये केहीलाई प्रत्यक्ष रूपमा कार्यान्वयन गर्न सक्छ, जुन जुनियर प्रतिक्रियाकर्ता जस्तै अथक रूपमा काम गर्दछ। उदाहरणका लागि, एआई एजेन्टले स्वचालित रूपमा प्रमाणहरू रिसेट गर्न सक्छ जुन यसलाई सम्झौता गरिएको वा घटनाको प्रोफाइलसँग मेल खाने दुर्भावनापूर्ण गतिविधि प्रदर्शन गर्ने क्वारेन्टाइन होस्टहरू रिसेट गर्न सक्छ।

घटना प्रतिक्रियाको समयमा, टोली भित्र र सरोकारवालाहरू दुवैसँग सञ्चार महत्त्वपूर्ण हुन्छ। जेनेरेटिभ एआईले घटना अद्यावधिक रिपोर्टहरू वा संक्षिप्त विवरणहरू तयार गरेर । इन्जिनियरले आफ्नो समस्या निवारण रोक्न इमेल अपडेट लेख्नुको सट्टा, तिनीहरूले एआईलाई सोध्न सक्छन्, "कार्यकारीहरूलाई जानकारी दिनको लागि यस घटनामा अहिलेसम्म के भयो संक्षेप गर्नुहोस्।" एआईले घटना डेटा इन्जेस्ट गरेपछि, संक्षिप्त सारांश उत्पादन गर्न सक्छ: "दिउँसो ३ बजेसम्म, आक्रमणकारीहरूले २ प्रयोगकर्ता खाताहरू र ५ सर्भरहरू पहुँच गरेका छन्। प्रभावित डेटामा डाटाबेस X मा क्लाइन्ट रेकर्डहरू समावेश छन्। नियन्त्रण उपायहरू: सम्झौता गरिएका खाताहरूको लागि VPN पहुँच रद्द गरिएको छ र सर्भरहरू अलग गरिएको छ। अर्को चरणहरू: कुनै पनि दृढता संयन्त्रहरूको लागि स्क्यानिङ।" त्यसपछि प्रतिक्रियाकर्ताले यसलाई द्रुत रूपमा प्रमाणित गर्न वा ट्वीक गर्न सक्छ र यसलाई पठाउन सक्छ, सुनिश्चित गर्दै कि सरोकारवालाहरूलाई सही, अप-टु-मिनेट जानकारीको साथ लूपमा राखिएको छ।

धुलो मत्थर भएपछि, सामान्यतया विस्तृत घटना रिपोर्ट तयार गर्नुपर्ने हुन्छ र सिकेका पाठहरू संकलन गर्नुपर्ने हुन्छ। यो अर्को क्षेत्र हो जहाँ एआई समर्थन चम्किन्छ। यसले सबै घटना डेटा समीक्षा गर्न सक्छ र घटना पछिको रिपोर्ट उत्पन्न गर्न सक्छ । उदाहरणका लागि, आईबीएमले बटन थिचेर "सुरक्षा केसहरू र घटनाहरूको सरल सारांशहरू सिर्जना गर्न जेनेरेटिभ एआईलाई एकीकृत गर्दैछ जुन सरोकारवालाहरूसँग साझा गर्न सकिन्छ" साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। कार्य पछिको रिपोर्टिङलाई सुव्यवस्थित गरेर, संस्थाहरूले सुधारहरू छिटो कार्यान्वयन गर्न सक्छन् र अनुपालन उद्देश्यका लागि राम्रो कागजात पनि हुन सक्छन्।

एउटा नवीन भविष्य-देख्ने प्रयोग भनेको एआई-संचालित घटना सिमुलेशन । कसरी कसैले फायर ड्रिल चलाउन सक्छ जस्तै, केही कम्पनीहरूले "के-यदि" घटना परिदृश्यहरू चलाउन जेनेरेटिभ एआई प्रयोग गरिरहेका छन्। एआईले नेटवर्क लेआउटलाई ध्यानमा राख्दै कसरी र्यान्समवेयर फैलिन सक्छ, वा कसरी भित्री व्यक्तिले डेटा निकाल्न सक्छ भनेर अनुकरण गर्न सक्छ, र त्यसपछि हालको प्रतिक्रिया योजनाहरूको प्रभावकारिता स्कोर गर्न सक्छ। यसले टोलीहरूलाई वास्तविक घटना हुनु अघि प्लेबुकहरू तयार गर्न र परिष्कृत गर्न मद्दत गर्दछ। यो एक निरन्तर सुधार भइरहेको घटना प्रतिक्रिया सल्लाहकार हुनु जस्तै हो जसले तपाईंको तयारीको निरन्तर परीक्षण गर्दछ।

वित्त वा स्वास्थ्य सेवा जस्ता उच्च दांव भएका उद्योगहरूमा, जहाँ घटनाहरूबाट डाउनटाइम वा डेटा हानि विशेष गरी महँगो हुन्छ, यी एआई-संचालित आईआर क्षमताहरू धेरै आकर्षक हुन्छन्। साइबर घटनाको अनुभव गरिरहेको अस्पतालले लामो समयसम्म प्रणाली आउटेजहरू वहन गर्न सक्दैन - नियन्त्रणमा द्रुत रूपमा सहयोग गर्ने एआई शाब्दिक रूपमा जीवन बचाउने हुन सक्छ। त्यस्तै गरी, वित्तीय संस्थाले बिहान ३ बजे शंकास्पद ठगी घुसपैठको प्रारम्भिक ट्राइज ह्यान्डल गर्न एआई प्रयोग गर्न सक्छ, ताकि अन-कल मानिसहरू अनलाइन हुँदासम्म धेरै आधारभूत काम (प्रभावित खाताहरू लग अफ गर्ने, लेनदेनहरू ब्लक गर्ने, आदि) पहिले नै भइसकेको हुन्छ। जेनेरेटिभ एआईको साथ घटना प्रतिक्रिया टोलीहरूलाई बढाएर , संस्थाहरूले प्रतिक्रिया समयलाई उल्लेखनीय रूपमा घटाउन र तिनीहरूको ह्यान्डलिङको पूर्णतामा सुधार गर्न सक्छन्, अन्ततः साइबर घटनाहरूबाट हुने क्षतिलाई कम गर्न।

व्यवहार विश्लेषण र विसंगति पत्ता लगाउने

धेरै साइबर आक्रमणहरू "सामान्य" व्यवहारबाट विचलित हुँदा याद गरेर समात्न सकिन्छ - चाहे त्यो असामान्य मात्रामा डेटा डाउनलोड गर्ने प्रयोगकर्ता खाता होस् वा अचानक अपरिचित होस्टसँग कुराकानी गर्ने नेटवर्क उपकरण होस्। जेनेरेटिभ एआईले व्यवहारिक विश्लेषण र विसंगति पत्ता लगाउन , प्रयोगकर्ताहरू र प्रणालीहरूको सामान्य ढाँचाहरू सिक्न र त्यसपछि केहि बाहिर देखिएमा फ्ल्याग गर्ने उन्नत प्रविधिहरू प्रदान गर्दछ।

परम्परागत विसंगति पत्ता लगाउने कार्यले प्रायः विशिष्ट मेट्रिक्स (CPU प्रयोग स्पाइक, विषम घण्टामा लगइन, आदि) मा तथ्याङ्कीय थ्रेसहोल्ड वा साधारण मेसिन लर्निङ प्रयोग गर्दछ। जेनेरेटिभ एआईले व्यवहारको थप सूक्ष्म प्रोफाइलहरू सिर्जना गरेर यसलाई अगाडि बढाउन सक्छ। उदाहरणका लागि, एआई मोडेलले समयसँगै कर्मचारीको लगइनहरू, फाइल पहुँच ढाँचाहरू, र इमेल बानीहरू इन्जेस्ट गर्न सक्छ र त्यो प्रयोगकर्ताको "सामान्य" को बहुआयामिक बुझाइ बनाउन सक्छ। यदि त्यो खाताले पछि यसको मानकभन्दा बाहिर केही गर्छ (जस्तै नयाँ देशबाट लग इन गर्ने र मध्यरातमा HR फाइलहरूको भण्डारमा पहुँच गर्ने), एआईले केवल एक मेट्रिकमा मात्र होइन तर सम्पूर्ण व्यवहार ढाँचाको रूपमा विचलन पत्ता लगाउनेछ जुन प्रयोगकर्ताको प्रोफाइलमा फिट हुँदैन। प्राविधिक शब्दहरूमा, जेनेरेटिभ मोडेलहरू (जस्तै अटोएनकोडरहरू वा अनुक्रम मोडेलहरू) ले "सामान्य" कस्तो देखिन्छ भनेर मोडेल गर्न सक्छ र त्यसपछि व्यवहारको अपेक्षित दायरा उत्पन्न गर्न सक्छ। जब वास्तविकता त्यो दायरा बाहिर पर्छ, यसलाई विसंगतिको रूपमा फ्ल्याग गरिन्छ (साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्कहरू )।

एउटा व्यावहारिक कार्यान्वयन नेटवर्क ट्राफिक अनुगमनमा । २०२४ को सर्वेक्षण अनुसार, ५४% अमेरिकी संस्थाहरूले नेटवर्क ट्राफिकको अनुगमनलाई साइबर सुरक्षामा एआईको लागि शीर्ष प्रयोगको मामलाको रूपमा उद्धृत गरे ( उत्तर अमेरिका: २०२४ मा विश्वव्यापी साइबर सुरक्षामा शीर्ष एआई प्रयोगका केसहरू )। जेनेरेटिभ एआईले उद्यमको नेटवर्कको सामान्य सञ्चार ढाँचाहरू सिक्न सक्छ - कुन सर्भरहरू सामान्यतया एकअर्कासँग कुरा गर्छन्, व्यापारिक घण्टाको तुलनामा रातभरको तुलनामा कति मात्रामा डेटा सर्छ, आदि। यदि आक्रमणकारीले पत्ता लगाउनबाट बच्नको लागि सर्भरबाट डेटा एक्सफिल्टर गर्न थाल्छ भने, एआई-आधारित प्रणालीले "सर्भर ए ले बिहान २ बजे बाह्य आईपीमा ५०० एमबी डाटा कहिल्यै पठाउँदैन" र अलर्ट उठाउन सक्छ। किनभने एआईले केवल स्थिर नियमहरू प्रयोग गरिरहेको छैन तर नेटवर्क व्यवहारको विकसित मोडेल हो, यसले सूक्ष्म विसंगतिहरू समात्न सक्छ जुन स्थिर नियमहरू (जस्तै "डेटा > X MB लाई सतर्क गर्नुहोस्") छुटेको वा गलत रूपमा फ्ल्याग गर्न सक्छ। यो अनुकूलन प्रकृतिले बैंकिङ लेनदेन नेटवर्कहरू, क्लाउड पूर्वाधार, वा IoT उपकरण फ्लीटहरू जस्ता वातावरणमा एआई-संचालित विसंगति पत्ता लगाउनेलाई शक्तिशाली बनाउँछ, जहाँ सामान्य बनाम असामान्यको लागि निश्चित नियमहरू परिभाषित गर्नु अत्यन्त जटिल छ।

जेनेरेटिभ एआईले प्रयोगकर्ता व्यवहार विश्लेषण (UBA) , जुन भित्री खतराहरू वा सम्झौता गरिएका खाताहरू पत्ता लगाउनको लागि महत्वपूर्ण छ। प्रत्येक प्रयोगकर्ता वा संस्थाको आधारभूत रेखा उत्पन्न गरेर, एआईले प्रमाण दुरुपयोग जस्ता चीजहरू पत्ता लगाउन सक्छ। उदाहरणका लागि, यदि लेखाबाट बबले अचानक ग्राहक डाटाबेस (उनले पहिले कहिल्यै नगरेको कुरा) क्वेरी गर्न थाल्छ भने, बबको व्यवहारको लागि एआई मोडेलले यसलाई असामान्य रूपमा चिन्ह लगाउनेछ। यो मालवेयर नहुन सक्छ - यो बबको प्रमाणहरू चोरी भएको र आक्रमणकारीद्वारा प्रयोग गरिएको मामला हुन सक्छ, वा बबले कहाँ गर्नु हुँदैन भनेर अनुसन्धान गरिरहेको हुन सक्छ। जे भए पनि, सुरक्षा टोलीले अनुसन्धान गर्न हेड-अप पाउँछ। यस्ता एआई-संचालित यूबीए प्रणालीहरू विभिन्न सुरक्षा उत्पादनहरूमा अवस्थित छन्, र जेनेरेटिभ मोडेलिङ प्रविधिहरूले तिनीहरूको शुद्धतालाई उच्च पारिरहेका छन् र सन्दर्भलाई विचार गरेर झूटा अलार्महरू कम गरिरहेका छन् (सायद बब विशेष परियोजनामा ​​छन्, आदि, जुन एआईले कहिलेकाहीं अन्य डेटाबाट अनुमान लगाउन सक्छ)।

पहिचान र पहुँच व्यवस्थापनको क्षेत्रमा, डीपफेक पत्ता लगाउने बढ्दो आवश्यकता हो - जेनेरेटिभ एआईले बायोमेट्रिक सुरक्षालाई मूर्ख बनाउने सिंथेटिक आवाज र भिडियोहरू सिर्जना गर्न सक्छ। चाखलाग्दो कुरा के छ भने, जेनेरेटिभ एआईले अडियो वा भिडियोमा सूक्ष्म कलाकृतिहरूको विश्लेषण गरेर यी डीपफेकहरू पत्ता लगाउन पनि मद्दत गर्न सक्छ जुन मानिसहरूलाई याद गर्न गाह्रो हुन्छ। हामीले एक्सेन्चरसँग एउटा उदाहरण देख्यौं, जसले जेनेरेटिभ एआई प्रयोग गरेर अनगिन्ती अनुहारका भावहरू र अवस्थाहरू अनुकरण गर्‍यो ताकि तालिम दिइयोस् । पाँच वर्षमा, यो दृष्टिकोणले एक्सेन्चरलाई यसको ९०% प्रणालीहरूको पासवर्डहरू हटाउन मद्दत गर्‍यो (बायोमेट्रिक्स र अन्य कारकहरूमा सर्दै) र आक्रमणहरू ६०% ले घटायो ( साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। अनिवार्य रूपमा, तिनीहरूले बायोमेट्रिक प्रमाणीकरणलाई बलियो बनाउन जेनेरेटिभ एआई प्रयोग गरे, यसलाई जेनेरेटिभ आक्रमणहरू विरुद्ध लचिलो बनाउँदै (एआईसँग लड्ने एआईको एक उत्कृष्ट उदाहरण)। यस प्रकारको व्यवहारिक मोडेलिङ - यस अवस्थामा प्रत्यक्ष मानव अनुहार बनाम एआई-संश्लेषित अनुहार बीचको भिन्नता पहिचान गर्ने - महत्त्वपूर्ण छ किनकि हामी प्रमाणीकरणमा एआईमा बढी भर पर्छौं।

जेनेरेटिभ एआई द्वारा संचालित विसंगति पत्ता लगाउने प्रविधि सबै उद्योगहरूमा लागू हुन्छ: स्वास्थ्य सेवामा, ह्याकिङका संकेतहरूको लागि चिकित्सा उपकरण व्यवहारको निगरानी; वित्तमा, धोखाधडी वा एल्गोरिथमिक हेरफेरलाई संकेत गर्न सक्ने अनियमित ढाँचाहरूको लागि व्यापार प्रणालीहरू हेर्ने; ऊर्जा/उपयोगिताहरूमा, घुसपैठका संकेतहरूको लागि नियन्त्रण प्रणाली संकेतहरू अवलोकन गर्ने। चौडाइ (व्यवहारका सबै पक्षहरू हेर्दै) र गहिराइ (जटिल ढाँचाहरू बुझ्ने) यसलाई साइबर घटनाको सुई-इन-ए-हेस्ट्याक सूचकहरू पत्ता लगाउनको लागि एक शक्तिशाली उपकरण बनाउँछ। खतराहरू चुपचाप हुँदै जाँदा, सामान्य सञ्चालनहरू बीच लुकेर, "सामान्य" लाई सटीक रूपमा चित्रण गर्ने र केहि विचलित हुँदा चिच्याउने यो क्षमता महत्त्वपूर्ण हुँदै जान्छ। यसरी जेनेरेटिभ एआईले एक अथक सेन्ट्रीको रूपमा काम गर्दछ, वातावरणमा हुने परिवर्तनहरूसँग तालमेल राख्नको लागि सधैं सामान्यताको परिभाषा सिक्दै र अद्यावधिक गर्दै, र सुरक्षा टोलीहरूलाई नजिकबाट निरीक्षण गर्न योग्य विसंगतिहरूको बारेमा सचेत गराउँछ।

साइबर सुरक्षामा जेनेरेटिभ एआईका अवसर र फाइदाहरू

साइबर सुरक्षामा जेनेरेटिभ एआईको प्रयोगले यी उपकरणहरू अँगाल्न इच्छुक संस्थाहरूका लागि धेरै अवसरहरू र फाइदाहरू । तल, हामी जेनेरेटिभ एआईलाई साइबर सुरक्षा कार्यक्रमहरूमा एक आकर्षक थप बनाउने मुख्य फाइदाहरूको सारांश दिन्छौं:

• छिटो खतरा पत्ता लगाउने र प्रतिक्रिया: जेनेरेटिभ एआई प्रणालीहरूले वास्तविक समयमा विशाल मात्रामा डेटा विश्लेषण गर्न सक्छन् र म्यानुअल मानव विश्लेषण भन्दा धेरै छिटो खतराहरू पहिचान गर्न सक्छन्। यो गतिको फाइदा भनेको आक्रमणहरूको पहिले नै पत्ता लगाउने र छिटो घटना नियन्त्रण गर्ने हो। व्यवहारमा, एआई-संचालित सुरक्षा अनुगमनले ती खतराहरू समात्न सक्छ जुन मानिसहरूलाई सहसम्बन्धित हुन धेरै समय लाग्नेछ। घटनाहरूलाई तुरुन्तै प्रतिक्रिया दिएर (वा स्वायत्त रूपमा प्रारम्भिक प्रतिक्रियाहरू कार्यान्वयन गरेर), संस्थाहरूले आफ्नो नेटवर्कमा आक्रमणकारीहरूको बसोबास समय नाटकीय रूपमा घटाउन सक्छन्, क्षति कम गर्न।

• सुधारिएको शुद्धता र खतरा कभरेज: किनभने तिनीहरू निरन्तर नयाँ डेटाबाट सिक्छन्, जेनेरेटिभ मोडेलहरूले विकसित हुँदै गइरहेका खतराहरूसँग अनुकूलन गर्न सक्छन् र दुर्भावनापूर्ण गतिविधिका सूक्ष्म संकेतहरू समात्न सक्छन्। यसले स्थिर नियमहरूको तुलनामा सुधारिएको पत्ता लगाउने शुद्धता (कम गलत नकारात्मक र गलत सकारात्मक) निम्त्याउँछ। उदाहरणका लागि, फिसिङ इमेल वा मालवेयर व्यवहारको पहिचान चिन्हहरू सिकेको एआईले पहिले कहिल्यै नदेखिएका भेरियन्टहरू पहिचान गर्न सक्छ। परिणाम भनेको खतरा प्रकारहरूको फराकिलो कभरेज हो - नयाँ आक्रमणहरू सहित - समग्र सुरक्षा मुद्रालाई बलियो बनाउँछ। सुरक्षा टोलीहरूले एआई विश्लेषणबाट विस्तृत अन्तर्दृष्टि पनि प्राप्त गर्छन् (जस्तै मालवेयर व्यवहारको व्याख्या), थप सटीक र लक्षित प्रतिरक्षाहरू सक्षम पार्दै ( साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्कहरू )।

• दोहोरिने कार्यहरूको स्वचालन: जेनेरेटिभ एआईले लगहरू खोज्ने र रिपोर्टहरू संकलन गर्नेदेखि घटना प्रतिक्रिया स्क्रिप्टहरू लेख्नेसम्मका नियमित, श्रम-गहन सुरक्षा कार्यहरूलाई स्वचालित गर्नमा उत्कृष्ट प्रदर्शन गर्दछ। यो स्वचालनले मानव विश्लेषकहरूमा बोझ कम गर्छ , तिनीहरूलाई उच्च-स्तरीय रणनीति र जटिल निर्णय लिनेमा ध्यान केन्द्रित गर्न स्वतन्त्र बनाउँछ ( साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्कहरू )। सांसारिक तर महत्त्वपूर्ण कामहरू जस्तै जोखिम स्क्यानिङ, कन्फिगरेसन अडिटिङ, प्रयोगकर्ता गतिविधि विश्लेषण, र अनुपालन रिपोर्टिङ एआई द्वारा ह्यान्डल गर्न सकिन्छ (वा कम्तिमा पहिलो-ड्राफ्ट गरिएको)। मेसिन गतिमा यी कार्यहरू ह्यान्डल गरेर, एआईले दक्षता मात्र सुधार गर्दैन तर मानव त्रुटिलाई पनि कम गर्छ (उल्लङ्घनमा एक महत्त्वपूर्ण कारक)।

• सक्रिय रक्षा र सिमुलेशन: जेनेरेटिभ एआईले संस्थाहरूलाई प्रतिक्रियाशीलबाट सक्रिय सुरक्षामा परिवर्तन गर्न अनुमति दिन्छ। आक्रमण सिमुलेशन, सिंथेटिक डेटा उत्पादन, र परिदृश्य-आधारित प्रशिक्षण जस्ता प्रविधिहरू मार्फत, रक्षकहरूले वास्तविक संसारमा खतराहरू अघि नै तिनीहरूको लागि पूर्वानुमान र तयारी गर्न सक्छन्। सुरक्षा टोलीहरूले साइबर आक्रमणहरू (फिसिङ अभियानहरू, मालवेयर प्रकोपहरू, DDoS, आदि) सुरक्षित वातावरणमा अनुकरण गर्न सक्छन् ताकि तिनीहरूको प्रतिक्रियाहरू परीक्षण गर्न र कुनै पनि कमजोरीहरूलाई किनारा लगाउन सकियोस्। यो निरन्तर प्रशिक्षण, प्रायः मानव प्रयासले पूर्ण रूपमा गर्न असम्भव, प्रतिरक्षालाई तीखो र अद्यावधिक राख्छ। यो साइबर "फायर ड्रिल" जस्तै हो - एआईले तपाईंको प्रतिरक्षामा धेरै काल्पनिक खतराहरू फ्याँक्न सक्छ ताकि तपाईं अभ्यास र सुधार गर्न सक्नुहुन्छ।

• मानव विशेषज्ञता बढाउने (बल गुणकको रूपमा एआई): जेनेरेटिभ एआईले एक अथक जुनियर विश्लेषक, सल्लाहकार र सहायकको रूपमा काम गर्दछ। यसले कम अनुभवी टोली सदस्यहरूलाई अनुभवी विशेषज्ञहरूबाट अपेक्षा गरिएको मार्गदर्शन र सिफारिसहरू प्रदान गर्न सक्छ, जसले टोलीभरि विशेषज्ञतालाई प्रभावकारी रूपमा प्रजातान्त्रिक बनाउँछ साइबरसुरक्षामा जेनेरेटिभ एआईका लागि ६ प्रयोगका केसहरू [+ उदाहरणहरू] )। साइबरसुरक्षामा प्रतिभाको अभावलाई ध्यानमा राख्दै यो विशेष गरी मूल्यवान छ - एआईले साना टोलीहरूलाई कममा बढी गर्न मद्दत गर्दछ। अर्कोतर्फ, अनुभवी विश्लेषकहरूले एआईले ग्रन्ट काम ह्यान्डल गर्ने र गैर-स्पष्ट अन्तर्दृष्टिहरू सतहमा ल्याउनेबाट लाभ उठाउँछन्, जुन तिनीहरूले त्यसपछि प्रमाणित गर्न र कार्य गर्न सक्छन्। समग्र परिणाम एक सुरक्षा टोली हो जुन धेरै उत्पादक र सक्षम छ, एआईले प्रत्येक मानव सदस्यको प्रभावलाई बढाउँछ ( साइबरसुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ )।

• बढेको निर्णय समर्थन र रिपोर्टिङ: प्राविधिक डेटालाई प्राकृतिक भाषा अन्तर्दृष्टिमा अनुवाद गरेर, जेनेरेटिभ एआईले सञ्चार र निर्णय लिने क्षमतामा सुधार ल्याउँछ। सुरक्षा नेताहरूले एआई-उत्पन्न सारांशहरू मार्फत मुद्दाहरूमा स्पष्ट दृश्यता प्राप्त गर्छन् र कच्चा डेटा पार्स नगरी सूचित रणनीतिक निर्णयहरू लिन सक्छन्। त्यस्तै गरी, एआईले सुरक्षा मुद्रा र घटनाहरूको सजिलै बुझ्न सकिने रिपोर्टहरू तयार गर्दा क्रस-फंक्शनल सञ्चार (कार्यकारीहरू, अनुपालन अधिकारीहरू, आदिलाई) सुधार हुन्छ ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यसले नेतृत्व स्तरमा सुरक्षा मामिलाहरूमा विश्वास र पङ्क्तिबद्धता निर्माण मात्र गर्दैन तर जोखिमहरू र एआई-खोजिएका खाडलहरूलाई स्पष्ट रूपमा व्यक्त गरेर लगानी र परिवर्तनहरूलाई औचित्य दिन पनि मद्दत गर्दछ।

संयोजनमा, यी फाइदाहरूको अर्थ साइबर सुरक्षामा जेनेरेटिभ एआईको प्रयोग गर्ने संस्थाहरूले सम्भावित रूपमा कम सञ्चालन लागतको साथ बलियो सुरक्षा स्थिति प्राप्त गर्न सक्छन्। तिनीहरूले पहिले अत्यधिक रहेका खतराहरूको प्रतिक्रिया दिन सक्छन्, अनुगमन नगरिएका खाडलहरू ढाक्न सक्छन्, र एआई-संचालित प्रतिक्रिया लूपहरू मार्फत निरन्तर सुधार गर्न सक्छन्। अन्ततः, जेनेरेटिभ एआईले गति, स्केल र परिष्कारलाई समान रूपमा परिष्कृत प्रतिरक्षाहरूसँग मिलाएर विरोधीहरूभन्दा अगाडि बढ्ने मौका प्रदान गर्दछ। एक सर्वेक्षणले पत्ता लगाएझैं, आधाभन्दा बढी व्यवसाय र साइबर नेताहरूले जेनेरेटिभ एआई ( [PDF] ग्लोबल साइबरसुरक्षा आउटलुक २०२५ | विश्व आर्थिक फोरम ) ( साइबरसुरक्षामा जेनेरेटिभ एआई: एलएलएमको व्यापक समीक्षा ... ) को प्रयोग मार्फत छिटो खतरा पत्ता लगाउने र बढेको शुद्धताको अपेक्षा गर्छन् - यी प्रविधिहरूको फाइदाहरूको वरिपरि आशावादको प्रमाण।

साइबर सुरक्षामा जेनेरेटिभ एआई प्रयोग गर्ने जोखिम र चुनौतीहरू

अवसरहरू महत्त्वपूर्ण भए तापनि, साइबर सुरक्षामा जेनेरेटिभ एआईलाई जोखिम र चुनौतीहरूप्रति । एआईलाई आँखा चिम्लेर विश्वास गर्नाले वा यसको दुरुपयोग गर्नाले नयाँ कमजोरीहरू प्रस्तुत हुन सक्छन्। तल, हामी प्रत्येकको सन्दर्भ सहित प्रमुख चिन्ता र समस्याहरूको रूपरेखा प्रस्तुत गर्दछौं:

• साइबर अपराधीहरूद्वारा विरोधी प्रयोग: रक्षकहरूलाई मद्दत गर्ने उही उत्पादक क्षमताहरूले आक्रमणकारीहरूलाई सशक्त बनाउन सक्छन्। धम्की दिने कलाकारहरूले पहिले नै जेनेरेटिभ एआई प्रयोग गरिरहेका छन् जसले थप विश्वस्त फिसिङ इमेलहरू सिर्जना गर्न, सामाजिक इन्जिनियरिङका लागि नक्कली व्यक्तित्वहरू र डीपफेक भिडियोहरू सिर्जना गर्न, पत्ता लगाउनबाट बच्न निरन्तर परिवर्तन हुने बहुरूपी मालवेयर विकास गर्न, र ह्याकिङका पक्षहरूलाई स्वचालित गर्न पनि ( साइबरसुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्कहरू )। लगभग आधा (४६%) साइबरसुरक्षा नेताहरू चिन्तित छन् कि जेनेरेटिभ एआईले थप उन्नत विरोधी आक्रमणहरू निम्त्याउनेछ ( जेनेरेटिभ एआई सुरक्षा: प्रवृत्ति, खतरा र न्यूनीकरण रणनीतिहरू )। यो "एआई हतियार दौड" को अर्थ हो कि रक्षकहरूले एआई अपनाउने बित्तिकै, आक्रमणकारीहरू धेरै पछाडि हुनेछैनन् (वास्तवमा, तिनीहरू केही क्षेत्रहरूमा अगाडि हुन सक्छन्, अनियमित एआई उपकरणहरू प्रयोग गरेर)। संस्थाहरू एआई-बृद्धि गरिएका खतराहरूको लागि तयार हुनुपर्छ जुन अधिक बारम्बार, परिष्कृत, र ट्रेस गर्न गाह्रो हुन्छन्।

• एआई भ्रम र अशुद्धता: जेनेरेटिभ एआई मोडेलहरूले आउटपुटहरू उत्पादन गर्न सक्छन् जुन सम्भव छ तर गलत वा भ्रामक छन् - यो घटनालाई मतिभ्रम भनिन्छ। सुरक्षा सन्दर्भमा, एआईले घटनाको विश्लेषण गर्न सक्छ र गलत रूपमा निष्कर्ष निकाल्न सक्छ कि एक निश्चित जोखिम कारण थियो, वा यसले आक्रमण समावेश गर्न असफल हुने त्रुटिपूर्ण उपचार स्क्रिप्ट उत्पन्न गर्न सक्छ। यदि यी गल्तीहरूलाई अनुहारको मूल्यमा लिइयो भने खतरनाक हुन सक्छ। एनटीटी डाटाले चेतावनी दिएझैं, "जेनेरेटिभ एआईले सम्भवतः असत्य सामग्री आउटपुट गर्न सक्छ, र यो घटनालाई भ्रम भनिन्छ ... हाल तिनीहरूलाई पूर्ण रूपमा हटाउन गाह्रो छ" ( जेनेरेटिभ एआई र काउन्टरमेजर्सको सुरक्षा जोखिम, र साइबरसुरक्षामा यसको प्रभाव | एनटीटी डाटा ग्रुप )। प्रमाणीकरण बिना एआईमा अत्यधिक निर्भरताले गलत दिशामा प्रयासहरू वा सुरक्षाको गलत भावना निम्त्याउन सक्छ। उदाहरणका लागि, एआईले एक महत्वपूर्ण प्रणालीलाई सुरक्षितको रूपमा झूटो रूपमा फ्ल्याग गर्न सक्छ जब यो छैन, वा यसको विपरीत, कहिल्यै नभएको उल्लङ्घन "पत्ता लगाएर" आतंक उत्पन्न गर्दछ। एआई आउटपुटहरूको कडा प्रमाणीकरण र महत्वपूर्ण निर्णयहरूको लागि मानिसहरूलाई लूपमा राख्नु यो जोखिम कम गर्न आवश्यक छ।

• गलत सकारात्मक र नकारात्मक पक्षहरू: भ्रमसँग सम्बन्धित, यदि एआई मोडेल राम्रोसँग प्रशिक्षित वा कन्फिगर गरिएको छैन भने, यसले सौम्य गतिविधिलाई दुर्भावनापूर्ण (गलत सकारात्मक) वा अझ खराब, वास्तविक खतराहरू (गलत नकारात्मक पक्षहरू) को ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ )। अत्यधिक गलत सतर्कताहरूले सुरक्षा टोलीहरूलाई अभिभूत गर्न सक्छ र सतर्कता थकान निम्त्याउन सक्छ (एआईले वाचा गरेको दक्षता लाभलाई पूर्ववत गर्दै), जबकि छुटेको पत्ता लगाउनाले संगठनलाई खुला छोड्छ। सही सन्तुलनको लागि जेनेरेटिभ मोडेलहरू ट्युनिङ गर्नु चुनौतीपूर्ण छ। प्रत्येक वातावरण अद्वितीय हुन्छ, र एआईले तुरुन्तै बक्स बाहिर इष्टतम रूपमा प्रदर्शन नगर्न सक्छ। निरन्तर सिकाइ पनि दोधारे तरवार हो - यदि एआईले तिरछा प्रतिक्रियाबाट वा परिवर्तन हुने वातावरणबाट सिक्छ भने, यसको शुद्धता उतारचढाव हुन सक्छ। सुरक्षा टोलीहरूले एआई प्रदर्शनको निगरानी गर्नुपर्छ र थ्रेसहोल्डहरू समायोजन गर्नुपर्छ वा मोडेलहरूलाई सुधारात्मक प्रतिक्रिया प्रदान गर्नुपर्छ। उच्च-दांव सन्दर्भहरूमा (जस्तै महत्वपूर्ण पूर्वाधारको लागि घुसपैठ पत्ता लगाउने), अवस्थित प्रणालीहरूसँग समानान्तर रूपमा एआई सुझावहरू चलाउनु बुद्धिमानी हुन सक्छ, ताकि तिनीहरू द्वन्द्वको सट्टा पङ्क्तिबद्ध र पूरक हुन्छन्।

• डेटा गोपनीयता र चुहावट: जेनेरेटिभ एआई प्रणालीहरूलाई प्रशिक्षण र सञ्चालनको लागि प्रायः ठूलो मात्रामा डेटा चाहिन्छ। यदि यी मोडेलहरू क्लाउड-आधारित छन् वा राम्ररी साइल गरिएको छैन भने, संवेदनशील जानकारी चुहावट हुन सक्ने जोखिम हुन्छ। प्रयोगकर्ताहरूले अनजानमा स्वामित्व डेटा वा व्यक्तिगत डेटा एआई सेवामा फिड गर्न सक्छन् (ChatGPT लाई गोप्य घटना रिपोर्ट संक्षेप गर्न सोध्ने सोच्नुहोस्), र त्यो डेटा मोडेलको ज्ञानको अंश बन्न सक्छ। वास्तवमा, हालैको एक अध्ययनले जेनेरेटिभ एआई उपकरणहरूमा ५५% इनपुटहरूमा संवेदनशील वा व्यक्तिगत रूपमा पहिचान गर्न सकिने जानकारी रहेको , जसले डेटा चुहावटको बारेमा गम्भीर चिन्ताहरू उठाउँछ ( जेनेरेटिभ एआई सुरक्षा: प्रवृत्ति, धम्की र न्यूनीकरण रणनीतिहरू )। थप रूपमा, यदि एआईलाई आन्तरिक डेटामा प्रशिक्षित गरिएको छ र यसलाई निश्चित तरिकाले सोधिएको छ भने, यसले आउटपुट गर्न । संस्थाहरूले कडा डेटा ह्यान्डलिङ नीतिहरू लागू गर्नुपर्छ (जस्तै संवेदनशील सामग्रीको लागि अन-प्रिमाइस वा निजी एआई उदाहरणहरू प्रयोग गर्नु) र कर्मचारीहरूलाई सार्वजनिक एआई उपकरणहरूमा गोप्य जानकारी टाँस्न नदिने बारे शिक्षित गर्नुपर्छ। गोपनीयता नियमहरू (GDPR, आदि) पनि लागू हुन्छन् - उचित सहमति वा सुरक्षा बिना एआईलाई तालिम दिन व्यक्तिगत डेटा प्रयोग गर्नु कानूनको उल्लंघन हुन सक्छ।

• मोडेल सुरक्षा र हेरफेर: जेनेरेटिभ एआई मोडेलहरू आफैं लक्ष्य बन्न सक्छन्। विरोधीहरूले मोडेल विषाक्तता , प्रशिक्षण वा पुन: प्रशिक्षण चरणको समयमा दुर्भावनापूर्ण वा भ्रामक डेटा खुवाउने प्रयास गर्न सक्छन् ताकि एआईले गलत ढाँचाहरू सिकोस् ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ )। उदाहरणका लागि, एक आक्रमणकारीले सूक्ष्म रूपमा खतराको इंटेल डेटालाई विषाक्त बनाउन सक्छ ताकि एआईले आक्रमणकारीको आफ्नै मालवेयरलाई दुर्भावनापूर्ण रूपमा पहिचान गर्न असफल हो। अर्को रणनीति प्रम्प्ट इन्जेक्सन वा आउटपुट हेरफेर , जहाँ एक आक्रमणकारीले एआईलाई इनपुट जारी गर्ने तरिका फेला पार्छ जसले गर्दा यसलाई अनपेक्षित तरिकाले व्यवहार गर्न बाध्य पार्छ - सायद यसको सुरक्षा रेलिंगहरूलाई बेवास्ता गर्न वा जानकारी प्रकट गर्न हुँदैन (जस्तै आन्तरिक प्रम्प्ट वा डेटा)। थप रूपमा, मोडेल चोरीको : आक्रमणकारीहरूले एआईलाई मूर्ख बनाउन विशेष रूपमा डिजाइन गरिएको इनपुट तयार गर्छन्। हामी यसलाई विरोधी उदाहरणहरूमा देख्छौं - थोरै विचलित डेटा जुन मानवले सामान्य देख्छ तर एआईले गलत वर्गीकरण गर्दछ। यी उपकरणहरू प्रयोग गर्दा एआई आपूर्ति शृङ्खला सुरक्षित छ भनी सुनिश्चित गर्नु (डेटा अखण्डता, मोडेल पहुँच नियन्त्रण, प्रतिकूल बलियोपन परीक्षण) साइबर सुरक्षाको एक नयाँ तर आवश्यक भाग हो ( साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्क्स )।

• अत्यधिक निर्भरता र सीपको क्षय: संस्थाहरू एआईमा अत्यधिक निर्भर हुन सक्ने र मानव सीपहरू कमजोर हुन सक्ने जोखिम कम हुन्छ। यदि जुनियर विश्लेषकहरूले एआई आउटपुटहरूलाई आँखा चिम्लेर विश्वास गर्न थाले भने, एआई उपलब्ध नभएको वा गलत हुँदा आवश्यक पर्ने आलोचनात्मक सोच र अन्तर्ज्ञान विकास गर्न सक्दैनन्। बेवास्ता गर्नुपर्ने परिदृश्य भनेको सुरक्षा टोली हो जससँग उत्कृष्ट उपकरणहरू छन् तर ती उपकरणहरू बन्द भएमा कसरी सञ्चालन गर्ने भन्ने थाहा छैन (अटोपाइलटमा अत्यधिक भर पर्ने पाइलटहरू जस्तै)। एआई सहायता बिना नियमित प्रशिक्षण अभ्यासहरू र एआई एक सहायक हो, एक अचम्मको ओरेकल होइन भन्ने मानसिकतालाई बढावा दिनु मानव विश्लेषकहरूलाई तीखो राख्न महत्त्वपूर्ण छ। विशेष गरी उच्च-प्रभाव निर्णयहरूको लागि मानिसहरू अन्तिम निर्णयकर्ता रहनुपर्छ।

• नैतिक र अनुपालन चुनौतीहरू: साइबर सुरक्षामा एआईको प्रयोगले नैतिक प्रश्नहरू खडा गर्छ र नियामक अनुपालन समस्याहरू निम्त्याउन सक्छ। उदाहरणका लागि, यदि कुनै एआई प्रणालीले कुनै कर्मचारीलाई गलत रूपमा विसंगतिको कारणले दुर्भावनापूर्ण भित्री व्यक्तिको रूपमा संलग्न गराउँछ भने, यसले त्यो व्यक्तिको प्रतिष्ठा वा करियरलाई अन्यायपूर्ण रूपमा हानि पुर्‍याउन सक्छ। एआईद्वारा गरिएका निर्णयहरू अपारदर्शी हुन सक्छन् ("ब्ल्याक बक्स" समस्या), जसले गर्दा लेखा परीक्षकहरू वा नियामकहरूलाई निश्चित कार्यहरू किन गरियो भनेर व्याख्या गर्न गाह्रो हुन्छ। एआई-उत्पन्न सामग्री बढ्दै जाँदा, पारदर्शिता सुनिश्चित गर्नु र जवाफदेहिता कायम राख्नु महत्त्वपूर्ण छ। नियामकहरूले एआईको छानबिन गर्न थालेका छन् - उदाहरणका लागि, EU को एआई ऐनले "उच्च-जोखिम" एआई प्रणालीहरूमा आवश्यकताहरू लागू गर्नेछ, र साइबर सुरक्षा एआई त्यो श्रेणीमा पर्न सक्छ। कम्पनीहरूले यी नियमहरू नेभिगेट गर्नुपर्नेछ र सम्भवतः जेनेरेटिभ एआईलाई जिम्मेवारीपूर्वक प्रयोग गर्न NIST एआई जोखिम व्यवस्थापन फ्रेमवर्क जस्ता मापदण्डहरू पालना गर्नुपर्नेछ ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। अनुपालन इजाजतपत्रमा पनि विस्तार हुन्छ: खुला-स्रोत वा तेस्रो-पक्ष मोडेलहरू प्रयोग गर्दा निश्चित प्रयोगहरूलाई प्रतिबन्धित गर्ने वा साझेदारी सुधारहरू आवश्यक पर्ने सर्तहरू हुन सक्छन्।

संक्षेपमा, जेनेरेटिभ एआई कुनै चाँदीको गोली होइन - यदि सावधानीपूर्वक लागू गरिएन भने, यसले अरूलाई समाधान गर्दा पनि नयाँ कमजोरीहरू प्रस्तुत गर्न सक्छ। २०२४ को विश्व आर्थिक मञ्चको एक अध्ययनले हाइलाइट गरेको छ कि ~४७% संस्थाहरूले आक्रमणकारीहरूद्वारा जेनेरेटिभ एआईमा भएको प्रगतिलाई प्राथमिक चिन्ताको रूपमा उल्लेख गर्छन्, जसले गर्दा यसलाई साइबर सुरक्षामा "जेनेरेटिभ एआईको सबैभन्दा चिन्ताजनक प्रभाव" [PDF] ग्लोबल साइबरसुरक्षा आउटलुक २०२५ | विश्व आर्थिक मञ्च ) ( साइबर सुरक्षामा जेनेरेटिभ एआई: एलएलएमको व्यापक समीक्षा ... )। त्यसकारण संस्थाहरूले सन्तुलित दृष्टिकोण अपनाउनुपर्छ: शासन, परीक्षण र मानव निरीक्षण मार्फत यी जोखिमहरूलाई कडाइका साथ व्यवस्थापन गर्दै एआईको फाइदाहरूको लाभ उठाउनुहोस्। हामी अर्को पटक त्यो सन्तुलन कसरी व्यावहारिक रूपमा प्राप्त गर्ने भन्ने बारेमा छलफल गर्नेछौं।

भविष्यको दृष्टिकोण: साइबर सुरक्षामा जेनेरेटिभ एआईको विकासशील भूमिका

भविष्यलाई हेर्दा, जेनेरेटिभ एआई साइबर सुरक्षा रणनीतिको अभिन्न अंग बन्न तयार छ - र त्यस्तै गरी, साइबर विरोधीहरूले शोषण गरिरहने उपकरण। बिरालो-मुसा गतिशीलता तीव्र हुनेछ, बारको दुबै छेउमा एआई हुनेछ। आगामी वर्षहरूमा जेनेरेटिभ एआईले साइबर सुरक्षालाई कसरी आकार दिन सक्छ भन्ने बारे केही भविष्यसूचक अन्तर्दृष्टिहरू यहाँ दिइएका छन्:

• एआई-अग्मेन्टेड साइबर डिफेन्स मानक बन्छ: २०२५ र त्यसपछिसम्म, हामी आशा गर्न सक्छौं कि धेरैजसो मध्यमदेखि ठूला संस्थाहरूले आफ्नो सुरक्षा सञ्चालनमा एआई-संचालित उपकरणहरू समावेश गर्नेछन्। जसरी एन्टिभाइरस र फायरवालहरू आज मानक छन्, एआई कोपाइलटहरू र विसंगति पत्ता लगाउने प्रणालीहरू सुरक्षा वास्तुकलाको आधारभूत घटक बन्न सक्छन्। यी उपकरणहरू सम्भवतः थप विशिष्ट हुनेछन् - उदाहरणका लागि, क्लाउड सुरक्षाको लागि, IoT उपकरण अनुगमनको लागि, अनुप्रयोग कोड सुरक्षाको लागि, र यस्तै अन्य विशिष्ट एआई मोडेलहरू, सबै एकसाथ काम गर्दै। एक भविष्यवाणीले उल्लेख गरेझैं, "२०२५ मा, जेनेरेटिभ एआई साइबर सुरक्षाको अभिन्न अंग हुनेछ, जसले संस्थाहरूलाई परिष्कृत र विकसित खतराहरू विरुद्ध सक्रिय रूपमा रक्षा गर्न सक्षम पार्नेछ" ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ )। एआईले वास्तविक-समय खतरा पत्ता लगाउने क्षमता बढाउनेछ, धेरै प्रतिक्रिया कार्यहरू स्वचालित गर्नेछ, र सुरक्षा टोलीहरूलाई म्यानुअल रूपमा भन्दा धेरै ठूलो मात्रामा डेटा व्यवस्थापन गर्न मद्दत गर्नेछ।

• निरन्तर सिकाइ र अनुकूलन: साइबरमा भविष्यका उत्पादनशील एआई प्रणालीहरू तुरुन्तै सिक्नमा , लगभग वास्तविक समयमा तिनीहरूको ज्ञान आधार अपडेट गर्नेछन्। यसले साँच्चै अनुकूलनीय प्रतिरक्षा निम्त्याउन सक्छ - कल्पना गर्नुहोस् कि एउटा एआई जसले बिहान अर्को कम्पनीमा नयाँ फिसिङ अभियानको बारेमा सिक्छ र दिउँसोसम्म प्रतिक्रियामा तपाईंको कम्पनीको इमेल फिल्टरहरू पहिले नै समायोजन गरिसकेको छ। क्लाउड-आधारित एआई सुरक्षा सेवाहरूले यस प्रकारको सामूहिक सिकाइलाई सहज बनाउन सक्छ, जहाँ एक संस्थाबाट बेनामी अन्तर्दृष्टिले सबै ग्राहकहरूलाई फाइदा पुर्‍याउँछ (धम्की इंटेल साझेदारी जस्तै, तर स्वचालित)। यद्यपि, संवेदनशील जानकारी साझा गर्नबाट बच्न र आक्रमणकारीहरूलाई साझा मोडेलहरूमा खराब डेटा फिड गर्नबाट रोक्नको लागि सावधानीपूर्वक ह्यान्डलिङ आवश्यक पर्नेछ।

• एआई र साइबरसुरक्षा प्रतिभाको अभिसरण: साइबरसुरक्षा पेशेवरहरूको सीप सेटमा एआई र डेटा विज्ञानमा दक्षता समावेश गर्न विकसित हुनेछ। जसरी आजका विश्लेषकहरूले क्वेरी भाषाहरू र स्क्रिप्टिङ सिक्छन्, भोलिका विश्लेषकहरूले एआई मोडेलहरूलाई नियमित रूपमा फाइन-ट्यून गर्न सक्छन् वा एआई कार्यान्वयन गर्न "प्लेबुकहरू" लेख्न सक्छन्। हामी "एआई सुरक्षा प्रशिक्षक" वा "साइबरसुरक्षा एआई इन्जिनियर" - ती व्यक्तिहरू जो एआई उपकरणहरूलाई संस्थाको आवश्यकताहरू अनुरूप अनुकूलन गर्न, तिनीहरूको कार्यसम्पादन प्रमाणित गर्न, र तिनीहरू सुरक्षित रूपमा सञ्चालन हुन्छन् भनी सुनिश्चित गर्न विशेषज्ञ छन्। अर्कोतर्फ, साइबरसुरक्षा विचारहरूले एआई विकासलाई बढ्दो रूपमा प्रभाव पार्नेछ। एआई प्रणालीहरू ग्राउन्ड अपबाट सुरक्षा सुविधाहरू (सुरक्षित वास्तुकला, छेडछाड पत्ता लगाउने, एआई निर्णयहरूको लागि अडिट लगहरू, आदि) सहित निर्माण गरिनेछ, र विश्वसनीय एआई (निष्पक्ष, व्याख्यायोग्य, बलियो, र सुरक्षित) को लागि फ्रेमवर्कले सुरक्षा-महत्वपूर्ण सन्दर्भहरूमा तिनीहरूको तैनातीलाई मार्गदर्शन गर्नेछ।

• थप परिष्कृत एआई-संचालित आक्रमणहरू: दुर्भाग्यवश, खतरा परिदृश्य पनि एआईसँगै विकसित हुनेछ। हामी शून्य-दिन कमजोरीहरू पत्ता लगाउन, अत्यधिक लक्षित भाला फिशिङ (जस्तै एआईले पूर्ण रूपमा अनुकूलित प्रलोभन सिर्जना गर्न सामाजिक सञ्जाल स्क्र्याप गर्ने) सिर्जना गर्न र बायोमेट्रिक प्रमाणीकरणलाई बाइपास गर्न वा धोखाधडी गर्न विश्वस्त डीपफेक आवाजहरू वा भिडियोहरू उत्पन्न गर्न एआईको बारम्बार प्रयोगको अपेक्षा गर्छौं। स्वचालित ह्याकिङ एजेन्टहरू देखा पर्न सक्छन् जसले न्यूनतम मानव निरीक्षणको साथ स्वतन्त्र रूपमा बहु-चरण आक्रमणहरू (जासूसी, शोषण, पार्श्व आन्दोलन, आदि) गर्न सक्छन्। यसले डिफेन्डरहरूलाई पनि एआईमा भर पर्न दबाब दिनेछ - अनिवार्य रूपमा स्वचालन बनाम स्वचालन । केही आक्रमणहरू मेसिन गतिमा हुन सक्छन्, जस्तै एआई बटहरूले हजारौं फिशिङ इमेल क्रमपरिवर्तनहरू प्रयास गर्दै कुनले फिल्टरहरू पार गर्छ भनेर हेर्न। साइबर प्रतिरक्षाहरूलाई समान गति र लचिलोपनमा सञ्चालन गर्न आवश्यक पर्दछ ( साइबर सुरक्षामा जेनेरेटिभ एआई के हो? - पालो अल्टो नेटवर्कहरू )।

• सुरक्षामा नियमन र नैतिक एआई: साइबर सुरक्षा कार्यहरूमा एआई गहिरो रूपमा सम्मिलित हुँदै जाँदा, यी एआई प्रणालीहरू जिम्मेवारीपूर्वक प्रयोग भएको सुनिश्चित गर्न ठूलो छानबिन र सम्भवतः नियमन हुनेछ। हामी सुरक्षामा एआईसँग सम्बन्धित फ्रेमवर्क र मापदण्डहरूको अपेक्षा गर्न सक्छौं। सरकारहरूले पारदर्शिताका लागि दिशानिर्देशहरू सेट गर्न सक्छन् - जस्तै, महत्त्वपूर्ण सुरक्षा निर्णयहरू (जस्तै शंकास्पद दुर्भावनापूर्ण गतिविधिको लागि कर्मचारीको पहुँच समाप्त गर्ने) मानव समीक्षा बिना एआई द्वारा मात्र गर्न सकिँदैन। एआई सुरक्षा उत्पादनहरूको लागि प्रमाणपत्रहरू पनि हुन सक्छन्, खरीददारहरूलाई आश्वस्त पार्न कि एआई पूर्वाग्रह, बलियोपन र सुरक्षाको लागि मूल्याङ्कन गरिएको छ। यसबाहेक, एआई-सम्बन्धित साइबर खतराहरू वरिपरि अन्तर्राष्ट्रिय सहयोग बढ्न सक्छ; उदाहरणका लागि, एआई-निर्मित विकृति वा केही एआई-संचालित साइबर हतियारहरू विरुद्ध मापदण्डहरू ह्यान्डल गर्ने सम्झौताहरू।

• फराकिलो एआई र आईटी इकोसिस्टमहरूसँग एकीकरण: साइबर सुरक्षामा जेनेरेटिभ एआई सम्भवतः अन्य एआई प्रणालीहरू र आईटी व्यवस्थापन उपकरणहरूसँग एकीकृत हुनेछ। उदाहरणका लागि, नेटवर्क अप्टिमाइजेसन व्यवस्थापन गर्ने एआईले परिवर्तनहरूले कमजोरीहरू नखोल्ने कुरा सुनिश्चित गर्न सुरक्षा एआईसँग काम गर्न सक्छ। एआई-संचालित व्यापार विश्लेषणले विसंगतिहरू (जस्तै आक्रमणको कारण सम्भावित वेबसाइट समस्याको साथ बिक्रीमा अचानक गिरावट) लाई सहसम्बन्धित गर्न सुरक्षा एआईहरूसँग डेटा साझा गर्न सक्छ। संक्षेपमा, एआई साइलोमा बस्ने छैन - यो संगठनको सञ्चालनको ठूलो बुद्धिमान कपडाको हिस्सा हुनेछ। यसले समग्र जोखिम व्यवस्थापनको लागि अवसरहरू खोल्छ जहाँ संगठनात्मक सुरक्षा मुद्राको 360-डिग्री दृश्य दिन एआई द्वारा परिचालन डेटा, खतरा डेटा, र भौतिक सुरक्षा डेटा पनि संयोजन गर्न सकिन्छ।

दीर्घकालीन रूपमा, आशा छ कि जेनेरेटिभ एआईले डिफेन्डरहरूको पक्षमा सन्तुलन झुकाउन मद्दत गर्नेछ। आधुनिक आईटी वातावरणको स्केल र जटिलतालाई ह्यान्डल गरेर, एआईले साइबरस्पेसलाई अझ सुरक्षित बनाउन सक्छ। यद्यपि, यो एउटा यात्रा हो, र हामी यी प्रविधिहरूलाई परिष्कृत गर्दै जाँदा र तिनीहरूलाई उचित रूपमा विश्वास गर्न सिक्दै जाँदा बढ्दो पीडाहरू हुनेछन्। जानकारीमा रहने र जिम्मेवार एआई अपनाउनेमा भविष्यका खतराहरूलाई नेभिगेट गर्न सबैभन्दा राम्रो स्थितिमा हुनेछन्।

गार्टनरको हालैको साइबरसुरक्षा प्रवृत्ति रिपोर्टले उल्लेख गरेझैं, "उत्पादक एआई प्रयोगका केसहरू (र जोखिमहरू) को उदयले रूपान्तरणको लागि दबाब सिर्जना गरिरहेको छ" ( साइबरसुरक्षा प्रवृत्तिहरू: रूपान्तरण मार्फत लचिलोपन - गार्टनर )। अनुकूलन गर्नेहरूले एआईलाई एक शक्तिशाली सहयोगीको रूपमा प्रयोग गर्नेछन्; पछि पर्नेहरूले एआई-सशक्त विरोधीहरूबाट आफूलाई पछाडि पारेको पाउन सक्छन्। एआईले साइबर युद्धभूमिलाई कसरी पुन: आकार दिन्छ भनेर परिभाषित गर्न आगामी केही वर्षहरू महत्त्वपूर्ण समय हुनेछन्।

साइबर सुरक्षामा जेनेरेटिभ एआई अपनाउने व्यावहारिक सुझावहरू

आफ्नो साइबर सुरक्षा रणनीतिमा जेनेरेटिभ एआई कसरी प्रयोग गर्ने भनेर मूल्याङ्कन गर्ने व्यवसायहरूका लागि, जिम्मेवार र प्रभावकारी अपनाउने मार्गदर्शन गर्न व्यावहारिक सुझावहरू र सिफारिसहरू

1. शिक्षा र तालिमबाट सुरु गर्नुहोस्: तपाईंको सुरक्षा टोली (र फराकिलो IT कर्मचारीहरू) ले जेनेरेटिभ AI ले के गर्न सक्छ र के गर्न सक्दैन भनेर बुझेको सुनिश्चित गर्नुहोस्। AI-संचालित सुरक्षा उपकरणहरूको आधारभूत कुराहरूमा तालिम प्रदान गर्नुहोस् र AI-सक्षम खतराहरू कभर गर्न सबै कर्मचारीहरूको लागि आफ्नो सुरक्षा जागरूकता कार्यक्रमहरू । उदाहरणका लागि, कर्मचारीहरूलाई सिकाउनुहोस् कि AI ले कसरी धेरै विश्वस्त फिसिङ घोटालाहरू र डीपफेक कलहरू उत्पन्न गर्न सक्छ। साथसाथै, कर्मचारीहरूलाई उनीहरूको काममा AI उपकरणहरूको सुरक्षित र अनुमोदित प्रयोगको बारेमा तालिम दिनुहोस्। राम्रोसँग जानकार प्रयोगकर्ताहरूले AI लाई गलत तरिकाले ह्यान्डल गर्ने वा AI-बृद्धि गरिएको आक्रमणको शिकार हुने सम्भावना कम हुन्छ ( साइबर सुरक्षामा जेनेरेटिभ AI कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )।

2. स्पष्ट एआई प्रयोग नीतिहरू परिभाषित गर्नुहोस्: जेनेरेटिभ एआईलाई कुनै पनि शक्तिशाली प्रविधि जस्तै व्यवहार गर्नुहोस् - शासनको साथ। एआई उपकरणहरू कसले प्रयोग गर्न सक्छ, कुन उपकरणहरू स्वीकृत छन्, र कुन उद्देश्यका लागि निर्दिष्ट गर्ने नीतिहरू विकास गर्नुहोस्। चुहावट रोक्न संवेदनशील डेटा ह्यान्डल गर्ने बारे दिशानिर्देशहरू समावेश गर्नुहोस् (जस्तै गोप्य डेटा फिड नगर्ने )। उदाहरणको रूपमा, तपाईंले सुरक्षा टोलीका सदस्यहरूलाई मात्र घटना प्रतिक्रियाको लागि आन्तरिक एआई सहायक प्रयोग गर्न अनुमति दिन सक्नुहुन्छ, र मार्केटिङले सामग्रीको लागि जाँच गरिएको एआई प्रयोग गर्न सक्छ - अरू सबै प्रतिबन्धित छन्। धेरै संस्थाहरूले अब आफ्ना आईटी नीतिहरूमा जेनेरेटिभ एआईलाई स्पष्ट रूपमा सम्बोधन गरिरहेका छन्, र प्रमुख मानक निकायहरूले प्रत्यक्ष प्रतिबन्धको सट्टा सुरक्षित प्रयोग नीतिहरूलाई प्रोत्साहन गर्छन् ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। यी नियमहरू र तिनीहरूको पछाडिको तर्क सबै कर्मचारीहरूलाई बताउन निश्चित गर्नुहोस्।

3. "छायाँ एआई" र मनिटर प्रयोगलाई कम गर्नुहोस्: छायाँ आईटी जस्तै, "छायाँ एआई" तब उत्पन्न हुन्छ जब कर्मचारीहरूले आईटीको ज्ञान बिना एआई उपकरणहरू वा सेवाहरू प्रयोग गर्न थाल्छन् (जस्तै अनधिकृत एआई कोड सहायक प्रयोग गर्ने विकासकर्ता)। यसले नदेखिने जोखिमहरू प्रस्तुत गर्न सक्छ। अनुमोदित एआई प्रयोग पत्ता लगाउन र नियन्त्रण गर्न । नेटवर्क अनुगमनले लोकप्रिय एआई एपीआईहरूमा जडानहरू फ्ल्याग गर्न सक्छ, र सर्वेक्षण वा उपकरण अडिटहरूले कर्मचारीहरूले के प्रयोग गरिरहेका छन् भनेर पत्ता लगाउन सक्छ। अनुमोदित विकल्पहरू प्रस्ताव गर्नुहोस् ताकि राम्रो अर्थ राख्ने कर्मचारीहरू बदमाश हुन प्रलोभनमा नपरोस् (उदाहरणका लागि, यदि मानिसहरूले यसलाई उपयोगी पाए भने आधिकारिक च्याटजीपीटी इन्टरप्राइज खाता प्रदान गर्नुहोस्)। एआई प्रयोगलाई प्रकाशमा ल्याएर, सुरक्षा टोलीहरूले जोखिमको मूल्याङ्कन र व्यवस्थापन गर्न सक्छन्। अनुगमन पनि प्रमुख हो - एआई उपकरण गतिविधिहरू र आउटपुटहरू सम्भव भएसम्म लग गर्नुहोस्, त्यसैले एआईले प्रभावित निर्णयहरूको लागि अडिट ट्रेल छ ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )।

4. एआईलाई रक्षात्मक रूपमा प्रयोग गर्नुहोस् - पछि नपर्नुहोस्: आक्रमणकारीहरूले एआई प्रयोग गर्नेछन् भनेर पहिचान गर्नुहोस्, त्यसैले तपाईंको रक्षाले पनि गर्नुपर्छ। जेनेरेटिभ एआईले तपाईंको सुरक्षा सञ्चालनहरूलाई तुरुन्तै सहयोग गर्न सक्ने केही उच्च-प्रभाव क्षेत्रहरू पहिचान गर्नुहोस् (सायद अलर्ट ट्राइज, वा स्वचालित लग विश्लेषण) र पाइलट परियोजनाहरू चलाउनुहोस्। द्रुत गतिमा चल्ने खतराहरूको सामना गर्न एआईको गति र स्केलको साथ आफ्नो प्रतिरक्षा बढाउनुहोस् साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। मालवेयर रिपोर्टहरू संक्षेप गर्न वा खतरा खोज प्रश्नहरू उत्पन्न गर्न एआई प्रयोग गर्ने जस्ता साधारण एकीकरणहरूले पनि विश्लेषकहरूको घण्टा बचत गर्न सक्छ। सानो सुरु गर्नुहोस्, परिणामहरू मूल्याङ्कन गर्नुहोस्, र पुनरावृत्ति गर्नुहोस्। सफलताहरूले फराकिलो एआई अपनाउने लागि केस निर्माण गर्नेछ। लक्ष्य एआईलाई बल गुणकको रूपमा प्रयोग गर्नु हो - उदाहरणका लागि, यदि फिसिङ आक्रमणहरूले तपाईंको हेल्पडेस्कलाई ओझेलमा पारिरहेका छन् भने, त्यो भोल्युमलाई सक्रिय रूपमा घटाउन एआई इमेल वर्गीकरणकर्ता तैनाथ गर्नुहोस्।

5. सुरक्षित र नैतिक एआई अभ्यासहरूमा लगानी गर्नुहोस्: जेनेरेटिभ एआई लागू गर्दा, सुरक्षित विकास र तैनाती अभ्यासहरू पालना गर्नुहोस्। निजी वा स्व-होस्ट गरिएको मोडेलहरू । यदि तेस्रो-पक्ष एआई सेवाहरू प्रयोग गर्दै हुनुहुन्छ भने, तिनीहरूको सुरक्षा र गोपनीयता उपायहरू (इन्क्रिप्शन, डेटा रिटेन्सन नीतिहरू, आदि) समीक्षा गर्नुहोस्। आफ्नो एआई उपकरणहरूमा पूर्वाग्रह, व्याख्यायोग्यता र बलियोपन जस्ता कुराहरूलाई व्यवस्थित रूपमा सम्बोधन गर्न एआई जोखिम व्यवस्थापन फ्रेमवर्कहरू (जस्तै NIST को एआई जोखिम व्यवस्थापन फ्रेमवर्क वा ISO/IEC मार्गदर्शन) समावेश गर्नुहोस् ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ? १० वास्तविक-विश्व उदाहरणहरू )। मर्मतसम्भारको भागको रूपमा मोडेल अपडेटहरू/प्याचहरूको लागि पनि योजना बनाउनुहोस् - एआई मोडेलहरूमा "जोखिमहरू" पनि हुन सक्छन् (जस्तै यदि तिनीहरू बहन थाले वा मोडेलमा नयाँ प्रकारको विरोधी आक्रमण पत्ता लाग्यो भने तिनीहरूलाई पुन: तालिम आवश्यक पर्न सक्छ)। आफ्नो एआई प्रयोगमा सुरक्षा र नैतिकतालाई बेक गरेर, तपाईंले परिणामहरूमा विश्वास निर्माण गर्नुहुन्छ र उदीयमान नियमहरूको अनुपालन सुनिश्चित गर्नुहुन्छ।

6. मानिसहरूलाई जानकारीमा राख्नुहोस्: साइबर सुरक्षामा मानव निर्णयलाई पूर्ण रूपमा प्रतिस्थापन नगरी सहयोग गर्न AI प्रयोग गर्नुहोस्। मानव प्रमाणीकरण आवश्यक पर्ने निर्णय बिन्दुहरू निर्धारण गर्नुहोस् (उदाहरणका लागि, AI ले घटना रिपोर्टको मस्यौदा तयार पार्न सक्छ, तर वितरण गर्नु अघि एक विश्लेषकले यसको समीक्षा गर्दछ; वा AI ले प्रयोगकर्ता खाता ब्लक गर्न सुझाव दिन सक्छ, तर एक मानवले त्यो कार्यलाई अनुमोदन गर्दछ)। यसले AI त्रुटिहरूलाई अनचेक हुनबाट मात्र रोक्दैन, तर तपाईंको टोलीलाई AI बाट सिक्न मद्दत गर्दछ र यसको विपरीत पनि। सहयोगी कार्यप्रवाहलाई प्रोत्साहन गर्नुहोस्: विश्लेषकहरूले AI आउटपुटहरू प्रश्न गर्न र विवेक जाँचहरू गर्न सहज महसुस गर्नुपर्छ। समयसँगै, यो संवादले AI (प्रतिक्रिया मार्फत) र विश्लेषकहरूको सीप दुवैलाई सुधार गर्न सक्छ। अनिवार्य रूपमा, आफ्नो प्रक्रियाहरू डिजाइन गर्नुहोस् ताकि AI र मानव शक्तिहरू एकअर्कालाई पूरक बनोस् - AI ले मात्रा र वेग ह्यान्डल गर्छ, मानिसहरूले अस्पष्टता र अन्तिम निर्णयहरू ह्यान्डल गर्छ।

7. मापन, निगरानी र समायोजन: अन्तमा, तपाईंको जेनेरेटिभ एआई उपकरणहरूलाई तपाईंको सुरक्षा इकोसिस्टमको जीवित घटकको रूपमा व्यवहार गर्नुहोस्। निरन्तर तिनीहरूको कार्यसम्पादन मापन गर्नुहोस् - के तिनीहरूले घटना प्रतिक्रिया समय घटाइरहेका छन्? पहिले नै खतराहरू समातिरहेका छन्? गलत सकारात्मक दर कसरी प्रवृत्ति भइरहेको छ? टोलीबाट प्रतिक्रिया माग्नुहोस्: के एआईका सिफारिसहरू उपयोगी छन्, वा यसले आवाज सिर्जना गरिरहेको छ? मोडेलहरूलाई परिष्कृत गर्न, प्रशिक्षण डेटा अद्यावधिक गर्न, वा एआई कसरी एकीकृत छ भनेर समायोजन गर्न यी मेट्रिक्स प्रयोग गर्नुहोस्। साइबर खतराहरू र व्यवसाय आवश्यकताहरू विकसित हुन्छन्, र प्रभावकारी रहनको लागि तपाईंको एआई मोडेलहरूलाई समय-समयमा अद्यावधिक वा पुन: प्रशिक्षित गर्नुपर्छ। मोडेल शासनको लागि योजना बनाउनुहोस्, जसमा यसको मर्मतसम्भारको लागि जिम्मेवार को हो र कति पटक यसको समीक्षा गरिन्छ भन्ने समावेश छ। एआईको जीवनचक्रलाई सक्रिय रूपमा व्यवस्थापन गरेर, तपाईंले यो दायित्व होइन, सम्पत्ति रहिरहन्छ भन्ने कुरा सुनिश्चित गर्नुहुन्छ।

निष्कर्षमा, जेनेरेटिभ एआईले साइबर सुरक्षा क्षमताहरूलाई उल्लेखनीय रूपमा बढाउन सक्छ, तर सफल अपनाउन विचारशील योजना र निरन्तर निरीक्षण आवश्यक पर्दछ। आफ्ना मानिसहरूलाई शिक्षित गर्ने, स्पष्ट दिशानिर्देशहरू सेट गर्ने र सन्तुलित, सुरक्षित तरिकाले एआईलाई एकीकृत गर्ने व्यवसायहरूले छिटो, स्मार्ट खतरा व्यवस्थापनको पुरस्कार पाउनेछन्। ती टेकवेहरूले रोडम्याप प्रदान गर्दछ: एआई स्वचालनसँग मानव विशेषज्ञतालाई संयोजन गर्ने, शासन आधारभूत कुराहरू समेट्ने, र एआई प्रविधि र खतरा परिदृश्य दुवै अपरिहार्य रूपमा विकसित हुँदै जाँदा चपलता कायम राख्ने।

यी व्यावहारिक कदमहरू चालेर, संस्थाहरूले "साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ?" - सिद्धान्तमा मात्र होइन, दैनिक व्यवहारमा पनि - र यसरी हाम्रो बढ्दो डिजिटल र एआई-संचालित संसारमा आफ्नो प्रतिरक्षालाई बलियो बनाउन सक्छन्। ( साइबर सुरक्षामा जेनेरेटिभ एआई कसरी प्रयोग गर्न सकिन्छ )

यसपछि पढ्न मन लाग्न सक्ने श्वेतपत्रहरू:

🔗 एआईले प्रतिस्थापन गर्न नसक्ने जागिरहरू र एआईले कस्ता जागिरहरूलाई प्रतिस्थापन गर्नेछ?
कुन भूमिकाहरू स्वचालनबाट सुरक्षित छन् र कुन छैनन् भन्ने बारेमा विश्वव्यापी दृष्टिकोण अन्वेषण गर्नुहोस्।

🔗 के एआईले शेयर बजारको भविष्यवाणी गर्न सक्छ?
बजारको चालको पूर्वानुमान गर्ने एआईको क्षमता वरिपरि रहेका सीमितताहरू, सफलताहरू र मिथकहरूमा नजिकबाट हेर्दा।

🔗 मानव हस्तक्षेप बिना जेनेरेटिभ एआई के गर्नमा भर पर्न सक्छ?
एआई कहाँ स्वतन्त्र रूपमा काम गर्न सक्छ र कहाँ मानव निरीक्षण अझै पनि आवश्यक छ भनेर बुझ्नुहोस्।