सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा करता येईल?

परिचय

जनरेटिव्ह एआय – म्हणजेच नवीन मजकूर किंवा अंदाज तयार करण्यास सक्षम असलेली कृत्रिम बुद्धिमत्ता प्रणाली – सायबरसुरक्षेमध्ये एक परिवर्तनकारी शक्ती म्हणून उदयास येत आहे. ओपनएआयच्या (OpenAI) जीपीटी-४ (GPT-4) सारख्या साधनांनी जटिल डेटाचे विश्लेषण करण्याची आणि मानवासारखा मजकूर तयार करण्याची क्षमता प्रदर्शित केली आहे, ज्यामुळे सायबर धोक्यांपासून बचाव करण्यासाठी नवीन दृष्टिकोन शक्य झाले आहेत. विविध उद्योगांमधील सायबरसुरक्षा व्यावसायिक आणि व्यावसायिक निर्णयकर्ते, विकसित होत असलेल्या हल्ल्यांविरुद्ध जनरेटिव्ह एआय संरक्षण कसे मजबूत करू शकते याचा शोध घेत आहेत. वित्त आणि आरोग्यसेवा क्षेत्रापासून ते किरकोळ विक्री आणि सरकारी क्षेत्रापर्यंत, प्रत्येक क्षेत्रातील संस्थांना अत्याधुनिक फिशिंगचे प्रयत्न, मालवेअर आणि इतर धोक्यांचा सामना करावा लागतो, ज्यांचा सामना करण्यासाठी जनरेटिव्ह एआय मदत करू शकते. या श्वेतपत्रिकेत, आम्ही जनरेटिव्ह एआयचा सायबरसुरक्षेमध्ये कसा उपयोग केला जाऊ शकतो याचे, तसेच त्याचे वास्तविक उपयोग, भविष्यातील शक्यता आणि ते स्वीकारण्यासाठी महत्त्वाच्या बाबींवर प्रकाश टाकतो.

जनरेटिव्ह एआय हे पारंपरिक ॲनालिटिक एआयपेक्षा वेगळे आहे, कारण ते केवळ पॅटर्न्सच ओळखत नाही, तर तयार करते – मग ते संरक्षण यंत्रणांना प्रशिक्षित करण्यासाठी हल्ल्यांचे सिम्युलेशन असो किंवा जटिल सुरक्षा डेटासाठी नैसर्गिक-भाषेतील स्पष्टीकरणे तयार करणे असो. ही दुहेरी क्षमता त्याला दुधारी तलवार बनवते: ते शक्तिशाली नवीन बचावात्मक साधने प्रदान करते, परंतु धोकादायक घटक त्याचा गैरफायदा देखील घेऊ शकतात. पुढील विभाग सायबरसुरक्षेमधील जनरेटिव्ह एआयच्या विविध उपयोगांचा शोध घेतात, ज्यात फिशिंग ओळख स्वयंचलित करण्यापासून ते घटना प्रतिसाद सुधारण्यापर्यंतच्या बाबींचा समावेश आहे. आम्ही या एआय नवकल्पनांमुळे मिळणाऱ्या फायद्यांवर, तसेच संस्थांनी व्यवस्थापित करणे आवश्यक असलेल्या धोक्यांवर (जसे की एआय "भ्रम" किंवा विरोधकांकडून होणारा गैरवापर) देखील चर्चा करतो. शेवटी, आम्ही व्यवसायांना जनरेटिव्ह एआयचे मूल्यांकन करण्यास आणि त्यांच्या सायबरसुरक्षा धोरणांमध्ये जबाबदारीने समाकलित करण्यास मदत करण्यासाठी व्यावहारिक निष्कर्ष प्रदान करतो.

सायबरसुरक्षेमध्ये जनरेटिव्ह एआय: एक आढावा

सायबरसुरक्षेमधील जनरेटिव्ह एआय म्हणजे असे एआय मॉडेल्स – अनेकदा मोठे लँग्वेज मॉडेल्स किंवा इतर न्यूरल नेटवर्क्स – जे सुरक्षेच्या कामांमध्ये मदत करण्यासाठी अंतर्दृष्टी, शिफारसी, कोड किंवा कृत्रिम डेटा देखील तयार करू शकतात. केवळ प्रेडिक्टिव्ह मॉडेल्सच्या विपरीत, जनरेटिव्ह एआय विविध परिस्थितींचे सिम्युलेशन करू शकते आणि आपल्या ट्रेनिंग डेटाच्या आधारावर मानवाला वाचता येण्याजोगे आउटपुट (उदा. अहवाल, अलर्ट्स किंवा अगदी दुर्भावनापूर्ण कोडचे नमुने) तयार करू शकते. या क्षमतेचा उपयोग पूर्वीपेक्षा अधिक गतिमान मार्गांनी धोक्यांचा अंदाज लावण्यासाठी, ते शोधण्यासाठी आणि त्यांना प्रतिसाद देण्यासाठी केला जात आहे ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स ). उदाहरणार्थ, जनरेटिव्ह मॉडेल्स मोठ्या लॉग्स किंवा थ्रेट इंटेलिजन्स रिपॉझिटरीजचे विश्लेषण करून एक संक्षिप्त सारांश किंवा शिफारस केलेली कृती तयार करू शकतात, ज्यामुळे ते सुरक्षा टीमसाठी जवळजवळ एका एआय "सहाय्यका"प्रमाणे काम करतात.

सायबर संरक्षणासाठी जनरेटिव्ह एआयच्या सुरुवातीच्या अंमलबजावणीने आश्वासक परिणाम दाखवले आहेत. २०२३ मध्ये, मायक्रोसॉफ्टने सिक्युरिटी कोपायलट सादर केले , जे सुरक्षा विश्लेषकांसाठी एक GPT-4-शक्तीवर चालणारे सहाय्यक आहे. हे सायबर हल्ले ओळखण्यास आणि मायक्रोसॉफ्ट दररोज प्रक्रिया करत असलेल्या ६५ ट्रिलियन सिग्नल्सची छाननी करण्यास मदत करते ( मायक्रोसॉफ्ट सिक्युरिटी कोपायलट हे सायबर सुरक्षेसाठी एक नवीन GPT-4 एआय सहाय्यक आहे | द व्हर्ज ). विश्लेषक या प्रणालीला नैसर्गिक भाषेत सूचना देऊ शकतात (उदा. "गेल्या २४ तासांतील सर्व सुरक्षा घटनांचा सारांश द्या" ), आणि कोपायलट एक उपयुक्त वर्णनात्मक सारांश तयार करेल. त्याचप्रमाणे, गूगलचे थ्रेट इंटेलिजन्स एआय, गूगलच्या विशाल थ्रेट इंटेल डेटाबेसमध्ये संवादात्मक शोध सक्षम करण्यासाठी जेमिनी नावाचे जनरेटिव्ह मॉडेल वापरते , संशयास्पद कोडचे त्वरित विश्लेषण करते आणि मालवेअर शोधकांना मदत करण्यासाठी निष्कर्षांचा सारांश देते ( सायबर सुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे ). ही उदाहरणे क्षमता स्पष्ट करतात: जनरेटिव्ह एआय जटिल, मोठ्या प्रमाणातील सायबर सुरक्षा डेटावर प्रक्रिया करू शकते आणि निष्कर्ष सुलभ स्वरूपात सादर करू शकते, ज्यामुळे निर्णय घेण्याची प्रक्रिया वेगवान होते.

त्याच वेळी, जनरेटिव्ह एआय अत्यंत वास्तववादी बनावट सामग्री तयार करू शकते, जे सिम्युलेशन आणि प्रशिक्षणासाठी (आणि दुर्दैवाने, सोशल इंजिनिअरिंग करणाऱ्या हल्लेखोरांसाठी) एक वरदान आहे. जसजसे आपण विशिष्ट उपयोगांकडे पुढे जाऊ, तसतसे आपल्या लक्षात येईल की जनरेटिव्ह एआयची संश्लेषण आणि विश्लेषण करण्याची त्याच्या अनेक सायबरसुरक्षा अनुप्रयोगांचा आधार आहे. खाली, आम्ही फिशिंग प्रतिबंधापासून ते सुरक्षित सॉफ्टवेअर विकासापर्यंतच्या प्रमुख उपयोगांचा सखोल अभ्यास करणार आहोत, तसेच विविध उद्योगांमध्ये प्रत्येकाचा वापर कसा केला जात आहे याची उदाहरणेही दिली आहेत.

सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचे प्रमुख अनुप्रयोग

आकृती: सायबरसुरक्षेमध्ये जनरेटिव्ह एआयच्या प्रमुख वापराच्या प्रकरणांमध्ये सुरक्षा पथकांसाठी एआय सह-पायलट, कोड भेद्यता विश्लेषण, अनुकूली धोका शोधणे, शून्य-दिवस हल्ला सिम्युलेशन, वर्धित बायोमेट्रिक सुरक्षा आणि फिशिंग शोधणे यांचा समावेश आहे (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी 6 वापर प्रकरणे [+ उदाहरणे] ).

फिशिंग शोधणे आणि प्रतिबंध

फिशिंग हा सर्वात व्यापक सायबर धोक्यांपैकी एक आहे, जो वापरकर्त्यांना दुर्भावनापूर्ण लिंक्सवर क्लिक करण्यास किंवा क्रेडेन्शियल्स उघड करण्यास फसवतो. फिशिंगचे प्रयत्न ओळखण्यासाठी आणि यशस्वी हल्ले रोखण्यासाठी वापरकर्त्यांच्या प्रशिक्षणाला बळकटी देण्यासाठी जनरेटिव्ह एआयचा वापर केला जात आहे. बचावात्मक बाजूने, एआय मॉडेल्स ईमेलमधील मजकूर आणि पाठवणाऱ्याच्या वर्तनाचे विश्लेषण करून फिशिंगची अशी सूक्ष्म चिन्हे ओळखू शकतात, जी नियम-आधारित फिल्टर्सच्या नजरेतून सुटू शकतात. खऱ्या आणि फसव्या ईमेल्सच्या मोठ्या डेटासेटमधून शिकून, एक जनरेटिव्ह मॉडेल भाषेतील, शब्दरचनेतील किंवा संदर्भातील विसंगती ओळखू शकते, ज्या घोटाळ्याचे संकेत देतात – जरी व्याकरण आणि स्पेलिंगमुळे ते उघड होत नसले तरीही. खरं तर, पालो अल्टो नेटवर्क्सच्या संशोधकांनी नमूद केले आहे की जनरेटिव्ह एआय "फिशिंग ईमेल्सची अशी सूक्ष्म चिन्हे ओळखू शकते जी अन्यथा लक्षात येणार नाहीत," ज्यामुळे संस्थांना घोटाळेबाजांच्या एक पाऊल पुढे राहण्यास मदत होते (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स).

सुरक्षा पथके फिशिंग हल्ल्यांचे अनुकरण . उदाहरणार्थ, आयर्नस्केल्सने एक जीपीटी-सक्षम फिशिंग सिम्युलेशन टूल सादर केले, जे संस्थेच्या कर्मचाऱ्यांसाठी तयार केलेले बनावट फिशिंग ईमेल आपोआप तयार करते (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे). हे एआय-निर्मित ईमेल हल्लेखोरांच्या नवीनतम डावपेचांचे प्रतिबिंब दाखवतात, ज्यामुळे कर्मचाऱ्यांना फिशिंग मजकूर ओळखण्याचा वास्तविक सराव मिळतो. असे वैयक्तिक प्रशिक्षण महत्त्वपूर्ण आहे, कारण हल्लेखोर स्वतः अधिक विश्वासार्ह आमिषे तयार करण्यासाठी एआयचा अवलंब करत आहेत. विशेष म्हणजे, जनरेटिव्ह एआय अत्यंत सुबक फिशिंग संदेश तयार करू शकत असले तरी (सहज ओळखता येण्याजोग्या तुटक इंग्रजीचे दिवस आता गेले आहेत), संरक्षकांना असे आढळले आहे की एआय अजिंक्य नाही. २०२४ मध्ये, आयबीएम सिक्युरिटीच्या संशोधकांनी मानवाने लिहिलेल्या फिशिंग ईमेलची एआय-निर्मित ईमेलशी तुलना करणारा एक प्रयोग केला आणि "आश्चर्यकारकपणे, एआय-निर्मित ईमेल त्यांचे व्याकरण बरोबर असूनही सहज ओळखता येत होते" (सायबरसुरक्षेत जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). यावरून असे सूचित होते की, मानवी अंतर्ज्ञान आणि एआय-सहाय्यित शोध यांच्या संयोगानेही एआय-लिखित फसवणुकीमधील सूक्ष्म विसंगती किंवा मेटाडेटा संकेत ओळखता येतात.

जनरेटिव्ह एआय इतर मार्गांनीही फिशिंगपासून बचाव करण्यास मदत करते. संशयास्पद ईमेलची चाचणी करणारे स्वयंचलित प्रतिसाद किंवा फिल्टर्स तयार करण्यासाठी मॉडेल्सचा वापर केला जाऊ शकतो . उदाहरणार्थ, एखादी एआय प्रणाली पाठवणाऱ्याची सत्यता पडताळण्यासाठी विशिष्ट प्रश्नांसह ईमेलला उत्तर देऊ शकते किंवा सँडबॉक्समध्ये ईमेलमधील लिंक्स आणि अटॅचमेंट्सचे विश्लेषण करण्यासाठी एलएलएम (LLM) वापरू शकते, आणि नंतर कोणत्याही दुर्भावनापूर्ण हेतूचा सारांश देऊ शकते. एनव्हिडियाचे सुरक्षा प्लॅटफॉर्म मॉर्फियस या क्षेत्रात एआयची शक्ती दाखवते – ते ईमेलचे वेगाने विश्लेषण आणि वर्गीकरण करण्यासाठी जनरेटिव्ह एनएलपी मॉडेल्सचा वापर करते, आणि पारंपारिक सुरक्षा साधनांच्या तुलनेत स्पिअर-फिशिंग ईमेल शोधण्यात २१% सुधारणा झाल्याचे आढळले आहे ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). मॉर्फियस वापरकर्त्याच्या संवाद पद्धतींचे प्रोफाइलिंग करून असामान्य वर्तन (जसे की वापरकर्ता अचानक अनेक बाह्य पत्त्यांवर ईमेल पाठवणे) देखील शोधते, जे फिशिंग ईमेल पाठवणाऱ्या हॅक झालेल्या खात्याचे संकेत देऊ शकते.

प्रत्यक्षात, उद्योगांमधील कंपन्या सोशल इंजिनिअरिंग हल्ल्यांसाठी ईमेल आणि वेब ट्रॅफिक फिल्टर करण्यासाठी एआयवर विश्वास ठेवू लागल्या आहेत. उदाहरणार्थ, वित्त कंपन्या वायर फसवणूक होऊ शकणाऱ्या तोतयागिरीच्या प्रयत्नांसाठी संप्रेषण स्कॅन करण्यासाठी जनरेटिव्ह एआय वापरतात, तर आरोग्य सेवा प्रदाते फिशिंग-संबंधित उल्लंघनांपासून रुग्णांच्या डेटाचे संरक्षण करण्यासाठी एआय वापरतात. वास्तववादी फिशिंग परिस्थिती निर्माण करून आणि दुर्भावनापूर्ण संदेशांची वैशिष्ट्ये ओळखून, जनरेटिव्ह एआय फिशिंग प्रतिबंधक धोरणांमध्ये एक शक्तिशाली थर जोडते. निष्कर्ष: हल्लेखोर त्यांचा खेळ वाढवण्यासाठी समान तंत्रज्ञानाचा वापर करत असले तरीही, एआय फिशिंग हल्ले जलद आणि अधिक अचूकपणे शोधण्यात आणि नि:शस्त्र करण्यात मदत करू शकते

मालवेअर शोधणे आणि धोक्याचे विश्लेषण

आधुनिक मालवेअर सतत विकसित होत असतो – हल्लेखोर अँटीव्हायरस सिग्नेचरला चकमा देण्यासाठी नवीन व्हेरिएंट तयार करतात किंवा कोड अस्पष्ट करतात. जनरेटिव्ह एआय मालवेअर शोधण्यासाठी आणि त्याचे वर्तन समजून घेण्यासाठी दोन्हीसाठी नवीन तंत्रे प्रदान करते. एक पद्धत म्हणजे मालवेअरचे “इव्हिल ट्विन्स” तयार: सुरक्षा संशोधक एका ज्ञात मालवेअरचा नमुना जनरेटिव्ह मॉडेलमध्ये टाकून त्या मालवेअरचे अनेक उत्परिवर्तित व्हेरिएंट तयार करू शकतात. असे केल्याने, हल्लेखोर कोणते बदल करू शकतो याचा ते प्रभावीपणे अंदाज लावतात. हे एआय-निर्मित व्हेरिएंट नंतर अँटीव्हायरस आणि इंट्रूजन डिटेक्शन सिस्टीमला प्रशिक्षित करण्यासाठी वापरले जाऊ शकतात, जेणेकरून मालवेअरच्या सुधारित आवृत्त्या देखील प्रत्यक्ष वापरात असताना ओळखल्या जातील (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). ही सक्रिय रणनीती ते चक्र तोडण्यास मदत करते, जिथे हॅकर्स पकडले जाण्यापासून वाचण्यासाठी त्यांच्या मालवेअरमध्ये थोडे बदल करतात आणि प्रत्येक वेळी बचाव करणाऱ्यांना नवीन सिग्नेचर लिहिण्यासाठी धडपड करावी लागते. एका इंडस्ट्री पॉडकास्टमध्ये नमूद केल्याप्रमाणे, सुरक्षा तज्ञ आता जनरेटिव्ह एआयचा वापर “नेटवर्क ट्रॅफिकचे अनुकरण करण्यासाठी आणि अत्याधुनिक हल्ल्यांची नक्कल करणारे दुर्भावनापूर्ण पेलोड तयार करण्यासाठी” करतात, ज्यामुळे ते एकाच उदाहरणाऐवजी धोक्यांच्या संपूर्ण कुटुंबाविरुद्ध त्यांच्या संरक्षणाची ताण-चाचणी करतात. या अनुकूलनशील धोका शोधन प्रणालीमुळे , सुरक्षा साधने पॉलिमॉर्फिक मालवेअरला तोंड देण्यासाठी अधिक सक्षम बनतात, जे अन्यथा भेदून जाऊ शकले असते.

शोधण्यापलीकडे, जनरेटिव्ह एआय मालवेअर विश्लेषण आणि रिव्हर्स इंजिनिअरिंगमध्ये, जी पारंपरिकरित्या थ्रेट अॅनालिस्टसाठी (धोका विश्लेषकांसाठी) श्रम-केंद्रित कामे आहेत. मोठ्या लँग्वेज मॉडेल्सना संशयास्पद कोड किंवा स्क्रिप्ट्स तपासण्याचे आणि तो कोड काय करण्यासाठी आहे हे साध्या भाषेत समजावून सांगण्याचे काम दिले जाऊ शकते. याचे एक वास्तविक उदाहरण म्हणजे व्हायरसटोटल कोड इनसाइट (VirusTotal Code Insight), जे गूगलच्या व्हायरसटोटलचे एक वैशिष्ट्य आहे. हे संभाव्यतः दुर्भावनापूर्ण कोडचा नैसर्गिक भाषेत सारांश तयार करण्यासाठी जनरेटिव्ह एआय मॉडेलचा (गूगलचे सेक-पाम - Sec-PaLM) वापर करते (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक उदाहरणे). हे मूलतः "सुरक्षा कोडिंगसाठी समर्पित चॅटजीपीटीचा (ChatGPT) एक प्रकार" आहे, जे मानवी विश्लेषकांना धोके समजून घेण्यास मदत करण्यासाठी २४/७ काम करणाऱ्या एआय मालवेअर विश्लेषकाप्रमाणे कार्य करते (सायबरसुरक्षेत जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). अनोळखी स्क्रिप्ट किंवा बायनरी कोडचा सखोल अभ्यास करण्याऐवजी, सुरक्षा टीममधील सदस्याला AI कडून तात्काळ स्पष्टीकरण मिळू शकते – उदाहरणार्थ, “ही स्क्रिप्ट XYZ सर्व्हरवरून एक फाईल डाउनलोड करण्याचा आणि नंतर सिस्टम सेटिंग्जमध्ये बदल करण्याचा प्रयत्न करते, जे मालवेअरच्या वर्तनाचे द्योतक आहे.” यामुळे घटनेला प्रतिसाद देण्याची प्रक्रिया लक्षणीयरीत्या वेगवान होते, कारण विश्लेषक पूर्वीपेक्षा अधिक वेगाने नवीन मालवेअरचे वर्गीकरण करून ते समजू शकतात.

जनरेटिव्ह एआयचा वापर मोठ्या डेटासेटमधील मालवेअर शोधण्यासाठी. पारंपरिक अँटीव्हायरस इंजिन ज्ञात सिग्नेचरसाठी फाइल्स स्कॅन करतात, परंतु एक जनरेटिव्ह मॉडेल फाइलच्या वैशिष्ट्यांचे मूल्यांकन करू शकते आणि शिकलेल्या पॅटर्नच्या आधारे ती मालवेअर आहे की नाही याचा अंदाजही लावू शकते. अब्जावधी फाइल्सच्या (मालवेअर आणि निरुपद्रवी) गुणधर्मांचे विश्लेषण करून, जिथे कोणतीही स्पष्ट सिग्नेचर अस्तित्वात नाही तिथेही एआय मालवेअरचा हेतू पकडू शकते. उदाहरणार्थ, जनरेटिव्ह मॉडेल एखाद्या एक्झिक्युटेबलला संशयास्पद म्हणून चिन्हांकित करू शकते, कारण त्याचे बिहेवियर प्रोफाइल 'दिसते' , जरी ती बायनरी नवीन असली तरी. हे वर्तन-आधारित डिटेक्शन नवीन किंवा झिरो-डे मालवेअरचा सामना करण्यास मदत करते. गुगलचे थ्रेट इंटेलिजन्स एआय (क्रॉनिकल/मँडियंटचा भाग) संभाव्य मालवेअर कोडचे विश्लेषण करण्यासाठी आणि "मालवेअर व इतर प्रकारच्या धोक्यांचा सामना करण्यासाठी सुरक्षा व्यावसायिकांना अधिक कार्यक्षमतेने आणि प्रभावीपणे मदत करण्यासाठी" आपल्या जनरेटिव्ह मॉडेलचा वापर करते, असे म्हटले जाते. (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे).

दुसरीकडे, आपण हे मान्य केले पाहिजे की हल्लेखोर येथे जनरेटिव्ह एआयचा वापर स्वतःला जुळवून घेणारे मालवेअर स्वयंचलितपणे तयार करण्यासाठी देखील करू शकतात. खरे तर, सुरक्षा तज्ञ चेतावणी देतात की जनरेटिव्ह एआय सायबर गुन्हेगारांना असे मालवेअर विकसित करण्यास मदत करू शकते जे शोधणे अधिक कठीण आहे (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स). जोपर्यंत एखादे मालवेअर सर्व ज्ञात अँटीव्हायरस तपासण्यांना चुकवत नाही, तोपर्यंत त्याला वारंवार बदलण्यासाठी (त्याची फाइल संरचना, एन्क्रिप्शन पद्धती इत्यादी बदलण्यासाठी) एआय मॉडेलला सूचना दिल्या जाऊ शकतात. हा विरोधी वापर एक वाढती चिंता आहे (ज्याला कधीकधी "एआय-पॉवर्ड मालवेअर" किंवा 'पॉलिमॉर्फिक मालवेअर ॲज अ सर्व्हिस' असेही म्हटले जाते). आपण अशा धोक्यांवर नंतर चर्चा करू, परंतु हे अधोरेखित करते की जनरेटिव्ह एआय हे बचावकर्ते आणि हल्लेखोर या दोघांकडून वापरल्या जाणाऱ्या पाठशिवणीच्या खेळातील एक साधन आहे.

एकंदरीत, जनरेटिव्ह एआय सुरक्षा पथकांना हल्लेखोराप्रमाणे विचार करण्यास सक्षम करून मालवेअर संरक्षण वाढवते – ज्यामुळे ते संस्थेमध्येच नवीन धोके आणि उपाय तयार करू शकतात. डिटेक्शन रेट सुधारण्यासाठी सिंथेटिक मालवेअर तयार करणे असो किंवा नेटवर्कमध्ये आढळलेल्या खऱ्या मालवेअरचे स्पष्टीकरण देण्यासाठी आणि त्याला रोखण्यासाठी एआयचा वापर करणे असो, ही तंत्रे सर्व उद्योगांमध्ये लागू होतात. एखादी बँक स्प्रेडशीटमधील संशयास्पद मॅक्रोचे त्वरित विश्लेषण करण्यासाठी एआय-चालित मालवेअर विश्लेषणाचा वापर करू शकते, तर एखादी उत्पादन कंपनी औद्योगिक नियंत्रण प्रणालींना लक्ष्य करणारे मालवेअर शोधण्यासाठी एआयवर अवलंबून राहू शकते. पारंपरिक मालवेअर विश्लेषणाला जनरेटिव्ह एआयची जोड देऊन, संस्था मालवेअर मोहिमांना पूर्वीपेक्षा अधिक वेगाने आणि अधिक सक्रियपणे प्रतिसाद देऊ शकतात.

धोक्याची बुद्धिमत्ता आणि स्वयंचलित विश्लेषण

दररोज, संस्थांवर धोक्याच्या गुप्त माहितीच्या डेटाचा भडिमार होत असतो – यामध्ये नव्याने सापडलेल्या धोक्याच्या निर्देशकांच्या (IOCs) फीड्सपासून ते हॅकर्सच्या उदयोन्मुख डावपेचांबद्दलच्या विश्लेषकांच्या अहवालांपर्यंत सर्वांचा समावेश असतो. या माहितीच्या महापुरातून योग्य माहिती निवडून त्यातून कृती करण्यायोग्य निष्कर्ष काढणे हे सुरक्षा पथकांसमोरील एक आव्हान आहे. धोक्याच्या गुप्त माहितीचे विश्लेषण आणि वापर स्वयंचलित करण्यासाठी. अनेक अहवाल किंवा डेटाबेस नोंदी स्वतः हाताने वाचण्याऐवजी, विश्लेषक एआयचा वापर करून यंत्राच्या वेगाने धोक्याच्या गुप्त माहितीचा सारांश आणि संदर्भ स्पष्ट करू शकतात.

याचे एक ठोस उदाहरण म्हणजे गूगलचा थ्रेट इंटेलिजन्स सूट, जो जनरेटिव्ह एआय (जेमिनी मॉडेल) ला मँडियंट आणि व्हायरसटोटलकडून मिळालेल्या गूगलच्या थ्रेट डेटाच्या प्रचंड साठ्यासोबत एकत्रित करतो. हा एआय “गूगलच्या थ्रेट इंटेलिजन्सच्या विशाल भांडारात संवादात्मक शोध” (conversational search), ज्यामुळे वापरकर्त्यांना धोक्यांबद्दल नैसर्गिक प्रश्न विचारून संक्षिप्त उत्तरे मिळवता येतात (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे). उदाहरणार्थ, एखादा विश्लेषक विचारू शकतो, “आपल्या उद्योगाला लक्ष्य करणाऱ्या थ्रेट ग्रुप X शी संबंधित कोणतेही मालवेअर आपण पाहिले आहे का?” आणि एआय संबंधित माहिती मिळवेल, कदाचित अशी नोंद करेल की “होय, थ्रेट ग्रुप X गेल्या महिन्यात मालवेअर Y वापरून केलेल्या फिशिंग मोहिमेशी जोडलेला होता”, सोबतच त्या मालवेअरच्या वर्तनाचा सारांशही देईल. यामुळे माहिती गोळा करण्यासाठी लागणारा वेळ लक्षणीयरीत्या कमी होतो, ज्यासाठी अन्यथा अनेक साधनांना क्वेरी करण्याची किंवा लांबलचक अहवाल वाचण्याची आवश्यकता भासली असती.

जनरेटिव्ह एआय धोक्यांच्या ट्रेंड्समध्ये सहसंबंध जोडून त्यांचा सारांश देखील तयार करू शकते . ते हजारो सुरक्षा ब्लॉग पोस्ट्स, डेटा चोरीच्या बातम्या आणि डार्क वेबवरील चर्चा तपासून, CISO च्या ब्रीफिंगसाठी "या आठवड्यातील प्रमुख सायबर धोके" यांचा एक कार्यकारी सारांश तयार करू शकते. पारंपरिकरित्या, या पातळीवरील विश्लेषण आणि अहवाल तयार करण्यासाठी मोठ्या प्रमाणात मानवी प्रयत्नांची आवश्यकता होती; आता एक सु-प्रशिक्षित मॉडेल काही सेकंदात त्याचा मसुदा तयार करू शकते, ज्यात मानव केवळ आउटपुटमध्ये सुधारणा करतात. झिरोफॉक्स (ZeroFox) सारख्या कंपन्यांनी फॉक्सजीपीटी (FoxGPT ) नावाचे एक जनरेटिव्ह एआय टूल विकसित केले आहे, जे विशेषतः दुर्भावनापूर्ण सामग्री आणि फिशिंग डेटासह "मोठ्या डेटासेट्समधील गुप्त माहितीचे विश्लेषण आणि सारांश जलद करण्यासाठी" डिझाइन केलेले आहे ( सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे ). डेटा वाचणे आणि त्याची पडताळणी करणे यांसारखी किचकट कामे स्वयंचलित करून, एआय थ्रेट इंटेल टीम्सना निर्णय घेणे आणि प्रतिसाद देण्यावर लक्ष केंद्रित करण्यास सक्षम करते.

याचा आणखी एक उपयोग म्हणजे संभाषणात्मक धोके शोधणे (conversational threat hunting ). कल्पना करा की एक सुरक्षा विश्लेषक एका एआय सहाय्यकाशी संवाद साधत आहे: “गेल्या ४८ तासांत डेटा बाहेर काढल्याची (data exfiltration) कोणतीही चिन्हे मला दाखवा” किंवा “या आठवड्यात हल्लेखोर कोणत्या प्रमुख नवीन असुरक्षिततांचा (vulnerabilities) गैरफायदा घेत आहेत?” एआय या प्रश्नाचा अर्थ लावू शकते, अंतर्गत लॉग्स किंवा बाह्य गुप्त माहितीच्या स्रोतांमध्ये शोध घेऊ शकते आणि एक स्पष्ट उत्तर किंवा संबंधित घटनांची यादी देऊन प्रतिसाद देऊ शकते. ही कल्पना अवास्तव नाही – आधुनिक सुरक्षा माहिती आणि घटना व्यवस्थापन (SIEM) प्रणाली नैसर्गिक भाषेतील प्रश्नांचा समावेश करण्यास सुरुवात करत आहेत. उदाहरणार्थ, आयबीएमचे क्यूरडार (QRadar) सुरक्षा सूट २०२४ मध्ये जनरेटिव्ह एआय वैशिष्ट्ये जोडत आहे, जेणेकरून विश्लेषक एखाद्या घटनेच्या “सारांशित हल्ला मार्गाबद्दल विशिष्ट प्रश्न विचारू शकतील” आणि तपशीलवार उत्तरे मिळवू शकतील. ते आपोआप “अत्यंत संबंधित धोक्याच्या गुप्त माहितीचा अर्थ लावू आणि सारांशित करू” शकते ( सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे ). थोडक्यात, जनरेटिव्ह एआय तांत्रिक डेटाच्या डोंगरांना मागणीनुसार चॅट-आकाराच्या माहितीमध्ये रूपांतरित करते.

सर्व उद्योगांमध्ये याचे मोठे परिणाम आहेत. एखादी आरोग्यसेवा देणारी संस्था, पूर्णवेळ संशोधनासाठी विश्लेषक न नेमता, रुग्णालयांना लक्ष्य करणाऱ्या नवीनतम रॅन्समवेअर गटांबद्दल अद्ययावत राहण्यासाठी एआयचा वापर करू शकते. एखाद्या रिटेल कंपनीचे एसओसी (SOC), स्टोअरमधील आयटी कर्मचाऱ्यांना माहिती देताना नवीन पीओएस (POS) मालवेअरच्या डावपेचांचा त्वरित सारांश देऊ शकते. आणि शासकीय क्षेत्रात, जिथे विविध एजन्सींकडून मिळालेल्या धोक्याच्या माहितीचे संश्लेषण करणे आवश्यक असते, तिथे एआय मुख्य धोक्याचे इशारे अधोरेखित करणारे एकत्रित अहवाल तयार करू शकते. धोक्याच्या माहितीचे संकलन आणि विश्लेषण स्वयंचलित, जनरेटिव्ह एआय संस्थांना उदयोन्मुख धोक्यांवर अधिक वेगाने प्रतिक्रिया देण्यास मदत करते आणि गोंधळात लपलेले महत्त्वाचे इशारे चुकण्याची जोखीम कमी करते.

सुरक्षा ऑपरेशन्स सेंटर (SOC) ऑप्टिमायझेशन

सुरक्षा ऑपरेशन्स सेंटर्स अलर्ट थकवा आणि प्रचंड प्रमाणात डेटासाठी कुप्रसिद्ध आहेत. एक सामान्य SOC विश्लेषक दररोज हजारो अलर्ट आणि घटनांमधून मार्ग काढू शकतो, संभाव्य घटनांचा शोध घेऊ शकतो. जनरेटिव्ह AI हे SOCs मध्ये नियमित काम स्वयंचलित करून, बुद्धिमान सारांश प्रदान करून आणि काही प्रतिसादांचे आयोजन करून एक बल गुणक म्हणून काम करत आहे. SOC वर्कफ्लो ऑप्टिमाइझ करणे हे ध्येय आहे जेणेकरून मानवी विश्लेषक सर्वात गंभीर समस्यांवर लक्ष केंद्रित करू शकतील तर AI सह-पायलट उर्वरित समस्या हाताळेल.

जनरेटिव्ह एआयचा एक प्रमुख उपयोग म्हणजे त्याला “विश्लेषकाचा कोपायलट” म्हणून वापरणे . आधी उल्लेख केलेला मायक्रोसॉफ्टचा सिक्युरिटी कोपायलट याचे उत्तम उदाहरण आहे: तो “सुरक्षा विश्लेषकाच्या कामाची जागा घेण्याऐवजी त्याला मदत करण्यासाठी डिझाइन केलेला आहे,” जो घटनांचा तपास आणि अहवाल तयार करण्यात मदत करतो ( मायक्रोसॉफ्ट सिक्युरिटी कोपायलट सायबरसुरक्षेसाठी एक नवीन GPT-4 एआय सहाय्यक आहे | द व्हर्ज ). व्यवहारात, याचा अर्थ असा की एखादा विश्लेषक फायरवॉल लॉग, घटनांची टाइमलाइन किंवा घटनेचे वर्णन यांसारखा कच्चा डेटा इनपुट करू शकतो आणि एआयला त्याचे विश्लेषण करण्यास किंवा त्याचा सारांश देण्यास सांगू शकतो. कोपायलट कदाचित असे वर्णन आउटपुट करेल, “असे दिसते की पहाटे २:३५ वाजता, आयपी X वरून सर्व्हर Y वर एक संशयास्पद लॉगिन यशस्वी झाले, त्यानंतर असामान्य डेटा हस्तांतरण झाले, जे त्या सर्व्हरच्या संभाव्य उल्लंघनाचे संकेत देते.” जेव्हा वेळ अत्यंत महत्त्वाची असते, तेव्हा अशा प्रकारचे तात्काळ संदर्भीकरण अमूल्य ठरते.

एआय कोपायलट्स लेव्हल-१ ट्रायएजचा भार कमी करण्यास देखील मदत करतात. उद्योग डेटानुसार, एक सुरक्षा टीम आठवड्यातून १५ तास फक्त सुमारे २२,००० अलर्ट्स आणि फॉल्स पॉझिटिव्ह्जची छाननी करण्यात घालवू शकते (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). जनरेटिव्ह एआयच्या मदतीने, यापैकी अनेक अलर्ट्सचे आपोआप ट्रायएज केले जाऊ शकते – एआय स्पष्टपणे निरुपद्रवी असलेले अलर्ट्स (कारणांसहित) वगळू शकते आणि ज्यांकडे खरोखर लक्ष देण्याची गरज आहे त्यांना हायलाइट करू शकते, कधीकधी प्राधान्यक्रम देखील सुचवते. खरं तर, संदर्भ समजून घेण्याच्या जनरेटिव्ह एआयच्या सामर्थ्यामुळे, ते अशा अलर्ट्समध्ये परस्पर-सहसंबंध जोडू शकते जे स्वतंत्रपणे निरुपद्रवी वाटू शकतात, परंतु एकत्रितपणे बहु-स्तरीय हल्ल्याचे संकेत देतात. यामुळे "अलर्ट फटीग"मुळे हल्ला चुकण्याची शक्यता कमी होते.

SOC विश्लेषक देखील धोके शोधण्याची आणि तपासाची प्रक्रिया जलद करण्यासाठी AI सोबत नैसर्गिक भाषेचा वापर करत आहेत. उदाहरणार्थ, सेंटिनेलवनचे पर्पल AI प्लॅटफॉर्म, LLM-आधारित इंटरफेस आणि रिअल-टाइम सुरक्षा डेटा एकत्र करते, ज्यामुळे विश्लेषकांना “धोके शोधण्यासंबंधीचे गुंतागुंतीचे प्रश्न सोप्या इंग्रजीमध्ये विचारून जलद आणि अचूक उत्तरे मिळवता येतात” ( सायबरसुरक्षेमध्ये जनरेटिव्ह AI चा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे ). एखादा विश्लेषक “गेल्या महिन्यात कोणत्याही एंडपॉइंटने badguy123[.]com या डोमेनशी संवाद साधला आहे का?” असे टाइप करू शकतो आणि पर्पल AI प्रतिसाद देण्यासाठी लॉग्समध्ये शोध घेईल. यामुळे विश्लेषकाला डेटाबेस क्वेरी किंवा स्क्रिप्ट लिहिण्यापासून वाचवते – AI हे काम आपोआप करते. याचा अर्थ असाही होतो की, जी कामे पूर्वी क्वेरी लँग्वेजमध्ये कुशल असलेल्या अनुभवी इंजिनिअरकडून केली जात होती, ती आता कनिष्ठ विश्लेषक हाताळू शकतात, ज्यामुळे AI च्या मदतीने टीमचे कौशल्य प्रभावीपणे वाढते . खरंच, विश्लेषकांच्या मते जनरेटिव्ह एआय मार्गदर्शनामुळे "त्यांची कौशल्ये आणि प्राविण्य वाढते" , कारण कनिष्ठ कर्मचाऱ्यांना आता एआयकडून मागणीनुसार कोडिंग सपोर्ट किंवा विश्लेषणाचे सल्ले मिळू शकतात, ज्यामुळे वरिष्ठ टीम सदस्यांकडून नेहमी मदत मागण्यावर अवलंबून राहण्याची गरज कमी होते ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचे ६ उपयोग [+ उदाहरणे] ).

SOC ऑप्टिमायझेशनचा आणखी एक मार्ग म्हणजे घटनेचा स्वयंचलित सारांश आणि दस्तऐवजीकरण. एखादी घटना हाताळल्यानंतर, कोणीतरी अहवाल लिहिला पाहिजे – हे काम अनेकांना कंटाळवाणे वाटते. जनरेटिव्ह AI फॉरेन्सिक डेटा (सिस्टम लॉग, मालवेअर विश्लेषण, कृतींची टाइमलाइन) घेऊन घटनेच्या अहवालाचा पहिला मसुदा तयार करू शकते. IBM ही क्षमता QRadar मध्ये तयार करत आहे, जेणेकरून “एका क्लिकवर” विविध भागधारकांसाठी (कार्यकारी अधिकारी, आयटी टीम इत्यादी) घटनेचा सारांश तयार करता येईल (सायबरसुरक्षेत जनरेटिव्ह AI चा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे). यामुळे केवळ वेळेची बचत होत नाही, तर अहवालात कोणतीही गोष्ट सुटणार नाही याचीही खात्री होते, कारण AI सर्व संबंधित तपशील सातत्याने समाविष्ट करू शकते. त्याचप्रमाणे, अनुपालन आणि ऑडिटिंगसाठी, AI घटनेच्या डेटाच्या आधारे फॉर्म किंवा पुराव्यांच्या सारण्या भरू शकते.

वास्तविक परिणाम प्रभावी आहेत. स्विमलेनच्या एआय-चालित SOAR (सुरक्षा ऑर्केस्ट्रेशन, ऑटोमेशन आणि प्रतिसाद) प्रणालीचा सुरुवातीला अवलंब करणाऱ्यांनी उत्पादकतेत प्रचंड वाढ झाल्याचे सांगितले आहे – उदाहरणार्थ, ग्लोबल डेटा सिस्टीम्सने पाहिले की त्यांची सेकऑप्स टीम पूर्वीपेक्षा खूप जास्त प्रकरणे हाताळू लागली; एका संचालकाने म्हटले की, “मी आज जे काम ७ विश्लेषकांसह करतो, तेच काम एआय-चालित ऑटोमेशनशिवाय करण्यासाठी कदाचित २० कर्मचारी लागले असते” ( सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो ). दुसऱ्या शब्दांत सांगायचे झाल्यास, एसओसीमधील एआय क्षमता अनेक पटींनी वाढवू शकते . सर्व उद्योगांमध्ये, मग ती क्लाउड सुरक्षा अलर्ट हाताळणारी टेक कंपनी असो किंवा ओटी सिस्टीमवर देखरेख ठेवणारा उत्पादन प्रकल्प असो, जनरेटिव्ह एआय सहाय्यकांचा स्वीकार करून एसओसी टीम्सना जलद शोध आणि प्रतिसाद, कमी सुटलेल्या घटना आणि अधिक कार्यक्षम कामकाजाचा फायदा मिळू शकतो. हे अधिक हुशारीने काम करण्याबद्दल आहे – यंत्रांना पुनरावृत्तीची आणि जास्त डेटा असलेली कामे हाताळू देणे, जेणेकरून माणसे आपली अंतर्ज्ञानशक्ती आणि कौशल्य सर्वात महत्त्वाच्या ठिकाणी वापरू शकतील.

भेद्यता व्यवस्थापन आणि धोका अनुकरण

सॉफ्टवेअर किंवा सिस्टीममधील असुरक्षितता (ज्यांचा हल्लेखोर गैरफायदा घेऊ शकतात) ओळखणे आणि त्यांचे व्यवस्थापन करणे, हे सायबरसुरक्षेचे एक मुख्य कार्य आहे. जनरेटिव्ह एआय (Generative AI) असुरक्षितता शोधण्याची प्रक्रिया वेगवान करून, पॅचच्या प्राधान्यक्रमात मदत करून, आणि तयारी सुधारण्यासाठी त्या असुरक्षिततांवर हल्ल्यांचे अनुकरण (simulation) करून असुरक्षितता व्यवस्थापनात सुधारणा करत आहे. थोडक्यात, एआय संस्थांना त्यांच्या संरक्षणातील त्रुटी अधिक जलदपणे शोधून त्या दूर करण्यास, आणि प्रत्यक्ष हल्लेखोरांच्या आधीच सक्रियपणे संरक्षणाची चाचणी करण्यास मदत करत आहे

एक महत्त्वाचा उपयोग म्हणजे स्वयंचलित कोड रिव्ह्यू आणि असुरक्षितता शोधण्यासाठी. मोठ्या कोडबेसमध्ये (विशेषतः लेगसी सिस्टीममध्ये) अनेकदा अशा सुरक्षा त्रुटी असतात ज्या लक्षात येत नाहीत. जनरेटिव्ह एआय मॉडेल्सना सुरक्षित कोडिंग पद्धती आणि सामान्य बग पॅटर्न्सवर प्रशिक्षित केले जाऊ शकते, आणि नंतर संभाव्य असुरक्षितता शोधण्यासाठी सोर्स कोड किंवा कंपाइल केलेल्या बायनरींवर सोडले जाऊ शकते. उदाहरणार्थ, एनव्हिडियाच्या संशोधकांनी एक जनरेटिव्ह एआय पाइपलाइन विकसित केली, जी लेगसी सॉफ्टवेअर कंटेनर्सचे विश्लेषण करू शकते आणि "उच्च अचूकतेसह — मानवी तज्ञांपेक्षा ४ पट अधिक वेगाने" असुरक्षितता ओळखू शकते. (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). या एआयने मुळात असुरक्षित कोड कसा दिसतो हे शिकले आणि अनेक दशके जुन्या सॉफ्टवेअरला स्कॅन करून धोकादायक फंक्शन्स आणि लायब्ररी चिन्हांकित करण्यास सक्षम झाले, ज्यामुळे मॅन्युअल कोड ऑडिटिंगची सामान्यतः मंद प्रक्रिया मोठ्या प्रमाणात वेगवान झाली. वित्त किंवा सरकारसारख्या उद्योगांसाठी, जे मोठ्या, जुन्या कोडबेसवर अवलंबून असतात, अशा प्रकारचे साधन गेम-चेंजर ठरू शकते – एआय अशा समस्या शोधून सुरक्षा आधुनिक बनविण्यात मदत करते, ज्या शोधण्यासाठी कर्मचाऱ्यांना महिने किंवा वर्षे लागू शकतात (किंवा कदाचित कधीच सापडणार नाहीत).

जनरेटिव्ह एआय (Generative AI) व्हल्नरेबिलिटी स्कॅनच्या निकालांवर प्रक्रिया करून आणि त्यांना प्राधान्य देऊन व्हल्नरेबिलिटी मॅनेजमेंट वर्कफ्लोमध्ये देखील मदत करते . टेनेबलच्या एक्सपोजरएआय (ExposureAI) सारखी साधने जनरेटिव्ह एआयचा वापर करून विश्लेषकांना साध्या भाषेत व्हल्नरेबिलिटी डेटा विचारू देतात आणि त्वरित उत्तरे मिळवू देतात ( सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे ). एक्सपोजरएआय एखाद्या गंभीर व्हल्नरेबिलिटीसाठी "संपूर्ण हल्ल्याच्या मार्गाचा एका कथनात्मक स्वरूपात सारांश" देऊ शकते , आणि हे स्पष्ट करते की एखादा हल्लेखोर सिस्टमला हानी पोहोचवण्यासाठी इतर कमकुवतपणांसोबत ती कशी जोडू शकतो. ते उपाययोजनांसाठी कृतींची शिफारस देखील करते आणि धोक्याबद्दलच्या पुढील प्रश्नांची उत्तरे देते. याचा अर्थ असा की, जेव्हा एखादी नवीन गंभीर सीव्हीई (CVE - Common Vulnerabilities and Exposures) जाहीर केली जाते, तेव्हा एखादा विश्लेषक एआयला विचारू शकतो, "या सीव्हीईमुळे आमचे कोणतेही सर्व्हर प्रभावित झाले आहेत का आणि जर आम्ही पॅच केले नाही तर सर्वात वाईट परिस्थिती काय असेल?" आणि संस्थेच्या स्वतःच्या स्कॅन डेटामधून काढलेले स्पष्ट मूल्यांकन मिळवू शकतो. असुरक्षिततेचे संदर्भ स्पष्ट करून (उदा. ही असुरक्षितता इंटरनेटवर उघड आहे आणि एका उच्च-मूल्याच्या सर्व्हरवर आहे, म्हणून याला सर्वोच्च प्राधान्य आहे), जनरेटिव्ह एआय संघांना मर्यादित संसाधनांसह हुशारीने पॅच करण्यास मदत करते.

ज्ञात असुरक्षितता शोधणे आणि त्यांचे व्यवस्थापन करण्याव्यतिरिक्त, जनरेटिव्ह एआय पेनिट्रेशन टेस्टिंग आणि अटॅक सिम्युलेशनमध्ये योगदान देते – म्हणजेच अज्ञात असुरक्षितता शोधणे किंवा सुरक्षा नियंत्रणांची चाचणी करणे. जनरेटिव्ह ॲडव्हर्सरियल नेटवर्क्स (GANs), जो जनरेटिव्ह एआयचा एक प्रकार आहे, त्याचा उपयोग वास्तविक नेटवर्क ट्रॅफिक किंवा वापरकर्त्याच्या वर्तनाची नक्कल करणारा कृत्रिम डेटा तयार करण्यासाठी केला जातो, ज्यामध्ये हल्ल्याचे छुपे नमुने समाविष्ट असू शकतात. २०२३ च्या एका अभ्यासात इंट्रूजन डिटेक्शन सिस्टीम्सना (IDS) प्रशिक्षित करण्यासाठी वास्तववादी झिरो-डे अटॅक ट्रॅफिक तयार करण्याकरिता GANs वापरण्याची सूचना केली होती ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). एआय-निर्मित हल्ल्याच्या परिस्थिती (ज्यामध्ये प्रोडक्शन नेटवर्कवर प्रत्यक्ष मालवेअर वापरण्याचा धोका नसतो) आयडीएसला पुरवून, संस्था प्रत्यक्षात हल्ला होण्याची वाट न पाहता नवीन धोके ओळखण्यासाठी त्यांच्या संरक्षण प्रणालीला प्रशिक्षित करू शकतात. त्याचप्रमाणे, एआय एखाद्या हल्लेखोराने सिस्टीमची चाचणी घेतल्याचे अनुकरण करू शकते – उदाहरणार्थ, सुरक्षित वातावरणात विविध एक्सप्लॉइट तंत्रे आपोआप वापरून पाहणे, जेणेकरून कोणते तंत्र यशस्वी होते हे कळेल. अमेरिकेच्या डिफेन्स ॲडव्हान्स्ड रिसर्च प्रोजेक्ट्स एजन्सीला (DARPA) यात आशा दिसते: त्यांच्या २०२३ च्या एआय सायबर चॅलेंजमध्ये, एका स्पर्धेचा भाग म्हणून, “ओपन-सोर्स सॉफ्टवेअरमधील त्रुटी स्वयंचलितपणे शोधण्यासाठी आणि त्या दूर करण्यासाठी” जनरेटिव्ह एआयचा (जसे की लार्ज लँग्वेज मॉडेल्स) स्पष्टपणे वापर केला जातो ( DARPA Aims to Develop AI, Autonomy Applications Warfighters Can Trust > US Department of Defense > Defense Department News ). हा उपक्रम अधोरेखित करतो की एआय केवळ ज्ञात त्रुटी दूर करण्यास मदत करत नाही; तर ते सक्रियपणे नवीन त्रुटी शोधत आहे आणि त्यावर उपाय सुचवत आहे; हे काम पारंपरिकरित्या केवळ कुशल (आणि महाग) सुरक्षा संशोधकांपुरते मर्यादित होते.

जनरेटिव्ह एआय संरक्षणासाठी इंटेलिजेंट हनीपॉट्स आणि डिजिटल ट्विन्ससुद्धा तयार करू शकते. स्टार्टअप्स एआय-चालित डेकॉय सिस्टीम्स विकसित करत आहेत, ज्या खऱ्या सर्व्हर्स किंवा डिव्हाइसेसची हुबेहूब नक्कल करतात. एका सीईओने स्पष्ट केल्याप्रमाणे, जनरेटिव्ह एआय “खऱ्या सिस्टीम्सची नक्कल करण्यासाठी आणि हॅकर्सना आकर्षित करण्यासाठी डिजिटल सिस्टीम्सची प्रतिकृती तयार करू शकते” ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचे ६ उपयोग [+ उदाहरणे] ). हे एआय-निर्मित हनीपॉट्स खऱ्या वातावरणासारखे वागतात (उदा., सामान्य टेलिमेट्री पाठवणारे एक बनावट आयओटी डिव्हाइस), परंतु ते केवळ हल्लेखोरांना आकर्षित करण्यासाठीच अस्तित्वात असतात. जेव्हा एखादा हल्लेखोर या डेकॉयला लक्ष्य करतो, तेव्हा एआयने मुळात त्याला फसवून त्याच्या पद्धती उघड करण्यास भाग पाडलेले असते, ज्याचा अभ्यास करून संरक्षक खऱ्या सिस्टीम्सना अधिक मजबूत करण्यासाठी त्याचा वापर करू शकतात. जनरेटिव्ह मॉडेलिंगवर आधारित ही संकल्पना, एआयद्वारे वाढवलेल्या फसवणुकीचा वापर करून हल्लेखोरांवरच उलटवार करण्याचा एक दूरदर्शी मार्ग प्रदान करते

सर्व उद्योगांमध्ये, जलद आणि हुशार असुरक्षितता व्यवस्थापन म्हणजे कमी उल्लंघने. उदाहरणार्थ, आरोग्य सेवा आयटीमध्ये, एआय वैद्यकीय उपकरणातील जुनी असुरक्षित लायब्ररी त्वरित शोधू शकते आणि कोणताही हल्लेखोर त्याचा गैरफायदा घेण्यापूर्वी फर्मवेअर दुरुस्त करण्यास सांगू शकते. बँकिंगमध्ये, एआय सर्व परिस्थितीत ग्राहकांचा डेटा सुरक्षित राहतो याची खात्री करण्यासाठी नवीन अनुप्रयोगावर अंतर्गत हल्ल्याचे अनुकरण करू शकते. अशा प्रकारे जनरेटिव्ह एआय संस्थांच्या सुरक्षिततेच्या स्थितीसाठी सूक्ष्मदर्शक आणि ताण-परीक्षक म्हणून काम करते: ते लपलेल्या त्रुटींवर प्रकाश टाकते आणि लवचिकता सुनिश्चित करण्यासाठी काल्पनिक मार्गांनी सिस्टमवर दबाव आणते.

सुरक्षित कोड जनरेशन आणि सॉफ्टवेअर डेव्हलपमेंट

जनरेटिव्ह एआयची क्षमता केवळ हल्ले ओळखण्यापुरती मर्यादित नाही, तर ती सुरुवातीपासूनच अधिक सुरक्षित प्रणाली तयार करण्यापर्यंतही. सॉफ्टवेअर डेव्हलपमेंटमध्ये, एआय कोड जनरेटर (जसे की GitHub Copilot, OpenAI Codex, इत्यादी) कोडचे छोटे भाग किंवा संपूर्ण फंक्शन्स सुचवून डेव्हलपर्सना अधिक वेगाने कोड लिहिण्यास मदत करू शकतात. सायबरसुरक्षेचा दृष्टिकोन म्हणजे एआयने सुचवलेले हे कोडचे भाग सुरक्षित असल्याची खात्री करणे आणि कोडिंग पद्धती सुधारण्यासाठी एआयचा वापर करणे.

एकीकडे, जनरेटिव्ह एआय एक कोडिंग असिस्टंट म्हणून काम करू शकते, जे सुरक्षेच्या सर्वोत्तम पद्धतींचा समावेश करते. डेव्हलपर्स एआय टूलला, “पायथनमध्ये पासवर्ड रीसेट फंक्शन तयार करा,” आणि त्यांना अपेक्षित कोड मिळतो, जो केवळ कार्यात्मकच नाही, तर सुरक्षित मार्गदर्शक तत्त्वांचेही पालन करतो (उदा. योग्य इनपुट व्हॅलिडेशन, लॉगिंग, माहिती उघड न करता त्रुटी हाताळणे, इत्यादी). विस्तृत सुरक्षित कोड उदाहरणांवर प्रशिक्षित केलेला असा असिस्टंट, असुरक्षिततेस कारणीभूत ठरणाऱ्या मानवी चुका कमी करण्यास मदत करू शकतो. उदाहरणार्थ, जर एखादा डेव्हलपर युझर इनपुट सॅनिटाइज करायला विसरला (ज्यामुळे एसक्यूएल इंजेक्शन किंवा तत्सम समस्यांना वाव मिळतो), तर एआय एकतर ते डीफॉल्टनुसार समाविष्ट करू शकते किंवा त्यांना सावध करू शकते. काही एआय कोडिंग टूल्सना आता नेमका हाच उद्देश साध्य करण्यासाठी सुरक्षा-केंद्रित डेटासह अधिक परिष्कृत केले जात आहे – थोडक्यात, सुरक्षेची जाणीव असलेले एआय पेअर प्रोग्रामिंग.

तथापि, याची दुसरी बाजूही आहे: जर जनरेटिव्ह एआयचे योग्य नियमन केले नाही, तर ते तितक्याच सहजपणे असुरक्षितता निर्माण करू शकते. सोफोसचे सुरक्षा तज्ञ बेन वर्शेरन यांनी नमूद केल्याप्रमाणे, कोडिंगसाठी जनरेटिव्ह एआयचा वापर करणे हे “लहान, पडताळणीयोग्य कोडसाठी ठीक आहे, परंतु जेव्हा न तपासलेला कोड प्रोडक्शन सिस्टीममध्ये समाविष्ट केला जातो तेव्हा ते धोकादायक ठरते.” धोका हा आहे की, एआय तार्किकदृष्ट्या योग्य कोड तयार करू शकते, जो अशा प्रकारे असुरक्षित असू शकतो की एखाद्या अननुभवी व्यक्तीच्या तो लक्षातही येणार नाही. शिवाय, दुर्भावनापूर्ण घटक सार्वजनिक एआय मॉडेल्समध्ये असुरक्षित कोड पॅटर्न्स (डेटा पॉइझनिंगचा एक प्रकार) पेरून त्यांना हेतुपुरस्सर प्रभावित करू शकतात, जेणेकरून एआय असुरक्षित कोड सुचवेल. बहुतेक डेव्हलपर्स सुरक्षा तज्ञ नसतात, त्यामुळे जर एआयने एखादा सोयीस्कर उपाय सुचवला, तर ते त्यात त्रुटी आहे हे लक्षात न घेता त्याचा आंधळेपणाने वापर करू शकतात (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). ही चिंता खरी आहे – किंबहुना, आता एलएलएम (लार्ज लँग्वेज मॉडेल्स) साठी एक OWASP टॉप १० यादी आहे, जी कोडिंगसाठी एआय वापरण्यातील अशा सामान्य धोक्यांची रूपरेषा देते.

या समस्यांवर मात करण्यासाठी, तज्ञ कोडिंगच्या क्षेत्रात "जनरेटिव्ह एआयचा सामना जनरेटिव्ह एआयनेच करावा" असे सुचवतात. व्यवहारात, याचा अर्थ असा होतो की इतर एआयने (किंवा मानवांनी) लिहिलेल्या कोडचे पुनरावलोकन आणि चाचणी करण्यासाठी एआयचा वापर करणे . एक एआय मानवी कोड समीक्षकापेक्षा खूप वेगाने नवीन कोड कमिट्स स्कॅन करू शकतो आणि संभाव्य असुरक्षितता किंवा लॉजिकमधील समस्या चिन्हांकित करू शकतो. सॉफ्टवेअर डेव्हलपमेंट लाइफसायकलमध्ये समाकलित होणारी साधने उदयास येत असल्याचे आपण आधीच पाहत आहोत: कोड लिहिला जातो (कदाचित एआयच्या मदतीने), त्यानंतर सुरक्षित कोड तत्त्वांवर प्रशिक्षित केलेले एक जनरेटिव्ह मॉडेल त्याचे पुनरावलोकन करते आणि कोणत्याही समस्यांचा (उदा., अप्रचलित फंक्शन्सचा वापर, गहाळ ऑथेंटिकेशन तपासण्या इत्यादी) अहवाल तयार करते. एनव्हिडियाचे पूर्वी नमूद केलेले संशोधन, ज्याने कोडमधील असुरक्षितता ४ पट वेगाने शोधली, हे सुरक्षित कोड विश्लेषणासाठी एआयचा उपयोग करण्याचे एक उदाहरण आहे ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग प्रकरणे [+ उदाहरणे] ).

शिवाय, जनरेटिव्ह एआय सुरक्षित कॉन्फिगरेशन आणि स्क्रिप्ट्स तयार करण्यात मदत करू शकते . उदाहरणार्थ, जर एखाद्या कंपनीला सुरक्षित क्लाउड इन्फ्रास्ट्रक्चर तैनात करायचे असेल, तर एक अभियंता एआयला सुरक्षा नियंत्रणांसह (जसे की योग्य नेटवर्क सेगमेंटेशन, लीस्ट प्रिव्हिलेज आयएएम रोल्स) कॉन्फिगरेशन स्क्रिप्ट्स (इन्फ्रास्ट्रक्चर ॲज कोड) तयार करण्यास सांगू शकतो. अशा हजारो कॉन्फिगरेशनवर प्रशिक्षित झालेले एआय एक बेसलाइन तयार करू शकते, ज्याला अभियंता नंतर अधिक अचूक बनवतो. यामुळे सिस्टीमच्या सुरक्षित सेटअपला गती मिळते आणि चुकीच्या कॉन्फिगरेशनच्या चुका कमी होतात – जे क्लाउड सुरक्षा घटनांचे एक सामान्य कारण आहे.

काही संस्था सुरक्षित कोडिंग पॅटर्नचा नॉलेज बेस सांभाळण्यासाठी जनरेटिव्ह एआयचा वापर करत आहेत. जर एखाद्या डेव्हलपरला एखादे विशिष्ट फीचर सुरक्षितपणे कसे लागू करावे याबद्दल खात्री नसेल, तर ते कंपनीच्या मागील प्रोजेक्ट्स आणि सुरक्षा मार्गदर्शक तत्त्वांमधून शिकलेल्या अंतर्गत एआयला प्रश्न विचारू शकतात. एआय एक शिफारस केलेला दृष्टिकोन किंवा कोड स्निपेट देऊ शकते, जे कार्यात्मक आवश्यकता आणि कंपनीच्या सुरक्षा मानकांशी जुळते. हा दृष्टिकोन सिक्युअरफ्रेमच्या क्वेश्चनियर ऑटोमेशनसारख्या, जे सुसंगत आणि अचूक प्रतिसाद सुनिश्चित करण्यासाठी कंपनीच्या धोरणांमधून आणि मागील सोल्यूशन्समधून उत्तरे घेते (मूलतः सुरक्षित डॉक्युमेंटेशन तयार करते) (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे). ही संकल्पना कोडिंगमध्ये लागू होते: एक एआय जे तुम्ही पूर्वी एखादी गोष्ट सुरक्षितपणे कशी लागू केली होती हे "लक्षात ठेवते" आणि तुम्हाला ते पुन्हा त्याच प्रकारे करण्यासाठी मार्गदर्शन करते.

थोडक्यात सांगायचे झाल्यास, जनरेटिव्ह एआय सुरक्षित कोडिंग सहाय्य अधिक सुलभ करून. तंत्रज्ञान, वित्त, संरक्षण इत्यादी उद्योग, जे मोठ्या प्रमाणात कस्टम सॉफ्टवेअर विकसित करतात, त्यांना एआय कोपायलट्सचा फायदा होऊ शकतो, जे केवळ कोडिंगचा वेगच वाढवत नाहीत, तर एक सतत दक्ष सुरक्षा समीक्षक म्हणूनही काम करतात. योग्यरित्या नियंत्रित केल्यास, ही एआय साधने नवीन असुरक्षितता निर्माण होण्याचे प्रमाण कमी करू शकतात आणि विकास संघांना सर्वोत्तम पद्धतींचे पालन करण्यास मदत करतात, जरी संघात प्रत्येक टप्प्यावर सुरक्षा तज्ञ सामील नसला तरीही. याचा परिणाम म्हणजे असे सॉफ्टवेअर जे पहिल्या दिवसापासूनच हल्ल्यांविरुद्ध अधिक मजबूत असते.

घटना प्रतिसाद समर्थन

जेव्हा सायबरसुरक्षेची एखादी घटना घडते – मग तो मालवेअरचा प्रादुर्भाव असो, डेटा चोरी असो किंवा हल्ल्यामुळे सिस्टम बंद पडणे असो – तेव्हा वेळ अत्यंत महत्त्वाची असते. घटना प्रतिसाद (IR) टीम्सना घटना अधिक वेगाने आणि अधिक माहितीच्या आधारे नियंत्रणात आणण्यासाठी व त्यावर उपाययोजना करण्यासाठी मदत करण्याकरिता जनरेटिव्ह एआयचा वापर वाढत्या प्रमाणात केला जात आहे. यामागील कल्पना अशी आहे की, एखाद्या घटनेदरम्यान एआय तपास आणि दस्तऐवजीकरणाचा काही भार उचलू शकते, आणि काही प्रतिसाद कृती सुचवू किंवा स्वयंचलित करू शकते.

आयआर (IR) मध्ये एआयची (AI) एक महत्त्वाची भूमिका म्हणजे रिअल-टाइम घटनेचे विश्लेषण आणि सारांश करणे. एखाद्या घटनेच्या दरम्यान, प्रतिसाद देणाऱ्यांना "हल्ला करणारा आत कसा घुसला?", "कोणत्या सिस्टीम्स प्रभावित झाल्या आहेत?", आणि "कोणता डेटा धोक्यात आला असेल?". जनरेटिव्ह एआय (Generative AI) प्रभावित सिस्टीम्समधील लॉग्स, अलर्ट्स आणि फॉरेन्सिक डेटाचे विश्लेषण करून त्वरित माहिती देऊ शकते. उदाहरणार्थ, मायक्रोसॉफ्ट सिक्युरिटी कोपायलट (Microsoft Security Copilot) एका इन्सिडेंट रिस्पॉन्डरला विविध पुरावे (फाईल्स, यूआरएल, इव्हेंट लॉग्स) फीड करण्याची आणि टाइमलाइन किंवा सारांशाची विचारणा करण्याची परवानगी देतो (मायक्रोसॉफ्ट सिक्युरिटी कोपायलट हे सायबरसुरक्षेसाठी एक नवीन GPT-4 एआय असिस्टंट आहे | द व्हर्ज). एआय असा प्रतिसाद देऊ शकते: "ही घुसखोरी बहुधा १०:५३ GMT वाजता वापरकर्ता JohnDoe ला आलेल्या एका फिशिंग ईमेलने सुरू झाली, ज्यात मालवेअर X होता. एकदा कार्यान्वित झाल्यावर, मालवेअरने एक बॅकडोअर तयार केला, ज्याचा वापर दोन दिवसांनंतर फायनान्स सर्व्हरमध्ये प्रवेश करण्यासाठी केला गेला, जिथे त्याने डेटा गोळा केला." तासांऐवजी काही मिनिटांतच हे सुसंगत चित्र उपलब्ध झाल्यामुळे, टीमला (कोणत्या सिस्टीम्स वेगळ्या करायच्या यासारखे) माहितीपूर्ण निर्णय अधिक वेगाने घेता येतात.

जनरेटिव्ह एआय प्रतिबंध आणि निवारण कृती देखील सुचवू. उदाहरणार्थ, जर एखादा एंडपॉइंट रॅन्समवेअरने संक्रमित झाला असेल, तर एक एआय टूल त्या मशीनला वेगळे करण्यासाठी, विशिष्ट खाती निष्क्रिय करण्यासाठी आणि फायरवॉलवर ज्ञात दुर्भावनापूर्ण आयपी ब्लॉक करण्यासाठी एक स्क्रिप्ट किंवा सूचनांचा संच तयार करू शकते – मूलतः एका प्लेबुकची अंमलबजावणी. पालो अल्टो नेटवर्क्स नमूद करते की जनरेटिव्ह एआय "घटनेच्या स्वरूपानुसार योग्य कृती किंवा स्क्रिप्ट तयार करण्यास", ज्यामुळे प्रतिसादाच्या सुरुवातीच्या पायऱ्या स्वयंचलित होतात (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स). अशा परिस्थितीत जिथे सुरक्षा टीमवर कामाचा प्रचंड ताण येतो (उदा. शेकडो उपकरणांवर मोठ्या प्रमाणावर हल्ला), तिथे एआय पूर्व-मंजूर अटींनुसार यापैकी काही कृती थेट पार पाडू शकते, जणू काही एक कनिष्ठ प्रतिसादक अथकपणे काम करत आहे. उदाहरणार्थ, एक एआय एजंट ज्या क्रेडेन्शियल्समध्ये तडजोड झाली आहे असे त्याला वाटते, ती आपोआप रीसेट करू शकतो किंवा घटनेच्या प्रोफाइलशी जुळणारी दुर्भावनापूर्ण क्रिया दर्शविणाऱ्या होस्ट्सना क्वारंटाइन करू शकतो.

घटनेला प्रतिसाद देताना, टीममधील सदस्यांशी आणि हितधारकांशी संवाद साधणे अत्यंत महत्त्वाचे असते. जनरेटिव्ह एआय (Generative AI) तात्काळ घटनेच्या अद्ययावत अहवालांचा किंवा संक्षिप्त माहितीचा मसुदा तयार. एखाद्या इंजिनिअरने आपले ट्रबलशूटिंग थांबवून ईमेल अपडेट लिहिण्याऐवजी, ते एआयला विचारू शकतात, “कार्यकारी अधिकाऱ्यांना माहिती देण्यासाठी, या घटनेत आतापर्यंत काय घडले आहे याचा सारांश तयार करा.” घटनेचा डेटा स्वीकारल्यानंतर, एआय एक संक्षिप्त सारांश तयार करू शकते: “दुपारी ३ वाजेपर्यंत, हल्लेखोरांनी २ वापरकर्ता खाती आणि ५ सर्व्हर्समध्ये प्रवेश केला आहे. प्रभावित झालेल्या डेटामध्ये डेटाबेस X मधील क्लायंट रेकॉर्ड्सचा समावेश आहे. प्रतिबंधात्मक उपाय: बाधित खात्यांसाठी व्हीपीएन (VPN) ॲक्सेस रद्द करण्यात आला आहे आणि सर्व्हर्स वेगळे करण्यात आले आहेत. पुढील पायरी: कोणत्याही डेटा टिकवून ठेवणाऱ्या यंत्रणांसाठी (persistence mechanisms) स्कॅन करणे.” त्यानंतर प्रतिसाद देणारी व्यक्ती याची त्वरित पडताळणी करू शकते किंवा त्यात बदल करून ते पाठवू शकते, ज्यामुळे हितधारकांना अचूक आणि अद्ययावत माहितीसह अद्ययावत ठेवले जाईल याची खात्री होते.

परिस्थिती निवळल्यावर, सहसा एक सविस्तर घटना अहवाल तयार करायचा असतो आणि त्यातून शिकलेले धडे संकलित करायचे असतात. हे आणखी एक क्षेत्र आहे जिथे एआय (AI) सहाय्य प्रभावी ठरते. ते घटनेच्या सर्व डेटाचे पुनरावलोकन करून, मूळ कारण, घटनाक्रम, परिणाम आणि शिफारसी यांचा समावेश असलेला घटनेनंतरचा अहवाल तयार करू शकते . उदाहरणार्थ, आयबीएम (IBM) जनरेटिव्ह एआयला समाकलित करत आहे, जेणेकरून एका बटणाच्या क्लिकवर “सुरक्षा प्रकरणे आणि घटनांचे सोपे सारांश तयार करता येतील, जे भागधारकांसोबत शेअर केले जाऊ शकतील” ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे ). कृतीनंतरच्या अहवाल प्रक्रियेला सुव्यवस्थित करून, संस्था सुधारणा अधिक वेगाने लागू करू शकतात आणि अनुपालनाच्या हेतूंसाठी उत्तम दस्तऐवजीकरण देखील मिळवू शकतात.

याचा एक नाविन्यपूर्ण आणि दूरदृष्टीचा उपयोग म्हणजे एआय-चालित घटना सिम्युलेशन. ज्याप्रमाणे एखादी व्यक्ती आग लागल्यास काय होईल याचा सराव करते, त्याचप्रमाणे काही कंपन्या 'जर-तर'च्या घटनांच्या परिस्थितीचा सराव करण्यासाठी जनरेटिव्ह एआयचा वापर करत आहेत. नेटवर्कच्या रचनेनुसार रॅन्समवेअर कसा पसरू शकतो, किंवा एखादा अंतर्गत व्यक्ती डेटा कसा बाहेर काढू शकतो, याचे एआय सिम्युलेशन करू शकते आणि त्यानंतर सध्याच्या प्रतिसाद योजनांच्या परिणामकारकतेचे मूल्यांकन करू शकते. यामुळे प्रत्यक्ष घटना घडण्यापूर्वीच टीम्सना आपली कार्यपुस्तिका (प्लेबुक) तयार करण्यास आणि ती सुधारण्यास मदत होते. हे म्हणजे सतत सुधारणा करणाऱ्या आणि तुमच्या सज्जतेची सतत चाचणी घेणाऱ्या एका घटना प्रतिसाद सल्लागारासारखे आहे.

वित्त किंवा आरोग्यसेवा यांसारख्या उच्च जोखमीच्या उद्योगांमध्ये, जिथे घटनांमुळे होणारा डाउनटाइम किंवा डेटा गमावणे विशेषतः खर्चिक असते, तिथे या एआय-चालित आयआर (IR) क्षमता खूप आकर्षक ठरतात. सायबर घटनेचा अनुभव घेणाऱ्या रुग्णालयाला दीर्घकाळ सिस्टम बंद राहणे परवडणारे नसते – अशावेळी, नियंत्रणासाठी त्वरित मदत करणारा एआय अक्षरशः जीव वाचवणारा ठरू शकतो. त्याचप्रमाणे, एखादी वित्तीय संस्था पहाटे ३ वाजता झालेल्या संशयित फसवणुकीच्या घुसखोरीच्या प्राथमिक तपासणीसाठी एआयचा वापर करू शकते, जेणेकरून जेव्हा ऑन-कॉल कर्मचारी ऑनलाइन येतील, तेव्हापर्यंत बरीच पूर्वतयारी (प्रभावित खाती लॉग ऑफ करणे, व्यवहार रोखणे इत्यादी) आधीच पूर्ण झालेली असेल. जनरेटिव्ह एआयच्या साहाय्याने इन्सिडेंट रिस्पॉन्स टीम्सना सक्षम, संस्था प्रतिसादाचा वेळ लक्षणीयरीत्या कमी करू शकतात आणि त्यांच्या हाताळणीची परिपूर्णता सुधारू शकतात, ज्यामुळे अखेरीस सायबर घटनांमुळे होणारे नुकसान कमी करता येते.

वर्तणुकीय विश्लेषण आणि विसंगती शोधणे

जेव्हा काहीतरी 'सामान्य' वर्तनापेक्षा वेगळे घडते, तेव्हा ते लक्षात घेऊन अनेक सायबर हल्ले ओळखता येतात – मग ते वापरकर्त्याच्या खात्याद्वारे असामान्य प्रमाणात डेटा डाउनलोड करणे असो किंवा नेटवर्क डिव्हाइसने अचानक एका अनोळखी होस्टशी संवाद साधणे असो. जनरेटिव्ह एआय वर्तणूक विश्लेषण आणि विसंगती शोधण्यासाठी, जे वापरकर्ते आणि प्रणालींच्या सामान्य पद्धती शिकते आणि जेव्हा काहीतरी असामान्य दिसते तेव्हा ते सूचित करते.

पारंपारिक विसंगती शोधन पद्धतीत अनेकदा सांख्यिकीय मर्यादा किंवा विशिष्ट मापदंडांवर (उदा. सीपीयू वापरामध्ये अचानक वाढ, विचित्र वेळी लॉग इन करणे इत्यादी) आधारित साधे मशीन लर्निंग वापरले जाते. जनरेटिव्ह एआय वर्तणुकीचे अधिक सूक्ष्म प्रोफाइल तयार करून ही प्रक्रिया आणखी पुढे नेऊ शकते. उदाहरणार्थ, एक एआय मॉडेल कालांतराने एखाद्या कर्मचाऱ्याचे लॉग इन, फाईल ॲक्सेस करण्याची पद्धत आणि ईमेलच्या सवयी आत्मसात करून त्या वापरकर्त्याच्या 'सामान्य' वर्तनाची बहुआयामी समज तयार करू शकते. जर ते खाते नंतर त्याच्या सामान्य वर्तनाच्या पूर्णपणे बाहेर काही करत असेल (जसे की नवीन देशातून लॉग इन करणे आणि मध्यरात्री एचआरच्या अनेक फाईल्स ॲक्सेस करणे), तर एआय केवळ एका मापदंडावरच नव्हे, तर वापरकर्त्याच्या प्रोफाइलमध्ये न बसणाऱ्या संपूर्ण वर्तणूक पद्धतीतील विचलन ओळखेल. तांत्रिक भाषेत सांगायचे झाल्यास, जनरेटिव्ह मॉडेल्स (जसे की ऑटोएनकोडर्स किंवा सिक्वेन्स मॉडेल्स) 'सामान्य' वर्तन कसे असते याचे मॉडेल तयार करू शकतात आणि नंतर अपेक्षित वर्तणुकीची श्रेणी निर्माण करू शकतात. जेव्हा वास्तव त्या श्रेणीच्या बाहेर जाते, तेव्हा त्याला विसंगती म्हणून चिन्हांकित केले जाते (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स).

नेटवर्क ट्रॅफिक मॉनिटरिंगमध्ये याचा एक व्यावहारिक उपयोग होतो . २०२४ च्या एका सर्वेक्षणानुसार, ५४% अमेरिकन संस्थांनी सायबरसुरक्षेमध्ये एआयसाठी नेटवर्क ट्रॅफिक मॉनिटरिंगला एक प्रमुख उपयोग म्हणून नमूद केले आहे ( उत्तर अमेरिका: जगभरातील सायबरसुरक्षेमधील एआयचे प्रमुख उपयोग २०२४ ). जनरेटिव्ह एआय एखाद्या एंटरप्राइझच्या नेटवर्कमधील सामान्य संवाद पद्धती शिकू शकते – जसे की, कोणते सर्व्हर सामान्यतः एकमेकांशी संवाद साधतात, कामाच्या वेळेत आणि रात्रीच्या वेळी किती डेटाची देवाणघेवाण होते, इत्यादी. जर एखाद्या हल्लेखोराने पकडले जाऊ नये म्हणून हळू हळू का होईना, सर्व्हरमधून डेटा बाहेर काढायला सुरुवात केली, तर एआय-आधारित प्रणाली हे लक्षात घेऊ शकते की, “सर्व्हर 'अ' रात्री २ वाजता बाह्य आयपीवर ५०० एमबी डेटा कधीही पाठवत नाही” आणि एक अलर्ट देऊ शकते. कारण एआय केवळ स्थिर नियमांचा वापर करत नाही, तर नेटवर्कच्या वर्तणुकीच्या एका विकसित होणाऱ्या मॉडेलचा वापर करते, त्यामुळे ते अशा सूक्ष्म विसंगती पकडू शकते ज्या स्थिर नियम (जसे की “जर डेटा > X एमबी असेल तर अलर्ट द्या”) चुकवू शकतात किंवा चुकून चिन्हांकित करू शकतात. हाच अनुकूलनशील स्वभाव एआय-चालित विसंगती शोध प्रणालीला बँकिंग व्यवहार नेटवर्क, क्लाउड इन्फ्रास्ट्रक्चर किंवा आयओटी डिव्हाइस फ्लीट्ससारख्या वातावरणात शक्तिशाली बनवतो, जिथे सामान्य विरुद्ध असामान्य यासाठी निश्चित नियम परिभाषित करणे अत्यंत क्लिष्ट असते.

जनरेटिव्ह एआय युझर बिहेविअर ॲनालिटिक्स (UBA), जे अंतर्गत धोके किंवा हॅक झालेली खाती ओळखण्यासाठी महत्त्वाचे आहे. प्रत्येक वापरकर्ता किंवा घटकाची एक आधारभूत माहिती तयार करून, एआय क्रेडेन्शियलच्या गैरवापरासारख्या गोष्टी शोधू शकते. उदाहरणार्थ, जर अकाउंटिंग विभागातील बॉब अचानक ग्राहक डेटाबेसमध्ये क्वेरी करू लागला (जे त्याने यापूर्वी कधीही केले नव्हते), तर बॉबच्या वर्तनासाठी असलेले एआय मॉडेल याला असामान्य म्हणून चिन्हांकित करेल. हे कदाचित मालवेअर नसेल – हे असे प्रकरण असू शकते की बॉबचे क्रेडेन्शियल्स चोरून एखाद्या हल्लेखोराने वापरले आहेत, किंवा बॉब जिथे तपासणी करायला नको तिथे करत आहे. दोन्ही परिस्थितीत, सुरक्षा टीमला तपास करण्यासाठी पूर्वसूचना मिळते. अशा एआय-चालित UBA प्रणाली विविध सुरक्षा उत्पादनांमध्ये अस्तित्वात आहेत, आणि जनरेटिव्ह मॉडेलिंग तंत्रज्ञान संदर्भ विचारात घेऊन त्यांची अचूकता वाढवत आहे आणि खोटे इशारे कमी करत आहे (उदाहरणार्थ, बॉब एखाद्या विशेष प्रकल्पावर काम करत असेल, इत्यादी, ज्याचा अंदाज एआय कधीकधी इतर डेटावरून लावू शकते).

ओळख आणि प्रवेश व्यवस्थापनाच्या क्षेत्रात, डीपफेक शोधणे ही एक वाढती गरज आहे – जनरेटिव्ह एआय असे कृत्रिम आवाज आणि व्हिडिओ तयार करू शकते जे बायोमेट्रिक सुरक्षेला चकमा देतात. विशेष म्हणजे, जनरेटिव्ह एआय ऑडिओ किंवा व्हिडिओमधील अशा सूक्ष्म गोष्टींचे विश्लेषण करून हे डीपफेक शोधण्यात मदत करू शकते, ज्या मानवांना लक्षात येणे कठीण असते. आपण अॅक्सेंचरचे एक उदाहरण पाहिले, ज्यांनी जनरेटिव्ह एआयचा वापर करून असंख्य चेहऱ्यावरील हावभाव आणि परिस्थितींचे अनुकरण केले, जेणेकरून प्रशिक्षित करता येईल . पाच वर्षांच्या कालावधीत, या दृष्टिकोनामुळे अॅक्सेंचरला त्यांच्या ९०% प्रणालींमधून पासवर्ड काढून टाकण्यास (बायोमेट्रिक्स आणि इतर घटकांकडे वळण्यास) आणि हल्ले ६०% ने कमी करण्यास मदत झाली (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयसाठी ६ उपयोग [+ उदाहरणे] ). थोडक्यात, त्यांनी बायोमेट्रिक प्रमाणीकरण मजबूत करण्यासाठी जनरेटिव्ह एआयचा वापर केला, ज्यामुळे ते जनरेटिव्ह हल्ल्यांपासून सुरक्षित झाले (एआय विरुद्ध एआय लढण्याचे हे एक उत्तम उदाहरण आहे). या प्रकारचे वर्तणूक मॉडेलिंग – या प्रकरणात, जिवंत मानवी चेहरा आणि एआय-निर्मित चेहरा यातील फरक ओळखणे – अत्यंत महत्त्वाचे आहे, कारण आपण प्रमाणीकरणामध्ये एआयवर अधिक अवलंबून आहोत.

जनरेटिव्ह एआयद्वारे समर्थित विसंगती शोधणे हे विविध उद्योगांमध्ये लागू होते: आरोग्यसेवेमध्ये, हॅकिंगच्या चिन्हांसाठी वैद्यकीय उपकरणांच्या वर्तनाचे निरीक्षण करणे; वित्त क्षेत्रात, फसवणूक किंवा अल्गोरिदममधील फेरफार दर्शवू शकणाऱ्या अनियमित नमुन्यांसाठी ट्रेडिंग सिस्टीमवर लक्ष ठेवणे; ऊर्जा/उपयोगिता क्षेत्रात, घुसखोरीच्या चिन्हांसाठी नियंत्रण प्रणालीच्या संकेतांचे निरीक्षण करणे. व्यापकता (वर्तनाच्या सर्व पैलूंचा विचार करणे) आणि सखोलता (गुंतागुंतीचे नमुने समजून घेणे) , सायबर घटनेचे अत्यंत सूक्ष्म निर्देशक शोधण्यासाठी त्याला एक शक्तिशाली साधन बनवते. धोके अधिक गुप्त होत असताना आणि सामान्य कामकाजात लपून राहत असताना, 'सामान्य' काय आहे याचे अचूक वर्णन करण्याची आणि काही विचलन झाल्यास धोक्याची सूचना देण्याची ही क्षमता अत्यावश्यक ठरते. अशा प्रकारे जनरेटिव्ह एआय एका अविरत पहारेकऱ्याप्रमाणे काम करते, जे पर्यावरणातील बदलांशी जुळवून घेण्यासाठी नेहमी शिकत असते आणि सामान्यतेची आपली व्याख्या अद्ययावत करत असते, तसेच अधिक बारकाईने तपासणी आवश्यक असलेल्या विसंगतींबद्दल सुरक्षा पथकांना सतर्क करते.

सायबरसुरक्षेमध्ये जनरेटिव्ह एआयच्या संधी आणि फायदे

सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर ही साधने स्वीकारण्यास इच्छुक असलेल्या संस्थांसाठी अनेक संधी आणि फायदे आणतो. खाली, आम्ही जनरेटिव्ह एआयला सायबरसुरक्षा कार्यक्रमांमध्ये एक आकर्षक भर घालणारे प्रमुख फायदे सारांशित करतो:

• जलद धोका शोधणे आणि प्रतिसाद: जनरेटिव्ह एआय सिस्टीम रिअल टाइममध्ये मोठ्या प्रमाणात डेटाचे विश्लेषण करू शकतात आणि मॅन्युअल मानवी विश्लेषणापेक्षा खूप जलद धोके ओळखू शकतात. या गतीच्या फायद्याचा अर्थ हल्ल्यांचे लवकर शोधणे आणि घटनांवर जलद नियंत्रण ठेवणे असा होतो. प्रत्यक्षात, एआय-चालित सुरक्षा देखरेख अशा धोक्यांना पकडू शकते जे मानवांना सहसंबंधित होण्यास खूप जास्त वेळ घेतील. घटनांना त्वरित प्रतिसाद देऊन (किंवा अगदी स्वायत्तपणे प्रारंभिक प्रतिसाद अंमलात आणून), संस्था त्यांच्या नेटवर्कमध्ये हल्लेखोरांचा राहण्याचा वेळ नाटकीयरित्या कमी करू शकतात, ज्यामुळे नुकसान कमी होते.

• सुधारित अचूकता आणि धोक्यांची व्याप्ती: जनरेटिव्ह मॉडेल्स नवीन डेटामधून सतत शिकत असल्यामुळे, ते विकसित होणाऱ्या धोक्यांशी जुळवून घेऊ शकतात आणि दुर्भावनापूर्ण हालचालींची अधिक सूक्ष्म चिन्हे ओळखू शकतात. यामुळे स्थिर नियमांच्या तुलनेत शोधण्याची अचूकता सुधारते (कमी फॉल्स निगेटिव्ह आणि फॉल्स पॉझिटिव्ह). उदाहरणार्थ, फिशिंग ईमेल किंवा मालवेअरच्या वर्तनाची वैशिष्ट्ये शिकलेला एआय (AI) असे प्रकार ओळखू शकतो जे यापूर्वी कधीही पाहिले गेले नव्हते. याचा परिणाम म्हणजे धोक्यांच्या प्रकारांची व्यापक व्याप्ती – ज्यात नवीन हल्ल्यांचा समावेश आहे – ज्यामुळे एकूण सुरक्षा स्थिती मजबूत होते. सुरक्षा पथकांना एआय विश्लेषणातून सविस्तर माहिती देखील मिळते (उदा. मालवेअरच्या वर्तनाचे स्पष्टीकरण), ज्यामुळे अधिक अचूक आणि लक्ष्यित संरक्षण शक्य होते (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स).

• पुनरावृत्ती होणाऱ्या कामांचे स्वयंचलीकरण: जनरेटिव्ह एआय (Generative AI) नियमित, श्रम-केंद्रित सुरक्षा कामांना स्वयंचलित करण्यात उत्कृष्ट आहे – लॉग्स तपासण्यापासून आणि अहवाल तयार करण्यापासून ते इन्सिडेंट रिस्पॉन्स स्क्रिप्ट्स लिहिण्यापर्यंत. हे स्वयंचलीकरण मानवी विश्लेषकांवरील भार कमी करते, ज्यामुळे ते उच्च-स्तरीय धोरण आणि गुंतागुंतीच्या निर्णय प्रक्रियेवर लक्ष केंद्रित करण्यास मोकळे होतात (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स). व्हल्नरेबिलिटी स्कॅनिंग, कॉन्फिगरेशन ऑडिटिंग, वापरकर्ता क्रियाकलाप विश्लेषण आणि अनुपालन अहवाल यांसारखी सामान्य पण महत्त्वाची कामे एआयद्वारे हाताळली जाऊ शकतात (किंवा किमान त्यांचा प्राथमिक मसुदा तयार केला जाऊ शकतो). ही कामे मशीनच्या वेगाने हाताळल्यामुळे, एआय केवळ कार्यक्षमताच सुधारत नाही, तर मानवी चुका देखील कमी करते (जे डेटा उल्लंघनांमधील एक महत्त्वाचे कारण आहे).

• सक्रिय संरक्षण आणि सिम्युलेशन: जनरेटिव्ह एआय संस्थांना प्रतिक्रियात्मक सुरक्षेकडून सक्रिय सुरक्षेकडे वळण्यास मदत करते. हल्ला सिम्युलेशन, कृत्रिम डेटा निर्मिती आणि परिस्थिती-आधारित प्रशिक्षण यांसारख्या तंत्रांद्वारे, संरक्षक वास्तविक जगात धोके येण्यापूर्वीच . सुरक्षा पथके त्यांच्या प्रतिसादांची चाचणी घेण्यासाठी आणि कोणत्याही कमतरता दूर करण्यासाठी सुरक्षित वातावरणात सायबर हल्ल्यांचे (फिशिंग मोहिम, मालवेअरचा प्रादुर्भाव, डीडीओएस, इत्यादी) सिम्युलेशन करू शकतात. हे सततचे प्रशिक्षण, जे केवळ मानवी प्रयत्नांनी पूर्णपणे करणे अनेकदा अशक्य असते, संरक्षणाला तीक्ष्ण आणि अद्ययावत ठेवते. हे सायबर 'फायर ड्रिल'सारखेच आहे – एआय तुमच्या संरक्षणासमोर अनेक काल्पनिक धोके टाकू शकते, जेणेकरून तुम्ही सराव करून सुधारणा करू शकाल.

• मानवी कौशल्यात वाढ (एआय एक सामर्थ्यवर्धक म्हणून): जनरेटिव्ह एआय एकाच वेळी अथक कनिष्ठ विश्लेषक, सल्लागार आणि सहाय्यक म्हणून काम करते. ते कमी अनुभवी टीम सदस्यांना मार्गदर्शन आणि शिफारसी देऊ शकते, जे सहसा अनुभवी तज्ञांकडून अपेक्षित असते, ज्यामुळे संपूर्ण टीममध्ये कौशल्याचे लोकशाहीकरण होते ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचे ६ उपयोग [+ उदाहरणे] ). सायबरसुरक्षेतील प्रतिभावंतांच्या कमतरतेमुळे हे विशेषतः मौल्यवान आहे – एआय लहान टीम्सना कमी संसाधनांमध्ये अधिक काम करण्यास मदत करते. दुसरीकडे, अनुभवी विश्लेषकांना एआयद्वारे किरकोळ कामे हाताळली जाण्याचा आणि सहज लक्षात न येणारे निष्कर्ष समोर आणण्याचा फायदा होतो, ज्याची ते नंतर पडताळणी करून त्यावर कार्यवाही करू शकतात. याचा एकूण परिणाम म्हणजे एक सुरक्षा टीम जी अधिक उत्पादक आणि सक्षम बनते, जिथे एआय प्रत्येक मानवी सदस्याच्या प्रभावाला वाढवते ( सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो ).

• वाढीव निर्णय समर्थन आणि अहवाल देणे: तांत्रिक डेटाचे नैसर्गिक भाषेतील अंतर्दृष्टीमध्ये रूपांतर करून, जनरेटिव्ह एआय संप्रेषण आणि निर्णय घेण्याची क्षमता सुधारते. एआय-व्युत्पन्न सारांशांद्वारे सुरक्षा नेत्यांना समस्यांमध्ये स्पष्ट दृश्यमानता मिळते आणि कच्चा डेटा पार्स न करता माहितीपूर्ण धोरणात्मक निर्णय घेऊ शकतात. त्याचप्रमाणे, जेव्हा एआय सुरक्षा स्थिती आणि घटनांचे समजण्यास सोपे अहवाल तयार करते तेव्हा क्रॉस-फंक्शनल कम्युनिकेशन (एक्झिक्युटिव्ह्ज, अनुपालन अधिकारी इत्यादींशी) सुधारते (सायबरसुरक्षेत जनरेटिव्ह एआय कसे वापरले जाऊ शकते? 10 वास्तविक-जगातील उदाहरणे). हे केवळ नेतृत्व स्तरावर सुरक्षा बाबींवर विश्वास आणि संरेखन निर्माण करत नाही तर जोखीम आणि एआय-शोधलेल्या अंतरांना स्पष्टपणे स्पष्ट करून गुंतवणूक आणि बदलांना न्याय्य ठरविण्यास मदत करते.

एकत्रितपणे, या फायद्यांचा अर्थ असा आहे की सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर करणाऱ्या संस्था संभाव्यतः कमी परिचालन खर्चासह अधिक मजबूत सुरक्षा स्थिती प्राप्त करू शकतात. ते पूर्वी प्रचंड वाटणाऱ्या धोक्यांना प्रतिसाद देऊ शकतात, दुर्लक्षित राहिलेल्या त्रुटी दूर करू शकतात आणि एआय-चालित फीडबॅक लूपद्वारे सतत सुधारणा करू शकतात. सरतेशेवटी, जनरेटिव्ह एआय वेग, व्याप्ती आणि अत्याधुनिकता यांना तितक्याच अत्याधुनिक संरक्षणाने तोंड देऊन विरोधकांच्या पुढे जाण्याची संधी देते. एका सर्वेक्षणात आढळल्याप्रमाणे, अर्ध्याहून अधिक व्यावसायिक आणि सायबर नेते जनरेटिव्ह एआयच्या वापरामुळे धोके अधिक वेगाने ओळखले जातील आणि अचूकता वाढेल अशी अपेक्षा करतात ([PDF] Global Cybersecurity Outlook 2025 | World Economic Forum) (Generative AI in Cybersecurity: A Comprehensive Review of LLM...) – हे या तंत्रज्ञानाच्या फायद्यांबद्दलच्या आशावादाचे द्योतक आहे.

सायबरसुरक्षेत जनरेटिव्ह एआय वापरण्याचे धोके आणि आव्हाने

संधी महत्त्वपूर्ण असल्या तरी, सायबरसुरक्षेत जनरेटिव्ह एआयकडे डोळे उघडे ठेवून संपर्क साधणे अत्यंत महत्त्वाचे आहे, जोखीम आणि आव्हानांकडे ठेवून. एआयवर आंधळेपणाने विश्वास ठेवणे किंवा त्याचा गैरवापर करणे नवीन असुरक्षा आणू शकते. खाली, आम्ही प्रत्येकाच्या संदर्भासह प्रमुख चिंता आणि तोटे रेखाटतो:

• सायबर गुन्हेगारांकडून होणारा प्रतिकूल वापर: ज्या जनरेटिव्ह क्षमता संरक्षणकर्त्यांना मदत करतात, त्याच हल्लेखोरांना अधिक सक्षम बनवू शकतात. हल्लेखोर आधीच जनरेटिव्ह एआयचा वापर अधिक विश्वासार्ह फिशिंग ईमेल तयार करण्यासाठी, सोशल इंजिनिअरिंगसाठी बनावट ओळख आणि डीपफेक व्हिडिओ तयार करण्यासाठी, शोध टाळण्यासाठी सतत बदलणारे पॉलिमॉर्फिक मालवेअर विकसित करण्यासाठी आणि हॅकिंगच्या काही पैलूंना स्वयंचलित करण्यासाठी करत आहेत (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स). जवळपास निम्म्या (४६%) सायबरसुरक्षा नेत्यांना चिंता आहे की जनरेटिव्ह एआयमुळे अधिक प्रगत प्रतिकूल हल्ले होतील (जनरेटिव्ह एआय सुरक्षा: ट्रेंड्स, धोके आणि शमन धोरणे). या "एआय शस्त्रास्त्र स्पर्धेचा" अर्थ असा आहे की, जसे संरक्षणकर्ते एआयचा अवलंब करतील, तसे हल्लेखोर फार मागे राहणार नाहीत (किंबहुना, अनियंत्रित एआय साधनांचा वापर करून ते काही क्षेत्रांमध्ये पुढेही असू शकतात). संस्थांनी एआय-वर्धित धोक्यांसाठी तयार असले पाहिजे, जे अधिक वारंवार, अत्याधुनिक आणि शोधण्यास कठीण असतील.

• एआयमुळे होणारे भ्रम आणि अशुद्धता: जनरेटिव्ह एआय मॉडेल्स असे आउटपुट देऊ शकतात जे विश्वासार्ह वाटतात, परंतु ते चुकीचे किंवा दिशाभूल करणारे असू शकतात – या घटनेला 'भ्रम' (hallucination) म्हणून ओळखले जाते. सुरक्षेच्या संदर्भात, एखादे एआय एखाद्या घटनेचे विश्लेषण करून चुकीने असा निष्कर्ष काढू शकते की, विशिष्ट असुरक्षितता हे त्याचे कारण होते, किंवा ते एक सदोष उपाययोजना स्क्रिप्ट तयार करू शकते जी हल्ला रोखण्यात अयशस्वी ठरते. या चुकांवर डोळे झाकून विश्वास ठेवल्यास त्या धोकादायक ठरू शकतात. एनटीटी डेटाने (NTT Data) चेतावणी दिल्याप्रमाणे, “जनरेटिव्ह एआय विश्वासार्ह वाटेल अशी खोटी माहिती देऊ शकते, आणि या घटनेला भ्रम म्हणतात… सध्या त्यांना पूर्णपणे दूर करणे कठीण आहे” (जनरेटिव्ह एआयचे सुरक्षा धोके आणि त्यावरील उपाययोजना, आणि सायबरसुरक्षेवरील त्याचा परिणाम | एनटीटी डेटा ग्रुप). पडताळणीशिवाय एआयवर जास्त अवलंबून राहिल्यास प्रयत्न चुकीच्या दिशेने जाऊ शकतात किंवा सुरक्षेची खोटी भावना निर्माण होऊ शकते. उदाहरणार्थ, एखादे एआय एखादी महत्त्वाची प्रणाली सुरक्षित नसतानाही तिला चुकीने सुरक्षित म्हणून चिन्हांकित करू शकते, किंवा याउलट, कधीही न घडलेला सायबर हल्ला “शोधून” भीतीचे वातावरण निर्माण करू शकते. हा धोका कमी करण्यासाठी एआयच्या निष्कर्षांची कठोर पडताळणी करणे आणि महत्त्वाच्या निर्णयांमध्ये मानवांचा सहभाग असणे अत्यावश्यक आहे.

• फॉल्स पॉझिटिव्ह आणि निगेटिव्ह: भ्रमांप्रमाणेच, जर एखादे एआय मॉडेल अयोग्यरित्या प्रशिक्षित किंवा कॉन्फिगर केले असेल, तर ते निरुपद्रवी हालचालींना दुर्भावनापूर्ण म्हणून जास्त प्रमाणात नोंदवू शकते (फॉल्स पॉझिटिव्ह) किंवा, त्याहूनही वाईट म्हणजे, खरे धोके ओळखण्यात अयशस्वी होऊ शकते (फॉल्स निगेटिव्ह) (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो). अतिरिक्त खोट्या सूचनांमुळे सुरक्षा पथकांवर ताण येऊ शकतो आणि अलर्ट फटीग (सूचना थकवा) येऊ शकतो (ज्यामुळे एआयने दिलेले कार्यक्षमतेतील फायदे नाहीसे होतात), तर चुकलेल्या डिटेक्शन्समुळे संस्था असुरक्षित राहते. योग्य संतुलनासाठी जनरेटिव्ह मॉडेल्सना ट्यून करणे आव्हानात्मक आहे. प्रत्येक वातावरण अद्वितीय असते आणि एआय कदाचित लगेचच सर्वोत्तम कामगिरी करणार नाही. सतत शिकणे ही देखील एक दुधारी तलवार आहे – जर एआय चुकीच्या फीडबॅकवरून किंवा बदलत्या वातावरणातून शिकला, तर त्याच्या अचूकतेत चढ-उतार होऊ शकतो. सुरक्षा पथकांनी एआयच्या कामगिरीवर लक्ष ठेवले पाहिजे आणि थ्रेशोल्ड समायोजित केले पाहिजेत किंवा मॉडेल्सना सुधारणात्मक फीडबॅक दिला पाहिजे. अत्यंत महत्त्वाच्या संदर्भांमध्ये (जसे की महत्त्वपूर्ण पायाभूत सुविधांसाठी घुसखोरी शोधणे), एआयच्या सूचना काही काळासाठी विद्यमान प्रणालींसोबत समांतरपणे चालवणे शहाणपणाचे ठरू शकते, जेणेकरून त्या एकमेकांशी संघर्ष करण्याऐवजी संरेखित आणि पूरक ठरतील याची खात्री करता येईल.

• डेटा गोपनीयता आणि गळती: जनरेटिव्ह एआय सिस्टीम्सना अनेकदा प्रशिक्षण आणि कार्यासाठी मोठ्या प्रमाणात डेटाची आवश्यकता असते. जर हे मॉडेल्स क्लाउड-आधारित असतील किंवा योग्यरित्या वेगळे ठेवलेले नसतील, तर संवेदनशील माहिती लीक होण्याचा धोका असतो. वापरकर्ते नकळतपणे मालकी हक्काचा डेटा किंवा वैयक्तिक डेटा एआय सेवेमध्ये टाकू शकतात (उदाहरणार्थ, चॅटजीपीटीला (ChatGPT) एखाद्या गोपनीय घटनेच्या अहवालाचा सारांश सांगायला लावणे), आणि तो डेटा मॉडेलच्या ज्ञानाचा भाग बनू शकतो. खरं तर, एका अलीकडील अभ्यासात असे आढळून आले आहे की जनरेटिव्ह एआय टूल्सना दिलेल्या ५५% इनपुटमध्ये संवेदनशील किंवा वैयक्तिक ओळखण्यायोग्य माहिती होती, ज्यामुळे डेटा गळतीबद्दल गंभीर चिंता निर्माण झाली आहे (जनरेटिव्ह एआय सुरक्षा: ट्रेंड्स, धोके आणि शमन धोरणे). याव्यतिरिक्त, जर एखाद्या एआयला अंतर्गत डेटावर प्रशिक्षित केले गेले असेल आणि त्याला विशिष्ट प्रकारे क्वेरी केले गेले, तर तो देऊ . संस्थांनी कठोर डेटा हाताळणी धोरणे लागू केली पाहिजेत (उदा. संवेदनशील सामग्रीसाठी ऑन-प्रिमाइस किंवा खाजगी एआय इन्स्टन्स वापरणे) आणि कर्मचाऱ्यांना सार्वजनिक एआय टूल्समध्ये गोपनीय माहिती पेस्ट न करण्याबद्दल शिक्षित केले पाहिजे. गोपनीयतेचे नियम (जीडीपीआर, इत्यादी) देखील लागू होतात – योग्य संमती किंवा संरक्षणाशिवाय एआयला प्रशिक्षित करण्यासाठी वैयक्तिक डेटा वापरणे कायद्याचे उल्लंघन ठरू शकते.

• मॉडेल सुरक्षा आणि फेरफार: जनरेटिव्ह एआय मॉडेल्स स्वतःच लक्ष्य बनू शकतात. विरोधक मॉडेल पॉइझनिंगचा, म्हणजेच प्रशिक्षण किंवा पुनःप्रशिक्षण टप्प्यादरम्यान दुर्भावनापूर्ण किंवा दिशाभूल करणारा डेटा पुरवून एआयला चुकीचे पॅटर्न्स शिकवू शकतात (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो). उदाहरणार्थ, एखादा हल्लेखोर धोक्याच्या गुप्त माहितीच्या डेटामध्ये (थ्रेट इंटेल डेटा) सूक्ष्मपणे फेरफार करू शकतो, जेणेकरून एआय हल्लेखोराच्या स्वतःच्या मालवेअरला दुर्भावनापूर्ण म्हणून ओळखण्यात अयशस्वी ठरेल. दुसरी युक्ती म्हणजे प्रॉम्प्ट इंजेक्शन किंवा आउटपुट मॅनिप्युलेशन, ज्यामध्ये हल्लेखोर एआयला असे इनपुट देण्याचा मार्ग शोधतो ज्यामुळे ते अनपेक्षित मार्गांनी वागते – कदाचित त्याच्या सुरक्षा उपायांकडे दुर्लक्ष करणे किंवा अशी माहिती उघड करणे जी त्याने करू नये (जसे की अंतर्गत प्रॉम्प्ट्स किंवा डेटा). याव्यतिरिक्त, मॉडेल इव्हेजनचा: हल्लेखोर खास एआयला फसवण्यासाठी इनपुट तयार करतात. हे आपल्याला ॲडव्हर्सरियल एक्झाम्पल्समध्ये (प्रतिकूल उदाहरणांमध्ये) दिसते – हा थोडासा बदललेला डेटा असतो जो मानवाला सामान्य वाटतो, परंतु एआय त्याचे चुकीचे वर्गीकरण करते. ही साधने तैनात करताना एआय पुरवठा साखळी सुरक्षित असल्याची खात्री करणे (डेटा अखंडता, मॉडेल ऍक्सेस नियंत्रण, प्रतिकूल मजबुती चाचणी) हा सायबरसुरक्षेचा एक नवीन परंतु आवश्यक भाग आहे (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स).

• अतिनिर्भरता आणि कौशल्याचा ऱ्हास: एक असा सौम्य धोका आहे की संस्था एआयवर (AI) अती अवलंबून राहू शकतात आणि मानवी कौशल्यांचा ऱ्हास होऊ देऊ शकतात. जर कनिष्ठ विश्लेषक एआयच्या निष्कर्षांवर आंधळेपणाने विश्वास ठेवू लागले, तर एआय अनुपलब्ध असताना किंवा चुकीचे ठरल्यास आवश्यक असलेला चिकित्सक विचार आणि अंतर्ज्ञान त्यांच्यात विकसित होणार नाही. टाळण्यासारखी एक परिस्थिती म्हणजे सुरक्षा पथकाकडे उत्तम साधने असणे, परंतु ती साधने बंद पडल्यास काम कसे करावे याची कल्पना नसणे (जसे वैमानिक ऑटोपायलटवर अती अवलंबून राहतात). मानवी विश्लेषकांना तल्लख ठेवण्यासाठी, एआयच्या मदतीशिवाय नियमित प्रशिक्षण सराव करणे आणि एआय हा एक सहाय्यक आहे, अचूक भविष्यवेत्ता नाही, ही मानसिकता जोपासणे महत्त्वाचे आहे. विशेषतः महत्त्वपूर्ण निर्णयांसाठी, मानवच अंतिम निर्णय घेणारे राहिले पाहिजेत.

• नैतिक आणि अनुपालन आव्हाने: सायबरसुरक्षेमध्ये एआयच्या वापरामुळे नैतिक प्रश्न निर्माण होतात आणि नियामक अनुपालनाच्या समस्या उद्भवू शकतात. उदाहरणार्थ, जर एखाद्या विसंगतीमुळे एआय प्रणालीने एखाद्या कर्मचाऱ्याला चुकीने दुर्भावनापूर्ण अंतर्गत व्यक्ती म्हणून गोवले, तर त्यामुळे त्या व्यक्तीच्या प्रतिष्ठेला किंवा कारकिर्दीला विनाकारण नुकसान पोहोचू शकते. एआयने घेतलेले निर्णय अपारदर्शक असू शकतात ("ब्लॅक बॉक्स" समस्या), ज्यामुळे विशिष्ट कृती का करण्यात आल्या हे लेखापरीक्षक किंवा नियामकांना समजावून सांगणे कठीण होते. एआय-निर्मित सामग्रीचा वापर जसजसा वाढत जाईल, तसतशी पारदर्शकता सुनिश्चित करणे आणि उत्तरदायित्व राखणे महत्त्वाचे आहे. नियामक एआयची छाननी करण्यास सुरुवात करत आहेत – उदाहरणार्थ, युरोपियन युनियनचा एआय कायदा "उच्च-जोखीम" असलेल्या एआय प्रणालींवर आवश्यकता लादेल आणि सायबरसुरक्षा एआय त्या श्रेणीत येऊ शकते. कंपन्यांना जनरेटिव्ह एआयचा जबाबदारीने वापर करण्यासाठी या नियमांचे पालन करावे लागेल आणि शक्यतो एनआयएसटी एआय रिस्क मॅनेजमेंट फ्रेमवर्कसारख्या मानकांचे पालन करावे लागेल (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे). अनुपालनामध्ये परवान्यांचाही समावेश होतो: ओपन-सोर्स किंवा तृतीय-पक्ष मॉडेल्स वापरताना अशा अटी असू शकतात ज्या विशिष्ट वापरांवर निर्बंध घालतात किंवा सुधारणा सामायिक करणे आवश्यक करतात.

थोडक्यात सांगायचे झाल्यास, जनरेटिव्ह एआय हा काही रामबाण उपाय नाही – जर त्याची अंमलबजावणी काळजीपूर्वक केली नाही, तर ते काही समस्या सोडवत असतानाच नवीन कमकुवतपणा निर्माण करू शकते. वर्ल्ड इकॉनॉमिक फोरमच्या २०२४ च्या एका अभ्यासात असे अधोरेखित करण्यात आले आहे की, सुमारे ४७% संस्था हल्लेखोरांकडून होणाऱ्या जनरेटिव्ह एआयमधील प्रगतीला एक प्रमुख चिंता मानतात, ज्यामुळे सायबरसुरक्षेमध्ये हा "जनरेटिव्ह एआयचा सर्वात चिंताजनक परिणाम" ठरतो ( [PDF] ग्लोबल सायबरसुरक्षा आउटलुक २०२५ | वर्ल्ड इकॉनॉमिक फोरम ) ( सायबरसुरक्षेतील जनरेटिव्ह एआय: एलएलएमचा एक व्यापक आढावा... ). त्यामुळे संस्थांनी एक संतुलित दृष्टिकोन स्वीकारला पाहिजे: एआयच्या फायद्यांचा लाभ घेतानाच, गव्हर्नन्स, चाचणी आणि मानवी देखरेखीद्वारे या जोखमींचे काटेकोरपणे व्यवस्थापन करणे. हा समतोल प्रत्यक्षात कसा साधायचा यावर आपण पुढे चर्चा करणार आहोत.

भविष्यातील दृष्टीकोन: सायबरसुरक्षेत जनरेटिव्ह एआयची विकसित होत असलेली भूमिका

भविष्याचा विचार करता, जनरेटिव्ह एआय सायबरसुरक्षा धोरणाचा एक अविभाज्य भाग बनण्यास सज्ज आहे – आणि त्याचप्रमाणे, सायबर शत्रू ज्याचा सतत गैरफायदा घेत राहतील असे एक साधनही बनेल. एआय दोन्ही बाजूंनी सहभागी झाल्यामुळे, हा पाठशिवणीचा खेळ अधिक तीव्र होईल. येत्या काही वर्षांत जनरेटिव्ह एआय सायबरसुरक्षेला कसे आकार देऊ शकते, याबद्दलचे काही दूरदृष्टीचे निष्कर्ष येथे दिले आहेत:

• एआय-संवर्धित सायबर संरक्षण मानक बनत आहे: २०२५ पर्यंत आणि त्यानंतर, अशी अपेक्षा आहे की बहुतेक मध्यम ते मोठ्या संस्थांनी त्यांच्या सुरक्षा कार्यांमध्ये एआय-चालित साधनांचा समावेश केला असेल. ज्याप्रमाणे आज अँटीव्हायरस आणि फायरवॉल मानक आहेत, त्याचप्रमाणे एआय कोपायलट्स आणि विसंगती शोध प्रणाली (ॲनोमली डिटेक्शन सिस्टीम्स) सुरक्षा रचनेचे मूलभूत घटक बनू शकतात. ही साधने अधिक विशेषीकृत होण्याची शक्यता आहे – उदाहरणार्थ, क्लाउड सुरक्षेसाठी, आयओटी (IoT) डिव्हाइस मॉनिटरिंगसाठी, ॲप्लिकेशन कोड सुरक्षेसाठी इत्यादींसाठी सु-सुधारित केलेले वेगवेगळे एआय मॉडेल्स, जे सर्व एकत्रितपणे काम करतील. एका अंदाजानुसार, “२०२५ मध्ये, जनरेटिव्ह एआय सायबरसुरक्षेचा अविभाज्य भाग बनेल, ज्यामुळे संस्थांना अत्याधुनिक आणि विकसित होणाऱ्या धोक्यांपासून सक्रियपणे बचाव करणे शक्य होईल” (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो). एआय रिअल-टाइम धोका ओळखण्याची क्षमता वाढवेल, अनेक प्रतिसाद क्रिया स्वयंचलित करेल आणि सुरक्षा पथकांना त्यांच्या क्षमतेपेक्षा कितीतरी जास्त डेटा व्यवस्थापित करण्यास मदत करेल.

• सतत शिकणे आणि अनुकूलन: सायबर क्षेत्रातील भविष्यातील जनरेटिव्ह एआय सिस्टीम्स तात्काळ शिकण्यात आणि जवळपास रिअल-टाइममध्ये आपला नॉलेज बेस अद्ययावत करतील. यामुळे खऱ्या अर्थाने अनुकूलनशील संरक्षण प्रणाली विकसित होऊ शकते – कल्पना करा की, एखादी एआय सकाळी दुसऱ्या कंपनीवर हल्ला करणाऱ्या नवीन फिशिंग मोहिमेबद्दल शिकते आणि दुपारपर्यंत प्रतिसाद म्हणून तुमच्या कंपनीचे ईमेल फिल्टर्स आधीच समायोजित करते. क्लाउड-आधारित एआय सुरक्षा सेवा अशा प्रकारच्या सामूहिक शिक्षणाला चालना देऊ शकतात, जिथे एका संस्थेकडून मिळालेली अनामिक माहिती सर्व सदस्यांना फायदेशीर ठरते (हे धोक्यांच्या माहितीच्या देवाणघेवाणीसारखेच आहे, पण स्वयंचलित). तथापि, संवेदनशील माहितीची देवाणघेवाण टाळण्यासाठी आणि हल्लेखोरांना शेअर केलेल्या मॉडेल्समध्ये चुकीचा डेटा टाकण्यापासून रोखण्यासाठी हे काळजीपूर्वक हाताळणे आवश्यक असेल.

• एआय आणि सायबरसुरक्षा प्रतिभेचा संगम: सायबरसुरक्षा व्यावसायिकांच्या कौशल्य संचामध्ये एआय आणि डेटा सायन्समधील प्राविण्याचा समावेश होईल. ज्याप्रमाणे आजचे विश्लेषक क्वेरी लँग्वेजेस आणि स्क्रिप्टिंग शिकतात, त्याचप्रमाणे उद्याचे विश्लेषक नियमितपणे एआय मॉडेल्सना फाइन-ट्यून करतील किंवा एआयने कार्यान्वित करण्यासाठी 'प्लेबुक्स' लिहितील. आपल्याला 'एआय सुरक्षा प्रशिक्षक' किंवा 'सायबरसुरक्षा एआय अभियंता' – असे लोक जे संस्थेच्या गरजेनुसार एआय साधनांना जुळवून घेण्यात, त्यांच्या कामगिरीची पडताळणी करण्यात आणि ते सुरक्षितपणे कार्यरत आहेत याची खात्री करण्यात विशेषज्ञ असतील. याउलट, सायबरसुरक्षेच्या बाबींचा एआयच्या विकासावर अधिकाधिक प्रभाव पडेल. एआय प्रणाली सुरुवातीपासूनच सुरक्षा वैशिष्ट्यांसह (सुरक्षित आर्किटेक्चर, छेडछाड ओळखणे, एआयच्या निर्णयांसाठी ऑडिट लॉग इत्यादी) तयार केल्या जातील आणि विश्वासार्ह एआयसाठीचे (निष्पक्ष, स्पष्ट करण्यायोग्य, मजबूत आणि सुरक्षित) सुरक्षा-गंभीर संदर्भांमध्ये त्यांच्या उपयोजनाला मार्गदर्शन करतील.

• अधिक अत्याधुनिक एआय-चालित हल्ले: दुर्दैवाने, एआय सोबत धोक्याचे स्वरूप देखील विकसित होईल. झिरो-डे असुरक्षितता शोधण्यासाठी, अत्यंत लक्ष्यित स्पिअर फिशिंग तयार करण्यासाठी (उदा. अचूकपणे तयार केलेले आमिष तयार करण्यासाठी एआय सोशल मीडिया स्क्रॅप करते), आणि बायोमेट्रिक प्रमाणीकरण टाळण्यासाठी किंवा फसवणूक करण्यासाठी विश्वासार्ह डीपफेक आवाज किंवा व्हिडिओ तयार करण्यासाठी एआयचा अधिक वारंवार वापर केला जाईल अशी आमची अपेक्षा आहे. असे स्वयंचलित हॅकिंग एजंट उदयास येऊ शकतात जे कमीतकमी मानवी देखरेखीसह स्वतंत्रपणे बहु-स्तरीय हल्ले (रेकॉनिसन्स, एक्सप्लॉइटेशन, लॅटरल मूव्हमेंट, इत्यादी) करू शकतील. यामुळे संरक्षण करणाऱ्यांवरही एआयवर अवलंबून राहण्याचा दबाव येईल – थोडक्यात, ऑटोमेशन विरुद्ध ऑटोमेशन. काही हल्ले मशीनच्या वेगाने होऊ शकतात, जसे की एआय बॉट्स फिल्टरमधून कोणता ईमेल पास होतो हे पाहण्यासाठी हजारो फिशिंग ईमेलचे विविध प्रकार वापरून पाहतील. या बदलांशी जुळवून घेण्यासाठी सायबर संरक्षणालाही त्याच गतीने आणि लवचिकतेने काम करावे लागेल (सायबरसुरक्षेमध्ये जनरेटिव्ह एआय म्हणजे काय? - पालो अल्टो नेटवर्क्स).

• सुरक्षेमधील नियमन आणि नैतिक एआय: सायबरसुरक्षा कार्यांमध्ये एआय जसजसे खोलवर रुजेल, तसतसे या एआय प्रणालींचा वापर जबाबदारीने केला जाईल याची खात्री करण्यासाठी अधिक तपासणी आणि शक्यतो नियमन केले जाईल. आपण सुरक्षेमधील एआयसाठी विशिष्ट आराखडे आणि मानकांची अपेक्षा करू शकतो. सरकारे पारदर्शकतेसाठी मार्गदर्शक तत्त्वे निश्चित करू शकतात – उदाहरणार्थ, महत्त्वपूर्ण सुरक्षा निर्णय (जसे की संशयास्पद दुर्भावनापूर्ण कृतीसाठी कर्मचाऱ्याचा ॲक्सेस समाप्त करणे) मानवी पुनरावलोकनाशिवाय केवळ एआयद्वारे घेतले जाऊ शकत नाहीत, अशी आवश्यकता ठेवणे. एआय सुरक्षा उत्पादनांसाठी प्रमाणपत्रे देखील असू शकतात, जेणेकरून खरेदीदारांना खात्री पटेल की एआयचे पक्षपात, मजबुती आणि सुरक्षिततेसाठी मूल्यांकन केले गेले आहे. याव्यतिरिक्त, एआय-संबंधित सायबर धोक्यांच्या बाबतीत आंतरराष्ट्रीय सहकार्य वाढू शकते; उदाहरणार्थ, एआय-निर्मित चुकीच्या माहितीला हाताळण्यासंबंधीचे करार किंवा विशिष्ट एआय-चालित सायबर शस्त्रांविरुद्धचे नियम.

• व्यापक एआय आणि आयटी परिसंस्थांसोबत एकीकरण: सायबरसुरक्षेमधील जनरेटिव्ह एआय इतर एआय प्रणाली आणि आयटी व्यवस्थापन साधनांसोबत एकत्रित होण्याची शक्यता आहे. उदाहरणार्थ, नेटवर्क ऑप्टिमायझेशनचे व्यवस्थापन करणारा एआय, सुरक्षा एआयसोबत काम करून हे सुनिश्चित करू शकतो की बदलांमुळे त्रुटी निर्माण होणार नाहीत. एआय-चालित व्यवसाय विश्लेषण, विसंगतींचा (जसे की विक्रीतील अचानक घट आणि हल्ल्यामुळे वेबसाइटमध्ये संभाव्य समस्या) संबंध जोडण्यासाठी सुरक्षा एआयसोबत डेटा शेअर करू शकते. थोडक्यात, एआय एकाकी राहणार नाही – तो संस्थेच्या कामकाजाच्या मोठ्या बुद्धिमान रचनेचा एक भाग असेल. यामुळे सर्वांगीण जोखीम व्यवस्थापनासाठी संधी निर्माण होतात, जिथे संस्थेच्या सुरक्षा स्थितीचे ३६०-अंश दृश्य देण्यासाठी एआयद्वारे ऑपरेशनल डेटा, धोक्याचा डेटा आणि अगदी भौतिक सुरक्षा डेटा देखील एकत्रित केला जाऊ शकतो.

दीर्घकाळात, अशी आशा आहे की जनरेटिव्ह एआय संरक्षणकर्त्यांच्या बाजूने पारडे झुकवण्यास मदत करेल. आधुनिक आयटी वातावरणाची व्याप्ती आणि गुंतागुंत हाताळून, एआय सायबरस्पेसला अधिक सुरक्षित बनवू शकते. तथापि, हा एक प्रवास आहे, आणि जसजसे आपण या तंत्रज्ञानांना परिष्कृत करू आणि त्यांच्यावर योग्य प्रकारे विश्वास ठेवायला शिकू, तसतसे काही अडचणी येतील. ज्या संस्था माहितीपूर्ण राहतील आणि जबाबदार एआय अवलंबनामध्ये , त्या भविष्यातील धोक्यांना तोंड देण्यासाठी सर्वोत्तम स्थितीत असतील.

गार्टनरच्या अलीकडील सायबरसुरक्षा ट्रेंड्स अहवालात नमूद केल्याप्रमाणे, “जनरेटिव्ह एआयच्या वापराच्या पद्धती (आणि धोके) उदयास येत असल्याने परिवर्तनासाठी दबाव निर्माण होत आहे” (सायबरसुरक्षा ट्रेंड्स: परिवर्तनातून लवचिकता - गार्टनर). जे जुळवून घेतील ते एआयला एक शक्तिशाली सहयोगी म्हणून वापरतील; जे मागे राहतील त्यांना एआय-सशक्त विरोधकांकडून मागे पडल्याचे आढळू शकते. एआय सायबर युद्धाच्या क्षेत्राला कसे नव्याने आकार देईल, हे ठरवण्यासाठी येत्या काही वर्षांचा काळ निर्णायक ठरेल.

सायबरसुरक्षेत जनरेटिव्ह एआयचा अवलंब करण्यासाठी व्यावहारिक टेकवेज

त्यांच्या सायबरसुरक्षा धोरणात जनरेटिव्ह एआयचा वापर कसा करायचा याचे मूल्यांकन करणाऱ्या व्यवसायांसाठी, जबाबदार आणि प्रभावी अवलंबनाचे मार्गदर्शन करण्यासाठी येथे काही व्यावहारिक टिप्स आणि शिफारसी आहेत:

1. शिक्षण आणि प्रशिक्षणापासून सुरुवात करा: तुमच्या सुरक्षा टीमला (आणि व्यापक आयटी कर्मचाऱ्यांना) जनरेटिव्ह एआय काय करू शकते आणि काय करू शकत नाही हे समजले आहे याची खात्री करा. एआय-चालित सुरक्षा साधनांच्या मूलभूत गोष्टींवर प्रशिक्षण द्या आणि एआय-सक्षम धोके कव्हर करण्यासाठी सर्व कर्मचाऱ्यांना तुमचे सुरक्षा जागरूकता कार्यक्रम . उदाहरणार्थ, एआय खूप खात्रीशीर फिशिंग स्कॅम आणि डीपफेक कॉल कसे निर्माण करू शकते हे कर्मचाऱ्यांना शिकवा. त्याच वेळी, कर्मचाऱ्यांना त्यांच्या कामात एआय टूल्सच्या सुरक्षित आणि मंजूर वापराबद्दल प्रशिक्षण द्या. सुज्ञ वापरकर्ते एआय चुकीच्या पद्धतीने हाताळण्याची किंवा एआय-वर्धित हल्ल्यांना बळी पडण्याची शक्यता कमी असते (सायबरसुरक्षेत जनरेटिव्ह एआय कसे वापरले जाऊ शकते? 10 वास्तविक-जगातील उदाहरणे).

2. एआय वापरासाठी स्पष्ट धोरणे निश्चित करा: जनरेटिव्ह एआयला कोणत्याही शक्तिशाली तंत्रज्ञानाप्रमाणेच, सुशासनासह हाताळा. अशी धोरणे विकसित करा जी स्पष्ट करतील की एआय साधने कोण वापरू शकतो, कोणती साधने वापरण्यास परवानगी आहे आणि कोणत्या उद्देशांसाठी. माहितीची गळती रोखण्यासाठी संवेदनशील डेटा हाताळण्याबाबत मार्गदर्शक तत्त्वे समाविष्ट करा (उदा. गोपनीय डेटा न देणे ). उदाहरणार्थ, तुम्ही केवळ सुरक्षा टीमच्या सदस्यांनाच घटना प्रतिसादासाठी अंतर्गत एआय सहाय्यक वापरण्याची परवानगी देऊ शकता, आणि विपणन विभाग सामग्रीसाठी तपासलेले एआय वापरू शकतो – इतर सर्वांवर निर्बंध असतील. अनेक संस्था आता त्यांच्या आयटी धोरणांमध्ये जनरेटिव्ह एआयचा स्पष्टपणे उल्लेख करत आहेत, आणि अग्रगण्य मानक संस्था संपूर्ण बंदीऐवजी सुरक्षित वापराच्या धोरणांना प्रोत्साहन देत आहेत (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक उदाहरणे). हे नियम आणि त्यामागील तर्क सर्व कर्मचाऱ्यांपर्यंत पोहोचवण्याची खात्री करा.

3. “शॅडो एआय” कमी करा आणि वापराचे निरीक्षण करा: शॅडो आयटीप्रमाणेच, “शॅडो एआय” तेव्हा निर्माण होते जेव्हा कर्मचारी आयटीच्या माहितीशिवाय एआय साधने किंवा सेवा वापरण्यास सुरुवात करतात (उदा. एखादा डेव्हलपर अनधिकृत एआय कोड असिस्टंट वापरणे). यामुळे न दिसणारे धोके निर्माण होऊ शकतात. अनधिकृत एआय वापर शोधण्यासाठी आणि नियंत्रित करण्यासाठी. नेटवर्क मॉनिटरिंग लोकप्रिय एआय एपीआय (APIs) शी असलेल्या कनेक्शन्सना चिन्हांकित करू शकते, आणि सर्वेक्षण किंवा टूल ऑडिटद्वारे कर्मचारी काय वापरत आहेत हे उघड होऊ शकते. मान्यताप्राप्त पर्याय उपलब्ध करून द्या जेणेकरून चांगल्या हेतूने काम करणारे कर्मचारी बेकायदेशीर मार्गांचा अवलंब करण्याचा मोह टाळू शकतील (उदाहरणार्थ, लोकांना उपयुक्त वाटल्यास अधिकृत चॅटजीपीटी एंटरप्राइझ खाते प्रदान करा). एआयचा वापर उघड केल्याने, सुरक्षा पथके धोक्याचे मूल्यांकन आणि व्यवस्थापन करू शकतात. निरीक्षण करणे देखील महत्त्वाचे आहे – एआय साधनांच्या क्रियाकलाप आणि आउटपुटची शक्य तितकी नोंद ठेवा, जेणेकरून एआयने प्रभावित केलेल्या निर्णयांचा ऑडिट ट्रेल उपलब्ध राहील (सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे).

4. एआयचा बचावात्मक वापर करा – मागे राहू नका: हल्लेखोर एआयचा वापर करतील हे ओळखा, त्यामुळे तुमच्या संरक्षणानेही त्याचा वापर केला पाहिजे. काही उच्च-प्रभावी क्षेत्रे ओळखा जिथे जनरेटिव्ह एआय तुमच्या सुरक्षा कार्यांना त्वरित मदत करू शकेल (उदा. अलर्ट ट्रायएज किंवा स्वयंचलित लॉग विश्लेषण) आणि प्रायोगिक प्रकल्प राबवा. वेगाने पसरणाऱ्या धोक्यांचा सामना करण्यासाठी एआयच्या वेग आणि व्याप्तीचा वापर करून तुमचे संरक्षण अधिक मजबूत करा ( सायबरसुरक्षेत जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक उदाहरणे ). अगदी साधे एकत्रीकरण, जसे की मालवेअर अहवालांचा सारांश देण्यासाठी किंवा धोके शोधण्यासाठी क्वेरी तयार करण्यासाठी एआयचा वापर करणे, विश्लेषकांचे अनेक तास वाचवू शकते. लहान सुरुवात करा, परिणामांचे मूल्यांकन करा आणि त्यात सुधारणा करा. यशामुळे एआयचा व्यापक अवलंब करण्यासाठी पाठिंबा मिळेल. एआयचा वापर एक शक्तीवर्धक म्हणून करणे हे ध्येय आहे – उदाहरणार्थ, जर फिशिंग हल्ल्यांमुळे तुमचा हेल्पडेस्क त्रस्त झाला असेल, तर सक्रियपणे ते प्रमाण कमी करण्यासाठी एआय ईमेल क्लासिफायर तैनात करा.

5. सुरक्षित आणि नैतिक एआय पद्धतींमध्ये गुंतवणूक करा: जनरेटिव्ह एआय लागू करताना, सुरक्षित विकास आणि उपयोजन पद्धतींचे पालन करा. खाजगी किंवा सेल्फ-होस्टेड मॉडेल्सचा . तृतीय-पक्ष एआय सेवा वापरत असल्यास, त्यांच्या सुरक्षा आणि गोपनीयतेच्या उपायांचे (एनक्रिप्शन, डेटा टिकवून ठेवण्याची धोरणे, इत्यादी) पुनरावलोकन करा. तुमच्या एआय साधनांमधील पक्षपात, स्पष्टीकरणक्षमता आणि मजबुती यांसारख्या गोष्टी पद्धतशीरपणे हाताळण्यासाठी एआय जोखीम व्यवस्थापन फ्रेमवर्क (जसे की NIST चे एआय जोखीम व्यवस्थापन फ्रेमवर्क किंवा ISO/IEC मार्गदर्शन) समाविष्ट करा (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो? १० वास्तविक-जगातील उदाहरणे). तसेच देखभालीचा भाग म्हणून मॉडेल अपडेट्स/पॅचेसचे नियोजन करा – एआय मॉडेल्समध्येही “कमकुवतपणा” असू शकतो (उदा. जर ते भरकटू लागले किंवा मॉडेलवर नवीन प्रकारचा प्रतिकूल हल्ला आढळल्यास त्यांना पुन्हा प्रशिक्षित करण्याची आवश्यकता असू शकते). तुमच्या एआय वापरामध्ये सुरक्षा आणि नैतिकता अंतर्भूत करून, तुम्ही परिणामांवर विश्वास निर्माण करता आणि उदयोन्मुख नियमांचे पालन सुनिश्चित करता.

6. मानवांना प्रक्रियेत सामील ठेवा: सायबरसुरक्षेमध्ये मानवी निर्णयाची जागा घेण्यासाठी नव्हे, तर त्याला मदत करण्यासाठी एआयचा वापर करा. असे निर्णय बिंदू निश्चित करा जिथे मानवी पडताळणी आवश्यक आहे (उदाहरणार्थ, एआय एखाद्या घटनेचा अहवाल तयार करू शकते, परंतु तो वितरित करण्यापूर्वी विश्लेषक त्याचे पुनरावलोकन करतो; किंवा एआय वापरकर्त्याचे खाते ब्लॉक करण्याची सूचना देऊ शकते, परंतु त्या कृतीला मानव मान्यता देतो). यामुळे केवळ एआयच्या चुकांकडे दुर्लक्ष होणे टळते असे नाही, तर तुमच्या टीमला एआयकडून शिकण्यास आणि एआयला तुमच्या टीमकडून शिकण्यासही मदत होते. सहयोगी कार्यप्रवाहाला प्रोत्साहन द्या: विश्लेषकांना एआयच्या निष्कर्षांवर प्रश्न विचारण्यास आणि सत्यता पडताळणी करण्यास मोकळेपणा वाटला पाहिजे. कालांतराने, या संवादामुळे एआय (प्रतिसादाद्वारे) आणि विश्लेषक या दोघांचीही कौशल्ये सुधारू शकतात. थोडक्यात, तुमच्या प्रक्रिया अशा प्रकारे तयार करा की एआय आणि मानवी सामर्थ्ये एकमेकांना पूरक ठरतील – एआय मोठ्या प्रमाणातील आणि वेगाच्या कामाचे व्यवस्थापन करते, तर मानव संदिग्धता आणि अंतिम निर्णयांचे व्यवस्थापन करतात.

7. मोजमाप करा, निरीक्षण करा आणि जुळवून घ्या: शेवटी, तुमच्या जनरेटिव्ह एआय साधनांना तुमच्या सुरक्षा परिसंस्थेचे जिवंत घटक माना. त्यांच्या कामगिरीचे सतत मोजमाप करा – ते घटना प्रतिसाद वेळ कमी करत आहेत का? धोके लवकर ओळखत आहेत का? फॉल्स पॉझिटिव्ह दराचा कल कसा आहे? टीमकडून अभिप्राय घ्या: एआयच्या शिफारसी उपयुक्त आहेत की त्या गोंधळ निर्माण करत आहेत? मॉडेल्स सुधारण्यासाठी, प्रशिक्षण डेटा अद्ययावत करण्यासाठी किंवा एआय कसे समाकलित केले आहे हे समायोजित करण्यासाठी या मेट्रिक्सचा वापर करा. सायबर धोके आणि व्यवसायाच्या गरजा विकसित होत राहतात, आणि प्रभावी राहण्यासाठी तुमचे एआय मॉडेल्स वेळोवेळी अद्ययावत किंवा पुन्हा प्रशिक्षित केले पाहिजेत. मॉडेल गव्हर्नन्ससाठी एक योजना तयार ठेवा, ज्यामध्ये त्याच्या देखभालीसाठी कोण जबाबदार आहे आणि त्याचे किती वेळा पुनरावलोकन केले जाते याचा समावेश असेल. एआयच्या जीवनचक्राचे सक्रियपणे व्यवस्थापन करून, तुम्ही हे सुनिश्चित करता की ते एक मालमत्ता राहील, दायित्व नाही.

शेवटी, जनरेटिव्ह एआय सायबरसुरक्षा क्षमतांमध्ये लक्षणीय वाढ करू शकते, परंतु यशस्वी अवलंबनासाठी विचारशील नियोजन आणि सतत देखरेखीची आवश्यकता असते. जे व्यवसाय त्यांच्या लोकांना शिक्षित करतात, स्पष्ट मार्गदर्शक तत्त्वे सेट करतात आणि संतुलित, सुरक्षित मार्गाने एआय एकत्रित करतात त्यांना जलद, हुशार धोक्याच्या व्यवस्थापनाचे बक्षीस मिळेल. हे टेकवे एक रोडमॅप प्रदान करतात: एआय ऑटोमेशनसह मानवी कौशल्य एकत्र करणे, प्रशासनाच्या मूलभूत गोष्टींचा समावेश करणे आणि एआय तंत्रज्ञान आणि धोक्याच्या लँडस्केप दोन्ही अपरिहार्यपणे विकसित होत असताना चपळता राखणे.

या व्यावहारिक उपाययोजना करून, संस्था “सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो?” केवळ सैद्धांतिकदृष्ट्याच नव्हे, तर दैनंदिन व्यवहारातही आत्मविश्वासाने देऊ शकतात आणि त्याद्वारे आपल्या वाढत्या डिजिटल व एआय-चालित जगात आपली संरक्षण यंत्रणा अधिक मजबूत करू शकतात. (सायबरसुरक्षेमध्ये जनरेटिव्ह एआयचा वापर कसा केला जाऊ शकतो) 

या नंतर तुम्हाला वाचायला आवडतील असे श्वेतपत्रके:

🔗 एआय कोणत्या नोकऱ्यांची जागा घेऊ शकत नाही आणि एआय कोणत्या नोकऱ्यांची जागा घेईल?
ऑटोमेशनपासून कोणती पदे सुरक्षित आहेत आणि कोणती नाहीत, यावर जागतिक दृष्टिकोन जाणून घ्या.

🔗 एआय शेअर बाजाराचा अंदाज लावू शकते का?
बाजारातील हालचालींचा अंदाज लावण्याच्या एआयच्या क्षमतेभोवती असलेल्या मर्यादा, महत्त्वपूर्ण शोध आणि गैरसमजांचा सखोल आढावा.

🔗 मानवी हस्तक्षेपाशिवाय जनरेटिव्ह एआय कोणत्या गोष्टींसाठी विश्वासार्ह ठरू शकते?
एआय कुठे स्वतंत्रपणे काम करू शकते आणि कुठे मानवी देखरेख अजूनही आवश्यक आहे, हे समजून घ्या.