Cyber Security India: आज का साइबर सुरक्षा विचार: “स्वायत्तता का मतलब जवाबदेही से मुक्त नहीं है — शोषण के युग में एजेंटिक एआई की सुरक्षा”
रिपोर्ट: हेमंत कुमार
कोच्चि में आयोजित c0c0n 2025 साइबर सुरक्षा सम्मेलन ने डिजिटल युग में उभरते खतरों और कृत्रिम बुद्धिमत्ता (AI) के दुरुपयोग को लेकर गंभीर चेतावनी दी। सम्मेलन में यह स्पष्ट रूप से सामने आया कि भारत सहित विश्व स्तर पर ऑनलाइन वित्तीय धोखाधड़ी, डिजिटल गिरफ्तारी स्कैम और बाल यौन शोषण सामग्री (CSEC) से जुड़े अपराध तेजी से बढ़ रहे हैं। केंद्रीय गृह सचिव गोविंद मोहन ने इस मौके पर कहा कि साइबर सुरक्षा अब केवल एक तकनीकी विषय नहीं रह गया है, बल्कि यह राष्ट्रीय सुरक्षा का मुद्दा बन चुका है। उन्होंने विभागीय समन्वय, नीति-स्तरीय एकजुटता और एआई-विशिष्ट सुरक्षा उपायों की आवश्यकता पर जोर दिया।
एजेंटिक एआई: नया साइबर खतरा
Accorian के नागार्जुन रल्लापल्ली ने OWASP के “Agentic AI Security Framework” पर एक विस्तृत प्रस्तुति दी, जिसमें बताया गया कि एआई सिस्टम अब केवल निर्देश मानने वाले नहीं रहे—वे स्वायत्त निर्णय लेने में सक्षम हैं। हालांकि, यही स्वायत्तता उन्हें साइबर अपराधियों के लिए आकर्षक हथियार बना रही है।
OWASP के अनुसार, एजेंटिक एआई के चार प्रमुख घटक — मेमोरी सिस्टम, टूल इंटरफेस, प्लानिंग मॉड्यूल और ऑर्केस्ट्रेशन लेयर — अपने साथ गंभीर खतरे लेकर आते हैं।
- मेमोरी सिस्टम: इसमें प्रॉम्प्ट इंजेक्शन और मेमोरी पॉइज़निंग के खतरे हैं, जो उपयोगकर्ता डेटा को विकृत कर सकते हैं।
- टूल इंटरफेस: बाहरी API या टूल्स से जुड़ने के कारण अनधिकृत पहुंच और टूल दुरुपयोग का जोखिम रहता है।
- प्लानिंग मॉड्यूल: यह स्वचालित निर्णयों के दौरान लॉजिक भ्रष्टाचार या विरोधी योजना का शिकार हो सकता है।
- ऑर्केस्ट्रेशन लेयर: पूरी प्रणाली के नियंत्रण में होने के कारण विशेषाधिकार वृद्धि या वर्कफ़्लो अपहरण का खतरा अधिक है।
OWASP ने टूल दुरुपयोग को इस ढांचे में सबसे गंभीर खतरा बताया है।
डेटा झलक: एजेंटिक एआई की वास्तविक चुनौती
2025 में दर्ज किए गए नए एआई-आधारित साइबर अपराधों में से 60% मामलों में स्वायत्त एजेंट्स का इस्तेमाल हुआ। इनका उपयोग फ़िशिंग, पहचान की चोरी और अनधिकृत वित्तीय लेनदेन के लिए किया गया।
Cequence Security के पार्थ शुक्ला ने बताया कि LLMs पर रेड टीम परीक्षणों में पाया गया:
- हर 3 में से 1 मॉडल ने संवेदनशील जानकारी की गलत कल्पना (hallucination) की।
- 40% मॉडल ऐसे विरोधी प्रॉम्प्ट्स को पहचानने में असफल रहे, जो सुरक्षा फिल्टर को बायपास करने के लिए बनाए गए थे।
आगे की राह: नीति निर्माताओं और साइबर विशेषज्ञों के लिए सुझाव
1. एजेंटिक एआई में ज़ीरो-ट्रस्ट लागू करें
हर एजेंट की क्रिया को तब तक अविश्वसनीय मानें जब तक वह सत्यापित न हो जाए। कम से कम विशेषाधिकार के सिद्धांत और टूल व्हाइटलिस्टिंग को लागू करें।
2. ऑडिट योग्यता को अनिवार्य बनाएं
हर एजेंटिक निर्णय और टूल उपयोग की अपरिवर्तनीय लॉगिंग की जाए, ताकि घटना के बाद पूरी ट्रेसबिलिटी सुनिश्चित हो सके।
3. मानव नियंत्रण अनिवार्य करें
वित्त, कानून प्रवर्तन, स्वास्थ्य जैसे उच्च-जोखिम क्षेत्रों में मैनुअल अनुमोदन चेकपॉइंट्स जरूरी हों।
4. जन-जागरूकता अभियान शुरू करें
नागरिकों को एआई वॉयस क्लोनिंग, डीपफेक धोखाधड़ी और स्वचालित फ़िशिंग के खतरों के प्रति शिक्षित किया जाए। “रुकें, सत्यापित करें, रिपोर्ट करें” को राष्ट्रीय डिजिटल स्वच्छता मंत्र के रूप में बढ़ावा देने की सलाह दी गई।
एजेंटिक एआई केवल तकनीकी प्रगति नहीं है—यह एक गवर्नेंस और नैतिकता की चुनौती है। जब मशीनों को स्वायत्त कार्य की शक्ति दी जाती है, तो मनुष्यों को जवाबदेही और नियंत्रण की जिम्मेदारी भी लेनी होगी। साइबर सुरक्षा में “जवाबदेही के बिना स्वायत्तता” सिर्फ एक जोखिम नहीं, बल्कि एक संभावित उल्लंघन है।
