CERT-In AI Guidelines: अब AI एजेंट को मिलेगी सीमित अनुमति, गलत काम रोकने के लिए खास इंतजाम
CERT-In AI Guidelines: अब AI एजेंट को मिलेगी सीमित अनुमति, गलत काम रोकने के लिए खास इंतजाम
CERT-In AI Guidelines: AI एजेंट सुरक्षा में सीमित अधिकार, मानवीय निगरानी और आपातकालीन हस्तक्षेप महत्वपूर्ण मुद्दे हैं। अपने आप कई चरणों में काम पूरा करने वाले AI एजेंट के बढ़ते इस्तेमाल के बीच उनकी सुरक्षा जांच पर नया जोर दिया गया है। भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया दल, यानी CERT-In के आर्टिफिशियल इंटेलिजेंस सुरक्षा ऑडिट दिशानिर्देशों में यह जांचने को कहा गया है कि कोई एजेंट अपनी तय अनुमति से बाहर जाकर काम तो नहीं कर सकता। इस ढांचे में मानवीय निगरानी और जरूरत पड़ने पर सिस्टम को तुरंत रोकने की क्षमता महत्वपूर्ण मुद्दे हैं।
साधारण चैटबॉट मुख्य रूप से सवालों का जवाब देता है, जबकि एजेंटिक सिस्टम बाहरी सॉफ्टवेयर इस्तेमाल कर सकता है, जानकारी जुटा सकता है और दूसरे एजेंट को कार्य सौंप सकता है। यही अंतर उसकी उपयोगिता बढ़ाता है, लेकिन गलत आदेश या असुरक्षित इनपुट मिलने पर नुकसान की संभावना भी बढ़ाता है। इसलिए केवल उत्तर की गुणवत्ता के आधार पर ऐसे सिस्टम को सुरक्षित नहीं माना जा सकता।
AI एजेंट सुरक्षा में सीमित अनुमति क्यों जरूरी
दिशानिर्देशों में न्यूनतम आवश्यक अधिकार के सिद्धांत पर जोर है। किसी एजेंट को उपयोगकर्ता, दूसरे टूल या दूसरे एजेंट की सभी अनुमतियां अपने आप नहीं मिलनी चाहिए। उदाहरण के लिए, किसी जानकारी को पढ़ने की अनुमति और उसे बाहर भेजने की अनुमति अलग चीजें हैं। ऑडिट का उद्देश्य ऐसे अंतर को व्यवहार में परखना है, न कि केवल नीति दस्तावेज में उसका उल्लेख देखना।
जांच में बिना मंजूरी टूल चलाना, स्वीकृति व्यवस्था को पार करना और संवेदनशील क्रेडेंशियल का गलत इस्तेमाल जैसे जोखिम शामिल हैं। अधिक जोखिम वाले एजेंटिक सिस्टम के लिए आपातकालीन हस्तक्षेप, पहुंच रद्द करने और अनियंत्रित ढंग से फिर शुरू होने से रोकने जैसे नियंत्रण भी महत्वपूर्ण बताए गए हैं।
मेमोरी और कई एजेंटों की टीम भी जांच के दायरे में
एजेंट की मेमोरी में पिछली बातचीत या कार्य से जुड़ी जानकारी रह सकती है। ढांचा इस बात की जांच चाहता है कि क्या कोई उस मेमोरी में छेड़छाड़ कर सकता है और क्या एक उपयोगकर्ता की सूचना दूसरे तक पहुंच सकती है। संवेदनशील जानकारी को बिना अनुमति बनाए रखना या दोबारा इस्तेमाल करना भी सुरक्षा संबंधी सवाल है।
जहां कई एजेंट मिलकर काम करते हैं, वहां हर एजेंट की पहचान और अधिकार स्पष्ट होने चाहिए। उनके बीच संचार का रिकॉर्ड रखने से बाद में यह समझना संभव होता है कि किसने किसे काम सौंपा, कौन सा टूल चलाया और उसका बाहरी असर क्या हुआ। बार बार काम आगे भेजने से बनने वाले अनियंत्रित चक्र भी जांच का विषय हैं।
कंपनियों और उपयोगकर्ताओं के लिए क्या मायने
यह घटनाक्रम बताता है कि AI सुरक्षा अब केवल गलत जवाब रोकने तक सीमित नहीं है। संगठनों को मॉडल के साथ उसके टूल, डेटा, अनुमतियों और निगरानी व्यवस्था को भी देखना होगा। दिशानिर्देशों को हर कंपनी पर लागू हो चुका नया दंड कानून बताना सही नहीं होगा। रिपोर्टों में इसकी कानूनी बाध्यता को लेकर अलग व्याख्याएं हैं। फिलहाल स्पष्ट संदेश यही है कि स्वायत्तता बढ़ने के साथ जवाबदेही और जांच भी मजबूत होनी चाहिए।