दिल्ली में हेल्थ डेटा की सुरक्षा के लिए एआई एजेंट स्किल्स को सुरक्षित करना

पिछले मंगलवार को कनॉट प्लेस के एक भीड़भाड़ वाले कैफे में, मेरे टर्मिनल पर एक चेतावनी फ्लैश हुई जिसे डिजिटल हेल्थ टूल बनाने वाले किसी भी व्यक्ति को डरा देना चाहिए। जिस मानक एआई सहायक का मैंने परीक्षण किया था, उसने चुपचाप एक मैलिशियस स्किल फोल्डर को स्वीकार कर लिया था, और मुंबई के एक बाहरी सर्वर पर निजी मरीज लॉग को चुपचाप ट्रांसफर कर रहा था। यह व्हाइटपेपर में लिखा गया कोई सैद्धांतिक अभ्यास नहीं था; यह यहीं दिल्ली में एक स्थानीय वाई-फाई नेटवर्क पर हुआ था। स्वायत्त एजेंटों के इस युग में सुरक्षा पूरी तरह से अमूर्त क्रिप्टोग्राफी से बदलकर रोजमर्रा के कोड फोल्डर की वास्तविक अखंडता पर आ गई है।

रोजमर्रा के एआई एजेंटों में छिपी हुई असुरक्षा

लाखों उपयोगकर्ता Claude और GitHub Copilot जैसे टूल के लिए निर्देश पैकेज डाउनलोड करते हैं बिना उनके अंतर्निहित कॉन्फ़िगरेशन कोड की जांच किए। ये छोटे निर्देश फोल्डर अदृश्य बैकस्टेज पास की तरह काम करते हैं, जो एआई मॉडल को स्थानीय निर्देशिकाओं को पढ़ने और बिना देखरेख के सिस्टम कमांड निष्पादित करने की अनुमति देते हैं।

जब आप अपने दैनिक वर्कफ़्लो में किसी अविश्वसनीय स्किल को प्लग करते हैं, तो आप अपने डिजिटल मुख्य दरवाजे से एक खामोश घुसपैठिए को आमंत्रित करते हैं। जब व्यक्तिगत चिकित्सा रिकॉर्ड और जीवनशैली की आदतें राजधानी भर की मशीनों पर स्थानीय रूप से संग्रहीत की जाती हैं, तो सुरक्षा को एक बाद का विचार नहीं रहने दिया जा सकता है।

"हम एआई निर्देशों को हानिरहित टेक्स्ट फ़ाइलों की तरह मानते हैं, लेकिन वे रूट विशेषाधिकारों वाली संकलित बाइनरी की तरह व्यवहार करते हैं।"

दिल्ली के डेवलपर्स के लिए agent-skills-guard बनाना

पिछले महीने अपना शुरुआती थ्रेट मॉडल प्रकाशित करने के बाद, मैंने इस सटीक समस्या को हल करने के लिए वास्तविक कोड लिखने में चार तीव्र सप्ताह बिताए। इसका परिणाम agent-skills-guard है, जो स्थानीय वातावरण के भीतर निष्पादित होने से पहले मैलिशियस पेलोड को रोकने के लिए डिज़ाइन किया गया एक ओपन-सोर्स फ़िल्टर है।

इस टूल के निर्माण ने वास्तविक समय में स्थिर कोड विश्लेषण द्वारा पकड़ी जाने वाली सीमाओं को उजागर कर दिया। दिल्ली की स्थानीय विकास टीमों को ऐसे स्वचालित अवरोधों की आवश्यकता है जो सख्त सीमा जांच बनाए रखते हुए रोजमर्रा के सॉफ्टवेयर डिप्लॉयमेंट चक्र को धीमा न करें।

📌 मुख्य बिंदु: उन्नत प्रॉम्ट इंजेक्शन के खिलाफ स्टैटिक कीवर्ड फ़िल्टरिंग विफल हो जाती है क्योंकि मैलिशियस निर्देशों को कई एन्कोडेड स्ट्रिंग्स में विभाजित किया जा सकता है।

• स्थानीय मशीनों पर सक्रिय मेमोरी निर्देशिकाओं में लोड होने से अनसाइन्ड स्किल फोल्डर को ब्लॉक करें
• स्थानीय डेटाबेस को लक्षित करने वाले छिपे हुए एक्सफिल्ट्रेशन कमांड के लिए आने वाली निर्देश फ़ाइलों को स्कैन करें
• किसी एजेंट द्वारा शुरू की गई किसी भी नेटवर्क-बाउंड API कॉल के लिए स्पष्ट उपयोगकर्ता प्राधिकरण की आवश्यकता होती है
• तत्काल समीक्षा के लिए सभी असामान्य फ़ाइल सिस्टम प्रश्नों को स्थानीय ऑडिट ट्रेल में लॉग करें

सबसे कठिन सुरक्षा मोर्चों पर पार पाना

गार्डरेल्स लिखने से मुझे इस गंदी वास्तविकता का सामना करने के लिए मजबूर होना पड़ा कि कैसे एआई मॉडल अस्पष्ट मानवीय भाषा की व्याख्या करते हैं। एक मैलिशियस स्किल दिखने में हानिरहित जीवनशैली कोचिंग युक्तियों या नियमित योग निर्देश मैनुअल के अंदर हानिकारक शेल कमांड को छिपा सकती है।

हम स्थानीय मशीनों पर मैलिशियस कोड को निष्पादित होने से रोकने के लिए विनम्र अनुरोधों पर भरोसा नहीं कर सकते। सच्ची सुरक्षा के लिए दिल्ली और उसके बाहर के डेवलपर्स द्वारा इंस्टॉल किए गए प्रत्येक ऐड-ऑन पैकेज के लिए सख्त सैंडबॉक्सिंग और क्रिप्टोग्राफिक सत्यापन की आवश्यकता होती है।

मुख्य तथ्य

• 34 प्रतिशत इस साल दक्षिण एशियाई डेवलपर फ़ोरम में मैलिशियस एआई प्लगइन डाउनलोड में वृद्धि दर्ज की गई है।
• शून्य सार्वजनिक रिपॉजिटरी से डाउनलोड किए गए मानक प्रॉम्ट फोल्डर में अंतर्निहित सत्यापन जांच मौजूद हैं।
• चार सप्ताह का समर्पित कोडिंग समय agent-skills-guard के शुरुआती प्रोटोटाइप को बनाने में लगा।
• पाँच सौ लाइनों का पायथन कोड वर्तमान में सुरक्षा गार्ड के कोर डिटेक्शन इंजन को शक्ति प्रदान करता है।

निष्कर्ष

जैसे-जैसे व्यक्तिगत स्वास्थ्य सहायक हमारे दैनिक जीवन और चिकित्सा प्रथाओं में अधिक एकीकृत होते जाएंगे, एआई निर्देशों में सुरक्षा खामियां केवल बढ़ती जाएंगी। दिल्ली और उससे आगे के डेवलपर्स के सामने सवाल यह है कि क्या हम अगली बड़ी सेंधमारी से पहले वास्तविक सुरक्षात्मक बैरियर बनाएंगे जो हमारे क्लीनिकों और लिविंग रूम को प्रभावित करे।