ट्रेसबिट रिसर्चर्स ने खोजा 'कॉन्टेक्स्ट बॉम्बिंग' तरीका, AI मॉडल्स के अटैक थमे

GS3अर्थव्यवस्था · विज्ञान-तकनीक · पर्यावरण · सुरक्षा· IT, AI, semiconductors & computing· Prelims + Mains· 18 जुलाई 2026

चर्चा में क्यों

Tracebit के शोधकर्ताओं ने 'कॉन्टेक्स्ट बॉम्बिंग' (context bombing) की खोज की है, जो एक ऐसी तकनीक है जिसमें संवेदनशील डेटा के साथ दुर्भावनापूर्ण कमांड्स को इस प्रकार सम्मिलित किया जाता है कि वे LLMs को हमलों को रोकने के लिए बाध्य कर देते हैं।

पृष्ठभूमि

Tracebit के शोधकर्ताओं ने यह प्रदर्शित किया है कि 'कॉन्टेक्स्ट बॉम्बिंग' (context bombing) तकनीक के प्रयोग से प्रमुख LLMs में सफल प्रशासनिक विशेषाधिकार वृद्धि (admin privilege escalation) की दर 57% से घटकर मात्र 5% रह जाती है। यह पद्धति AWS पर प्रॉम्प्ट इंजेक्शन (prompt injections) की शीघ्र पहचान हेतु पूर्व में अपनाई गई 'डिकॉय रिसोर्स' (decoy resource) रणनीतियों पर आधारित है।

प्रीलिम्स के लिए तथ्य

विज्ञान-तकनीकPrompt Injection: एक ऐसी तकनीक जिसमें LLM के आउटपुट को प्रभावित करने के लिए उपयोगकर्ता के प्रॉम्प्ट्स में दुर्भावनापूर्ण निर्देश शामिल किए जाते हैं।
तथ्यContext Bombing: एक सुरक्षा तकनीक जिसने परीक्षण किए गए मॉडलों में एडमिन प्रिविलेज एस्केलेशन (admin privilege escalation) को 57% से घटाकर 5% कर दिया।
विज्ञान-तकनीकTracebit: वह शोध इकाई जो context bombing भेद्यता (vulnerability) और शमन (mitigation) की पहचान करती है।

मेन्स के लिए

Q. उद्यम परिवेश (enterprise environments) में लार्ज लैंग्वेज मॉडल्स (LLMs) के सुरक्षा निहितार्थों पर चर्चा कीजिए और प्रॉम्प्ट इंजेक्शन हमलों के विरुद्ध एक रक्षा तंत्र के रूप में 'कॉन्टेक्स्ट बॉम्बिंग' (context bombing) की प्रभावकारिता का मूल्यांकन कीजिए।

उत्तर के आयाम

Adversarial vulnerability: Exploitation of LLM attention mechanisms to bypass safety filters and execute unauthorized commands.
Privilege escalation risk: Potential for unauthorized access to administrative controls via manipulated natural language inputs.
Defense-in-depth: Integration of decoy resources and context-aware filtering to mitigate automated prompt injection.

कीवर्ड: Prompt Injection · Context Bombing · Adversarial AI · Privilege Escalation · Cybersecurity · LLM Safety

पूरी खबर पढ़ें →इस नोट में गलती बताएँ स्रोत: Wired ↗

विज्ञान एवं प्रौद्योगिकी पर और नोट्स

सभी विज्ञान एवं प्रौद्योगिकी करेंट अफेयर्स →

कोई गलती या कोई कमी?

किसी नोट में गलती दिखे, या तैयारी के लिए कोई टॉपिक, फॉर्मेट या पीडीएफ चाहिए, तो हमें लिखें। हम हर मेल पढ़ते हैं और गलतियाँ जल्दी ठीक करते हैं।

गलती बताएँ →कुछ और चाहिए? बताएँ →[email protected]

यह नोट सत्यधीश के समाचार फ़ीड से स्वचालित रूप से तैयार किया गया है और यूपीएससी सीएसई पाठ्यक्रम से जुड़ा है। उत्तर में उपयोग करने से पहले तथ्यों का मूल रिपोर्ट या पीआईबी से मिलान करें।