AI हैकर्स के लिए बड़ी मुश्किल, ट्रेसबिट के नए तरीके से 93% अटैक कम

GS3अर्थव्यवस्था · विज्ञान-तकनीक · पर्यावरण · सुरक्षा· IT, AI, semiconductors & computing· Prelims· 20 जुलाई 2026

चर्चा में क्यों

Tracebit के शोधकर्ताओं ने LLMs में प्रॉम्प्ट इंजेक्शन हमलों को कम करने के लिए 'कॉन्टेक्स्ट बॉम्बिंग' (context bombing) तकनीक को पेश किया है, जिससे क्लाउड वातावरण में सफल साइबर उल्लंघनों में महत्वपूर्ण कमी आई है।

पृष्ठभूमि

Tracebit की 'कॉन्टेक्स्ट बॉम्बिंग' पद्धति का परीक्षण 152 हमले के दौरों (attack runs) के माध्यम से पांच प्रमुख लार्ज लैंग्वेज मॉडल्स (LLMs) पर किया गया। यह तकनीक AWS परिवेश में सफल दुर्भावनापूर्ण कमांड निष्पादन (malicious command executions) को 93% तक कम करने में सफल रही।

प्रीलिम्स के लिए तथ्य

विज्ञान-तकनीकPrompt Injection: एक ऐसी तकनीक जिसमें LLM के आउटपुट को प्रभावित करने के लिए उपयोगकर्ता के इनपुट में दुर्भावनापूर्ण निर्देश (malicious instructions) शामिल किए जाते हैं।
विज्ञान-तकनीकContext Bombing: एक रक्षात्मक तंत्र जो दुर्भावनापूर्ण प्रॉम्प्ट्स (malicious prompts) को बेअसर करने के लिए शोर (noise) या प्रतिस्पर्धी संदर्भ को शामिल करता है।
तथ्यपरीक्षण के दौरान Tracebit के रक्षा तंत्र ने सफल हमलों में 93% की कमी प्रदर्शित की।

मेन्स के लिए

Q. महत्वपूर्ण बुनियादी ढांचे (critical infrastructure) में लार्ज लैंग्वेज मॉडल्स (LLMs) के एकीकरण के सुरक्षा निहितार्थों पर चर्चा कीजिए और प्रॉम्प्ट इंजेक्शन हमलों (prompt injection attacks) के विरुद्ध एक सुदृढ़ रक्षात्मक ढांचे की आवश्यकता का मूल्यांकन कीजिए।

उत्तर के आयाम

Adversarial vulnerability: Exploitation of LLM training data and inference logic to bypass safety filters.
Cloud security friction: Balancing rapid deployment of AI services in AWS/Azure with the risk of automated malicious command execution.
Regulatory vacuum: Lack of standardized security protocols for AI-driven enterprise applications against non-traditional cyber threats.

कीवर्ड: Prompt Injection · Large Language Models · Cybersecurity · Adversarial AI · Cloud Security

पूरी खबर पढ़ें →इस नोट में गलती बताएँ स्रोत: Indian Express ↗यह भी: GS3 · Cyber security

विज्ञान एवं प्रौद्योगिकी पर और नोट्स

सभी विज्ञान एवं प्रौद्योगिकी करेंट अफेयर्स →

कोई गलती या कोई कमी?

किसी नोट में गलती दिखे, या तैयारी के लिए कोई टॉपिक, फॉर्मेट या पीडीएफ चाहिए, तो हमें लिखें। हम हर मेल पढ़ते हैं और गलतियाँ जल्दी ठीक करते हैं।

गलती बताएँ →कुछ और चाहिए? बताएँ →[email protected]

यह नोट सत्यधीश के समाचार फ़ीड से स्वचालित रूप से तैयार किया गया है और यूपीएससी सीएसई पाठ्यक्रम से जुड़ा है। उत्तर में उपयोग करने से पहले तथ्यों का मूल रिपोर्ट या पीआईबी से मिलान करें।