AI मॉडल्स में समानताएं और कमियां पाई गई, रिसर्चर्स का दावा

GS3अर्थव्यवस्था · विज्ञान-तकनीक · पर्यावरण · सुरक्षा· IT, AI, सेमीकंडक्टर एवं कंप्यूटिंग· प्रीलिम्स + मेन्स· 11 अगस्त 2026

चर्चा में क्यों

शोधकर्ताओं ने प्रमुख AI मॉडलों से छिपी हुई तर्क प्रक्रिया और व्यक्तिगत डेटा निकालने की एक विधि की खोज की है, जो अमेरिकी और चीनी AI प्रणालियों के बीच साझा कमजोरियों और संभावित 'मॉडल डिस्टिलेशन' (model distillation) को रेखांकित करती है।

पृष्ठभूमि

अलेक्जेंडर पनफिलोव (ट्युबिंगन विश्वविद्यालय) सहित शोधकर्ताओं ने OpenAI, Anthropic और Google के मॉडलों का परीक्षण किया। इस अध्ययन से यह तथ्य स्पष्ट हुआ कि इन मॉडलों का दुरुपयोग संवेदनशील व्यक्तिगत जानकारी, जैसे कि पासवर्ड और API keys, को पुनः प्राप्त करने के लिए किया जा सकता है।

प्रीलिम्स के लिए तथ्य

विज्ञान-तकनीकModel Distillation: एक ऐसी तकनीक जिसमें एक छोटे मॉडल को एक बड़े और अधिक जटिल मॉडल के व्यवहार की नकल करने के लिए प्रशिक्षित किया जाता है।
विज्ञान-तकनीकAI भेद्यताएँ (Vulnerabilities): इसमें छिपी हुई तर्क प्रक्रिया (reasoning) का निष्कर्षण और API keys जैसे निजी क्रेडेंशियल की रिकवरी शामिल है।
तथ्यप्रमुख AI खिलाड़ियों में OpenAI, Anthropic और Google का परीक्षण शामिल है।

मेन्स के लिए

प्रश्न: बड़े पैमाने पर एआई (AI) मॉडल में साझा कमजोरियों से जुड़े जोखिमों और 'मॉडल डिस्टिलेशन' (model distillation) के सुरक्षा निहितार्थों का विश्लेषण कीजिए। भारत 'एआई सुरक्षा' (AI safety) कैसे सुनिश्चित कर सकता है? चर्चा कीजिए।

पूरी खबर पढ़ें →इस नोट में गलती बताएँ नोट्स कैसे बनते हैं स्रोत: वायर्ड ↗

विज्ञान एवं प्रौद्योगिकी पर और नोट्स

सभी विज्ञान एवं प्रौद्योगिकी करेंट अफेयर्स →

कोई गलती या कोई कमी?

किसी नोट में गलती दिखे, या तैयारी के लिए कोई टॉपिक, फॉर्मेट या पीडीएफ चाहिए, तो हमें लिखें। हम हर मेल पढ़ते हैं और गलतियाँ जल्दी ठीक करते हैं।

गलती बताएँ →कुछ और चाहिए? बताएँ →[email protected]

यह नोट सत्यधीश के समाचार फ़ीड से स्वचालित रूप से तैयार किया गया है और यूपीएससी सीएसई पाठ्यक्रम से जुड़ा है। उत्तर में उपयोग करने से पहले तथ्यों का मूल रिपोर्ट या पीआईबी से मिलान करें।