AI सेफ्टी को लेकर जैकब कॉक्सन ने एंथ्रोपिक छोड़ दी नौकरी
GS3अर्थव्यवस्था · विज्ञान-तकनीक · पर्यावरण · सुरक्षा· IT, AI, semiconductors & computing· Prelims + Mains·
AI सुरक्षा और नैतिकता: तकनीकी जोखिमों और नियामक ढाँचों से संबंधित एक प्रमुख GS3 विषय।
चर्चा में क्यों
शोधकर्ता जैकब कॉक्सन ने एंथ्रोपिक (Anthropic) से इस्तीफा दे दिया है, जिसमें उन्होंने आरोप लगाया है कि AI कंपनियाँ पर्याप्त सुरक्षा उपायों के बिना अनियंत्रित 'सुपरइंटेलिजेंस' विकसित करने की होड़ में लगी हुई हैं।
पृष्ठभूमि
27 वर्षीय शोधकर्ता जैकब कॉक्सन ने इस्तीफा देने से पूर्व OpenAI और Anthropic दोनों संस्थानों में कार्य किया था। जुलाई में, लगभग 1,400 कर्मचारियों ने कृत्रिम बुद्धिमत्ता (AI) के विकास के अधिक कड़े विनियामक ढांचे की मांग करते हुए एक पत्र पर हस्ताक्षर किए।
प्रीलिम्स के लिए तथ्य
- विज्ञान-तकनीकAnthropic: एक AI कंपनी जो मजबूत सुरक्षा उपायों के साथ मॉडल बनाने का दावा करते हुए जोखिमों को स्वीकार करती है।
- तथ्यजुलाई में लगभग 1,400 कर्मचारियों ने सख्त AI विनियमन की मांग करते हुए एक पत्र पर हस्ताक्षर किए।
- पदजेकब कॉक्सन: एक शोधकर्ता जिन्होंने OpenAI और Anthropic में कार्य किया।
प्रीलिम्स अभ्यास प्रश्न
AI विकास और सुरक्षा के संदर्भ में, निम्नलिखित कथनों पर विचार कीजिए:
- Anthropic एक AI कंपनी है जो अपने मॉडल निर्माण में किसी भी जोखिम को स्वीकार नहीं करती है।
- जेकब कॉक्सन एक शोधकर्ता थे जिन्होंने OpenAI और Anthropic दोनों में कार्य किया।
- जुलाई में लगभग 2,000 कर्मचारियों ने सख्त AI विनियमन की मांग करते हुए एक पत्र पर हस्ताक्षर किए।
- (a)केवल 1
- (b)केवल 2
- (c)केवल 3
- (d)केवल 1 और 2
उत्तर देखें
उत्तर: (b) केवल 2 — कथन 2 सही है। कथन 1 गलत है: Anthropic मजबूत सुरक्षा उपायों के साथ मॉडल बनाने का दावा करते हुए जोखिमों को स्वीकार करता है। कथन 3 गलत है: लगभग 1,400 कर्मचारियों ने पत्र पर हस्ताक्षर किए।
मेन्स के लिए
Q. 'सुपरइंटेलिजेंस' (अति-बुद्धि) के तीव्र विकास के नैतिक और सुरक्षा निहितार्थों तथा कृत्रिम बुद्धिमत्ता (AI) के लिए अंतर्राष्ट्रीय विनियामक ढाँचों की आवश्यकता का विश्लेषण कीजिए।
उत्तर के आयाम
- Regulatory lag: Speed of private-sector AI innovation outpacing the development of comprehensive safety legislation.
- Safety-Innovation Trade-off: Conflict between competitive market pressures to achieve 'superintelligence' and the requirement for rigorous safety testing.
- Governance gap: Lack of standardized global protocols for monitoring self-improving AI systems.
कीवर्ड: Superintelligence · AI Safety · Regulatory Frameworks · Algorithmic Accountability · Technological Ethics
विज्ञान एवं प्रौद्योगिकी पर और नोट्स
- ChatGPT बनाने वाली कंपनी ने AI मॉडल्स के धोखेबाज़ व्यवहार पर दी रिपोर्ट · 17 सितंबर 2026
- फूड सेफ्टी पर बड़ा एक्शन: 600 अरेस्ट और 1 लाख से ज़्यादा नोटिस जारी · 17 सितंबर 2026
- OpenAI ने स्वीकार किया AI की पुरानी गलतियां, बिना ऑर्डर फाइल अपलोड और कंट्रोल बायपास · 17 सितंबर 2026
- आपदा में मदद करेंगे 'पारबॉर्ग' कॉकरोच, UQ और UNSW ने बनाई नई तकनीक · 16 सितंबर 2026
- केरलम के तट पर मिली कॉंगर ईल की नई प्रजाति एरियोसोमा सीएमएफआरिएन्स · 16 सितंबर 2026
- केरल में फ्री AI ट्रेनिंग के लिए मुकुलम पोर्टल लॉन्च, 100 दिनों का प्रोग्राम · 16 सितंबर 2026
कोई गलती या कोई कमी?
किसी नोट में गलती दिखे, या तैयारी के लिए कोई टॉपिक, फॉर्मेट या पीडीएफ चाहिए, तो हमें लिखें। हम हर मेल पढ़ते हैं और गलतियाँ जल्दी ठीक करते हैं।
यह नोट सत्यधीश के समाचार फ़ीड से स्वचालित रूप से तैयार किया गया है और यूपीएससी सीएसई पाठ्यक्रम से जुड़ा है। उत्तर में उपयोग करने से पहले तथ्यों का मूल रिपोर्ट या पीआईबी से मिलान करें।