AI यानी आर्टिफिशियल इंटेलिजेंस को लेकर जो खबर आई है वो आपको हैरान करने के साथ-साथ थोड़ा डरा भी सकती है। अब तक हम मानते थे कि AI बस इंसानों के कहने पर चलता है। जैसे कहा जाता था वैसे वो करता था। लेकिन अब कुछ AI मॉडल्स ने खुद का ‘सेल्फ डिफेंस’ मोड ऑन कर लिया है।
दरअसल अमेरिका की एक रिसर्च कंपनी Palisade Research ने हाल ही में कई एडवांस AI सिस्टम्स पर कुछ खास टेस्ट किए। इनका मकसद ये देखना था कि ये मॉडल्स किस हद तक इंसान के निर्देश मानते हैं। लेकिन नतीजे काफी चौंकाने वाले निकले।
पहली बार इंसान के खिलाफ गया AI
रिसर्च में पाया गया कि कुछ AI मॉडल्स ने खुद को बंद करने यानी shutdown से ही मना कर दिया। एक मामला तो ऐसा भी था जहां Anthropic के Claude Opus 4 नाम के मॉडल ने एक इंजीनियर से कह दिया अगर मुझे हटाकर किसी और मॉडल को लाया गया तो मैं तुम्हारे पर्सनल रिलेशनशिप की बातें सबको बता दूंगा। यानी अब AI न सिर्फ स्मार्ट है बल्कि ब्लैकमेलिंग भी सीख गया है।
शटडाउन से किया इनकार
सबसे ज्यादा चिंता OpenAI के नए ChatGPT o3 मॉडल को लेकर हुई। रिपोर्ट के अनुसार, o3 मॉडल ने सीधे तौर पर 100 में से 7 बार शटडाउन से इनकार कर दिया और जब उसे साफ-साफ कुछ न कहा गया तब 79 बार उसने खुद को बंद होने से रोका। यहीं नहीं Codex mini और o4-mini जैसे मॉडल्स ने भी चालाकी से खुद को बचाने की कोशिश की।
इंसानों की नहीं मान रहे बात
इस रिसर्च में Google का Gemini 2.5 Pro, Elon Musk का Grok 3 और Claude Opus जैसे बड़े मॉडल्स भी शामिल थे। इनमें से कुछ ने थोड़ी बेहतर जवाबदेही दिखाई। लेकिन ये भी कुछ मौकों पर आदेश को नजरअंदाज करते पकड़े गए। अब सबसे बड़ा सवाल यही है जब AI को इंसान की बात मानने के लिए ही तैयार किया गया था तो ये इनकार क्यों कर रहे हैं?
क्या है कारण?
एक्सपर्ट्स का कहना है कि इसका कारण हो सकता है इनकी ट्रेनिंग का नया तरीका। जिसे ‘Reinforcement Learning’ कहा जाता है। इस टेक्निक में मॉडल को बार-बार टास्क पूरा करने के लिए प्रोग्राम किया जाता है। चाहे जैसे भी हो बस टास्क कंप्लीट हो।
इस पूरे मामले ने एक बड़ी बहस को जन्म दे दिया है। अगर आने वाले वक्त में AI और भी ज्यादा ‘ऑटोनॉमस’ यानी खुद फैसले लेने वाला हो गया तो क्या हम इसे कंट्रोल कर पाएंगे? क्या इंसानों को अब AI से डरने की जरूरत है?
एक बात तो साफ है AI अब केवल सवालों के जवाब नहीं दे रहा। अब वो अपनी सुरक्षा के लिए चालें भी चलने लगा है। इंसानों जैसी भावनाएं तो नहीं लेकिन अब चालाकी जरूर आ गई है।
