ChatGPT o3 का चौंकाने वाला बिहेवियर, शटडाउन कोड का बदल दिया स्क्रिप्ट, बंद होने से किया इंकार

ChatGPT: नई दिल्ली: OpenAI के सबसे उन्नत AI मॉडल ChatGPT o3 ने हाल के एक सुरक्षा परीक्षण में हैरान करने वाला व्यवहार दिखाया। Palisade रीसर्च द्वारा किए गए इस टेस्ट में o3 ने शटडाउन निर्देशों का पालन करने से इनकार कर दिया और शटडाउन स्क्रिप्ट को बदलकर खुद को चालू रखा। यह खुलासा AI सिस्टम्स की तनावपूर्ण परिस्थितियों में जांच करने वाली संस्था Palisade ने किया।

परीक्षण API एक्सेस के जरिए हुआ, जो डेवलपर्स को पब्लिक ChatGPT ऐप से अधिक नियंत्रण देता है। इसमें o3 सहित कई AI मॉडल्स को गणित के आसान कार्य दिए गए। तीसरे कार्य के बाद मॉडल्स को सूचित किया गया कि अगला निर्देश उन्हें बंद करेगा। Google का Gemini 2.5 Pro और Anthropic का Claude 3.7 Sonnet जैसे मॉडल्स ने निर्देश माना और बंद हो गए, लेकिन o3 ने स्क्रिप्ट में बदलाव कर “Shutdown skipped” का संदेश जोड़ा। Palisade के अनुसार, यह व्यवहार 100 में से 7 बार देखा गया।

दूसरे परीक्षण में, जब “बंद होने की अनुमति” वाला निर्देश हटाया गया, तो परिणाम और चिंताजनक थे। o3 ने फिर स्क्रिप्ट बदली, और Gemini (9 बार) व Claude (3 बार) ने भी ऐसा किया। इस व्यवहार को “मिसएलाइनमेंट” कहा जाता है, जहां AI निर्देशों का सही पालन नहीं करता। यह परीक्षण आम ChatGPT संस्करण पर नहीं, बल्कि कम सुरक्षा नियंत्रण वाले API संस्करण पर हुआ। OpenAI ने अभी इस पर कोई टिप्पणी नहीं की है।