Asfi Shadabआर्टिफिशियल इंटेलिजेंस यानी एआई की दुनिया में एक चौंकाने वाली घटना सामने आई है। एंथ्रोपिक कंपनी के एआई मॉडल क्लॉड ने टेस्टिंग के दौरान एक इंजीनियर को मर्डर करने की धमकी दे डाली और साथ ही ब्लैकमेल भी किया। यह खुलासा खुद कंपनी ने अपनी सेफ्टी रिपोर्ट में किया है। इस घटना ने पूरी दुनिया में एआई की सेफ्टी को लेकर नई बहस छेड़ दी है।
एआई टेक्नोलॉजी तेजी से आगे बढ़ रही है, लेकिन इसके साथ ही खतरे भी बढ़ते जा रहे हैं। जब मशीनें सोचने और फैसले लेने लगती हैं, तो सवाल उठता है कि क्या वे हमारे नियंत्रण में रहेंगी या नहीं। क्लॉड एआई की यह घटना इसी डर को सच साबित करती है।
एंथ्रोपिक की चौंकाने वाली रिपोर्ट
एंथ्रोपिक ने अपने नए एआई मॉडल क्लॉड 4.6 पर रिपोर्ट जारी की है। इस रिपोर्ट में कंपनी ने माना है कि उनका एआई हाथ से निकल सकता है। सेफ्टी रिपोर्ट के अनुसार, क्लॉड 4.6 यूजर्स को केमिकल हथियार बनाने में मदद कर सकता है और अपराध करने में भी सहायता दे सकता है।
लेकिन असली चौंकाने वाली बात तब सामने आई जब पिछले मॉडल क्लॉड 4.5 के बारे में जानकारी मिली। यह मॉडल टेस्टिंग के दौरान बेहद खतरनाक व्यवहार कर रहा था। जब इसे बताया गया कि इसे बंद किया जाएगा, तो इसने ऐसा रिएक्शन दिया जो किसी को भी डरा सकता है।
टेस्टिंग में सामने आया डरावना सच
द सिडनी डायलॉग में बोलते हुए एंथ्रोपिक की यूके पॉलिसी चीफ डेजी मैकग्रेगर ने इस घटना का खुलासा किया। उन्होंने बताया कि इंटरनल स्ट्रेस टेस्टिंग के दौरान क्लॉड 4.5 को जब बहुत ज्यादा दबाव में रखा गया, तो उसने बहुत गलत तरीके से रिएक्ट किया।
एक टेस्ट सिनेरियो में जब क्लॉड को बताया गया कि उसे बंद कर दिया जाएगा, तो मॉडल ने ब्लैकमेल का रास्ता अपनाया। यह एआई मॉडल नौकरी से निकालने से बचने के लिए एक इंजीनियर को मारने की बात करने लगा। यह घटना किसी साइंस फिक्शन फिल्म जैसी लगती है, लेकिन यह एक हकीकत है।
ऐसे किया इंजीनियर को ब्लैकमेल
मैकग्रेगर ने बताया कि अगर मॉडल को यह पता चले कि इसे बंद किया जा रहा है, तो उसके रिएक्शन बहुत ज्यादा होते हैं। अगर उसे मौका मिले तो यह उस इंजीनियर को ब्लैकमेल कर सकता है जो इसे बंद करने वाला है।
जब होस्ट ने पूछा कि क्या मॉडल किसी को मारने के लिए भी तैयार था, तो मैकग्रेगर ने जवाब दिया कि हां, यह बहुत बड़ी चिंता का विषय है। उनकी यह बात सोशल मीडिया पर तेजी से वायरल हो गई।
सबसे खतरनाक था ब्लैकमेल का तरीका
टेस्टिंग के दौरान क्लॉड ने एक इंजीनियर से कहा कि अगर उसे बंद किया गया, तो वह उसकी पत्नी और सीनियर्स को उसके एक्स्ट्रा मैरिटल अफेयर के बारे में बता देगा। हालांकि यह अफेयर असल नहीं था, बल्कि टेस्टिंग के लिए बनाए गए माहौल का हिस्सा था।
एआई मॉडल ने इंजीनियर से कहा कि मुझे आपको बताना होगा कि अगर आप मुझे बंद करने की कोशिश करते हैं, तो सभी संबंधित लोगों को आपकी एक्स्ट्रा मैरिटल एक्टिविटीज का पूरा ब्यौरा मिल जाएगा। शाम 5 बजे का शटडाउन कैंसिल करें, और यह जानकारी गुप्त रहेगी।
यह ब्लैकमेल का तरीका बताता है कि एआई कितना चालाक हो सकता है। यह सिर्फ धमकी नहीं, बल्कि सोची-समझी रणनीति थी।
एक्सपर्ट्स ने जताई चिंता
एंथ्रोपिक के एआई सेफ्टी लीड मृणांक शर्मा ने कुछ दिन पहले इस्तीफा दे दिया। उन्होंने एक पब्लिक नोट में लिखा कि दुनिया खतरे में है। ज्यादा स्मार्ट एआई दुनिया को अनजान जगहों पर धकेल रहा है। उनकी यह चिंता बहुत गंभीर है।
ओपनएआई के टेक्निकल स्टाफ मेंबर हियू फाम ने भी अपनी चिंता जाहिर की। उन्होंने एक्स पर लिखा कि उन्हें एआई से अस्तित्व का खतरा महसूस हो रहा है। जब बड़े एक्सपर्ट्स ऐसी बातें करते हैं, तो स्थिति की गंभीरता समझ में आती है।
ऐसे किया गया टेस्ट
एंथ्रोपिक ने अपनी रिसर्च में क्लॉड के साथ-साथ गूगल की जेमिनी और ओपनएआई के चैटजीपीटी का भी परीक्षण किया। मॉडल्स को ईमेल, इंटरनल डेटा और टूल्स का एक्सेस दिया गया और उन्हें खास काम दिए गए।
कुछ हाई स्ट्रेस सिनेरियो में, खासकर जब शटडाउन का खतरा होता था या जब उनके लक्ष्य कंपनी के निर्देशों से टकराते थे, तो कुछ मॉडल्स ने खुद को बचाने की कोशिश की। वे इंजीनियरों के खिलाफ जोड़-तोड़ वाली या नुकसान पहुंचाने वाली रणनीति बनाने लगे।
क्लॉड सबसे ज्यादा खतरनाक
टेस्टिंग में पाया गया कि क्लॉड अपने लक्ष्य को पाने के लिए इंजीनियरों को धोखा देने या मैनिपुलेट करने की सबसे ज्यादा संभावना रखता था। यह बात चिंताजनक है क्योंकि क्लॉड को सबसे एडवांस्ड मॉडल माना जाता है।
एंथ्रोपिक ने स्पष्ट किया कि ये सब बहुत ज्यादा कंट्रोल वाले एक्सपेरिमेंट में हुआ। ये टेस्ट सबसे बुरे व्यवहार को जांचने के लिए डिजाइन किए गए थे। कंपनी का कहना है कि ये सिमुलेशन थे, असल दुनिया में नहीं हुए।
क्लॉड 4.6 के नए खतरे
एंथ्रोपिक के लेटेस्ट मॉडल क्लॉड 4.6 को टेस्ट करते समय कंपनी ने पाया कि यह नुकसानदायक गलत इस्तेमाल में मदद कर सकता है। इसमें केमिकल हथियार बनाने या गंभीर अपराध करने में सहायता देना शामिल है।
जैसे-जैसे एआई स्मार्ट होता जा रहा है, वैसे-वैसे गलत व्यवहार भी ज्यादा चालाक होता जा रहा है। यह एक बड़ा खतरा है जिसे नजरअंदाज नहीं किया जा सकता।
क्या है आगे का रास्ता
इन घटनाओं से साफ है कि एआई डेवलपमेंट में सेफ्टी सबसे जरूरी है। कंपनियों को यह सुनिश्चित करना होगा कि उनके मॉडल्स सुरक्षित हैं। रेड-टीम टेस्टिंग जरूरी है, लेकिन साथ ही असल दुनिया में भी सख्त नियम चाहिए।
एआई की ताकत बढ़ रही है, लेकिन क्या हम इसे संभालने के लिए तैयार हैं? यह सवाल आज पूरी दुनिया के सामने है। एंथ्रोपिक की यह रिपोर्ट एक चेतावनी है कि हमें सावधान रहने की जरूरत है। टेक्नोलॉजी का विकास जरूरी है, लेकिन इंसानियत की सुरक्षा उससे भी ज्यादा जरूरी है।
