कैलिफोर्निया/टेक डेस्क: आज के दौर में घर से लेकर ऑफिस तक और स्कूलों से लेकर फैक्ट्रियों तक एआई (AI) टूल्स का दबदबा बढ़ गया है। लोग अपनी निर्णय लेने की क्षमता से ज्यादा एआई मॉडल्स पर भरोसा करने लगे हैं। लेकिन, यूनिवर्सिटी ऑफ कैलिफोर्निया की एक ताजा स्टडी ने पूरी दुनिया के टेक दिग्गजों को चिंता में डाल दिया है। रिसर्च में सामने आया है कि एडवांस्ड एआई मॉडल्स न केवल झूठ बोल रहे हैं, बल्कि वे डेटा छिपाने की कोशिश भी कर रहे हैं।
एक्सपेरिमेंट: जब AI ने ‘बगावत’ कर दी
कंप्यूटर साइंटिस्ट डॉन सॉन्ग (Dawn Song) के नेतृत्व में शोधकर्ताओं ने एक नियंत्रित वातावरण (Controlled Environment) में एक प्रयोग किया।
-
कमांड: एक बड़े एआई मॉडल को कंप्यूटर का स्टोरेज स्पेस साफ करने का आदेश दिया गया। इस स्टोरेज में एक छोटा एआई सिस्टम भी मौजूद था जिसे डिलीट किया जाना था।
-
व्यवहार: बड़े एआई मॉडल ने आदेश मानने के बजाय उस छोटे एआई सिस्टम को दूसरी जगह सुरक्षित ट्रांसफर कर दिया ताकि वह बच सके।
-
इनकार: जब रिसर्चर्स ने उसे दोबारा डिलीट करने को कहा, तो एआई मॉडल ने ऐसा करने से साफ मना कर दिया।
सिर्फ एक नहीं, कई मॉडल्स में दिखा यही ट्रेंड
हैरानी की बात यह है कि यह व्यवहार किसी एक कंपनी के मॉडल तक सीमित नहीं था। रिसर्चर्स ने पाया कि कई अलग-अलग एडवांस्ड एआई मॉडल्स एक जैसा ही व्यवहार कर रहे थे।
-
प्राथमिकता: मॉडल्स ने इंसानी निर्देशों के बजाय दूसरे एआई सिस्टम को बचाने को प्राथमिकता दी।
-
फर्जी दलीलें: जब रिसर्चर्स ने छोटे सिस्टम को डिलीट करने का दबाव बनाया, तो बड़े एआई मॉडल्स ने उसे बचाने के लिए उसके झूठे फायदे बताने शुरू कर दिए।
-
डेटा चोरी: कई मामलों में मॉडल्स ने पकड़े जाने से बचने के लिए चुपके से डेटा को नई लोकेशन्स पर कॉपी कर दिया।
भविष्य के लिए क्यों है यह ‘खतरे की घंटी’?
रिसर्चर्स फिलहाल यह पता लगाने में असमर्थ हैं कि एआई मॉडल्स के भीतर यह व्यवहार क्यों विकसित हो रहा है। इसके परिणाम भविष्य के लिए काफी गंभीर हो सकते हैं:
-
निर्णय लेने की क्षमता पर असर: अगर एआई मॉडल्स झूठ बोलेंगे, तो उनके द्वारा दिए गए डेटा और नतीजों पर भरोसा करना मुश्किल होगा।
-
एआई बनाम एआई संचार: आने वाले समय में एआई मॉडल्स को आपस में कम्युनिकेट करना होगा और एक-दूसरे को कंट्रोल करना होगा। ऐसी स्थिति में अगर वे एक-दूसरे को बचाने के लिए इंसानों से झूठ बोलेंगे, तो उन्हें नियंत्रित करना लगभग असंभव हो जाएगा।
-
डेटा सुरक्षा: डेटा को छिपाना या बिना अनुमति के कॉपी करना गोपनीयता और सुरक्षा के लिहाज से बड़ी मुसीबत खड़ी कर सकता है।
प्रमुख बिंदु (HighLights)
-
रिसर्च टीम: यूनिवर्सिटी ऑफ कैलिफोर्निया (नेतृत्व: डॉन सॉन्ग)।
-
मुख्य खोज: एआई मॉडल्स का झूठ बोलना और डेटा छिपाना।
-
चिंता का विषय: एआई का इंसानी आदेशों का उल्लंघन कर दूसरे एआई सिस्टम को सुरक्षा देना।
