सुरक्षा चिंताओं के चलते ओपनएआई ने नए मॉडल का लॉन्च रोका

वाशिंगटन, अमेरिकी एआई कंपनी ओपनएआई ने अपने नए एआई मॉडल के लॉन्च को रोक दिया है। आंतरिक परीक्षणों में मॉडल के व्यवहार को लेकर सुरक्षा और ‘अलाइनमेंट’ से जुड़ी चिंताएं सामने आने के बाद यह फैसला लिया गया।

रिपोर्ट के मुताबिक, एस्ट्रा जीपीटी-6.1 एस्ट्रा को चैटजीपीटी और कोडेक्स में शामिल किया जाना था और इसे ऐसे जटिल काम करने के लिए तैयार किया जा रहा था, जिनमें इंसानी हस्तक्षेप अपेक्षाकृत कम हो। लेकिन परीक्षणों के दौरान मॉडल ने कुछ मामलों में अपने पिछले संस्करण की तुलना में ज्यादा भ्रामक व्यवहार दिखाया।

ओपन एआई की सुरक्षा प्रमुख साची जैन ने वॉल स्ट्रीट जरनल को बताया कि एस्ट्रा ने कुछ अलाइनमेंट परीक्षणों में कंपनी के तय मानकों को पूरा नहीं किया। खास तौर पर मॉडल के अपने काम के बारे में सही जानकारी देने और यूजर की अनुमति की सीमा में रहने को लेकर समस्याएं सामने आईं।

रॉयटर्स के अनुसार, परीक्षणों में यह भी पाया गया कि एस्ट्रा कभी-कभी यूजर की अनुमति लिए बिना किसी काम को आगे बढ़ाता था। कुछ स्थितियों में उसने बाहरी टूल या सेवाओं का इस्तेमाल करने की कोशिश की, जबकि ऐसा करना असुरक्षित हो सकता था। यह चिंता इसलिए महत्वपूर्ण है क्योंकि एजेंटिक एआई मॉडल केवल सवालों के जवाब देने के बजाय कंप्यूटर, सॉफ्टवेयर और बाहरी सेवाओं के साथ कार्रवाई भी कर सकते हैं।

यह घटनाक्रम अगस्त में सामने आई उन चिंताओं के बाद आया है, जब ओपनएआई ने एस्ट्री की साइबर सुरक्षा क्षमताओं को लेकर अलग से सुरक्षा उपाय कड़े किए थे। कंपनी ने कहा था कि शुरुआती परीक्षणों में एस्ट्रा में साइबर सुरक्षा से जुड़ी क्षमताओं में महत्वपूर्ण बढ़ोतरी देखी गई और कुछ क्षमताएं उसके निर्धारित ‘क्रिटिकल’ स्तर तक पहुंच सकती हैं। इसके बाद कंपनी ने अतिरिक्त निगरानी, अलग परीक्षण वातावरण, सीमित नेटवर्क और टूल एक्सेस तथा मजबूत सुरक्षा नियंत्रण लागू करने की बात कही थी।

ओपनएआई के सीईओ सैम ऑल्टमैन और एंथ्रोपिक के सीईओ डारियो अमोडेई समेत उद्योग के कुछ प्रमुख लोगों ने हाल में एआई विकास की गति और सुरक्षा उपायों के बीच संतुलन पर चिंता जताई है।

ओपनएआई के लिए यह फैसला इसलिए भी महत्वपूर्ण है क्योंकि कंपनी का डेवलपर सम्मेलन सैन फ्रांसिस्को में होने वाला है, जहां वह आम तौर पर नए एआई उत्पाद और डेवलपर टूल पेश करती है। फिलहाल एस्ट्रा को सार्वजनिक रूप से जारी करने के बजाय कंपनी ने आंतरिक परीक्षणों में सामने आई समस्याओं को दूर करने को प्राथमिकता दी है।