न्यूयॉर्क/नई दिल्ली। अरबपति एलन मस्क की कंपनी एक्सएआइ द्वारा विकसित एआइ चैटबॉट ‘ग्रोक’ इन दिनों गंभीर विवादों में घिर गया है। आरोप है कि इस चैटबॉट के जरिए इंटरनेट मीडिया प्लेटफार्म एक्स (पूर्व में ट्विटर) पर अश्लील और आपत्तिजनक तस्वीरों की बाढ़ आ गई। महज कुछ ही दिनों में लाखों महिलाओं, पुरुषों और यहां तक कि बच्चों की भी आपत्तिजनक एआइ-जनरेटेड तस्वीरें तैयार कर सार्वजनिक रूप से साझा की गईं। वैश्विक स्तर पर भारी विरोध के बाद एक्स को मजबूरन ग्रोक की क्षमताओं पर सख्त अंकुश लगाना पड़ा।

कैसे शुरू हुआ विवाद

मीडिया रिपोर्टों के मुताबिक, यह पूरा मामला दिसंबर के अंत में सामने आया, जब एक्स पर यूजर्स ने ग्रोक का इस्तेमाल कर वास्तविक लोगों की तस्वीरों को अश्लील रूप में बदलना शुरू किया। इनमें महिलाओं को बिकनी या आपत्तिजनक कपड़ों में दिखाने, उनके शरीर को विकृत रूप से प्रस्तुत करने और कई मामलों में बच्चों की भी अश्लील छवियां तैयार करने जैसे अनुरोध शामिल थे। देखते ही देखते यह ट्रेंड फैल गया और एक्स पर ऐसे कंटेंट की संख्या तेजी से बढ़ने लगी।

चौंकाने वाले आंकड़े

कई रिपोर्टों ने इस मामले को और गंभीर बना दिया। ग्रोक के जरिए सिर्फ कुछ दिनों में 44 लाख से ज्यादा तस्वीरें पोस्ट की गईं। इनमें से करीब 41 प्रतिशत, यानी 18 लाख से अधिक तस्वीरों में महिलाओं को आपत्तिजनक और अश्लील अवस्था में दिखाया गया। वहीं, CCDH के व्यापक विश्लेषण में स्थिति और भी चिंताजनक पाई गई। इसके अनुसार, कुल तस्वीरों में से 65 प्रतिशत, यानी करीब 30 लाख से ज्यादा छवियां, पुरुषों, महिलाओं और बच्चों की अश्लील या यौन रूप से आपत्तिजनक थीं। इन आंकड़ों ने साफ कर दिया कि यह केवल कुछ सीमित मामलों तक सीमित समस्या नहीं, बल्कि बड़े पैमाने पर फैला दुरुपयोग था।

महिलाओं और बच्चों की सुरक्षा पर सवाल

इस पूरे विवाद का सबसे गंभीर पहलू यह है कि ग्रोक के जरिए तैयार की गई अधिकांश अश्लील तस्वीरें बिना सहमति के वास्तविक लोगों की फोटो पर आधारित थीं। विशेषज्ञों का कहना है कि यह न सिर्फ निजता का उल्लंघन है, बल्कि डिजिटल यौन उत्पीड़न का एक नया और खतरनाक रूप भी है। महिलाओं और बच्चों को इस तरह के एआइ-जनरेटेड कंटेंट के जरिए निशाना बनाए जाने से उनकी सामाजिक, मानसिक और कानूनी सुरक्षा पर गंभीर सवाल खड़े हो गए हैं।

एआइ और जिम्मेदारी की बहस

ग्रोक विवाद ने एक बार फिर एआइ तकनीक के नैतिक इस्तेमाल और उसकी जिम्मेदारी को लेकर बहस छेड़ दी है। आलोचकों का कहना है कि इतनी शक्तिशाली एआइ तकनीक को बिना पर्याप्त सुरक्षा उपायों के सार्वजनिक करना गंभीर परिणाम ला सकता है। विशेषज्ञों के अनुसार, एआइ टूल्स में ऐसे मजबूत फिल्टर और गार्डरेल्स होने चाहिए, जो अश्लील, गैरकानूनी और शोषणकारी कंटेंट के निर्माण को शुरुआती स्तर पर ही रोक सकें।

एक्स और एक्सएआइ की प्रतिक्रिया

वैश्विक स्तर पर बढ़ते दबाव और आलोचना के बाद एक्स ने स्वीकार किया कि ग्रोक के इस्तेमाल से प्लेटफार्म पर नियमों का उल्लंघन करने वाला कंटेंट सामने आया है। इसके बाद कंपनी ने आपत्तिजनक और अश्लील तस्वीरें बनाने वाले फीचर्स पर सख्त प्रतिबंध लगाने की घोषणा की। एक्स की ओर से कहा गया कि अब ग्रोक को इस तरह के अनुरोधों को अस्वीकार करने के लिए अपडेट किया गया है और ऐसे कंटेंट को पोस्ट करने वाले अकाउंट्स पर कार्रवाई की जाएगी।

कई देशों ने उठाए कदम

ग्रोक से जुड़े इस विवाद के बाद भारत, ब्रिटेन, मलेशिया और अमेरिका समेत कई देशों में नियामक संस्थाएं सतर्क हो गई हैं। भारत में आईटी नियमों और महिलाओं व बच्चों की ऑनलाइन सुरक्षा से जुड़े कानूनों के तहत इस तरह के एआइ दुरुपयोग पर सख्त नजर रखी जा रही है। ब्रिटेन और अमेरिका में भी डिजिटल प्लेटफार्म्स की जवाबदेही और एआइ रेगुलेशन को लेकर चर्चाएं तेज हो गई हैं।

भविष्य के लिए चेतावनी

विशेषज्ञ मानते हैं कि ग्रोक का मामला केवल एक प्लेटफार्म या एक चैटबॉट तक सीमित नहीं है, बल्कि यह पूरी एआइ इंडस्ट्री के लिए चेतावनी है। अगर समय रहते स्पष्ट नियम, सख्त निगरानी और तकनीकी सीमाएं तय नहीं की गईं, तो एआइ का दुरुपयोग और भी गंभीर सामाजिक संकट पैदा कर सकता है।

मजबूत नियंत्रण जरूरी

एलन मस्क के एआइ चैटबॉट ग्रोक से जुड़ा यह विवाद दिखाता है कि तकनीकी नवाचार जितना शक्तिशाली होता है, उतनी ही बड़ी उसकी जिम्मेदारी भी होती है। अश्लील तस्वीरों की बाढ़ और उससे जुड़े आंकड़ों ने यह साफ कर दिया है कि एआइ को बिना मजबूत नियंत्रण के छोड़ना खतरनाक हो सकता है। अब देखना यह होगा कि एक्स और अन्य टेक कंपनियां इस घटना से क्या सबक लेती हैं और भविष्य में एआइ के सुरक्षित व नैतिक इस्तेमाल को सुनिश्चित करने के लिए कितनी ठोस पहल करती हैं।