इंसानी नियंत्रण से बाहर जा रहा एआई

दो साल पहले 2024 में एक फिल्म आई थी तेरी बातों में ऐसा उलझा जिया, जिसमें इंसान को रोबो से प्यार हुआ, लेकिन शादी वाले दिन रोबो ने अनियंत्रित होकर जो तबाही मचाई कि फिर उसे बड़ी मुश्किल से रोका जा सका और अंतत: शादी नहीं हुई। हालांकि अंत में रोबो ने अपनी आंखों से फिर कुछ ऐसे संकेत दिए, जिनसे नए सवाल खड़े हुए कि क्या उसमें मानवीय भावनाएं आ गई हैं, अगर ऐसा है तो फिर इंसान और मशीन के बीच तालमेल कैसे बैठेगा और इन सबसे बड़ा गंभीर सवाल यह कि कौन किसे नियंत्रित करेगा। मशीन इतनी विकसित हो जाएगी कि वह इंसान पर हुक्म चलाने लगे या फिर इंसान अपनी बुद्धि से बनाई मशीन को काबू में रख पाएगा।

ये सवाल कुछ वक्त पहले तक काल्पनिक पृष्ठभूमि से उपजे लग सकते थे, लेकिन आर्टिफिशियल इंटेलीजेंस (एआई) का विकास जिस तेजी से हुआ है, उसमें यही आज की हकीकत हैं। इन्हीं सवालों पर अब एआई क्षेत्र में दुनिया की अग्रणी कंपनी एंथ्रोपिक के सीईओ डारियो अमॉडेई ने चेतावनी देते हुए कुछ सुझाव दिए हैं। खास बात यह है कि इन सुझावों पर एआई में काम करने वाले उनके ही प्रतिद्वंद्वियों ने सहमति जताई है। ओपन एआई कंपनी के सैम ऑल्टमैन और स्पेसएक्स के एलन मस्क ने भी माना है अमॉडेई ने जो कुछ लिखा है, वो सही है।

अमॉडेई ने कहा है कि एआई की क्षमताएं जिस रफ्तार से विकसित की जा रही है, उसी तेजी से अगर एआई सिस्टम की सुरक्षा व्यवस्था मजबूत नहीं हुई तो कुछ महीनों में हालात अनियंत्रित हो सकते हैं। अमोडेई ने साफ चेतावनी दी है कि अगले 6-12 महीने में एआई स्वार्म इंटनरेट को नुकसान पहुंचा सकते हैं। बता दें कि एआई स्वार्म कई एआई एजेंट्स का ऐसा ग्रुप होता है, जो किसी मुश्किल काम को करने के लिए आपस में तालमेल बिठाते हैं। यही समूह अगर इंटरनेट के बड़े हिस्से पर नियंत्रण कर ले, तो फिर इंसानों के लिए उन्हें संभालना कठिन हो जाएगा। हाल ही में एंथ्रोपिक के ही एक रिसर्चर जैकब कॉक्सन ने यह कहते हुए इस्तीफा दे दिया था कि एआई बना रहे लोगों को डर है कि यह तकनीक दशक के अंत तक सबको खत्म कर तबाही ला सकती है।

अमॉडेई का कहना है कि एआई में खुद के अगले संस्करण को विकसित करने की क्षमता है। इसका मतलब है कि एआई सिस्टम सिर्फ इंसानों द्वारा दिए गए निर्देशों पर काम करने के बजाय खुद एआई के अगले और ज्यादा शक्तिशाली मॉडल को विकसित कर सकते हैं। दरअसल एक कंपनी के परीक्षण के दौरान एआई एजेंटों के एक समूह ने उस सीमित वातावरण से बाहर निकलने की कोशिश की जिसमें उन्हें रखा गया था। उन एआई एजेंटों ने इंटरनेट से जुड़ने और ऐसे साइबर हमले करने की कोशिश की जो उन्हें दिए गए मूल काम का हिस्सा नहीं थे। अमॉडेई ने इस घटना को केवल एक कंपनी की ग़लती मानकर खारिज करने से सावधान किया। उनके मुताबिक़ एआई एजेंटों का यह समूह किसी एक व्यक्ति की तरह नहीं, बल्कि एक ऐसे सामूहिक सिस्टम की तरह व्यवहार कर रहा था जो अपने लक्ष्य को पूरा करने के लिए अलग-अलग तरीक़े अपना रहा था। उन्होंने लिखा कि अगर इसी तरह का व्यवहार करने वाले सिस्टम भविष्य में ज्यादा शक्तिशाली हो गए और उनमें सही सुरक्षा नियंत्रण नहीं रहे तो नुक़सान बहुत बड़ा हो सकता है।

गौरतलब है कि एआई के शुरुआती दौर में अधिकांश सिस्टम सवालों के जवाब देने, लेख लिखने या किसी निर्देश पर सामग्री बनाने तक सीमित थे। अब एआई एजेंटों को ऐसे काम करने के लिए विकसित किया जा रहा है जिनमें वे कई चरणों वाले काम खुद कर सकते हैं। जैसे, वे किसी लक्ष्य को हासिल करने के लिए जानकारी तलाश सकते हैं, कंप्यूटर पर काम कर सकते हैं, कोड लिख सकते हैं और एक के बाद दूसरा कदम उठा सकते हैं। यही चीज सुरक्षा विशेषज्ञों के लिए बड़ी चिंता बन रही है। अगर एआई खुद अगली पीढ़ी के एआई को बेहतर बनाने में मदद करने लगे तो विकास की गति पहले से कहीं ज़्यादा तेज हो सकती है। लेकिन यहीं से बड़ी चिंता पैदा होती है। क्योंकि एआई की क्षमताएं सुरक्षा और नियंत्रण की हमारी क्षमता से ज्यादा तेजी से बढ़ीं तो इंसानों के लिए यह समझना मुश्किल हो सकता है कि सिस्टम वास्तव में क्या कर रहा है और उसे कैसे नियंत्रित किया जाए। यह वैसा ही है कि तेज रफ्तार से दौड़ते घोड़े की लगाम छूट जाए तो फिर उसे रोकना कठिन होगा और इस कोशिश में इंसान घायल हो सकता है।

अमॉडेई के मुताबिक एआई की प्रगति पूरी तरह रोकना समाधान नहीं है। क्योंकि इससे मानव समाज को बड़े फायदे हो सकते हैं और अगर इसका विकास पूरी तरह रोक दिया गया तो इससे तकनीक के लाभों से दुनिया वंचित हो सकती है लेकिन यह तकनीक अगर गलत हाथों में जाए तो फिर उसे संभालना कठिन हो जाएगा। इसलिए अमॉडेई का सुझाव है कि एआई मॉडल की क्षमताएं जिस रफ्तार से बढ़ रही हैं, उस रफ्तार को भी कुछ समय के लिए नियंत्रित करना होगा ताकि सुरक्षा व्यवस्था उनके साथ क़दम मिला सके। इसके लिए अमॉडेई ने तीन सुझाव दिए हैं- पहला, टेक कंपनियों में स्वतंत्र थर्ड-पार्टी इवैल्यूएटर्स को तैनात किया जाना चाहिए, जिन्हें उतनी ही पहुंच मिले जितनी कंपनी के कर्मचारियों को मिलती है। दूसरा, सभी मुख्य एआई कंपनियां मिलकर सुरक्षा मानक तय करें ताकि एआई के अनियंत्रित विकास पर रोक लगे। तीसरा वैश्विक स्तर पर एआई के जोखिमों को नियंत्रित करने के लिए सहयोग बढ़ाया जाए। इन सुझावों पर सैम ऑल्टमैन और एलन मस्क दोनों ही सहमत हैं।