क्या आर्टिफिशियल इंटेलिजेंस (AI) इंसानी सभ्यता के लिए अब तक का सबसे बड़ा खतरा साबित होने जा रहा है? दुनिया की अग्रणी एआई कंपनियों में गिनी जाने वाली एंथ्रोपिक पीबीसी (Anthropic PBC) के शीर्ष लोग तो ऐसा ही मान रहे हैं। उनका कहना है कि यह तकनीक इतनी तेज रफ्तार से आगे बढ़ रही है कि बहुत जल्द इसकी कमान इंसानों के हाथ से फिसल सकती है।
कंपनी ने तो यहां तक मांग रख दी है कि वैश्विक स्तर पर एआई के विकास को कुछ समय के लिए रोकने (Pause) के मकसद से एक उद्योगव्यापी तंत्र (Industrywide Mechanism) तैयार किया जाए।
खुद रेस में सबसे आगे, फिर भी रुकने की वकालत
दिलचस्प पहलू यह है कि एक ओर एंथ्रोपिक एआई पर लगाम लगाने की पैरवी कर रही है, तो दूसरी ओर वह खुद इस होड़ में सबसे आगे दौड़ रही है। इसका चर्चित एआई असिस्टेंट ‘Claude’ बाजार में खूब धूम मचा रहा है।
इतना ही नहीं, कंपनी ने हाल में ‘Mythos’ नाम का एक नया मॉडल भी पेश किया है, जो साइबर सुरक्षा की कमजोरियों को पलक झपकते पहचानकर उनका फायदा उठाने (Cyber-Attack) में सक्षम है।
जैक क्लार्क और मरीना फावारो की चेतावनी
ब्लूमबर्ग की एक रिपोर्ट के मुताबिक, एंथ्रोपिक के सह-संस्थापक जैक क्लार्क और एंथ्रोपिक इंस्टीट्यूट की प्रमुख मरीना फावारो ने एक ब्लॉग पोस्ट में लिखा है कि भविष्य का सबसे बड़ा जोखिम यही है कि एआई खुद को बेहतर बनाने और अपने ही अगले व अधिक शक्तिशाली संस्करण (Versions) तैयार करने में सक्षम हो जाएगा।
उनका कहना है कि अगर ऐसा हुआ तो तकनीकी प्रगति की रफ्तार इंसानों के नियंत्रण से बाहर निकल जाएगी और इस पूरी प्रक्रिया में इंसानों की भूमिका लगभग समाप्त हो जाएगी।
परमाणु हथियारों जैसा ‘आर्म्स कंट्रोल’ जरूरी
ब्लॉग में लिखा गया है, “जब यह तेजी से खुद को विकसित करने वाली बुद्धिमत्ता (Intelligence) हमारी इंसानी दुनिया, आपसी रिश्तों और स्थापित शासन व्यवस्था से टकराएगी, तो भविष्य का वह हिस्सा ऐसा होगा जिसकी हम आज कल्पना भी नहीं कर सकते।”
दोनों ने यह भी लिखा कि जैसे परमाणु हथियारों पर अंतरराष्ट्रीय नियंत्रण स्थापित किया गया था, वैसा ही कुछ अब एआई के मामले में भी करना होगा। हालांकि उनका मानना है कि एआई के लिए “आर्म्स कंट्रोल” जैसी व्यवस्था खड़ी करना मिसाइलों को रोकने से कहीं ज्यादा मुश्किल काम है।
https://hindi.news18.com/news/tech/apps-ai-could-escape-human-control-anthropic-warns-of-global-threat-calls-for-pause-in-ai-development-ws-l-10543054.html