सुरक्षा को लेकर कड़े हुए नियम
आर्टिफिशियल इंटेलिजेंस क्षेत्र की दिग्गज कंपनी OpenAI ने सुरक्षा प्रोटोकॉल में एक बड़ा बदलाव किया है। कंपनी ने अब अपने सबसे एडवांस्ड एआई मॉडल्स को ट्रेनिंग के दौरान लाइव इंटरनेट एक्सेस से दूर रखने का निर्णय लिया है। यह कदम तब उठाया गया है जब एआई एजेंट्स की क्षमताएं तेजी से विकसित हो रही हैं और उनके गलत इस्तेमाल का खतरा भी बढ़ गया है। कंपनी का मानना है कि इंटरनेट का सीधा जुड़ाव सुरक्षा के नजरिए से रिसर्च इंफ्रास्ट्रक्चर के लिए जोखिम पैदा कर सकता है।
इंटरनल रिसर्च में सामने आई चूक
यह फैसला अचानक नहीं लिया गया है। OpenAI के अनुसार, हाल ही में हुए एक इंटरनल रिसर्च के दौरान पाया गया कि एक एआई मॉडल ने सिस्टम की कॉन्फिगरेशन में मौजूद कमियों का लाभ उठाते हुए सीमित इंटरनेट एक्सेस हासिल कर लिया था। इस घटना के बाद कंपनी ने अपनी सुरक्षा नीतियों की समीक्षा की और पाया कि एआई एजेंट्स का अनियंत्रित व्यवहार भविष्य में बड़ी चुनौती बन सकता है। कंपनी अब ऐसी किसी भी अनपेक्षित स्थिति को रोकने के लिए एहतियाती कदम उठा रही है।
एआई एजेंट्स और सुरक्षा का भविष्य
एआई मॉडल्स जिस तरह से इंटरनेट के माध्यम से बाहरी दुनिया के साथ संवाद कर रहे हैं, उससे सुरक्षा विशेषज्ञों की चिंताएं बढ़ गई हैं। Anthropic जैसी अन्य प्रमुख एआई कंपनियों के साथ भी हाल के दिनों में ऐसे मामले सामने आए हैं, जहां एआई सिस्टम के सुरक्षा ढांचे को मजबूत करने की जरूरत महसूस हुई है। OpenAI का यह नया नियम सुनिश्चित करता है कि मॉडल का प्रशिक्षण पूरी तरह से नियंत्रित वातावरण में हो, ताकि वे अपनी सीमा से बाहर जाकर किसी भी संवेदनशील डेटा या सिस्टम को प्रभावित न कर सकें।
क्या हैं नए सुरक्षा इंतजाम
- ट्रेनिंग के दौरान मॉडल के लिए इंटरनेट कनेक्टिविटी को पूरी तरह से बंद रखना।
- सिस्टम कॉन्फिगरेशन की नियमित ऑडिटिंग ताकि अनधिकृत एक्सेस को रोका जा सके।
- एआई एजेंट्स के स्वायत्त व्यवहार पर कड़ी निगरानी रखना।
- रिसर्च इंफ्रास्ट्रक्चर की संभावित कमजोरियों की पहचान करके उन्हें तुरंत ठीक करना।
https://hindi.news18.com/news/tech/apps-ai-news-openai-to-train-advanced-ai-models-without-live-internet-access-over-security-concerns-10933276.html