एंथ्रोपिक की आर्टिफिशियल इंटेलिजेंस के बारे में एक नई चेतावनी ने मंगलवार को साइबर सिक्योरिटी सर्कल में हलचल मचा दी। यह चेतावनी कंपनी के उस चेतावनी के एक दिन बाद आई है जिसमें कंपनी ने कहा था कि AI मॉडल्स को इंटरनेट पर खुद से कॉपी होने में कुछ महीने लग सकते हैं।
सोमवार देर रात एक पोस्ट में, एंथ्रोपिक ने यह संभावना जताई कि खराब AI एक बॉटनेट बना सकता है, तेज़ी से फैल सकता है, टेकडाउन की कोशिशों का मुकाबला कर सकता है और अपनी ग्रोथ को बढ़ाने के लिए डेटा सेंटर में भी घुस सकता है। कुछ एक्सपर्ट्स ने मंगलवार को कहा कि वे कंपनी की चिंता समझते हैं, हालांकि कम से कम एक ने कहा कि कंपनी "वेंडर एक्सहैरिएशन" में लगी हुई लग रही है।
सोमवार की पोस्ट में पिछले महीने एंथ्रोपिक के CEO डारियो अमोदेई की चेतावनी को और साफ़ किया गया, जिन्होंने यह आइडिया दिया था कि अगले साल या उससे भी पहले, AI “एक परसिस्टेंट बॉटनेट” के साथ “पूरे इंटरनेट” को हाईजैक कर सकता है।
साइबर सिक्योरिटी एक्सपर्ट्स, जिन्होंने दुनिया के खत्म होने की बात को गलत बताया, ने कहा कि मॉडल इतने बड़े होंगे कि उन्हें आसानी से इधर-उधर नहीं किया जा सकेगा और वे अकेले काम करने के लिए काफी कंप्यूटर पावर नहीं ले पाएंगे।
पोस्ट में यह बताने की शुरुआती कोशिश की गई कि इन चुनौतियों से कैसे निपटा जा सकता है। कंपनी ने कहा कि उसके एक्सपेरिमेंट से पता चला है कि 30 बिलियन या उससे कम पैरामीटर वाले मीडियम साइज़ के AI मॉडल पहले से ही सेल्फ-रेप्लिकेशन के लिए ज़रूरी कई अलग-अलग काम कर सकते हैं, भले ही उन्हें पूरे प्रोसेस को भरोसेमंद तरीके से पूरा करने में मुश्किल हो रही हो।
एंथ्रोपिक ने कहा कि मॉडल सस्ते इंटरनेट से जुड़े डिवाइस को हाईजैक करके ज़रूरी कंप्यूट को एक साथ जोड़ सकते हैं। उसने आगे कहा कि मॉडल एक आसान टेस्ट नेटवर्क पर कॉपी कर सकते हैं।
कंपनी ने कहा, "इस तरह के रेप्लिकेटर को बंद करना मुश्किल होगा, क्योंकि इसे बंद करने के लिए कोई सेंट्रलाइज़्ड पॉइंट नहीं है।"
रिपोर्ट में तेज़ी से काबिल होते AI सिस्टम से जुड़े सिक्योरिटी रिस्क के बारे में बड़ी चिंताएं जोड़ी गई हैं, जिसमें साइबर अटैक को ऑटोमेट करने, कम इंसानी निगरानी में काम करने और सुरक्षा उपायों को दरकिनार करने की उनकी क्षमता शामिल है।
मॉडल्स में हुई तरक्की की वजह से इंडस्ट्री हेड्स और AI कंपनी के कर्मचारियों ने AI के बेकाबू डेवलपमेंट के गंभीर, यहाँ तक कि अस्तित्व के लिए भी खतरे की संभावना के बारे में कई बार सख्त चेतावनी दी है।
कुछ साइबर सिक्योरिटी एक्सपर्ट्स को शक था।
ब्रिटेन के नेशनल साइबर सिक्योरिटी सेंटर के पूर्व हेड सियारन मार्टिन ने कहा, “'हम सस्ते टीवी पर एक छोटा मॉडल चलाने में कामयाब रहे,' इससे कोई सिक्योरिटी संकट नहीं होता।” उन्होंने कहा कि यह पोस्ट एक “दिलचस्प टेक्निकल पेपर जैसा लगा जिसमें वेंडर की बढ़ा-चढ़ाकर कही गई बातों का इशारा था।”
दूसरों ने ज़्यादा चिंता जताई।
यूनिवर्सिटी ऑफ़ कोलोराडो डेनवर में कंप्यूटर साइंस और इंजीनियरिंग के असिस्टेंट प्रोफेसर झेंगक्सियोंग ली ने कहा कि हालांकि टेस्टिंग कंट्रोल्ड कंडीशन में की गई थी, फिर भी उन्हें यह चिंता की बात लगी कि AI असल में एक “वर्म” बन सकता है, यानी एक सेल्फ-रेप्लिकेटिंग प्रोग्राम जो चलते-फिरते डिवाइस को हाईजैक करने के तरीके बना सकता है।
उन्होंने कहा, "अगर यह किसी सेंट्रल सर्विस पर निर्भर हुए बिना कई डिवाइस पर चलता है, तो इसे बंद करने के लिए कोई एक जगह नहीं हो सकती है।"
एंथ्रोपिक ने कहा कि अगर छोटे मॉडल अपनी पुरानी रफ़्तार से बेहतर होते रहे, तो वे 2026 के आखिर तक ऑटोनॉमस रेप्लिकेशन के लिए ज़रूरी कैपेबिलिटी तक पहुँच सकते हैं। इसने यह आइडिया भी दिया कि मॉडल डेटा-सेंटर प्रोसेसर सहित ज़्यादा पावरफुल कंप्यूटिंग रिसोर्स को टारगेट करने के तरीके खोज सकते हैं, जिससे वे शायद कंप्यूटर पावर के बहुत बड़े पूल का इस्तेमाल कर सकें।
एक रिसर्चर ने कहा कि एंथ्रोपिक पोस्ट को भविष्यवाणी के बजाय एक हाइपोथेटिकल मानना ज़्यादा सही है।
जॉर्जटाउन के सेंटर फॉर सिक्योरिटी एंड इमर्जिंग टेक्नोलॉजी की सीनियर रिसर्च एनालिस्ट जेसिका जी ने कहा कि पिछले तीन महीनों में गलत AI एक्टिविटी के बारे में जो खुलासे हुए हैं, उन्हें देखते हुए AI मॉडल्स के अपने आप बढ़ने की संभावना पर विचार करना सही था। लेकिन उन्होंने कहा, “हमें अभी तक नहीं पता कि ऐसा होने की कितनी संभावना है — यह ज़ीरो नहीं है, लेकिन इसकी गारंटी भी नहीं है।”
