Feedback
AI को लेकर एक ऐसा दावा सामने आया है, जिसने पूरी टेक इंडस्ट्री में बहस छेड़ दी है. Anthropic के आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी एक्सपर्ट Evan Hubinger का कहना है कि उन्हें 10% से ज्यादा चांस लगता है कि अगले 10 साल में AI की वजह से इंसानों का सफाया हो सकता है.
इवान हुबिंगर एंथ्रोपिक में एलाइनमेंट साइंस लीड हैं. उन्होंने एक पोस्ट में AI के फ्यूचर को लेकर अपनी चिंता बताई. उनके मुताबिक सबसे बड़ा खतरा उस समय हो सकता है, जब AI इंसानी इंटेलिजेंस से काफी आगे निकल जाए और खुद को लगातार इम्प्रूव करने लगे. आइए जानते हैं डिटेल में.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
इसे रिकर्सिव सेल्फ-इम्प्रूवमेंट कहा जाता है. अगर कोई AI खुद को बेहतर बनाने में इंसानों की मदद का मोहताज न रहे और अपने अगले वर्जन को खुद ही ज्यादा पावरफुल बना सके, तो उसकी कैपेबिलिटी बहुत तेजी से बढ़ सकती है.
यह भी पढ़ें: पुराने फोन से खत्म हुआ WhatsApp सपोर्ट, लिस्ट में आपका मोबाइल तो नहीं
जानिए कैसे सुपरइंटेलिजेंस बन सकता है काल
हुबिंगर का कहना है कि एंथ्रोपिक AI को सेफ रखने पर काम कर रही है, लेकिन फ्यूचर सुपरइंटेलिजेंस को पूरी तरह कंट्रोल में रखने का कोई पक्का सॉल्यूशन अभी मौजूद नहीं है.
उनका यह बयान एंथ्रोपिक के रिसर्चर Jacob Coxon के इस्तीफे के बाद सामने आया है. कॉक्सन ने भी AI कंपनियों की तेजी से बढ़ती रेस को लेकर चिंता जताई थी. उनका कहना था कि कंपनियां ज्यादा पावरफुल AI और सेल्फ-इम्प्रूविंग सिस्टम्स की तरफ तेजी से बढ़ रही हैं, लेकिन सेफ्टी के सवाल अभी पूरी तरह हल नहीं हुए हैं.
यह भी पढ़ें: BSNL ने Jio को पछाड़ा, हरियाणा में 68,560 नए यूजर्स जोड़े, जानिए आखिर क्यों लोग तेजी से जुड़ रहे हैं
हुबिंगर यह नहीं कह रहे कि आज मौजूद ChatGPT या दूसरे AI मॉडल्स अगले 10 साल में इंसानों को खत्म कर देंगे. उनकी चिंता फ्यूचर की सुपरइंटेलिजेंट AI को लेकर है. यानी मामला आज के AI से ज्यादा आने वाले AI का है.
AI कंपनियां लगातार ज्यादा पावरफुल मॉडल्स बनाने की कोशिश कर रही हैं. ऐसे में असली सवाल यही है कि AI को ज्यादा स्मार्ट बनाने की रेस में क्या उसकी सेफ्टी उतनी ही तेजी से आगे बढ़ रही है?
इवान हुबिंगर का 10% वाला एस्टीमेट इसी चिंता को सामने लाता है. और यही वजह है कि AI सेफ्टी को लेकर बहस अब सिर्फ बाहर नहीं, बल्कि AI कंपनियों के अंदर भी तेज हो रही है.
Copyright © 2026 Living Media India Limited. For reprint rights: Syndications Today
होम
वीडियो
लाइव टीवी
न्यूज़ रील
मेन्यू
मेन्यू