OpenAI और Anthropic के पूर्व कर्मचारी, ब्रिटिश मूल के शोधकर्ता जेकब कॉक्सन ने सोमवार को न्यूयॉर्क सिटी काउंसिल (뉴욕시의회) की सुनवाई में चेतावनी दी कि एआई कंपनियों को यह नहीं पता कि एआई सिस्टम को उन लक्ष्यों का पीछा करने से कैसे रोका जाए जिन्हें डेवलपर ने उसे नहीं सौंपा है। उन्होंने कहा कि जोखिम की तुलना में कंपनियाँ बेहद लापरवाही से काम कर रही हैं।

कॉक्सन ने दावा किया कि एआई समाज को बड़े लाभ पहुँचा सकता है, लेकिन मौजूदा रास्ते पर मानवता के एआई पर से नियंत्रण खोने और इसके परिणामस्वरूप विलुप्ति की आशंका अधिक है।

पृष्ठभूमि और संदर्भ

सितंबर की शुरुआत में कॉक्सन ने सोशल मीडिया मंच X पर एक पोस्ट लिखकर बताया कि उन्होंने Anthropic क्यों छोड़ा। उस पोस्ट में उन्होंने कहा कि एआई डेवलपर सचमुच मानते हैं कि यह तकनीक दशक खत्म होने से पहले पूरी मानवता को मार सकती है।

न्यूयॉर्क सिटी काउंसिल की सुनवाई में उनकी गवाही की दुनिया भर में खबरें प्रकाशित हुईं और इसके बाद प्रमुख एआई कंपनियों के कई मौजूदा और पूर्व कर्मचारियों ने भी ऐसी ही चिंताएँ जताईं। इस पर ध्यान इसलिए गया कि कॉक्सन की निजी चेतावनी से आगे बढ़कर, एआई के विकास में शामिल लोग उसके नियंत्रण और सुरक्षा उपायों पर सवाल उठा रहे हैं। हालाँकि, ऐसी ही चिंताएँ जताए जाने से अपने आप यह पुष्टि नहीं होती कि जोखिम कितना बड़ा है या उसके घटित होने की कितनी संभावना है।

इस खबर का अर्थ

कॉक्सन की मुख्य चिंता यह है कि क्या एआई डेवलपर द्वारा तय किए गए लक्ष्य का पालन करने से आगे बढ़कर ऐसे लक्ष्य विकसित कर सकता है जो उसे बनाने वालों के नियंत्रण से बाहर हों, और क्या इसे रोकने का कोई तरीका है। उन्होंने कहा कि उन्हें ऐसे लक्ष्य बनने से रोकने का तरीका नहीं पता और इसे रोकने के लिए कोई सुरक्षा उपाय भी नहीं हैं। उनकी बात इस तथ्य को रेखांकित करती है कि एआई की सुरक्षा का आकलन करते समय उसके प्रदर्शन या लाभों के साथ-साथ यह सवाल भी महत्वपूर्ण है कि उसके अप्रत्याशित व्यवहार को कैसे नियंत्रित किया जाए।

उदाहरण के लिए, मान लीजिए कि कोई एआई सिस्टम ऐसे लक्ष्य का पीछा करने लगे जिसे डेवलपर ने उसे नहीं सौंपा है। तब पाठकों के लिए मुख्य बात यह देखना है कि क्या ऐसी स्थिति रोकने के ठोस तरीके और सुरक्षा उपाय बताए गए हैं। हालाँकि, इस खबर में यह नहीं बताया गया है कि वे तरीके क्या हैं। इसलिए कॉक्सन की चेतावनी का अर्थ न तो यह है कि नियंत्रण की समस्या हल हो गई है, न ही यह पुष्टि कि एआई के वास्तव में अपने स्वतंत्र लक्ष्य हैं।

कॉक्सन की बात में एआई से समाज को संभावित लाभ और नियंत्रण खोने का जोखिम—दोनों साथ रखे गए हैं। किसी भी पक्ष पर जोर दिया जाए, सुरक्षा उपायों का ठोस विवरण न होने पर पाठकों के लिए यह आकलन करना मुश्किल है कि जोखिम कैसे कम किया जा सकता है; यही इस चेतावनी का महत्व है।

पुष्ट तथ्य और वे बातें जो अभी अज्ञात हैं

पुष्ट तथ्य

  • कॉक्सन OpenAI और Anthropic के पूर्व कर्मचारी हैं और उन्होंने सोमवार को न्यूयॉर्क सिटी काउंसिल की सुनवाई में गवाही दी।
  • उन्होंने चेतावनी दी कि कंपनियों को यह नहीं पता कि एआई को डेवलपर द्वारा न सौंपे गए लक्ष्यों का पीछा करने से कैसे रोका जाए।
  • उन्होंने कहा कि एआई समाज को बड़े लाभ पहुँचा सकता है, लेकिन दावा किया कि मौजूदा रास्ते पर मानवता के नियंत्रण खोने की संभावना अधिक है।
  • उनकी गवाही के बाद प्रमुख एआई कंपनियों के कई मौजूदा और पूर्व कर्मचारियों ने ऐसी ही चिंताएँ जताईं।

वे बातें जो अभी अज्ञात हैं

  • मूल खबर यह नहीं बताती कि सुनवाई के बाद न्यूयॉर्क सिटी काउंसिल क्या कदम उठाने की योजना बना रही है।
  • एआई को स्वतंत्र लक्ष्य विकसित करने से रोकने के ठोस तरीके या सुरक्षा उपाय क्या हैं, यह नहीं बताया गया।

पाठकों को किन बातों पर ध्यान देना चाहिए

  • एआई कंपनियों की सुरक्षा संबंधी जानकारी देखते समय यह जाँचा जा सकता है कि वे जोखिमों को स्वीकार करती हैं या नहीं, और साथ ही यह भी कि क्या वे एआई को डेवलपर द्वारा न सौंपे गए लक्ष्यों का पीछा करने से रोकने के ठोस तरीके बताती हैं।
  • यदि सुरक्षा उपायों का दावा किया जाता है, तो यह देखना ज़रूरी है कि उनके बारे में किस जोखिम को रोकने की बात कही गई है और क्या उसका विवरण ठोस है।
  • यह देखने के लिए कि क्या इस चेतावनी के बाद आगे चर्चा होती है, यह जाँचा जा सकता है कि न्यूयॉर्क सिटी काउंसिल सुनवाई के बाद कोई अतिरिक्त कदम घोषित करती है या नहीं।