AI काल में जीने का सबब – 3

वागीश कुमार झा*

सूचना तंत्र का संजाल मानव जीवन के हर पहलू को आच्छादित कर चुका है. दशकों पूर्व इंटरनेट ने इसको एक नई उड़ान दी. अब आर्टिफ़िशियल इंटेलिजेंस (AI – जिसे हिन्दी में कृत्रिम मेधा कहा गया है), अपने विविध रूपों में एक शांत सुनामी की तरह इस पूरे खेल को बदल देने वाली है. हमारे लिए, समाज एवं समुदाय के तौर पर और एक व्यक्ति के तौर पर, इन परिवर्तनों का मतलब क्या है? शैक्षिक तकनीक, इतिहास और संस्कृति के गंभीर अध्येतावागीश कुमार झा की यह लेख श्रृंखला इन्हीं पहलुओं पर ध्यान आकृष्ट करती है. श्रृंखला का पहला लेख “खुशी का एल्गोरिथम” और दूसरा “ख्वाब हो तुम या कोई हक़ीकत” पहले पढ़ चुके हैं। आज प्रस्तुत है “ज़िंदगी ख्वाब है…”

जिंदगी ख्वाब है…

इस गहन छल काल में अब तो मशीन पर भी विश्वास करना मुश्किल हो चुका है. AI के संदर्भ में इसकी संरचना में अंतर्निहित पूर्वाग्रहों के बारे में सतर्क रहना जरूरी है. मशीन का यह पक्षपाती व्यवहार व्यवस्थित त्रुटियों या पूर्वाग्रहों को संदर्भित करता है जो मशीन-लर्निंग एल्गोरिदम में ही शामिल हो सकता है या जान बूझ कर किया जाता है.  ऐसे पूर्वाग्रह कई स्रोतों से उत्पन्न हो सकते हैं, जिनमें AI का पक्षपातपूर्ण प्रशिक्षण डेटा, पूर्वाग्रह युक्त एल्गोरिदम, या परिणामों की एक खास झुकाव वाली व्याख्याएं शामिल हैं। ये सभी काम वो लोग करते हैं जो AI को अपने उद्देश्य के लिए तैयार करते हैं. ध्यान रहे कि इस AI की तकनीक को विकसित करने के लिए अरबों रुपए खर्च किए जा रहे हैं और यह कोई धर्म का काम नहीं है. यह व्यापार है. (वैसे अब धर्म का व्यापार भी खासा चल निकला है!)

यहां मजेदार बात ये है कि जो लोग कृत्रिम मेधा पर नियंत्रण की इस दक्षता को प्राप्त करने के लिए अरबों रुपए, नहीं डॉलर खर्च कर रहे हैं और जिनके मन में इसकी अदभुत सफलता पर लड्डू फूट रहे हैं वही सबके सामने आ कर अपनी छाती पीट रहे हैं. उनका कहना है कि कृत्रिम मेधा के विकास पर सरकार का नियंत्रण जरूरी है. इधर सरकारें ये जानती हैं कि ये सारे तकनीक खास कर AI आधारित तकनीक के सहारे उनकी सत्ता के दांत और पैने होते जा रहे हैं. सूचना तंत्र पर शिकंजा कसना उनके सत्ता में बने रहने की शर्त बनती जा रही है.

इस विषय में 2023 के दिसंबर में 28 देशों और यूरोपीय संघ के प्रतिनिधियों द्वारा आर्टिफिशियल इंटेलिजेंस पर वैश्विक भागीदारी (जीपीएआई, उच्चारण जी-पे) की ‘नई दिल्ली घोषणा’ को अपनाया गया। इसमें की गई मंत्रिस्तरीय घोषणा के शब्दों को देखिए जो  “भरोसेमंद AI के जिम्मेदार नेतृत्व के लिए सिद्धांतों” के प्रति इन देशों की प्रतिबद्धता की पुष्टि करती है जिसका उद्देश्य  लोकतांत्रिक मूल्यों और मानवाधिकारों में निहित होगा. इस तरह AI के भरोसेमंद, जिम्मेदार, टिकाऊ और मानव-केंद्रित उपयोग को बढ़ावा देने की योजना है। तो इसमें जिम्मेदार नेतृत्व भरोसेमंद AI के हाथों में है. यहां सरकार क्या कर रही है? सरकारें केवल सुगमकर्ता हैं, जिसे अंग्रेजी में फैसिलिटेटर कहते हैं.

वैसे इस बहस में नैतिक और जिम्मेदार AI की चर्चा बार बार होती है. ये नैतिक कृत्रिम मेधा कैसी होगी? इसको परिभाषित किए बगैर यह केवल एक कर्णप्रिय शब्द है जिसका जिसको जो समझ में आए वो मतलब निकल ले. वैसे ही जैसे नई दिल्ली घोषणा पत्र में इस बात पर जोर दिया गया है कि “सरकार का प्रयास सामाजिक विकास और समावेशी विकास के लिए AI की क्षमताओं का पूरा लाभ उठाना है।” लेकिन कैसे? ये कौन बताएगा? जो समझेगा वही तो! और समझता कौन है?

एक रिपोर्ट के मुताबिक ” जेनेरिक एआई की परिवर्तनकारी और विघटनकारी क्षमता को पहचानते हुए,” दुनियां के तीन प्रमुख समूह, ओईसीडी, जीपीएआई और यूनेस्को, तीन अन्य विशेषज्ञ संस्थाओं – AI कॉमन्स, IEEE और VDI की मदद से वैश्विक सहयोग, विश्वास और पारदर्शिता को आगे बढ़ाने के लिए साथ आए हैं. ये तीनो विशेषज्ञ संस्थाएं तकनीकी दक्षता वाले लोगों, योजना बनाने वाले विद्वानों के समूह हैं जो सरकारों को सलाह देने का काम करती हैं. मतलब ये कि निजी स्वामित्व वाले कॉरपोरेट AI के विकास पर शोध और नवाचार कर रहे हैं. और सरकार उनको नियंत्रित करने के लिए दूसरी निजी सलाहकारों वाली संस्थानों की मदद मांग रही है ताकि लोकोपयोगी और नैतिक AI की रूपरेखा बनाई जा सके. ऐसा लगता है की नील पोस्टमैन द्वारा रचित शब्द टेक्नोपॉली साकार हो उठा हो. टेक्नोपॉली यानी एक ऐसा समाज जहां सरकार या चर्च जैसी सामाजिक व्यवस्था के बजाय प्रौद्योगिकी ही नैतिक और दार्शनिक दिशा दशा तय करने लगती है. कॉरपोरेट जगत द्वारा संचालित तकनीकी विकास और राजनीति की गलबहियां इसी टेक्नोपॉली का पोषण और संवर्धन करने का व्यवस्थागत रूप है.

सत्ता में रहने के लिए गहन छल सबसे जरूरी साधन है.

डीपफेक के सवाल ने इसके राजनैतिक दुरुपयोग के सवाल को बहुत महत्वपूर्ण बना दिया है. आज तरह तरह के वीडियो और रील पार्टियों के मीडिया सेल से रोज प्रसारित किए जा रहे हैं. इनमें से अधिकांश झूठी और बरगलाने वाली और राजनैतिक उद्देश्यों को साधने वाली खबरें होती हैं जो आम जनता तक लगातार पहुंचाई जा रही हैं. डीपफेक ने दुनिया भर के चुनावों को प्रभावित करना शुरू कर दिया है। उदाहरण के लिए, स्लोवाकिया में हाल के चुनावों में कुछ AI-जनित ऑडियो रिकॉर्डिंग फेसबुक पर प्रसारित हुई थी. इस डीपफेक वीडियो में एक उदार उम्मीदवार  शराब की कीमतें बढ़ाने और चुनाव में धांधली करने की योजना पर चर्चा कर रहा था। यह असली लगने वाला व्यक्ति नहीं बल्कि  AI तकनीक द्वारा प्रतिरोपित छवि थी. इसी तरह फरवरी 2023 के नाइजीरियाई चुनावों के दौरान, राष्ट्रपति पद के उम्मीदवार को एक AI के द्वारा बनाए गए एक छद्म ऑडियो क्लिप के माध्यम से मतपत्रों में हेरफेर करने की योजना में  झूठा फंसाया गया।

दुष्प्रचार फैलाने के सरल और सस्ते तरीकों पर भरोसा करते हुए डीपफेक विधि से मीडिया आख्यानों में हेराफेरी की जाती है, जिसमें प्रामाणिक वीडियो को गलत लेबल करना या गलत तरीके से प्रस्तुत करना, पाठ-आधारित दुष्प्रचार अभियान या उनका सीधे तौर पर प्रसारित किया जाना शामिल है जिनमें तेज़ी से वृद्धि हो रही है। इस तरह आम जनता को बरगलाना  इतना आसान हो चुका है कि जनतंत्र की हत्या अब एक तकनीकी दक्षता का विषय बन गया है। इसके व्यापक परिणाम सामने आने वाले हैं.

इस साल दुनिया की आधी आबादी वाले 50 से अधिक देशों में चुनावों होने की संभावना है, और डर है कि डीपफेक उनकी अखंडता को गंभीर रूप से कमजोर कर सकते हैं। डिजिटल तकनीक की आम जनता में सहज स्वीकार्यता और इसके दुरुपयोग से राजनैतिक माहौल बनाने या बिगड़ने का व्यापार अपने यौवन पर है. डिजिटल मीडिया की ऐसी पहुंच राजनीति के चिर परिचित तरीकों, जिसमें लोगों के बीच जा कर उनमें राजनैतिक समझ और जागरूकता पैदा करने का श्रमसाध्य तरीका शामिल था, उसे उखाड़ कर तकनीकी तरीकों के वर्चस्व को स्थापित करने की तरफ बढ़ चुका है. यह ट्रेंड साफ तौर पर बहुराष्ट्रीय कंपनी को एक बढ़त देने का काम करती है जो राजनैतिक पार्टियों के माध्यम से अपना हित साधने का काम करें. डीपफेक जैसी तकनीक इसको और मजबूती प्रदान करने जा रही है. इस संदर्भ में पत्रकार सीन इलिंग ने 2020 अपने एक लेख में टिप्पणी की है कि यह रणनीति “सच्चाई और इसे उजागर करने वाले संस्थानों के बारे में व्यापक संदेह पैदा करने” की एक व्यापक रणनीति का हिस्सा है, और ऐसा करना, “उदार लोकतंत्र की नींव को नष्ट कर देती है”.

झूठ और सच का फर्क जब इतना झीना हो जाता है कि उनके बीच अंतर करना असम्भव हो जाए तो एक और अजीब परिस्थिति पैदा होती है. 2018 कैलिफ़ोर्निया रिव्यू लेख में कानूनी विद्वान रॉबर्ट चेसनी और डेनिएल कीट्स सिट्रॉन द्वारा गढ़ा गया एक शब्द “झूठे का लाभांश” इस विद्रूप को सामने लाता है. वे कहते हैं कि “जैसे-जैसे जनता इस विचार के बारे में अधिक जागरूक हो जाती है कि वीडियो और ऑडियो को नकली बनाया जा सकता है, कुछ लोग जरूरत पड़ने पर अपने ही “प्रामाणिक ऑडियो और वीडियो” को डीपफेक बता कर अपने कार्यों के लिए जवाबदेही से बचने का प्रयास कर सकते हैं. और ऐसी परिस्थिति में आम जनता ठगी सी रह जायेगी. काफ्का के आत्मपरायेपन (Self-alienation) का यह नया सोपान लगता है.

और ऐसे में कहीं दूर रेडियो से  मुकेश का गया पर एक गीत बजता सुनाई दे रहा है – जिंदगी ख्वाब है, ख्वाब में झूठ क्या और भला सच है क्या…और मजा ये कि यह गीत जिस फिल्म से है उसका नाम है, ‘जागते रहो’.

*********

*वागीश स्कूली शिक्षा, शैक्षिक तकनीक, इतिहास और संस्कृति के अध्येता हैं।

डिस्क्लेमर : इस लेख में व्यक्त विचार लेखक के निजी विचार हैं और इस वैबसाइट का उनसे सहमत होना आवश्यक नहीं है। यह वैबसाइट लेख में व्यक्त विचारों/सूचनाओं की सच्चाई, तथ्यपरकता और व्यवहारिकता के लिए उत्तरदायी नहीं है। 

24 COMMENTS

  1. कृत्रिम मेधा के इस संक्रमण काल में शृंखला के ये लेख इससे जुड़े शब्दजाल एवं अंतर्निहित मायनों को समझने में काफी मददगार होंगे। ऐसा मैं समझता हूँ।

    जैसा कि इतिहास अन्य क्रांतियों या नई विधा की शुरुआत के समय जनमानस को सचेत या जागरूक होने वास्ते साहित्य या पत्रकारिता का योगदान देखा गया है। सचमुच ही, यह लेख Almost भी ठीक उसी तरह कृत्रिम मेधा संक्रमण काल के दौरान जान जागृति के उद्देश्य से एक मील का पत्थर के रूप में देखी जाएगी।

    आभार आपका।

    • लेख लिखने के क्रम में बातों को खुद बेहतर समझने की कोशिश करता रहता हूं, ब्रजेश. यह अगर आप जैसे सुधि पाठकों को अच्छा लगा तो यह मेरे लिए बोनस है. बहुत बहुत धन्यवाद.

  2. आपका लेख डीपफेक तकनीक के राजनैतिक दुरुपयोग के महत्वपूर्ण पहलुओं पर ध्यान केंद्रित करता है। आपने इसके प्रभावी उदाहरण दिए हैं, जैसे कि स्लोवाकिया और नाइजीरिया के चुनावों में हुए घटनाक्रम। आपने इस तकनीकी विकास के सामाजिक और राजनीतिक माध्यमों पर किए जा रहे प्रभाव पर चर्चा की है, जो उदाहरणात्मक हैं और सामाजिक जागरूकता को बढ़ावा देने की दिशा में महत्वपूर्ण हैं।

  3. आपने सरलतम रूप से कृत्रिम मेधा के गुह्यतम स्वरूप व प्रतिफलन को जिस प्रकार से विश्लेषित किया है ,वह आप जैसे विद्वान से ही संभव है । इसी तरह हम सबको आप ज्ञान दर्शन कराते रहें !

    • सुनील ठाकुर जी का आपकी स्नेहिल प्रतिक्रिया के लिए हार्दिक आभार. आपने पढ़ने का समय निकाला यह हमारे लिए सुखद है. पुनः आपका धन्यवाद.

  4. सुन्दर लेख श्रंखला के लिए धन्यवाद | आगे भी अपेक्षा रहेगी बागीशजी.
    नैतिकता कृत्रिम मेधा की बहुत बड़ी समस्या खड़ी होने वाली है – आपने सठीक सवाल उठाया है | पर समाधान ?

    • जी, मुश्किल सवाल तो है, जैसे कोई भी दार्शनिक प्रश्न होता है. इसपर अपने विचार को सुव्यवस्थित करने की कोशिश में लगा हो और इस क्रम में प्रसिद्ध दार्शनिक David J Chalmers की नई और अद्भुत किताब रियलिटी+ पढ़ रहा हूं. शायद इस जटिल सवाल का कोई सूत्र हाथ लगे जो अगली कड़ियों में रखने की तमन्ना है. आप जैसे विद्वान की शुभकामना से संभव हो शायद…

      • धन्यवाद. दार्शनिकों के पास समस्याएं ही समस्याएं है पर समाधान नहीं | समाधान अपनी अपनी क्षमता और सीमितता से ही मिल सकती है , अन्यथा sky is the limit | लोकव्यवहार में समाधान चाहिए . पर तात्त्विक तर्क अनंत काल तक चलता रहता हैं .
        अतिसुन्दर प्रासंगिक विषय पर लेख के लिए अभिनंदन .
        चलता रहे इस उम्मीद के साथ .

        • आप तो स्वयं दर्शन शास्त्र की ज्ञाता हैं, आपसे इस विषय में क्या कहा जा सकता है. दुनियां के तमाम दार्शनिक सवालों के हल ढूंढने के लिए पहले समीचीन और सही सवाल उठाने को प्रधानता देते रहे हैं. और फिर अपने अपने तरीके से उन सवालों के समाधान भी सुझाते रहे हैं. मगर फिर उन समाधानों को भी प्रश्नांकित किया जा सकता है, जाता रहा है.

          इस दृष्टिकोण से आपका यह कहना उचित ही है कि हम सबको अपना अपना समाधान स्वयं ढूंढना होता है और इसके लिए हमारा अपना दर्शन भी होता है, जो दार्शनिकों वाला दर्शन नहीं माना जाए ये संभव है. वो लोकव्यवहार का विवेक है. मौखिक परंपरा की अपनी मीमांसा होती है. इस लेख के बहाने आप जैसी विदुषी से बात करने का मौका मिला यह क्या काम बड़ा प्रतिफल है!?

  5. वागीश भाई आपके लेखन ने AI के सारे तंत्र और मंत्र की पोल खोल दी है ।नैतिकता की कहाँ किसी को चिंता है और सरकारें अपना उल्लू सीधा करने में लगी हैं , बिना समझे की घोड़ा कब बेलगाम हो जाएगा पता भी नहीं चलेगा । अफ़सोस की बात यह है की कृत्रिम मेधा की दबंग रूप की गति पर मानव जाती अपनी कल्पना और विवेक , दोनों खो बैठेगी ।
    मेरी इक्छा है की आपके तीनों लेखों का English में अनुवाद हो ताकि ज़्यादा लोग इस पैनी नज़रिए का लाभ उठायें और सजग हों.🙏

    • रंजनेश भाई, आपने कल्पना और विवेक, दो बहुत महत्वपूर्ण और निर्णायक मानवीय गुणों के खतरे की ओर आगाह किया है. यही दो गुण हैं जो मनुष्य को मनुष्य बनाते हैं. अगर इनका क्षरण हुआ तो फिर भगवान भी मालिक नहीं होगा.

      मैंने जान बूझ कर इन लेखों को हिंदी में लिखा क्योंकि इस भाषा में इन विषयों पर कम लिखा जाता है. अंग्रेजी अनुवाद का विचार अच्छा है. धन्यवाद, रंजनेश भाई.

    • रंजनेश भाई, आपने कल्पना और विवेक, दो बहुत महत्वपूर्ण और निर्णायक मानवीय गुणों के खतरे की ओर आगाह किया है. यही दो गुण हैं जो मनुष्य को मनुष्य बनाते हैं. अगर इनका क्षरण हुआ तो फिर भगवान भी मालिक नहीं होगा.

      मैंने जान बूझ कर इन लेखों को हिंदी में लिखा क्योंकि इस भाषा में इन विषयों पर कम लिखा जाता है. अंग्रेजी अनुवाद का विचार अच्छा है. धन्यवाद, रंजनेश भाई.

  6. भैया… आपका यह आलेख अत्यंत ही सारगर्भित है, समीचीन भी. वर्तमान समय में सब कुछ इस AI से प्रभावित होने जा रहा है. खास कर हमारा लोकतंत्र को सबसे ज्यादा. काफी डर लग रहा है, यह तकनीक तो और कुछ करे या न करे सबसे पहले अपनों को ही अपनों से दूर करेगा. आपकी पैनी नज़र इस पर बनी रहनी चाहिए.

    • धन्यवाद प्रकाश. हमारे लिए बस एक ही सूरत है, जागते रहो…

  7. सबसे पहले तो ‘गहन छल’ शब्द पर फ़िदा हूँ। बचपन में रात का अंधेरा गहनतम होने के साथ-साथ युद्धों में मायावी राक्षसों के वीभत्स आतंक का बिम्ब आंखों के सामने आ गया। अंग्रेजी के डीप फेक से माइथोलॉजी के सटीक प्रतीक की वैसी स्मृति कहाँ जगती है।

    और उतना ही सटीक अंत वाला रूपक। ‘जागते रहो’ मुझे अपने समय से बहुत आगे की उद्वेलित करने वाली प्रतीकात्मक फ़िल्म लगती रही है। पर मजे-मजे में क्या बात आपने कहा दी। ‘जागते रहो’ और ‘जिंदगी ख्वाब है’! शायद बेहतर समाज के लिए ‘जागते रहो’का भोले लोगों का संघर्ष भोला ख्वाब ही रह जाता है।

    अब आएं मुख्य कथ्य पर। स्थिति की भयावहता,

    लोकतंत्र, न्याय और मानवीय गरिमा के लिए पोस्ट ट्रुथ काल के बेबस कर सकने वाले खतरों की यह सघन प्रस्तुति है। इतने दिलचस्प, सहज तरीके से इतने गहन पक्षों का विस्तार!

    आपने मुझे फिर अब्दुल्ला की तरह उदास कर दिया है। पर ये शादी हम बेगानी नहीं मान सकते। हमें ही इस
    भयावहता के पार जाना होगा।

    • आप जैसे विचारवान मित्रों से ऐसी प्रतिक्रिया पा कर गदगद हूं, और क्या कहूं

  8. Every thing is going to be wrong and it’s outcome will be devastating as dip fake has ruined the generative social fabric, historical factuals and the almighty truth in rags and it’s so called AI -based rocketry has turned the intellectuals tight- lipped but never the less vigilant. Your endeavours to arouse brilliant minds towards remedies and treatment are commendable.Appreciating you heart’ and soul.
    Akhilesh

  9. As always , a very insightful article Sir! From hunting gathering societies we have come a long way or have we? The demonic proportions with which the roots of AI are capturing every aspect of our lives is frightening! Technology is the new opium…

  10. As always, a very insightful article Sir! From hunting gathering selves we have come a long way or have we? The demonic pace at which AI is capturing our lives is frightening. Technology is the new opium and being an educator dealing with adolescents I can certainly say that children are its most vulnerable and ‘prized’ addicts!

  11. Yes, such technologies are designed to be addictive, Neha Ma’am. It is an effort to transform us from being the user to become a consumer (read addict!). Strange as it may sound, a technology that promises to liberate ends up enslaving us. Thank you for reading and giving your valuable feedback, Neha.

  12. एक गूढ़ विषय को सरस, सहज और सुग्राह्य बनाने की अद्भुत कला कोई वागीश भाई से सीखे। जब भी कोई नई तकनीक विकसित होती है साथ दुरुपयोग की संभावनायें भी लाती है। पर दुरुपयोग की जिस भयावहता की चर्चा इस लेख में हुई है वह दूरगामी है। राष्ट्रीय और वैश्विक विमर्शों के बीच नैतिक और जिम्मेदार कृत्रिम मेधा की संकल्पना की हद तक दुरुपयोग की संभावनायें कम कर सकती हैं आने वाला वक्त ही बता पाएगा।
    हाँ, मनुष्य और मशीन की रस्सा कस्सी नई बात नहीं है। कभी कभी लगता है स्वयं का विकल्प तलाशने जीवन की मशीनीकरण से शुरू हुआ और AI के रूप में वह साक्षात सामने है। पर परिणाम अब तक मनुष्यों के वृहत हित में ही रहा है। और शायद आगे भी …

  13. आपका बहुत बहुत आभार, सत्येंद्र भाई. दो तरह की बात है. एक वो जहां कुछ लोग अपने फायदे के लिए तकनीक या ऐसे डिजिटल औजार का दुरुपयोग करते हैं..दूसरा, जब इन औजारों का उपयोग करने वाला उपभोक्ता बन जाता है और इस क्रम में वो उस औजार का गुलाम बन जाता है, एक ऐसा गुलाम जिसे हमेशा भ्रम होता रहता है कि वो मालिक है..ऐसे भ्रमित और आत्ममुग्ध व्यक्ति का शोषण करना बहुत आसान हो जाता है. इस खेल को AI एक अलग स्तर पर लेकर जाने की जुगत में है. वह समय होगा जब AI खुद निर्णय ले सकेगा और वह समय होगा जब मानव इतिहास मृत्यु शय्या पर अंतिम सांसें ले रहा होगा. और कुछ लोगों का मानना है कि ऐसा अगले पांच साल के भीतर हो सकता है.

    ऐसे में मैं सोचता हूं कि अपने मित्रों से खूब और जल्दी जल्दी मिल लूं, देर तक बेवजह एक नदी के किनारे बैठा
    रहूं, आम बगीचे की मचान पर लेटा रहूं, पुरवा हवा के झोकों में ऊंघता हुआ बेसुध, और आप जैसे मित्रों की बातें सुनता रहूं, कहानियां पढ़ता रहूं. यह सब, इससे पहले कि AI तय करने लगे कि हमें क्या करना है आज, कल, परसों…

LEAVE A REPLY

Please enter your comment!
Please enter your name here