कृत्रिम बुद्धिमत्ता की नैतिकता

सॉफ्टवेयर अब यह तय करने में मदद करता है कि किसे कर्ज मिलेगा, किसे जमानत मिलेगी और कोई हथियार किस लक्ष्य को चुनेगा। यह लोगों से भरे किसी भी दफ्तर से तेज काम करता है। इसलिए एक पुराना सवाल नए रूप में फिर सामने आता है। जब कोई मशीन फैसला करती है, तो उसके नतीजे की जिम्मेदारी किसकी होती है?

पढ़ते समय तीन बातें ध्यान में रखें। जब AI फैसला करता है, तो क्या गलत हो सकता है? इसके लिए जवाबदेह कौन होना चाहिए? और भारत व दुनिया इसके नियम बनाने की कोशिश कैसे कर रहे हैं?

1AI नैतिकता क्या है?

AI नैतिकता, व्यावहारिक नैतिकता की एक शाखा है। यह सवाल उठाती है कि AI प्रणालियों को कैसे बनाया, इस्तेमाल और नियंत्रित किया जाना चाहिए। इसके मुख्य सरोकार निष्पक्षता, पारदर्शिता, जिम्मेदारी, निजता और सुरक्षा हैं।

AI पुरानी मशीनों से अलग क्यों है? ट्रैक्टर सिर्फ वही करता है जो चालक उसे करने को कहता है। AI प्रणाली अपने आप कोई फैसला ले सकती है और उस पर अमल कर सकती है। वह ऐसा दिन में लाखों बार भी कर सकती है।

इसलिए AI के भीतर मौजूद एक गलत नियम सिर्फ एक व्यक्ति को नुकसान नहीं पहुँचाता। वह पूरे समूह को तेजी से और चुपचाप नुकसान पहुँचा सकता है।

• पुराने औजार: इंसान फैसला करता है, औजार उसका पालन करता है।
• AI: प्रणाली खुद फैसला करती है और उस पर अमल करती है, बहुत बड़े पैमाने पर।
• इसलिए प्रणाली जितनी तेजी से बढ़ती है, नैतिकता से जुड़े सवाल भी उतनी ही तेजी से बढ़ते हैं।

2AI में पक्षपात क्यों होता है?

AI में किसी को पूर्वाग्रह लिखकर डालने की जरूरत नहीं होती। वह पुराने डेटा से सीखता है। अगर अतीत में अन्याय हुआ था, तो AI उस अन्याय को भी सीख लेता है।

2.1जेंडर शेड्स (Gender Shades) अध्ययन में क्या पाया गया?

2018 में शोधकर्ता जॉय बुओलाम्विनी (Joy Buolamwini) और टिमनिट गेब्रू (Timnit Gebru) ने IBM और Microsoft सहित बड़ी कंपनियों के चेहरे का विश्लेषण करने वाले सॉफ्टवेयर की जाँच की। ये सॉफ्टवेयर हल्के रंग की त्वचा वाले पुरुषों के मामले में लगभग पूरी तरह सही थे। लेकिन इन्होंने कहीं ज्यादा गलतियाँ कीं जब बात थी गहरे रंग की त्वचा वाली महिलाओं की. (स्रोत: PMLR)

2.2COMPAS में क्या गड़बड़ी हुई?

COMPAS अमेरिका में इस्तेमाल होने वाला एक सॉफ्टवेयर है, जो न्यायाधीशों को यह अनुमान लगाने में मदद करता है कि कोई व्यक्ति दोबारा अपराध करेगा या नहीं। 2016 में ProPublica के पत्रकारों ने इसके अंकों का अध्ययन किया। जिन अश्वेत आरोपियों ने दोबारा अपराध नहीं किया, उन्हें श्वेत आरोपियों की तुलना में कहीं अधिक बार गलत तरीके से “उच्च जोखिम” वाला बताया गया। (स्रोत: ProPublica)

2.3नस्ल की जानकारी ही क्यों न हटा दें?

“नस्ल” वाला कॉलम हटाने से समस्या हल नहीं होती। दूसरा डेटा उसकी जगह ले सकता है। घर का पता या उपनाम भी किसी समूह की उतनी ही साफ पहचान बता सकता है। ऐसे अप्रत्यक्ष संकेत कहलाते हैं प्रॉक्सी (proxies).

3AI अपने फैसलों का कारण क्यों नहीं समझा सकता?

कई आधुनिक AI प्रणालियाँ डीप लर्निंग से सीखती हैं। प्रशिक्षण के दौरान वे लाखों छोटी-छोटी संख्याओं में बदलाव करती हैं। उन्हें बनाने वाले भी किसी एक जवाब का स्पष्ट कारण नहीं बता सकते।

इसे ब्लैक बॉक्स की समस्याकहते हैं। आप देख सकते हैं कि उसमें क्या डाला गया और क्या नतीजा निकला। लेकिन यह नहीं देख सकते कि ऐसा क्यों हुआ।

यह निष्पक्ष शासन के एक बुनियादी नियम से टकराता है। अगर कोई कार्यालय आपका लाइसेंस या कर्ज़ देने से मना करता है, तो आपको उसका कारण जानने का हक है। “कंप्यूटर ने मना कर दिया” कोई कारण नहीं है।

• ब्लैक बॉक्स: इनपुट और आउटपुट दिखते हैं, लेकिन कारण नहीं दिखता।
• निष्पक्ष प्रक्रिया: किसी व्यक्ति को लाभ देने से मना किया जाए, तो उसे कारण बताया जाना चाहिए।
• समझाया जा सकने वाला AI (Explainable AI या XAI) ब्लैक बॉक्स को “काँच के बक्से” में बदलने की कोशिश करता है।

4दोष किसका है?

सोचिए, अपने आप चलने वाली कार किसी को टक्कर मार देती है। या कर्ज़ के आवेदन जाँचने वाला उपकरण किसी किसान का आवेदन गलत तरीके से खारिज कर देता है। नुकसान के लिए जवाब किसे देना चाहिए?

कई लोगों के नाम सामने आ सकते हैं। कोड लिखने वाले ने प्रोग्राम बनाया। डेटा कंपनी ने उदाहरण दिए। बैंक ने उसका इस्तेमाल करने का फैसला किया। इतने लोगों में काम बँटा होने से जवाबदेही में जो कमी रह जाती है, उसे कहते हैं जवाबदेही का अंतराल.

नैतिकता के अधिकतर विशेषज्ञ और नियामक एक स्पष्ट जवाब देते हैं। सॉफ्टवेयर को सज़ा नहीं दी जा सकती, न उससे मुआवज़ा भरवाया जा सकता है। इसलिए ज़िम्मेदारी बनी रहती है उन लोगों और संगठनों की जो इसे बनाते और इस्तेमाल में लाते हैं। “एल्गोरिदम ने फैसला किया” कोई बहाना नहीं है।

5क्या मशीनें जान लेने का फैसला कर सकती हैं?

कुछ नए हथियार बिना किसी इंसान के बटन दबाए लक्ष्य खोजकर उस पर हमला कर सकते हैं। इन्हें कहते हैं घातक स्वायत्त हथियार प्रणालियाँ (Lethal Autonomous Weapons Systems), या LAWS। आलोचक इन्हें “हत्यारे रोबोट” कहते हैं।

बड़ा सवाल सीधा है। क्या किसी मशीन को कभी अपने आप किसी इंसान की जान लेने का फैसला करना चाहिए?

5.1बातचीत कहाँ हो रही है?

देश LAWS पर संयुक्त राष्ट्र के कुछ पारंपरिक हथियारों पर अभिसमय (Convention on Certain Conventional Weapons) (CCW) के तहत जिनेवा में चर्चा करते हैं। सरकारी विशेषज्ञों का एक समूह वहाँ कई वर्षों से बैठकें कर रहा है। इसका मुख्य विचार है “सार्थक मानवीय नियंत्रण”। नियंत्रण सचमुच किसी इंसान के हाथ में होना चाहिए, वह केवल देखता न रहे।

संयुक्त राष्ट्र महासभा ने दिसंबर 2023 में LAWS पर अपना पहला प्रस्ताव पारित किया। दूसरा प्रस्ताव दिसंबर 2024 में आया, जिसके पक्ष में 166 वोट पड़े। भारत ने उस दूसरे मतदान में भाग नहीं लिया। अभी भी कोई बाध्यकारी संधि नहीं है। (स्रोत: ह्यूमन राइट्स वॉच (Human Rights Watch))

• मंच: CCW, जिनेवा।
• मुख्य शब्द: सार्थक मानवीय नियंत्रण.
• स्थिति: बातचीत और प्रस्ताव जारी हैं, लेकिन कोई बाध्यकारी संधि अभी नहीं है।

6नौकरियों और निजता का क्या?

6.1क्या AI नौकरियाँ छीन लेगा?

पहले की मशीनों ने भारी और बार-बार दोहराए जाने वाले काम अपने हाथ में ले लिए थे। अब AI दफ्तर के कुछ काम और सोच-विचार वाले काम भी कर सकता है। यह पत्रों का मसौदा बना सकता है, फॉर्म छाँट सकता है और ग्राहकों को जवाब दे सकता है।

नैतिक बहस केवल इस बात पर नहीं है कि कितनी नौकरियाँ जाएँगी। सवाल यह भी है कि इस बदलाव की कीमत कौन चुकाएगा। क्या नए कौशल का प्रशिक्षण और सामाजिक सुरक्षा, तकनीक की रफ्तार के साथ चल पाएँगे?

6.2निजता की चिंता क्यों?

AI से बड़े पैमाने पर निगरानी करना सस्ता हो जाता है। चेहरा पहचानने वाले कैमरे पूरे शहर में लोगों की गतिविधियों पर नज़र रख सकते हैं। सॉफ्टवेयर एक साथ लाखों संदेशों की जाँच कर सकता है।

भारत में निजता एक मौलिक अधिकार है। सर्वोच्च न्यायालय की नौ न्यायाधीशों की पीठ ने यह बात कही थी 2017 के पुट्टस्वामी मामले (Puttaswamy case) में। डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 अब व्यक्तिगत डेटा के इस्तेमाल के नियम तय करता है। इसके नियम 14 नवंबर 2025 को अधिसूचित किए गए थे। (स्रोत: पीआईबी (PIB))

• नौकरियाँ: AI की पहुँच सोच-विचार वाला काम, केवल हाथ से किया जाने वाला काम नहीं।
• निजता: एक मौलिक अधिकार, जब से पुट्टस्वामी (Puttaswamy) (2017).
• डेटा कानून: डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम (DPDP Act), 2023, नियम 14 नवंबर 2025 को अधिसूचित किए गए।

7देश AI को कैसे नियंत्रित करते हैं?

परीक्षाओं के लिए दो मॉडल सबसे महत्वपूर्ण हैं। भारत कम सख्ती वाले, स्वैच्छिक दिशानिर्देश अपनाता है। यूरोपीय संघ एक विस्तृत कानून अपनाता है।

7.1भारत के सात सूत्र क्या हैं?

5 नवंबर 2025 को इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने जारी किए भारत AI शासन दिशानिर्देश (India AI Governance Guidelines)। ये IndiaAI मिशन के अंतर्गत आते हैं। इन्हें अपनाना स्वैच्छिक है। भारत ने फिलहाल AI के लिए अलग कानून नहीं बनाने का निर्णय लिया है। ये दिशानिर्देश सात सिद्धांतों पर आधारित हैं, जिन्हें “सूत्र” कहा गया है। (स्रोत: पत्र सूचना कार्यालय (PIB))

• विश्वास ही नींव है। लोगों को AI का उपयोग करने से पहले उस पर भरोसा होना चाहिए।
• लोग सबसे पहले। जहाँ संभव हो, अंतिम नियंत्रण मनुष्यों के पास रहना चाहिए।
• पाबंदियों से अधिक नवाचार को प्राथमिकता। नए उपयोगों को रोकने के बजाय सावधानी से उन्हें अपनाने को बढ़ावा दें।
• निष्पक्षता और समान अवसर। AI को लोगों को साथ लेकर चलना चाहिए, उन्हें बाहर नहीं करना चाहिए।
• जवाबदेही। AI बनाने वालों और उसका उपयोग करने वालों को उसके लिए जवाबदेह होना चाहिए।
• शुरू से ही समझने योग्य बनावट। AI को शुरू से इस तरह बनाया जाना चाहिए कि उसके काम करने का तरीका समझाया जा सके।
• सुरक्षा, कठिनाइयों से उबरने की क्षमता और पर्यावरणीय टिकाऊपन। AI सुरक्षित, मजबूत और पर्यावरण के अनुकूल होना चाहिए।

दिशानिर्देशों में तीन निकायों का भी उल्लेख है। ये हैं AI शासन समूह (AI Governance Group), प्रौद्योगिकी और नीति विशेषज्ञ समिति (Technology and Policy Expert Committee) और AI सुरक्षा संस्थान (AI Safety Institute)।

7.2यूरोपीय संघ का AI अधिनियम कैसे काम करता है?

यूरोपीय संघ का AI अधिनियम (EU AI Act) 1 अगस्त 2024 को लागू हुआ। यह AI को उसके जोखिम के आधार पर श्रेणियों में बाँटता है। जोखिम जितना अधिक होगा, नियम उतने ही सख्त होंगे। (स्रोत: यूरोपीय आयोग (European Commission))

8लक्ष्य-संगति की समस्या क्या है?

कल्पना करें कि आप किसी रोबोट से कहते हैं, “कमरा साफ रखो।” वह दरवाजा बंद करके ताला लगा सकता है ताकि कोई अंदर न आए। उसने आपके शब्दों का पालन किया, लेकिन आपका मतलब नहीं समझा।

यही है लक्ष्य-संगति की समस्या (alignment problem)। हम कैसे सुनिश्चित करें कि AI वही करे जो हम वास्तव में चाहते हैं? जब AI बड़े और ऐसे लक्ष्य अपनाता है जिनकी सीमाएँ पहले से तय नहीं हैं, तो यह काम और कठिन हो जाता है।

पक्षपात का संबंध किसी छोटे काम में AI के गलत निर्णय लेने से है। लक्ष्य-संगति इससे आगे की बात करती है। यह पूछती है कि जब शक्तिशाली AI ऐसे लक्ष्यों के पीछे लग जाए जिनका उसके निर्माताओं ने पूरी तरह अनुमान नहीं लगाया था, तो क्या होगा।

9हाल में क्या बदला?

9.1संयुक्त राष्ट्र वैश्विक संवाद क्या था?

AI शासन पर पहला संयुक्त राष्ट्र वैश्विक संवाद जुलाई 2026 में जिनेवा (Geneva) में हुआ। विदेश राज्य मंत्री कीर्ति वर्धन सिंह (Kirti Vardhan Singh) ने भारतीय दल का नेतृत्व किया।

• संयुक्त राष्ट्र महासभा के इस प्रस्ताव से स्थापित: प्रस्ताव 79/325.
• इसकी शुरुआत हुई वैश्विक डिजिटल समझौते (Global Digital Compact)से, जिसे सितंबर 2024 में भविष्य के लिए समझौते (Pact for the Future) के साथ अपनाया गया था।
• यह AI पर संयुक्त राष्ट्र का पहला मंच है, जिसमें भाग ले सकता है हर सदस्य देश.
• इसे AI पर स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक पैनल की पहली रिपोर्ट मिली। (स्रोत: आकाशवाणी समाचार)

9.2भारत ने किसकी मेजबानी की?

भारत ने 16 से 20 फरवरी 2026 तक नई दिल्ली के भारत मंडपम में AI प्रभाव शिखर सम्मेलन (AI Impact Summit) की मेजबानी की। यह ग्लोबल साउथ (Global South) में आयोजित पहला वैश्विक AI शिखर सम्मेलन था। इसके तीन सूत्र थे: लोग, पृथ्वी और प्रगति (People, Planet and Progress)। सम्मेलन में नई दिल्ली घोषणा को अपनाया गया। (स्रोत: PIB)

10पिछले वर्षों के प्रश्नों में क्या पूछा गया है?

• UPSC CSP 2026बड़े भाषा मॉडल (Large Language Models) के बारे में पूछा गया। गलत कथन में कहा गया था कि LLMs निष्पक्ष उत्तर देते हैं। वे अपने डेटा में मौजूद पक्षपात सीख लेते हैं। प्रश्न देखें
• UPSC CSP 2026AI प्रभाव शिखर सम्मेलन के बारे में पूछा गया। इसके सूत्र लोग, पृथ्वी और प्रगति (People, Planet and Progress) थे, “नियोजन (Planning)” नहीं। प्रश्न देखें
• UPSC CSP 2025पेरिस AI कार्य शिखर सम्मेलन (Paris AI Action Summit) के बारे में पूछा गया। भारत ने इसकी सह-अध्यक्षता की थी। अमेरिका और ब्रिटेन ने इसकी घोषणा पर हस्ताक्षर नहीं किए थे। प्रश्न देखें
• UPSC CSP 2020पूछा गया कि AI आज क्या कर सकता है। उत्तर था: बिजली की खपत कम करना, रोगों का निदान करना और लिखे हुए पाठ को आवाज में बदलना। प्रश्न देखें
• CAPF 2025AI के एक उपयोग के बारे में पूछा गया। उत्तर है: प्राकृतिक भाषा प्रसंस्करण (Natural Language Processing)। प्रश्न देखें
• UPSC Mains GS IV 2024सरकारी निर्णयों के आधार के रूप में AI के इस्तेमाल का नैतिक दृष्टि से मूल्यांकन करने को कहा गया। प्रश्न देखें
• UPSC Mains GS IV 2024एक केस स्टडी में किसी तकनीकी कंपनी के CEO को तकनीक में तेजी से हो रहे बदलावों से जुड़ी चिंताओं का सामना करना पड़ रहा था। प्रश्न देखें
• UPSC Mains GS III 2023पूछा गया कि AI रोगों के निदान में कैसे मदद करता है और क्या इससे मरीजों की निजता को खतरा है। प्रश्न देखें

11परीक्षा में किन बातों से भ्रम हो सकता है?

• भारत के दिशानिर्देश हैं स्वैच्छिक, कानून नहीं।
• दिशानिर्देश जारी हुए 5 नवंबर 2025 को, जारी करने वाला मंत्रालय था MeitY, नीति आयोग (NITI Aayog) नहीं।
• दिशानिर्देशों के सूत्र = 7। AI प्रभाव शिखर सम्मेलन के सूत्र = 3 (लोग, पृथ्वी, प्रगति)।
• यूरोपीय संघ के AI अधिनियम (EU AI Act) में जोखिम के स्तरों की संख्या है 4 । केवल “अस्वीकार्य” जोखिम वाली श्रेणी पर प्रतिबंध है।
• घातक स्वायत्त हथियार प्रणालियों (LAWS) पर बातचीत होती है इसके तहत: CCW। अभी तक बाध्यकारी संधि नहीं है।
• अमेरिका (US) और ब्रिटेन (UK) ने नहीं किए पेरिस 2025 शिखर सम्मेलन की घोषणा पर हस्ताक्षर।
• संयुक्त राष्ट्र वैश्विक संवाद (UN Global Dialogue) की बैठक हुई थी जिनेवा (Geneva)में, न्यूयॉर्क (New York) में नहीं।