एआई सिस्टम के लिए मानक आधिकारिक तौर पर शुक्रवार को नई दिल्ली में सेंटर फॉर डेवलपमेंट ऑफ टेलीमैटिक्स में एक कार्यक्रम के दौरान जारी किया गया। (छवि: न्यूज18)
एआई सिस्टम संभावित रूप से पक्षपाती हो सकता है जिससे नैतिक, सामाजिक और कानूनी मुद्दे पैदा हो सकते हैं। मानक संभावित पूर्वाग्रहों की पहचान करने के लिए उपयोग की जाने वाली प्रक्रियाओं के एक सेट और ऐसी प्रणालियों की निष्पक्षता को मापने के लिए मैट्रिक्स के एक सेट का उपयोग करता है
दूरसंचार विभाग के तहत एक सरकारी एजेंसी, दूरसंचार इंजीनियरिंग केंद्र ने कृत्रिम बुद्धिमत्ता प्रणालियों के निष्पक्षता मूल्यांकन और रेटिंग के लिए एक मानक जारी किया है।
जबकि मसौदा पिछले साल दिसंबर में आया था, मानक को आधिकारिक तौर पर शुक्रवार को नई दिल्ली में सेंटर फॉर डेवलपमेंट ऑफ टेलीमैटिक्स (सी-डॉट) में एक कार्यक्रम के दौरान जारी किया गया था।
ई-गवर्नेंस तेजी से एआई सिस्टम का उपयोग कर रहा है लेकिन ये पक्षपाती हो सकते हैं, जिससे नैतिक, सामाजिक और कानूनी मुद्दे पैदा हो सकते हैं। पूर्वाग्रह मशीन लर्निंग मॉडल में एक व्यवस्थित त्रुटि को संदर्भित करता है जो इसे अनुचित या भेदभावपूर्ण भविष्यवाणियां करने का कारण बनता है।
इसलिए, टीईसी द्वारा जारी मानक एआई सिस्टम की निष्पक्षता का आकलन करने के लिए एक रूपरेखा प्रदान करता है। इसमें प्रक्रियाओं का एक सेट शामिल है जिसका उपयोग संभावित पूर्वाग्रहों की पहचान करने के लिए किया जा सकता है और मेट्रिक्स का एक सेट शामिल है जिसका उपयोग एआई सिस्टम की निष्पक्षता को मापने के लिए किया जा सकता है।
इस मानक का उपयोग सरकारों, व्यवसायों और गैर-लाभकारी संस्थाओं द्वारा निष्पक्षता के प्रति अपनी प्रतिबद्धता प्रदर्शित करने के लिए किया जा सकता है। इसका उपयोग व्यक्तियों द्वारा उनके द्वारा उपयोग किए जा रहे एआई सिस्टम की निष्पक्षता का आकलन करने के लिए भी किया जा सकता है। इसके अलावा, मानक नीति आयोग द्वारा निर्धारित ‘जिम्मेदार एआई के सिद्धांतों’ पर आधारित है, जिसमें समानता, समावेशिता और गैर-भेदभाव शामिल है।
चरण दर चरण दृष्टिकोण
दूरसंचार सहित सभी क्षेत्रों में कृत्रिम बुद्धिमत्ता का उपयोग तेजी से किया जा रहा है, साथ ही संबंधित सूचना और संचार प्रौद्योगिकी में ऐसे निर्णय लेने के लिए उपयोग किया जा रहा है जो दिन-प्रतिदिन के जीवन को प्रभावित कर सकते हैं। चूंकि एआई सिस्टम में अनपेक्षित पूर्वाग्रह के गंभीर परिणाम हो सकते हैं, यह मानक निष्पक्षता प्रमाणित करने के लिए एक प्रणालीगत दृष्टिकोण प्रदान करता है।
यह तीन-चरणीय प्रक्रिया के माध्यम से प्रमाणन प्राप्त करता है जिसमें पूर्वाग्रह जोखिम मूल्यांकन, मेट्रिक्स के लिए सीमा निर्धारण और पूर्वाग्रह परीक्षण शामिल है, जहां सिस्टम को विभिन्न परिदृश्यों में परीक्षण किया जाता है ताकि यह सुनिश्चित किया जा सके कि यह सभी व्यक्तियों के लिए समान रूप से अच्छा प्रदर्शन करता है।
सारणीबद्ध, पाठ, छवि, वीडियो, ऑडियो सहित विभिन्न डेटा पद्धतियाँ हैं। सरल शब्दों में, डेटा मोडैलिटी उस प्रकार के डेटा को संदर्भित करती है जिसका उपयोग एआई सिस्टम को प्रशिक्षित करने के लिए किया जा रहा है। उदाहरण के लिए, सारणीबद्ध डेटा एक तालिका में व्यवस्थित डेटा है, टेक्स्ट डेटा वह डेटा है जिसे टेक्स्ट के रूप में दर्शाया जाता है, छवि डेटा वह डेटा है जिसे छवियों के रूप में दर्शाया जाता है, इत्यादि।
विभिन्न डेटा प्रकारों के लिए पूर्वाग्रहों का पता लगाने की प्रक्रिया भिन्न हो सकती है। उदाहरण के लिए, टेक्स्ट डेटा में भेदभाव का एक सामान्य रूप टेक्स्ट इनपुट की एन्कोडिंग के कारण होता है। इसका मतलब यह है कि कंप्यूटर में टेक्स्ट को प्रदर्शित करने का तरीका पक्षपातपूर्ण हो सकता है, जिससे एआई सिस्टम पक्षपाती भविष्यवाणियां कर सकता है।
इसलिए, वर्तमान में, मानक सारणीबद्ध डेटा के लिए बनाया गया है और इसे अन्य रूपों में विस्तारित करने का इरादा है। इसका उपयोग दो तरह से किया जा सकता है, स्व-प्रमाणन और स्वतंत्र प्रमाणीकरण।
स्व-प्रमाणन क्या है?
ऐसा तब होता है जब एआई सिस्टम विकसित करने वाली इकाई यह देखने के लिए सिस्टम का आंतरिक मूल्यांकन करती है कि क्या यह मानक की आवश्यकताओं को पूरा करता है। यदि ऐसा होता है, तो इकाई एक रिपोर्ट प्रदान कर सकती है जो कहती है कि प्रणाली निष्पक्ष है।
स्वतंत्र प्रमाणीकरण क्या है?
यह तब होता है जब एक बाहरी ऑडिटर एआई सिस्टम का मूल्यांकन करता है यह देखने के लिए कि क्या यह मानक की आवश्यकताओं को पूरा करता है। यदि ऐसा होता है, तो ऑडिटर एक रिपोर्ट प्रदान कर सकता है जो कहती है कि सिस्टम निष्पक्ष है।
.