हमसे जुडे

कंप्यूटर तकनीक

OASI, सरकारों और कंपनियों द्वारा नागरिकों पर उपयोग किए जाने वाले एल्गोरिदम को खोजने वाला पहला खोज इंजन है

शेयर:

प्रकाशित

on

हम आपके साइन-अप का उपयोग आपकी सहमति के अनुसार सामग्री प्रदान करने और आपके बारे में हमारी समझ को बेहतर बनाने के लिए करते हैं। आप किसी भी समय सदस्यता समाप्त कर सकते हैं।

  • Eticas Foundation द्वारा निर्मित, सामाजिक प्रभाव के साथ एल्गोरिदम की वेधशाला, OASI, दुनिया भर के सार्वजनिक प्रशासनों और कंपनियों द्वारा उनके सामाजिक प्रभाव के बारे में अधिक जानने के लिए उपयोग किए जाने वाले दर्जनों एल्गोरिदम से जानकारी एकत्र करती है।
  • इसका उद्देश्य सरकारों और कंपनी एल्गोरिदम दोनों के बारे में जानकारी के लिए सार्वजनिक पहुंच प्रदान करना है, और यह जानना है कि उनका उपयोग कौन करता है, उन्हें कौन विकसित करता है, वे किन खतरों का प्रतिनिधित्व करते हैं और यदि उनका ऑडिट किया गया है, तो अन्य विशेषताओं के साथ।
  • एल्गोरिथम पूर्वाग्रह और भेदभाव आमतौर पर उम्र, लिंग, जाति या विकलांगता के आधार पर अन्य मूल्यों के आधार पर होता है, लेकिन पारदर्शिता की सामान्य कमी के कारण, प्रभावित समूहों पर इसके सभी परिणामों को जानना अभी भी संभव नहीं है।

एल्गोरिथम और आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम के जिम्मेदार उपयोग को बढ़ावा देने वाले गैर-लाभकारी संगठन एटिकास फाउंडेशन ने सोशल इंपैक्ट (ओएएसआई) के साथ एल्गोरिदम की वेधशाला बनाई है। यह वेधशाला दुनिया भर के नागरिकों, उपभोक्ताओं और उपयोगकर्ताओं पर महत्वपूर्ण स्वचालित निर्णय लेने वाले उपकरणों के बारे में अधिक जानने के लिए एक खोज इंजन पेश करती है।

वर्तमान में, कंपनियां और लोक प्रशासन दोनों ही एल्गोरिदम की बदौलत निर्णयों को स्वचालित करते हैं। तथापि, इसका विकास और कमीशनिंग बाहरी गुणवत्ता नियंत्रणों का पालन नहीं करता है, न ही यह उतना पारदर्शी है जितना होना चाहिए, जो आबादी को असुरक्षित छोड़ देता है। इस खोज इंजन के साथ, कोई भी इन एल्गोरिदम के बारे में अधिक जानकारी प्राप्त कर सकता है: उन्हें किसने विकसित किया है, उनका उपयोग कौन करता है, उनके आवेदन का दायरा, चाहे उनका ऑडिट किया गया हो, उनके उद्देश्य या उनके सामाजिक प्रभाव और वे जो खतरों का प्रतिनिधित्व करते हैं।

इस छण ​​में, OASI 57 एल्गोरिदम एकत्र करता है, लेकिन अगले महीनों में 100 तक पहुंचने की उम्मीद करता है। उनमें से 24 सरकार और बिग टेक कंपनियों द्वारा संयुक्त राज्य अमेरिका में पहले से ही आवेदन किया जा रहा है। उदाहरण के लिए, शॉटस्पॉटर, ध्वनि-निगरानी माइक्रोफोन के माध्यम से बंदूक हिंसा से लड़ने और कम करने के लिए ओकलैंड पुलिस विभाग द्वारा तैनात एक एल्गोरिदम उपकरण, और एलेघेनी काउंटी, पेंसिल्वेनिया द्वारा उपयोग किए जाने वाले संभावित बाल दुर्व्यवहार और उपेक्षा की भविष्यवाणी करने के लिए एक एल्गोरिदम। एक कॉर्पोरेट से एक और उदाहरण रेकॉग्निशन, अमेज़ॅन की चेहरे की पहचान प्रणाली है, जिसे 2019 की शुरुआत में एमआईटी मीडिया लैब द्वारा ऑडिट किया गया था, और किसी व्यक्ति के लिंग की पहचान करते समय काफी खराब प्रदर्शन पाया गया यदि वे महिला या गहरे रंग की थीं।

सबसे आम भेदभाव उम्र, लिंग, नस्ल या विकलांगता के आधार पर होता है, डेवलपर्स द्वारा अनजाने में उत्पादित, जिनके पास इस तकनीक के प्रभाव को समझने के लिए सामाजिक आर्थिक कौशल की कमी है। इस अर्थ में, ये इंजीनियर केवल तकनीकी कौशल के आधार पर एल्गोरिदम को डिजाइन करते हैं, और चूंकि कोई बाहरी नियंत्रण नहीं है और यह अपेक्षा के अनुरूप काम कर रहा है, इसलिए एल्गोरिदम कम डेटा से सीखता रहता है।

इनमें से कुछ एल्गोरिदम के कामकाज के बारे में पारदर्शिता की कमी को देखते हुए, OASI के लॉन्च के अलावा, Eticas Foundation बाहरी ऑडिट की एक परियोजना विकसित कर रहा है। पहला है VioGén, स्पेनिश गृह मंत्रालय द्वारा इस्तेमाल किया जाने वाला एल्गोरिथम, घरेलू हिंसा के पीड़ित मामलों के बाद सुरक्षा की तलाश करने वाली महिलाओं को जोखिम सौंपने के लिए। Eticas बड़े पैमाने पर परिणाम एकत्र करने के लिए रिवर्स इंजीनियरिंग और प्रशासनिक डेटा, साक्षात्कार, रिपोर्ट या डिजाइन स्क्रिप्ट के माध्यम से एक बाहरी ऑडिट करेगा। यह सब इन महिलाओं की सुरक्षा में सुधार के अवसरों का पता लगाने के उद्देश्य से किया जा रहा है।

"एल्गोरिथम नियंत्रण और ऑडिट विधियों के अस्तित्व के बावजूद यह सुनिश्चित करने के लिए कि प्रौद्योगिकी वर्तमान नियमों और मौलिक अधिकारों का सम्मान करती है, प्रशासन और कई कंपनियां नागरिकों और संस्थानों से पारदर्शिता के अनुरोधों के लिए एक बहरा कान चालू करना जारी रखती हैं," एटिकास फाउंडेशन के संस्थापक जेम्मा गैल्डन ने घोषित किया। . "ओएएसआई के अलावा, कई वर्षों के बाद, जिसमें हमने अल्फा टेलीफोनिका, संयुक्त राष्ट्र, कोआ हेल्थ या इंटर-अमेरिकन डेवलपमेंट बैंक जैसी कंपनियों के लिए एक दर्जन से अधिक ऑडिट विकसित किए हैं, हमने एल्गोरिथम ऑडिट के लिए एक गाइड भी प्रकाशित किया है। कि कोई भी उनका प्रदर्शन कर सके। उद्देश्य हमेशा जागरूकता बढ़ाना, पारदर्शिता प्रदान करना और प्रौद्योगिकी में विश्वास बहाल करना है, जो अपने आप में हानिकारक नहीं है।"

इस अर्थ में, एल्गोरिदम जो मशीन लर्निंग तकनीकों के साथ प्रशिक्षित होते हैं, उन्हें पिछले निर्णयों के आधार पर चुनने के लिए "सिखाने" के लिए बड़ी मात्रा में ऐतिहासिक डेटा का उपयोग किया जाता है। आमतौर पर ये आंकड़े सामाजिक-आर्थिक और सांस्कृतिक वास्तविकता का प्रतिनिधित्व नहीं करते हैं, जिस पर उन्हें लागू किया जाता है, लेकिन कई मौकों पर वे एक अनुचित स्थिति को दर्शाते हैं जिसका उद्देश्य स्थायी नहीं होना है। इस तरह, एल्गोरिथ्म तकनीकी रूप से अपने प्रशिक्षण के अनुसार "सही" निर्णय ले रहा होगा, भले ही वास्तविकता यह है कि इसकी सिफारिशें या भविष्यवाणियां पक्षपाती या भेदभावपूर्ण हैं।

विज्ञापन

एटिकास फाउंडेशन के बारे में

Eticas Foundation तकनीकी विशिष्टताओं में उन सिद्धांतों का अनुवाद करने के लिए काम करता है जो समाज का मार्गदर्शन करते हैं, जैसे समान अवसर, पारदर्शिता और गैर-भेदभाव जो प्रौद्योगिकियों में हैं जो हमारे जीवन के बारे में स्वचालित निर्णय लेते हैं। यह बदलते सामाजिक मूल्यों, नवीनतम प्रगति की तकनीकी संभावनाओं और कानूनी ढांचे के बीच संतुलन चाहता है। इसके लिए, यह एल्गोरिदम का ऑडिट करता है, यह सत्यापित करता है कि कानूनी गारंटी डिजिटल दुनिया पर लागू होती है, विशेष रूप से आर्टिफिशियल इंटेलिजेंस के लिए, और जागरूकता बढ़ाने और जिम्मेदार, गुणवत्ता वाली तकनीक की आवश्यकता को प्रसारित करने के लिए गहन कार्य करता है।

इस लेख का हिस्सा:

यूरोपीय संघ के रिपोर्टर विभिन्न प्रकार के बाहरी स्रोतों से लेख प्रकाशित करते हैं जो व्यापक दृष्टिकोणों को व्यक्त करते हैं। इन लेखों में ली गई स्थितियां जरूरी नहीं कि यूरोपीय संघ के रिपोर्टर की हों।
यूक्रेन5 दिन पहले

पीएमआई, जिसे यूक्रेन ने युद्ध के "प्रायोजक" के रूप में स्वीकार किया है, रूस में काम करना जारी रखता है और यूक्रेनी कर लाभों का आनंद लेता है

UK5 दिन पहले

वेल्स की राजकुमारी का कहना है कि वह कैंसर का इलाज करा रही हैं

हरा सौदा4 दिन पहले

स्टील और अन्य उद्योगों के लिए हरित परिवर्तन के लिए हीट पंप महत्वपूर्ण हैं

मोटरिंग2 दिन पहले

फिएट 500 बनाम मिनी कूपर: एक विस्तृत तुलना

क्षितिज यूरोप2 दिन पहले

स्वानसी शिक्षाविदों को नए अनुसंधान और नवाचार परियोजना का समर्थन करने के लिए €480,000 होराइजन यूरोप अनुदान से सम्मानित किया गया

लाइफस्टाइल2 दिन पहले

अपने लिविंग रूम को बदलना: मनोरंजन तकनीक के भविष्य की एक झलक

बहामा2 दिन पहले

बहामास ने अंतर्राष्ट्रीय न्यायालय में जलवायु परिवर्तन पर कानूनी प्रस्तुतियाँ दायर कीं

व्यवसाय20 घंटे

विप्रो और नोकिया के सहयोग से कंपनियां 5जी का लाभ उठा रही हैं

चीन-यूरोपीय संघ2 घंटे

 ला « फिन डे ला क्रोइसैन्स चिनोइज़ » ? कोई अनुरूपता नहीं

व्यवसाय20 घंटे

विप्रो और नोकिया के सहयोग से कंपनियां 5जी का लाभ उठा रही हैं

बहामा2 दिन पहले

बहामास ने अंतर्राष्ट्रीय न्यायालय में जलवायु परिवर्तन पर कानूनी प्रस्तुतियाँ दायर कीं

लाइफस्टाइल2 दिन पहले

अपने लिविंग रूम को बदलना: मनोरंजन तकनीक के भविष्य की एक झलक

क्षितिज यूरोप2 दिन पहले

स्वानसी शिक्षाविदों को नए अनुसंधान और नवाचार परियोजना का समर्थन करने के लिए €480,000 होराइजन यूरोप अनुदान से सम्मानित किया गया

मोटरिंग2 दिन पहले

फिएट 500 बनाम मिनी कूपर: एक विस्तृत तुलना

हरा सौदा4 दिन पहले

स्टील और अन्य उद्योगों के लिए हरित परिवर्तन के लिए हीट पंप महत्वपूर्ण हैं

यूक्रेन5 दिन पहले

पीएमआई, जिसे यूक्रेन ने युद्ध के "प्रायोजक" के रूप में स्वीकार किया है, रूस में काम करना जारी रखता है और यूक्रेनी कर लाभों का आनंद लेता है

चीन-यूरोपीय संघ3 सप्ताह पहले

दो सत्र 2024 की शुरुआत: यहां बताया गया है कि यह क्यों मायने रखता है

चीन-यूरोपीय संघ3 महीने पहले

राष्ट्रपति शी जिनपिंग का 2024 नववर्ष संदेश

चीन5 महीने पहले

पूरे चीन में प्रेरणादायक यात्रा

चीन5 महीने पहले

बीआरआई का एक दशक: दृष्टि से वास्तविकता तक

मानवाधिकार9 महीने पहले

"स्नीकिंग कल्ट्स" - ब्रसेल्स में पुरस्कार विजेता वृत्तचित्र स्क्रीनिंग सफलतापूर्वक आयोजित की गई

बेल्जियम10 महीने पहले

धर्म और बच्चों के अधिकार - ब्रसेल्स से राय

तुर्की10 महीने पहले

तुर्की सीमा पर 100 से अधिक चर्च सदस्यों को पीटा गया और गिरफ्तार किया गया

आज़रबाइजान10 महीने पहले

अज़रबैजान के साथ गहन ऊर्जा सहयोग - ऊर्जा सुरक्षा के लिए यूरोप का विश्वसनीय भागीदार।

ट्रेंडिंग