Technology

Google Developing New Measure of Skin Tones to Curb Bias in Products

अल्फाबेट के Google ने इस सप्ताह रॉयटर्स को बताया कि यह त्वचा की टोन को वर्गीकृत करने के लिए उद्योग मानक पद्धति का एक विकल्प विकसित कर रहा है, जो कि प्रौद्योगिकी शोधकर्ताओं और त्वचा विशेषज्ञों के बढ़ते कोरस का कहना है कि यह आकलन करने के लिए अपर्याप्त है कि क्या उत्पाद रंग के लोगों के खिलाफ पक्षपाती हैं।

मुद्दा एक छह-रंग का पैमाना है जिसे फिट्ज़पैट्रिक स्किन टाइप (FST) के रूप में जाना जाता है, जिसे त्वचा विशेषज्ञ 1970 के दशक से उपयोग कर रहे हैं। टेक कंपनियां अब लोगों को वर्गीकृत करने और यह मापने के लिए इस पर भरोसा करती हैं कि क्या चेहरे की पहचान प्रणाली या स्मार्टवॉच हार्ट-रेट सेंसर जैसे उत्पाद त्वचा की टोन में समान रूप से अच्छा प्रदर्शन करते हैं।

आलोचकों का कहना है कि एफएसटी, जिसमें “सफेद” त्वचा के लिए चार श्रेणियां और “काले” और “भूरे रंग के लिए एक-एक” शामिल हैं, रंग के लोगों के बीच विविधता की उपेक्षा करता है। यूएस डिपार्टमेंट ऑफ होमलैंड सिक्योरिटी के शोधकर्ता, एक संघीय प्रौद्योगिकी मानकों के दौरान सम्मेलन पिछले अक्टूबर में, चेहरे की पहचान के मूल्यांकन के लिए FST को छोड़ने की सिफारिश की क्योंकि यह विविध आबादी में रंग सीमा का खराब प्रतिनिधित्व करता है।

एफएसटी के बारे में रॉयटर्स के सवालों के जवाब में, गूगल, पहली बार और साथियों से आगे, ने कहा कि यह चुपचाप बेहतर उपायों का अनुसरण कर रहा है।

“हम वैकल्पिक, अधिक समावेशी, उपायों पर काम कर रहे हैं जो हमारे उत्पादों के विकास में उपयोगी हो सकते हैं, और वैज्ञानिक और चिकित्सा विशेषज्ञों के साथ-साथ रंग के समुदायों के साथ काम करने वाले समूहों के साथ सहयोग करेंगे,” कंपनी ने विवरण देने से इनकार करते हुए कहा प्रयास पर।

विवाद तकनीक उद्योग में नस्लवाद और विविधता पर एक बड़ी गणना का हिस्सा है, जहां कार्यबल वित्त जैसे क्षेत्रों की तुलना में अधिक सफेद है। यह सुनिश्चित करना कि सभी त्वचा के रंगों के साथ-साथ अलग-अलग उम्र और लिंग के लिए तकनीक अच्छी तरह से काम करती है, नए उत्पादों के रूप में अधिक महत्व ग्रहण कर रहा है, जो अक्सर किसके द्वारा संचालित होते हैं कृत्रिम होशियारी (एआई), स्वास्थ्य देखभाल और कानून प्रवर्तन जैसे संवेदनशील और विनियमित क्षेत्रों में विस्तारित है।

कंपनियों को पता है कि उनके उत्पाद उन समूहों के लिए दोषपूर्ण हो सकते हैं जिनका अनुसंधान और परीक्षण डेटा में कम प्रतिनिधित्व है। एफएसटी पर चिंता यह है कि गहरे रंग की त्वचा के लिए इसके सीमित पैमाने से ऐसी तकनीक बन सकती है, जो सुनहरे भूरे रंग की त्वचा के लिए काम करती है, लेकिन एस्प्रेसो रेड टोन के लिए विफल हो जाती है।

कई प्रकार के उत्पाद FST से कहीं अधिक समृद्ध पैलेट प्रदान करते हैं। क्रायोला ने पिछले साल 24 स्किन टोन क्रेयॉन लॉन्च किए थे, और मैटल की बार्बी फैशनिस्टस डॉल ने इस साल नौ टोन को कवर किया।

यह मुद्दा Google के लिए अकादमिक से बहुत दूर है। जब कंपनी ने फरवरी में घोषणा की कि कुछ एंड्रॉइड फोन पर कैमरे उंगलियों के माध्यम से पल्स दरों को माप सकते हैं, तो यह कहा हुआ उपयोगकर्ताओं की त्वचा हल्की हो या गहरी, इस पर ध्यान दिए बिना औसतन रीडिंग में 1.8 प्रतिशत की कमी आएगी।

कंपनी बाद में समान वारंटी दी उस त्वचा का प्रकार Meet वीडियो कॉन्फ़्रेंस पर पृष्ठभूमि को फ़िल्टर करने के लिए एक सुविधा के परिणामों को विशेष रूप से प्रभावित नहीं करेगा, न ही त्वचा की स्थिति की पहचान करने के लिए आने वाले वेब टूल, जिसे अनौपचारिक रूप से डब किया गया है डर्म असिस्ट.

वे निष्कर्ष सिक्स-टोन FST के साथ परीक्षण से प्राप्त हुए हैं।

प्रस्थान बिंदू

दिवंगत हार्वर्ड विश्वविद्यालय के त्वचा विशेषज्ञ डॉ. थॉमस फिट्ज़पैट्रिक आविष्कार सोरायसिस के लिए व्यक्तिगत पराबैंगनी विकिरण उपचार का पैमाना, एक खुजली वाली त्वचा की स्थिति। उन्होंने “श्वेत” लोगों की त्वचा को रोमन अंकों I से IV के रूप में वर्गीकृत किया, यह पूछकर कि धूप में कुछ अवधि के बाद वे कितने सनबर्न या टैन विकसित हुए।

एक दशक बाद “ब्राउन” त्वचा के लिए V और “ब्लैक” के लिए VI टाइप आया। यह पैमाना अभी भी सनब्लॉक उत्पादों के परीक्षण के लिए अमेरिकी नियमों का हिस्सा है, और यह रोगियों के कैंसर के जोखिम और अधिक का आकलन करने के लिए एक लोकप्रिय त्वचाविज्ञान मानक बना हुआ है।

कुछ त्वचा विशेषज्ञों का कहना है कि पैमाना देखभाल के लिए एक खराब और अत्यधिक उपयोग किया जाने वाला उपाय है, और अक्सर नस्ल और जातीयता से जुड़ा होता है।

“बहुत से लोग मानेंगे कि मैं त्वचा का प्रकार V हूं, जो शायद ही कभी जलता है, लेकिन मैं जलता हूं,” पेंसिल्वेनिया विश्वविद्यालय के त्वचा विशेषज्ञ डॉ सुसान टेलर ने कहा, जिन्होंने हाशिए के समुदायों पर शोध को बढ़ावा देने के लिए 2004 में स्किन ऑफ कलर सोसाइटी की स्थापना की थी। “मेरी त्वचा के रंग को देखने के लिए और यह कहने के लिए कि मैं टाइप वी हूं, क्या मुझे नुकसान होता है।”

प्रौद्योगिकी कंपनियां, हाल तक, असंबद्ध थीं। इमोजी की देखरेख करने वाले उद्योग संघ यूनिकोड ने 2014 में एफएसटी को पीले रंग से परे पांच त्वचा टोन अपनाने के आधार के रूप में संदर्भित किया, कह रही है पैमाना “नकारात्मक संघों के बिना” था।

“जेंडर शेड्स” शीर्षक से 2018 का एक अध्ययन, जो फेशियल एनालिसिस सिस्टम मिला अधिक बार गहरे रंग की त्वचा वाले गलत लिंग वाले लोग, एआई के मूल्यांकन के लिए एफएसटी का उपयोग करके लोकप्रिय हुए। शोध ने एफएसटी को “शुरुआती बिंदु” के रूप में वर्णित किया, लेकिन बाद में आए समान अध्ययनों के वैज्ञानिकों ने रॉयटर्स को बताया कि उन्होंने लगातार बने रहने के लिए पैमाने का इस्तेमाल किया।

“अपेक्षाकृत अपरिपक्व बाजार के लिए पहले उपाय के रूप में, यह लाल झंडों की पहचान करने में हमारी मदद करने के अपने उद्देश्य को पूरा करता है,” एआई ऑडिटिंग पर केंद्रित मोज़िला के एक साथी इनियोलुवा डेबोरा राजी ने कहा।

एक अप्रैल में अध्ययन डीपफेक का पता लगाने के लिए एआई का परीक्षण, फेसबुक शोधकर्ताओं ने एफएसटी लिखा “स्पष्ट रूप से भूरे और काले त्वचा टोन के भीतर विविधता को शामिल नहीं करता है।” फिर भी, उन्होंने एआई सिस्टम के मूल्यांकन के लिए उपयोग किए जाने वाले 3,000 व्यक्तियों के वीडियो जारी किए, जिसमें आठ मानव रेटर्स के आकलन के आधार पर एफएसटी टैग संलग्न थे।

रैटर्स का निर्णय केंद्रीय है। फेशियल रिकग्निशन सॉफ्टवेयर स्टार्टअप AnyVision ने पिछले साल दी सेलिब्रिटी उदाहरण रेटर्स के लिए: पूर्व बेसबॉल महान डेरेक जेटर टाइप IV के रूप में, मॉडल टायरा बैंक्स ए वी और रैपर 50 सेंट ए VI।

AnyVision ने रायटर को बताया कि वह FST के उपयोग पर फिर से विचार करने के Google के निर्णय से सहमत है, और Facebook ने कहा कि यह बेहतर उपायों के लिए खुला है।

माइक्रोसॉफ्ट और स्मार्टवॉच निर्माता सेब तथा गार्मिन स्वास्थ्य संबंधी सेंसर पर काम करते समय एफएसटी का संदर्भ लें।

लेकिन एफएसटी का उपयोग काले रंग की त्वचा पर स्मार्टवॉच से हृदय गति रीडिंग के बारे में “झूठे आश्वासन” को बढ़ावा दे सकता है, कैलिफोर्निया विश्वविद्यालय सैन डिएगो के चिकित्सक, ब्लैक लाइव्स मैटर सामाजिक समानता आंदोलन से प्रेरित हैं, लिखा था पिछले साल स्लीप जर्नल में।

Microsoft ने FST की खामियों को स्वीकार किया। ऐप्पल ने कहा कि यह विभिन्न उपायों, एफएसटी का उपयोग करके केवल कई बार त्वचा टोन में मनुष्यों पर परीक्षण करता है। गार्मिन ने कहा कि व्यापक परीक्षण के कारण यह मानता है कि रीडिंग विश्वसनीय हैं।

विक्टर कैसाले, जिन्होंने मेकअप कंपनी मोब ब्यूटी की स्थापना की और नए क्रेयॉन पर क्रायोला की मदद की, ने कहा कि उन्होंने नींव के लिए 40 शेड्स विकसित किए, प्रत्येक अगले से लगभग 3% अलग है, या अधिकांश वयस्कों के लिए अंतर करने के लिए पर्याप्त है।

इलेक्ट्रॉनिक्स पर रंग सटीकता का सुझाव है कि तकनीकी मानकों में 12 से 18 टन होना चाहिए, उन्होंने कहा, “आपके पास सिर्फ छह नहीं हो सकते।”

© थॉमसन रॉयटर्स 2021


.

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button