सामग्री: त्वचेचा रंग गडद असल्यास फेशियल रेकग्निशन यंत्रणा अपयशी ठरण्याची शक्यता असे.

कल्पना करा, की एक अतिरेकी एका गजबजलेल्या शहरामध्ये आत्मघातकी कारवाई करण्यासाठी निघालेला आहे. त्याने जर बॉम्बस्फोट घडवला तर शेकडो लोक ठार होऊ शकतात किंवा गंभीर जखमी होऊ शकतात.

पण गर्दीचे चेहरे पडताळणारे सीसीटीव्ही त्याला टिपतात आणि त्याच्या फोटोमधली फीचर्स (चेहऱ्याचे बारकावे) सुरक्षा यंत्रणांकडच्या अतिरेक्यांच्या डेटासोबत किंवा 'संशयित व्यक्तींच्या' फोटोंसोबत पडताळून पाहतात.

ही यंत्रणा धोक्याची घंटा वाजवते आणि दहशतवादविरोधी पथक त्वरीत या घटनास्थळी पाठवली जातात. आरोपीने बॉम्बस्फोट घडवण्याआधीच ही पथकं त्याला जेरबंद करतात. शेकडो जीव वाचतात. टेक्नॉलॉजी गंभीर घटना टाळते.

पण जर समजा या फेशियल रेकग्निशन टेक्नॉलॉजीने काही चूक केली तर?

जर तो अतिरकी नसून दुर्दैवाने त्याच्यासारखीच दिसणारी दुसरी व्यक्ती असेल तर? चूक करु शकणाऱ्या एका प्रणालीमुळे एका निरपराधाने आयुष्य गमावलं असतं.

आणि जर तुम्ही ती निरपराध व्यक्ती असता तर? 

फेशियल रेकग्निशन आणि आर्टिफिशियल इंटेलिजन्समुळे निर्माण होणाऱ्या नैतिक समस्यांपैकी ही एक आहे.

मशीन्सना वस्तू आणि चेहऱ्यामधले फरक ओळखून त्यामध्ये भेद करायला शिकवणं अतिशय कठीण आहे. याला अनेकदा - कम्प्युटर व्हिजन असं म्हटलं जातं. अगदी काही काळ पूर्वीपर्यंत या कम्प्युटर व्हिजनला एक मफिन आणि एक चिव्हाव्हा (Chihuahua - कुत्र्याची एक जात) यातला फरक ओळखणंही कठीण जात होतं.

मफिन की चिव्हाव्हा? आपल्याला ओळखणं शक्य आहे, मात्र कॉम्प्युटरला अशक्य!

स्त्रिया आणि पुरुषांच्या त्वचेचा रंग जसा गडद होत जातो, तसतसं फेशियल रेकग्निशन यंत्रणेला त्यांच्यात फरक करणं कठीण जात असल्याचं गुगलच्या एथिकल आर्टिफिशियल इंटेलिजन्स टीममधले कम्प्युटर सायंटिस्ट आणि टेक्निकल को-लीड, टीमनिट गेब्रू  यांनी दाखवून दिलं होतं. एका कृष्णवर्णीय महिलेची गणना पुरुष म्हणून होण्याची शक्यता होती.

"फेस रेकग्निशन डेटाबेसमध्ये सध्या 13 कोटी सज्ञान अमेरिकन नागरिकांची माहिती आहे. पण या मूळ डेटामधले बहुतेक श्वेतवर्णीय आणि पुरुष आहेत. त्यामध्ये वर्णभेद करण्यात आला होता. त्यामुळे त्वचेच्या रंगावरून आणि लिंगामुळे चूक होण्याचं प्रमाण जास्त आहे," त्यांनी मे महिन्यामध्ये 'आर्टिफिशियल इंटेलिजन्स फॉर गुड समिट'मध्ये बोलताना सांगितलं होतं.

या तंत्रज्ञानातल्या उणिवा आणि यामुळे नागरी...\nमागील सामग्री खालीलप्रमाणे सारांशित केली जाऊ शकते:
गुन्हेगार आणि अतिरेक्यांना ओळखण्यासाठी ऑटोमॅटिक फेशियल रेकग्निशन (चेहरे ओळखणारं तंत्रज्ञान)चा वापर करता येईल का, याची चाचणी जगभरातले पोलीस आणि सुरक्षा यंत्रणा घेत आहेत. पण ही टेक्नॉलॉजी किती अचूक आहे? आणि ही टेक्नॉलॉजी आणि ती ज्यावर चालते ती आर्टिफिशियल इंटेलिजन्स प्रणाली, पिळवणूक करण्याचं माध्यम ठरू शकते का?