Facial Recognition Technology and its dangers

An invasion of privacy of Indians has begun, as FRT is launched without any matching law.

 Facial Recognition Technology and its dangers

---

1. The Pegasus mega snooping scandal was not debated in the monsoon sessions of Parliament, while the govt. has not categorically denied anything about purchasing the Israeli software!
2. There's a much bigger citizen privacy issue that's gone unnoticed - On one hand, in June 2021, the Joint Committee examining the PDP Bill 2019 was granted another extension, but facial recognition technology (FRT) is moving ahead fast [PDP Bill - Personal Data Protection]
3. The NAFRS has been implemented in India now, to allow police to detect crime and criminals quickly [NAFRS - National Automated Facial Recognition System]
4. In a dramtically intrusive manner, this privacy-destroying technology will work on a pan-India basis, to identify people of interest irrespective of masks, makeup, beards, hair etc.
5. How does it work? Cameras capture images, feed it to algorithms, and create "faceprints" - unique shape of cheekbones, lips, forehead to chin distance - and then compares that with pre-existing databases of citizens (eg. driving licences)
6. The accuracy is not more than 70%, and risks of error and bias exist; so a "false positive" will lead to wrong arrests
7. How the software is "trained" initially also introduces biases, which can severely affect performance
8. NAFRS has been launched without any constitutional checks at all; it will store personal data for a long time (indefinitely?), so the right to privacy test has to be applied (to check if it's unconstitutional)
9. (i) Is it legitimate? (ii) Is it proportionate to the need? (iii) Is it least restrictive?
10. Since the PDP Bill is pending, what is the potential for data misuse?
11. How will it hit the right to dissent (a fundamental right)?
12. Globally, the FBI in US uses FRT for investigations, England uses it for serious violence, and China uses it for mass surveillance on Uighur Muslims
13. In India, some states have launched FRT without any checks at all!
14. Test of Proportionality - In the right to privacy verdict by the Supreme Court ('Justice K.S. Puttaswamy vs. Union of India, 2017'), the SC made it a fundamental right (subject to reasonable restrictions on grounds of national security, state security, public order)
15. Any encroachment of this right has to be only if - (i) a law exists to satisfy legality of action, (ii) a need exists in terms of legitimate state action, (iii) a proportionate measure is adopted (rational nexus between means adopted and objectives pursued)
16. The NAFRS fails each of these tests! It lacks legitimacy (no law backing it up). It is grossly disproportionate, as it starts mass surveillance of all Indians. Can one avoid a CCTV in a public place? There's no data protection law yet, and no one knows how long data would be stored
17. Anonymity is the key to functioning of a liberal democracy
18. FRT will severely hurt investigative journalism, or peaceful assembly of protestors (without arms), or social activism
19. Other nations have either enacted laws to regulate FRT, or are scrapping it altogether
20. The IT Act 2000, its rules, and even the proposed PDP Bill 2019 give sweeping powers to the state in the name of security, sovereignty and integrity to breach privacy of citizens
21. To save democracy from turning authoritarian, FRT must be stopped in India till there's a strong data protection law, in addition to strict regulation for NAFRS

1. पेगासस मेगा स्नूपिंग स्कैंडल पर संसद के मानसून सत्र में बहस नहीं हुई, एवं सरकार ने इज़राइली सॉफ़्टवेयर खरीदने के बारे में कुछ भी स्पष्ट रूप से इनकार नहीं किया है!
2. एक बहुत बड़ा मुद्दा नागरिक गोपनीयता है जिस पर किसी का ध्यान नहीं गया है - एक तरफ, जून 2021 में, पीडीपी विधेयक 2019 की जांच करने वाली संयुक्त समिति को एक और विस्तार दिया गया, लेकिन "चेहरे की पहचान तकनीक" (एफआरटी) तेजी से आगे बढ़ रही है [पीडीपी विधेयक - व्यक्तिगत डेटा संरक्षण ]
3. NAFRS को अब भारत में लागू किया गया है, ताकि पुलिस अपराध और अपराधियों का शीघ्रता से पता लगा सके [NAFRS - राष्ट्रीय स्वचालित चेहरे की पहचान प्रणाली]
4. नाटकीय रूप से निजता में दखल देने वाले तरीके से, गोपनीयता को नष्ट करने वाली यह तकनीक मास्क, मेकअप, दाढ़ी, बाल आदि की परवाह किए बिना रुचि के लोगों की पहचान करने के लिए अखिल भारतीय आधार पर काम करेगी
5. यह कैसे काम करता है? कैमरे छवियों को कैप्चर करते हैं, इसे एल्गोरिदम में फीड करते हैं, और "फेसप्रिंट" बनाते हैं - चीकबोन्स, होंठ, माथे से ठोड़ी की दूरी का अनूठा आकार - और फिर इसकी तुलना नागरिकों के पहले से मौजूद डेटाबेस (जैसे ड्राइविंग लाइसेंस) से करते हैं
6. सटीकता 70% से अधिक नहीं है, और त्रुटि और पूर्वाग्रह के जोखिम मौजूद हैं; इसलिए "गलत पुष्टि" (फॉल्स पॉजिटिव) गलत गिरफ्तारी की ओर ले जाएगी
7. सॉफ़्टवेयर को शुरू में कैसे "प्रशिक्षित" किया गया, उससे पूर्वाग्रहों बनते हैं, जो प्रदर्शन को गंभीर रूप से प्रभावित कर सकता है
8. NAFRS को बिना किसी संवैधानिक जांच के शुरू किया गया है; यह व्यक्तिगत डेटा को लंबे समय तक संग्रहीत करेगा (अनिश्चित काल के लिए?), इसलिए गोपनीयता अधिकार का परीक्षण लागू करना होगा (यह जांचने के लिए कि क्या यह असंवैधानिक है)
9. (i) क्या यह वैध है? (ii) क्या यह आवश्यकता के अनुपात में है? (iii) क्या यह कम से कम प्रतिबंधात्मक है?
10. चूंकि पीडीपी विधेयक लंबित है, इसलिए डेटा के दुरुपयोग की क्या संभावना है?
11. यह असहमति के अधिकार (मौलिक अधिकार) को कैसे प्रभावित करेगा?
12. विश्व स्तर पर, अमेरिका में एफबीआई जांच के लिए एफआरटी का उपयोग करता है, इंग्लैंड गंभीर हिंसा के लिए इसका इस्तेमाल करता है, और चीन इसका इस्तेमाल उइगर मुसलमानों पर बड़े पैमाने पर निगरानी के लिए करता है।
13. भारत में, कुछ राज्यों ने बिना किसी जाँच के FRT लॉन्च किया है!
14. आनुपातिकता का परीक्षण - सुप्रीम कोर्ट ('जस्टिस केएस पुट्टस्वामी बनाम भारत संघ, 2017') द्वारा निजता के अधिकार के फैसले में, SC ने इसे एक मौलिक अधिकार बना दिया (राष्ट्रीय सुरक्षा, राज्य सुरक्षा के आधार पर उचित प्रतिबंधों के अधीन, सार्वजनिक व्यवस्था)
15. इस अधिकार का कोई भी अतिक्रमण तभी होना चाहिए जब - (i) कार्रवाई की वैधता को संतुष्ट करने के लिए एक कानून मौजूद हो, (ii) वैध राज्य कार्रवाई के संदर्भ में एक आवश्यकता मौजूद हो, (iii) एक आनुपातिक उपाय अपनाया गया हो (अपनाए गए साधनों के बीच तर्कसंगत संबंध) और उद्देश्यों का पीछा किया)
16. NAFRS इनमें से प्रत्येक परीक्षण में विफल रहता है! इसमें वैधता का अभाव है (इसका समर्थन करने वाला कोई कानून नहीं)। यह पूरी तरह से अनुपातहीन है, क्योंकि यह सभी भारतीयों की बड़े पैमाने पर निगरानी शुरू करता है। क्या सार्वजनिक स्थान पर सीसीटीवी से बचना संभव है? अभी तक कोई डेटा सुरक्षा कानून नहीं है, और कोई नहीं जानता कि डेटा कितने समय तक संग्रहीत किया जाएगा
17. गुमनामी एक उदार लोकतंत्र के कामकाज की कुंजी है
18. FRT खोजी पत्रकारिता, या प्रदर्शनकारियों की शांतिपूर्ण सभा (बिना हथियारों के), या सामाजिक सक्रियता को गंभीर रूप से नुकसान पहुंचाएगा
19. अन्य देशों ने या तो एफआरटी को विनियमित करने के लिए कानून बनाए हैं, या इसे पूरी तरह से समाप्त कर रहे हैं
20. आईटी अधिनियम 2000, इसके नियम और यहां तक ​​कि प्रस्तावित पीडीपी विधेयक 2019 नागरिकों की गोपनीयता भंग करने के लिए सुरक्षा, संप्रभुता और अखंडता के नाम पर राज्य को व्यापक अधिकार देते हैं।
21. लोकतंत्र को सत्तावादी बनने से बचाने के लिए, भारत में FRT को तब तक रोका जाना चाहिए जब तक कि एक मजबूत डेटा संरक्षण कानून न हो, NAFRS के लिए सख्त विनियमन के अलावा
    

#Privacy #FRT #FacialRecognition #RightToPrivacy #Invasion #HumanRights

Join UPSC Self Prep course | Online Course (PT Gurukul) | Covid Special Course