I ett tidigare utkast till ett förslag kring ny reglering av artificiell intelligens gick EU hårt åt bland annat ansiktsigenkänning. Det ansågs vara en mycket inkräktande metod med stor risk att kränka den personliga integriteten, och förslaget ville bland annat förbjuda det i syften likt sociala kreditsystem.
Förslaget innebär vissa undantag för specifikt ansiktsigenkänning på offentlig plats, bland annat för att kunna leta efter försvunna barn eller misstänkta brottslingar efter allvarliga händelser, exempelvis terroristattacker. Den interna övervakaren European Data Protection Supervisor (EDPS) är dock kritisk.
A stricter approach is necessary given that remote biometric identification, where AI may contribute to unprecedented developments, presents extremely high risks of deep and non-democratic intrusion into individuals’ private lives. – European Data Protection Supervisor
I ett pressmeddelande förklarar övervakaren att EDPS stöttar och välkomnar förslaget i sig, men beklagar att EDPS tidigare önskemål om ännu striktare regler kring biometrisk identifikation inte efterföljts. EDPS ska fokusera särskilt på att sätta gränser kring de verktyg och system som utgör en risk för grundläggande rättigheter till den personliga integriteten.
Förslaget har även fått viss kritik från medborgarrättsrörelser, som uttrycker oro kring kryphål i förslaget som skulle kunna tillåta auktoritära regeringar att missbruka AI för att inskränka på mänskliga rättigheter.
