Il riconoscimento facciale di Uber desta sospetti nel Regno Unito. Dopo aver riscontrato diversi casi di identificazione erronea dei conducenti, l’App Drivers & Couriers Union (ADCU) e Worker Info Exchange (WIE) hanno chiesto a Microsoft di sospendere l’uso del riconoscimento facciale a Uber.
Il Regno Unito sembra molto attivo nei confronti di Uber, è notizia dello scorso mese la sentenza della Corte Suprema in cui si stabilisce che gli autisti di Uber sono da considerarsi dipendenti e non liberi professionisti.
In questo caso,invece, a essere tirato in ballo è il riconoscimento facciale di Uber. Il sindacato, infatti, ha affermato di aver identificato 7 casi di “mancato riconoscimento facciale e altri controlli di identità” che hanno portato alla perdita del lavoro da parte dei conducenti e all’azione di revoca della licenza da parte di TfL – Transport for London.
Uber ha lanciato il sistema “Real Time ID Check” nel Regno Unito nell’aprile 2020. Aveva affermato che avrebbe “verificato che gli account dei conducenti non fossero utilizzati da nessun altro oltre alle persone con licenza che hanno subito un controllo DBS avanzato”. Diceva, quindi, che i conducenti potevano “scegliere se il loro selfie è verificato da un software di confronto fotografico o dai nostri revisori umani”.
In un caso di errata identificazione, l’ADCU ha affermato che l’autista è stato licenziato da Uber e la sua licenza è stata revocata da TfL. Il sindacato aggiunge di essere stato in grado di aiutare il membro a stabilire correttamente la sua identità, costringendo Uber e TfL a correggere le loro decisioni.
Gli errori dei sistemi di riconoscimento facciale
La ricerca ha dimostrato che i sistemi di riconoscimento facciale possono avere un tasso di errore particolarmente elevato quando vengono utilizzati per identificare le persone di colore. L’ADCU cita uno studio del MIT del 2018 che ha rilevato che il sistema di Microsoft può avere un tasso di errore fino al 20%.
Il sindacato ha detto di aver scritto al sindaco di Londra. Hanno chiesto la revisione di tutte le revoche delle patenti di guida scattate a seguito del riconoscimento facciale di Uber.
Microsoft è stata contattata per un commento sulla richiesta di sospendere la licenza di Uber per la sua tecnologia di riconoscimento facciale.
Nel 2017, TfL ha preso la scioccante decisione di non concedere a Uber un rinnovo della licenza, aumentando la pressione normativa sui suoi processi. Ha mantenuto questa posizione anche nel 2019, quando ha ritenuto Uber “non idoneo e adeguato” a detenere una licenza per il noleggio privato.
Il tentativo di revoca del rinnovo licenza a Uber
Gli errori di sicurezza e protezione sono stati uno dei motivi principali citati da TfL per negare il rinnovo della licenza di Uber.
Uber ha impugnato la decisione di TfL in tribunale e ha vinto un altro ricorso contro la sospensione della licenza lo scorso anno. Il rinnovo concesso è stato, però, di soli 18 mesi (non i cinque anni completi). Inoltre è arrivato con una lunga lista di condizioni , quindi Uber rimane sotto forte pressione per soddisfare la barra di qualità di TfL.
Il punto di vista di Uber
Uber, nel frattempo, contesta l’affermazione del sindacato secondo cui l’uso della tecnologia di riconoscimento facciale per i controlli dell’identità del conducente rischia di automatizzare la discriminazione. Afferma, infatti, di avere un sistema di revisione manuale (umana) in atto che ha lo scopo di prevenire le anomalie.
Le sue dichiarazioni:
“Sebbene nessuna tecnologia o processo sia perfetto e ci sia sempre spazio per il miglioramento, riteniamo che la tecnologia, combinata con il processo di due revisioni manuali, sia giusta e importante per la sicurezza della nostra piattaforma”.
I casi di errata identificazione
Come dicevamo sono 7 i casi, rilevati da ADCU, in cui il riconoscimento facciale di Uber ha dato dei problemi.
In un caso Uber ha affermato che il conducente aveva mostrato una foto durante il controllo dell’ID invece di scattare un selfie. Il protocollo, invece, richiede di eseguire il controllo dell’ID in tempo reale. Pertanto, sostiene che il controllo dell’ID non è andato a buon fine in quanto il driver non stava seguendo il protocollo corretto.
Nell’altro caso, Uber ha incolpato l’errore umano da parte dei suoi team di revisione manuale che (due volte) hanno preso una decisione errata. Ha detto che l’aspetto dell’autista era cambiato. Il suo staff non era in grado di riconoscere il volto dell’uomo in quanto era barbuto e non rasato come era registrato nell’archivio.
Uber non è stato in grado di fornire dettagli su ciò che è accaduto negli altri cinque errori di controllo dell’identità indicati dal sindacato.
La vicenda del riconoscimento facciale di Uber mostra che il lavoro di controllo dei legislatori in merito alla legalità di come Uber utilizza le sue tecnologie è tutt’altro che finita: in realtà, questo è appena iniziato.