California Bill avrebbe bloccato il riconoscimento facciale su Bodycams


Il mese scorso, i membri della legislatura della California sono stati sottoposti a un esperimento di sorveglianza, per gentile concessione dell'American Civil Liberties Union. I loro ritratti sono stati inseriti nel software di riconoscimento facciale Rekognition di Amazon e confrontati con un database di 25.000 foto segnaletiche di arresto. Ventisei legislatori sono stati erroneamente identificati come partite. Tra gli aspiranti sospetti figurava il deputato Phil Ting, un democratico di San Francisco. Sperava che avrebbe ottenuto sostegno per il suo disegno di legge, AB 1215, per vietare il riconoscimento facciale dalle telecamere del corpo di polizia.

Mercoledì scorso, il senato dello stato ha approvato un disegno di legge leggermente diverso, non un divieto ma una moratoria che scade tra tre anni. Il cambiamento è arrivato poco prima della scadenza per apportare emendamenti prima della fine della sessione di questa settimana. Alcuni sostenitori della privacy temono che la data di scadenza del conto fornirà alle aziende, molte delle quali riconoscono i limiti della loro tecnologia, il tempo per migliorare i loro algoritmi e vincere gli scettici. Tra tre anni, se il test dell'ACLU viene ripetuto, le aziende di riconoscimento facciale lo supereranno?

Il disegno di legge, che necessita dell'approvazione dell'Assemblea statale e della firma del governatore per diventare legge, è stato celebrato dall'ACLU come un passo positivo. Matt Cagle, avvocato dell'ACLU della California del Nord, afferma che le telecamere per il corpo, che sono state propagandate come strumenti di responsabilità dopo le sparatorie di persone disarmate di colore, sono invece pronte a trasformarsi in strumenti di sorveglianza. "È un'esca e un interruttore", dice. Il disegno di legge vieterebbe l'uso degli algoritmi di riconoscimento facciale in tempo reale, quando le telecamere del corpo sono in movimento e nella successiva analisi forense delle riprese. Ritaglia un'esenzione per gli algoritmi che rilevano e redattono i volti dal metraggio della fotocamera del corpo, in modo che le regole non rallentino le richieste di registri pubblici.

La moratoria arriva tra le crescenti preoccupazioni per il riconoscimento facciale negli spazi pubblici. Città come San Francisco e Oakland hanno approvato divieti più ampi sull'uso del riconoscimento facciale da parte del governo e il Massachusetts sta prendendo in considerazione una moratoria a livello statale. Le fatture sono state guidate da preoccupazioni sulla privacy e sulla propensione che alcuni sostengono siano inerenti, ma anche da carenze tecniche che hanno portato persino le aziende a sviluppare la tecnologia per dire che non è pronto per la prima serata.

La scorsa primavera, Microsoft ha dichiarato di aver rifiutato di vendere il suo software di riconoscimento facciale a un'agenzia di polizia della California senza nome. A giugno, Axon, il più grande fornitore di fotocamere per il corpo alle forze dell'ordine, ha dichiarato che non includerà il riconoscimento facciale nel suo prodotto, su raccomandazione del suo comitato etico esterno. In parte, è stato un riconoscimento che la tecnologia semplicemente non funziona abbastanza bene, almeno non ancora. Mentre il riconoscimento facciale è stato storicamente utilizzato per abbinare i volti a immagini chiare e rivolte in avanti, per esempio confrontando una foto segnaletica con un database di arresti precedenti, è molto più difficile da fare in tempo reale. Gli ufficiali si trovano spesso in situazioni che comportano cattiva illuminazione, angoli difficili o movimento rapido. Axon ha lasciato aperta la possibilità di poter perseguire la tecnologia di riconoscimento facciale in futuro.

Continua a leggere



Le ultime novità sull'intelligenza artificiale, dall'apprendimento automatico alla visione artificiale e altro ancora

Aziende come Amazon hanno sostenuto che il riconoscimento facciale dovrebbe essere regolato, non vietato. La società ha respinto l'esperimento di ACLU di agosto, affermando che le cattive partite non si sarebbero verificate se l'ACLU avesse richiesto una probabilità del 99% per una partita. (L'ACLU ha affermato di aver utilizzato gli "standard di fabbrica" ​​per il test.) La Information Technology and Innovation Foundation, un gruppo industriale che riceve supporto da aziende come Microsoft e Amazon, si oppone all'AB 1215, sostenendo che la tecnologia potrebbe contrastare i pregiudizi attraverso la revisione umana metraggio.

L'opposizione più vocale, tuttavia, è stata da parte di gruppi di polizia che affermano che li spoglia di una tecnologia chiave per la sicurezza pubblica. Il disegno di legge "presume erroneamente che le persone in pubblico possiedano o abbiano una ragionevole aspettativa di privacy", ha scritto l'Associazione degli sceriffi di Riverside in un'analisi del disegno di legge.

Il passaggio da un divieto a una moratoria, secondo Ting, è emerso dalle preoccupazioni dei legislatori che "volevano rivisitare il problema man mano che la tecnologia migliora". Dice che una moratoria raggiunge il giusto equilibrio, offrendo a funzionari e tecnici più tempo e flessibilità. “Se avessi intenzione di distribuire telecamere in una determinata città, avresti un processo pubblico significativo. In questo momento le forze dell'ordine possono farlo senza un processo pubblico e avere quelle macchine fotografiche in giro. "