Come utilizzare AI Voice Tools per prevenire la frode


Credito immagine: Zapp2Photo / Shutterstock

Mentre gli strumenti di intelligenza artificiale vocale potrebbero rendere più facile alle aziende l'interruzione delle frodi con carta di credito, questa nuova tecnologia potrebbe anche presentare nuovi rischi.

L'intelligenza artificiale che può superare il test di Turing è stata una specie di sacro graal per alcuni scienziati informatici dal momento che il matematico Alan Turing ha sviluppato il test per determinare se un computer utilizza un linguaggio abbastanza da essere scambiato per un essere umano. Nel 2018, Google ha dimostrato che il suo assistente per l'alimentazione Duplex può prenotare appuntamenti al salone e prenotazioni al ristorante con persone reali. La risposta del pubblico è passata dall'impronta scettica al quasi panico, mentre osservatori del settore e scienziati hanno ipotizzato possibili applicazioni per l'IA vocale che sembra veramente umana. Un possibile utilizzo è per una migliore prevenzione delle frodi. Ma la stessa tecnologia potrebbe anche peggiorare gli attacchi di frode. Ecco cosa i piccoli imprenditori dovrebbero sapere su cosa l'IA può fare ora per te, quali nuove generazioni di intelligenza artificiale possono essere capaci e su come usare in modo sicuro l'intelligenza artificiale per le imprese.

C'è un dibattito nella comunità della scienza dei dati sul fatto che Google Duplex apra la porta ad applicazioni AI più complesse e di ampia portata che superano il test di Turing e se tali progressi potrebbero accadere in qualunque momento presto. Indipendentemente da ciò, anche applicazioni come Duplex che sono di portata ristretta potrebbero alla fine cambiare il modo in cui viene gestita la frode dei pagamenti online. L'elemento che definisce probabilmente non sarà la tecnologia in sé ma l'intento delle persone che lo utilizzano.

Come l'IA che supera il test di Turing potrebbe aiutare a prevenire le frodi

Le persone possono già chattare, inviare messaggi e parlare al telefono con i robot, ma le conversazioni, come quelle di Google Duplex, sono di portata limitata. È anche facile liberarsi dei robot di servizio clienti di oggi con una domanda inaspettata o un accento pesante. Ma se l'IA del servizio clienti – in particolare l'intelligenza artificiale della voce – alla fine supera il test di Turing oltre lo stretto ambito che Google ha fatto, quella tecnologia potrebbe rendere più facile per le aziende fermare le frodi con carta di credito assumendo alcune conversazioni telefoniche impegnative ma cruciali.

Al momento, la frode online di carte di credito (carta non presente, o CNP, frode) è un problema crescente per le aziende di tutte le dimensioni, in parte perché molti criminali hanno accesso ai dati dei consumatori violati. Ci sono due modi in cui le aziende gestiscono gli ordini online che, dopo l'analisi di una serie di fattori come indirizzo di spedizione, posizione IP, cronologia degli acquisti e altro, potrebbero sembrare fraudolenti ma potrebbero non esserlo.

La prima opzione è semplicemente rifiutare questi ordini incerti. Il problema con questo approccio è che se l'ordine non fosse una frode, il cliente rifiutato potrebbe essere così frustrato, imbarazzato o arrabbiato da non acquistare mai più l'azienda. Questo è un problema comune e costoso. Nel 2016, i commercianti hanno perso $ 2 miliardi in più per questi falsi declini di buoni ordini di quanto non abbiano fatto con le attuali frodi CNP.

La seconda opzione consiste nel rivedere manualmente ogni ordine sospetto. In alcuni casi, i revisori di frodi devono chiamare il cliente per assicurarsi che abbiano effettivamente effettuato l'acquisto. Queste conversazioni vocali richiedono abilità per raccogliere informazioni senza sembrare accusatori e richiedono risorse aziendali per effettuare chiamate in un momento conveniente per i clienti, indipendentemente dalla parte del mondo in cui si trovano.

Poiché la revisione manuale richiede molte risorse, non tutte le aziende possono permettersi di farlo internamente. Altri provano, ma scoprono che il processo blocca il processo di approvazione degli ordini durante le vacanze e altre stagioni impegnative. Gli strumenti di IA vocale che superano il test di Turing potrebbero assorbire parte del carico di lavoro e, con un numero sufficiente di dati immessi nel sistema, potrebbero diventare migliori degli umani per individuare sottili indizi verbali che indicano una frode. Nel frattempo, l'esternalizzazione a un fornitore di screening manuale di terze parti può ridurre l'onere per le imprese.

Come i truffatori potrebbero sfruttare l'intelligenza artificiale che supera il test di Turing

Ovviamente, questa voce artificiale avanzata può anche essere sfruttata da criminali che vogliono commettere frodi in modo più efficiente. David Gerwitz, esperto di cybersicurezza, ha scritto poco dopo la dimostrazione dell'IA di Google, le versioni più avanzate di questa tecnologia potrebbero essere utilizzate per truffare le persone al telefono. L'IA vocale che supera il test di Turing potrebbe, in teoria, impersonare i consumatori che chiamano gli ordini, i rappresentanti del servizio clienti chiamano con domande o individui specifici come i politici che sembrano richiedere donazioni.

I sistemi di intelligenza artificiale possono anche essere ingannati dall'inclusione di messaggi visivi o audio che fanno pensare che la rete neurale stia affrontando l'opposto di ciò che vede o sente, anche mentre le cose appaiono normali agli umani. I ricercatori hanno già dimostrato che possono incorporare istruzioni per gli assistenti vocali in file audio che gli esseri umani non sono in grado di rilevare. In un caso, una notizia audio conteneva istruzioni "silenziose" per disabilitare il sistema di allarme del bersaglio e sbloccare la porta principale. Immaginate quel tipo di attacco mirato all'IA del servizio clienti di e-commerce per scavalcare i controlli delle frodi e distribuito su vasta scala.

Tutto torna agli umani

Questi scenari sono inverosimili per ora, ma è un dato di fatto nella cibersicurezza e nella prevenzione delle frodi che ogni nuovo progresso comporta nuovi rischi. Non c'è motivo di credere che i sistemi di IA voce che supereranno il test di Turing saranno diversi. Ciò significa che quando le aziende possono finalmente utilizzare il test di Turing per passare l'IA vocale per proteggersi dalle frodi, avranno anche bisogno di sviluppare salvaguardie per contrastare i criminali che vogliono usare quella tecnologia avanzata contro di loro.

Cosa possono fare le piccole imprese per ottenere i benefici dell'IA di oggi senza incorrere in inutili rischi?

Per prima cosa, capisci cosa possono fare gli attuali strumenti di intelligenza artificiale. I dispositivi di assistenza vocale, i chatbot del servizio clienti e gli algoritmi di prevenzione delle frodi sono strumenti potenti che possono far risparmiare tempo e denaro alla tua azienda, purché li combini con la supervisione umana per prevenire violazioni, scarso servizio clienti o falsi declini degli ordini. Quindi, sii cauto nell'usare gli assistenti personali con tecnologia AI per gestire attività aziendali critiche come la gestione dei sistemi di allarme e il sistema bancario. Infine, tieniti aggiornato sulle novità relative all'IA che la tua azienda utilizza per rimanere informato sulle nuove funzionalità, funzioni e problemi di sicurezza man mano che l'intelligenza artificiale diventa più sofisticata.

Rafael Lourenco

Rafael Lourenco è Executive Vice President di ClearSale, un'operazione di prevenzione delle frodi di Card-Not-Present che protegge i commercianti di e-commerce dai chargeback. Il prodotto di punta dell'azienda, Total Guaranteed Protection, è una soluzione di rilevamento delle frodi in outsourcing end-to-end per i rivenditori online. Segui su twitter su @ClearSaleUS o visita http://clear.sale/.

Ti piace questo articolo? Iscriviti per altri fantastici contenuti.

Essere parte di Business.com

sei già un membro?
Registrati.

Ci piacerebbe sentire la tua voce! Accedi per commentare.