Lumea roboților: înșelătorii cu AI-uri care imită vocea unei rude care-ți cere ajutorul

Știți metoda Accidentul? Adică te sună un nene și îți spune că fiul sau fiica a fost într-un accident, este în spital, iar tu trebuie să dai urgent cuiva niște bani sau să-i trimiți în vreun cont, că altfel nu primește ajutor medical.

Au fost mulți oameni păcăliți în România prin așa ceva. Mulți au crezut un necunoscut care le-a zis asta la telefon și i-au dat bani, în loc să-și sune rudele și să-i întrebe “băi, ești bine?”. Inclusiv pe tata l-au sunat unii acum câțiva ani cu așa ceva, dar tata a zis “eh, cui îi pasă?”. Glumesc, i s-a părut fishy și nu a făcut nimic, apoi m-a sunat să mă întrebe dacă sunt bine.

Dar, repet, vorbim despre o persoană necunoscută care te sună și îți spune că trebuie să-i dai bani, că are el grijă să ajungă unde trebuie.

Sau vorbeam despre această practică. Acum, cu noile tehnologii AI care apar în lume, poți imita perfect vocea unei rude de-a cuiva și poți conversa într-un apel cu vocea acelei persoane. Sau poate că nu conversa, dar este suficient să zici ceva generic preînregistrat, de genul “nu am timp, am nevoie urgentă de bani că sunt la spital, te sună un prieten în curând, îi dai lui banii. Pa-pa-pa!”

Au pățit-o recent doi canadieni de 73 și 75 de ani care au fost sunați de vocea nepotului lor. Vocea, identică cu a nepotului, le-a spus că a fost arestat și are nevoie de bani de cauțiune. Bătrânii s-au grăbit la bancă, dar cineva de acolo tocmai văzuse un caz similar și povestea s-a terminat fără bani pierduți. (link)

Dar acestea sunt capabilitățile AI-ului. În ianuarie, Microsoft a prezentat o versiune chiar avansată numită VALL-E. VALL-E poate reproduce și imita vocea cuiva pornind de la doar trei secunde de înregistrare audio cu acea persoană, iar apoi poate spune orice în acea voce, inclusiv cu inflexiuni diferite pentru a imita diverse stări emoționale.

AI-ul acesta se adaugă altora care aveau performanțe similară, dar necesitau sample-uri mult mai lungi cu vocea cuiva. Iar înainte de asta, vocodere existau de foarte mulți ani. Inclusiv eu am învățat în facultate despre formulele matematice prin care cuvintele unei persoane pot fi reprezentate matematică pentru a fi mai ușor de transmis la distanță, iar acolo practic generate de la zero pe baza acelor caracteristici exprimate prin formule și forme de undă. Diferența este că AI-urile de acum pot pronunța orice în cuvintele altei persoane, nu doar reproduce fraza inițială.

Sunt și alte companii și servicii care generează o înregistrarea audio cu vocea unei persoane, câtă vreme tu îi dai câteva mostre. Iar cum vocea aproape oricărei persoane este acum ușor de găsit pe Facebook, TikTok, Instagram sau YouTube, scenarii precum cel de mai sus devin foarte accesibile

Am observat de mult că există în lume o categorie aparte de oameni. Sunt cei care, atunci când văd o tehnologie nouă, se gândesc imediat la cum ar putea-o folosi pentru a fura sau înșela. De la mașini de cusut Singer și până la blocarea cardurilor în bancomate, unii par a avea inventivitate doar pentru astfel de scopuri. Nu mă mir, deci, că și AI-urile încep să fie utilizate în astfel de scopuri. Probabil este doar începutul în ceea ce privește fenomenul deepfake.

Lumea roboților este o serie de articole despre inteligență artificială, automatizări, tehnologie modernă și felul în care acestea vor schimba societatea. Unele schimbări vor fi bune, altele mai puțin bune, dar toate vin oricum înspre noi.