V poslednej dobe sa čoraz viac objavuje správ o podvodníkoch, ktorí využívajú umelú inteligenciu (AI) na generovanie falošných hlasov.
Ich primárny cieľ je oklamať ľudí. Tento druh podvodov sa nazýva „deepfake“, kedy sú generované hlasové nahrávky tak presvedčivé, že sa zdajú byť skutočné. Podvodníci využívajú AI na modelovanie hlasov známych osobností alebo dokonca známych osôb z blízkeho okolia, čím sa snažia získať dôveru a ľahšie oklamať ľudí. Takéto falošné hlasové nahrávky sú používané na podvodné účely, ako sú napríklad phishingové útoky, získavanie citlivých informácií a ďalšie. Aby sa ľudia mohli chrániť pred takýmito podvodmi, odporúča sa byť obozretný a overiť si totožnosť osoby, ktorá sa s nimi snaží komunikovať prostredníctvom hlasovej nahrávky, a to najmä v prípadoch, keď sa žiada o poskytnutie citlivých informácií alebo finančných prostriedkov. Je tiež dôležité byť obozretný pri klikaní na odkazy a sťahovaní súborov od neznámych osôb alebo webových stránok.
S použitím hlbokého učenia môže byť vygenerovaný hlas tak realistický, že ťažko rozlíšite, či hovoríte s človekom alebo s počítačom. Podvodníci môžu využívať AI generované hlasy na rôzne účely, ako napríklad na získanie citlivých informácií, získanie prístupových údajov k bankovým účtom alebo na podvod s investíciami. Okrem toho sa môžu tieto hlasy použiť na podvodné hovory z falošných čísel, aby sa obetiam zdalo, že volajú z dôveryhodných zdrojov. Našťastie existujú spôsoby, ako sa chrániť pred týmito podvodmi. Je dôležité byť opatrný a nezdieľať citlivé informácie, ako sú heslá alebo čísla kreditných kariet, s neznámymi osobami. Mali by ste tiež byť obozretní pri prijímaní neznámych hovorov a nikdy neposkytovať osobné informácie cez telefón, ak nie ste stopercentne presvedčení o tom, že hovoríte s dôveryhodnou osobou.
Podvodníci často využívajú rôzne technológie na získanie dôvery a oklamanie ľudí. Podvodníci môžu použiť generované hlasy na to, aby sa zdali byť bankovými zamestnancami alebo predstaviteľmi iných spoločností, aby získali citlivé informácie od ľudí, ako sú čísla kreditných kariet alebo heslá. Technológia sa stále zdokonaľuje a robí sa čoraz ťažšie rozlíšiť, či hovoríte s človekom alebo s AI generovaným hlasom. S narastajúcim počtom deepfake podvodov sa však zvyšuje aj povedomie o hrozbe a snažia sa vyvinúť rôzne metódy na identifikáciu falošných hlasov. Niektoré firmy využívajú napríklad biometrické dáta hlasu, aby bolo možné overiť totožnosť volajúceho, zatiaľ čo iné spoločnosti sa snažia vyvinúť nové technológie na odhaľovanie deepfake hlasov.