Generativní AI: Budoucnost podvodů a proč můžete být snadným terčem

„Mami, jsem to já! Měl jsem nehodu a hned potřebuji peníze!“ Hlas v telefonu zní přesně jako váš syn, ale ve skutečnosti se jedná o klon vytvořený pomocí umělé inteligence z třísekundového záznamu jeho hlasu na Facebooku. Vítejte v děsivém novém světě podvodů poháněných AI.

Generativní umělá inteligence (GenAI) dala podvodníkům do rukou výkonný nový nástroj, díky kterému se včerejší e-mailové podvody zdají být amatérské. Pokročilé podvodné techniky, které se dnes objevují, jsou pro netrénované oko, nebo ucho, prakticky nezjistitelné. A finanční dopad je šokující. Od roku 2020 se phishing a podvodná aktivita zvýšila o 94 %, přičemž měsíčně se objevují miliony nových podvodných stránek. Ještě alarmujícíji je, že odborníci odhadují, že ztráty z podvodů s využitím AI dosáhnou v USA do roku 2027 40 miliard dolarů.

Generativní AI se vztahuje na takzvané systémy umělé inteligence, které vytvářejí nový obsah – text, obrázky, zvuk nebo video – na základě dat, na kterých byly trénovány. Na rozdíl od tradiční AI, která analyzuje existující informace, generativní AI produkuje zcela nový, přesvědčivý obsah. Nejzneklidňující část? Tyto výkonné nástroje jsou stále dostupnější podvodníkům, kteří je používají k vytváření sofistikovaných podvodů, které jsou těžší než kdy předtím odhalit.

Podvodníci dnes používají generativní AI k „zesílení“ svých stávajících technik a zároveň umožňují zcela nové typy podvodů. Zde jsou čtyři nejnebezpečnější způsoby, jak tuto technologii využívají:

• Klonování hlasu: Pouhými třemi sekundami zvuku, snadno získanými ze sociálních médií, hlasových zpráv nebo videí, mohou podvodníci pomocí AI vytvořit přesvědčivou repliku vašeho hlasu. Oběti těchto podvodů tvrdily, že si byly jisté, že je to hlas jejich člena rodiny.
• Falešné doklady totožnosti: AI dokáže generovat přesvědčivé falešné doklady totožnosti s AI generovanými obrázky. Zločinci je používají k ověření totožnosti při podvodném otevírání účtů nebo převzetí stávajících.
• Deepfakes: Mnoho finančních institucí používá k ověření totožnosti selfie. Podvodníci však mohou používat obrázky ze sociálních médií k vytvoření deepfakes, které obejdou tato bezpečnostní opatření. Tato AI generovaná deepfakes nejsou omezena pouze na statické obrázky; mohou také produkovat realistická videa, která mohou oklamat kontroly detekce živých osob během procesů rozpoznávání obličeje.
• Phishingové e-maily: GenAI nyní tvoří bezchybně napsané, vysoce personalizované phishingové e-maily, které analyzují vaši online přítomnost a vytvářejí zprávy šité na míru vašim zájmům a osobním údajům.

I když je každý vystaven riziku těchto sofistikovaných podvodů s AI, určité faktory vás mohou pro podvodníky učinit atraktivnějším terčem. Lidé s vysokými úsporami nebo investicemi představují cennější cíle – čím více aktiv máte, tím více pozornosti si od zločinců budete získávat. Mnoho starších osob je obzvláště zranitelných, protože nevyrostli s dnešními technologiemi a nemusí být obeznámeni s možnostmi AI. Tato mezera v znalostech ztěžuje rozpoznání, kdy je umělá inteligence používána se zlým úmyslem. Tento stav ještě ztěžuje rozsáhlá digitální stopa: pokud jste aktivní na sociálních médiích nebo máte významnou online přítomnost, nevědomky poskytujete podvodníkům suroviny, které potřebují k vytvoření přesvědčivých deepfakes a vysoce personalizovaných podvodů navržených tak, aby zneužívaly vaši důvěru.

Ochrana před hrozbami poháněnými AI vyžaduje vícerozměrný přístup, který přesahuje pouhá digitální opatření. Povědomí je vaší první linií obrany – porozumění tomu, jak tyto podvody fungují, vám pomůže rozpoznat varovné signály dříve, než se stanete obětí. Toto povědomí by mělo být kombinováno s digitálními bezpečnostními opatřeními a „analogovými“ ověřovacími systémy, které existují zcela offline. Zde je několik klíčových kroků, jak se chránit:

1. Investujte do služeb pro odstraňování osobních údajů.
2. Zavěďte vlastní ověřovací protokoly (např. tajné heslo).
3. Vyberte si silná, jedinečná hesla pro každý účet a používejte správce hesel.
4. Povolte dvoufaktorovou autentizaci (2FA) na všech účtech.
5. Přijímejte kódy MFA prostřednictvím autentizační aplikace v telefonu.
6. Používejte silný antivirový software.
7. Důvěřujte své intuici a ověřujte.
8. Pravidelně sledujte své účty.

Je to všechno trochu děsivé? Absolutně. Ale dobrou zprávou je, že jste nyní vyzbrojeni znalostmi, abyste se mohli bránit. Zůstaňte bdělí, berte vážně zmíněná ochranná opatření a pamatujte, že v tomto novém věku podvodů s AI je zdravá skepse velmi důležitá. Udělejme těmto podvodům poháněným AI život co nejtěžší.