Umělá inteligence (AI) si za posledních několik let našla cestu do firem, domácností i veřejných služeb. Zatímco většina lidí v ní vidí především nástroj pro zefektivnění práce, útočníci ji vnímají jako příležitost. Výsledkem je vznik nové kategorie útoků, které jsou rychlejší, přesvědčivější a obtížněji detekovatelné než kdykoliv dřív.
1) Automatizace útoků: méně lidské práce, více škod
Dříve musel útočník:
- analyzovat cíl
- hledat slabiny
- připravovat phishing
- ladit text
- testovat techniky
S nástupem generativní AI lze velkou část těchto kroků automatizovat. Některé skupiny dokonce dokázaly zautomatizovat až 90 % procesních kroků útoku. AI zvládne vytvářet phishingové e-maily, analyzovat veřejně dostupné informace o oběti a přizpůsobovat obsah tak, aby prošel antispamovou ochranou.
Automatizace umožňuje z jednoho útočníka udělat „malou armádu botů“. Kde dříve útočník dokázal oslovit desítky cílů denně, nyní jde o stovky až tisíce.
2) Phishing a sociální inženýrství 2.0
Phishing je pořád nejúspěšnější technika kyberkriminality. Nové je to, že AI dokáže psát přesvědčivěji než útočníci sami. Zmizely typické varovné signály jako špatná gramatika nebo nepřirozené formulace.
K tomu se přidává schopnost AI analyzovat oběť z veřejných zdrojů, například z LinkedInu nebo firemního webu. E-mail pak může obsahovat konkrétní detaily, které dramaticky zvyšují důvěryhodnost.
Firmy potvrzují, že phishingové kampaně jsou sofistikovanější, personalizované a často míří na konkrétní zaměstnance s přístupem k financím nebo důležitým datům.
3) Deepfake: hlas i tvář jako zbraň
Jedním z nejvýraznějších příkladů zneužití AI jsou deepfaky. Už to nejsou jen virální videa celebrit, dnes se používají v reálných podvodech.
Z konkrétní praxe:
- V jednom případu útočníci pomocí deepfake hlasu imitovali finančního ředitele a přiměli zaměstnance převést několik milionů dolarů na falešný účet.
- Ve Španělsku byla pomocí deepfake videa vytvořena podvodná investiční kampaň, která okradla občany o desítky milionů korun.
- V několika firmách již došlo k pokusům o tzv. „fake CFO scam“, kde se deepfake hlas ozýval videohovorem a vydával urgentní příkazy k převodům peněz.
To, co dříve bylo technicky náročné, lze dnes vytvořit během hodin bez specializace.
4) AI v malware
AI se neomezuje jen na psychologickou stránku útoků. Objevují se i technické varianty:
- malware, který se adaptuje na obranu
- automatizované generování mutací kódu
- AI asistované hledání zranitelností
- modely, které testují reakce EDR a AV řešení
To, co dříve zkoušeli lidé metodou pokus-omyl, nyní zvládnou AI modely v řádu minut.
5) „Model poisoning“ a útoky na samotnou AI
AI může být zároveň zneužívána i proti jiným AI systémům. Dnes existují reálné útoky typu:
- data poisoning – manipulace dat, na kterých se AI učí
- prompt injection – útočník donutí AI provést něco, co neměla
- model skewing – útočník ovlivní výstupy AI bez nutnosti přímého přístupu
Tyto útoky se objevují hlavně ve firmách, které nasazují AI pro analýzu dat, detekci podvodů nebo automatizaci komunikace. AI systémy se tak paradoxně stávají novým cílem, ale zároveň i pomáhají při útocích.
6) Statistiky: jak moc vážně to brát
Podle průzkumů za poslední rok:
- AI-poháněné útoky rostou meziročně o desítky až stovky procent
- jednu z nejvyšších dynamik růstu má „AI-podporovaný phishing“
- kyberútoky na bázi deepfake meziročně narostly o více než 300 %
- bezpečnostní týmy uvádějí, že odhalení takových útoků je výrazně obtížnější
Zajímavé je, že útoky tohoto typu nepotřebují mnoho zdrojů. Zločinci nepotřebují programátory ani hackery, potřebují modely, skripty a tréninková data.
7) Predikce do budoucna
V následujících 3–5 letech lze očekávat několik trendů:
- AI-agentní útoky – autonomní softwaroví agenti provádějící celý řetězec útoku bez člověka
- syntetické identity – dokonalé padělky občanů a zaměstnanců
- útoky proti biometrice – zpochybnění „bezpečných“ metod ověřování
- AI proti AI – obrana bude muset používat AI stejně jako útok
- masová automatizace podvodů – finanční sektor a e-commerce budou hlavní cíle
Pokud dnes ještě existuje okno, kdy jsou obránci schopni reagovat, v budoucnu se toto okno bude zkracovat.
Závěr
Umělá inteligence neudělala kyberútoky složitějšími, udělala je levnějšími, rychlejšími a více dostupnými. V kombinaci s deepfaky, automatizací, personalizací a škálovatelností vzniká prostředí, které zvyšuje rizika pro firmy i jednotlivce.
AI není nepřítel. Problémem je způsob, jakým s ní hazardují ti, kteří mají motivaci škodit. Obrana se musí adaptovat, jinak nás čeká období, kdy bude útočník ve výhodě zcela automaticky. AI sice mění nástroje útoků, ale principy bezpečné infrastruktury zůstávají stejné. V ARIONu řešíme kybernetickou bezpečnost tak, aby byla odolná vůči technologiím zítřka i lidským chybám dneška. Pomůžeme vám se zabezpečením vaší společnosti – ozvěte se nám ZDE.
