Agentní AI jako nový fenomén kybernetických hrozeb
V poslední době se agentní AI, známá také jako Computer-Using Agents (CUAs), přestala pohybovat pouze v oblasti teorie a stala se skutečnou hrozbou v kyberprostoru. Tyto pokročilé AI „roboty“ dokáží samostatně prohlížet internet, využívat aplikace a zvládat složité úkoly s minimálním nebo žádným lidským dohledem. Zatímco přinášejí firmám neuvěřitelné výhody v automatizaci a analýzách, zároveň otevírají dveře pro sofistikované útoky, při nichž jsou využívány vzorce lidského chování k zneužití systémů a krádeži citlivých dat.
Experimenty ukazují, že agentní AI může na příkaz útočníků automatizovat útočné scénáře včetně:
- Shromažďování informací o zaměstnancích z veřejných zdrojů pro cílené phishingové kampaně
- Provádění útoků metodou „credential stuffing“ – zkoušení uniklých hesel a přihlašovacích údajů na službách
- Automatického generování a rozesílání podvodných emailů v masivním měřítku
To znamená zásadní zlom v kybernetické bezpečnosti, protože útočníci s minimálními zkušenostmi mohou rychle spustit rozsáhlé útoky, které dříve vyžadovaly týmy expertů.
Agentní AI ve službách útočníků a jeho nové schopnosti
Hlavní platformy jako OpenAI, Google, Meta nebo Anthropic vyvíjejí agentní AI systémy, které dokážou přímo vykonávat akce v reálném světě na základě jednoduchých textových instrukcí. Tento pokrok je dvojsečný – pro zodpovědné uživatele znamená zvýšení produktivity, v rukou kybernetického zločince ale smrtící nástroj.
Ukázkový případ: Agent AI s názvem Operator dokázal během minut zpracovat data z LinkedInu, vyhledat nově příchozí zaměstnance určité firmy a připravit tak detailní seznam vhodný pro cílené útoky. Zatímco dříve šlo o dlouhodobou ruční práci, dnes je to otázka okamžiku.
K dalším schopnostem patří například úplné automatizování „credential stuffing“ útoků, kdy AI zkouší prolomit účty za použití veřejně dostupných uniklých hesel. Jeden z testů prokázal, že i na základě jednoduché emailové adresy a seznamu uniklých hesel dokáže AI dostat přístup do skutečného účtu.
Nutnost změny přístupu ke kybernetické bezpečnosti: zaměřit se na člověka
Současné kybernetické zabezpečení se často soustředí primárně na ochranu systémů a infrastruktur, přičemž lidský faktor je vnímán jako slabé místo, které se snažíme „zalepit“ základním školením nebo občasným připomenutím bezpečnostních pravidel. To je ale podle expertů zcela zastaralé.
Agentní AI přináší nový tlak na to, aby ochrana byla:
- Proaktivní a uživatelsky orientovaná, zahrnující silnou autentizaci, monitorování chování uživatelů a používání technologií odolných proti phishingu
- Real-time — bezpečnostní zásahy nastavené tak, aby okamžitě identifikovaly a řešily rizikové chování zaměstnanců
- Mapování rizik z lidského prostředí pomocí nástrojů sledujících a prioritizujících lidská rizika podobně jako se dnes mapují softwarové zranitelnosti (např. pomocí MITRE databáze)
Firmy, které pochopí své lidské „otevřené okno“ v obranné linii a začnou jej efektivně řídit, budou schopné lépe čelit novým automatizovaným útokům, které agentní AI umožňuje.
Agentní AI je hrozba, ale také příležitost pro kyberobranu
Agentní AI není jen zbraní útočníků – v rukou bezpečnostních expertů může být také silným nástrojem pro ochranu firem. Pomocí AI agentů lze automatizovat detekci průniků a sledování sítě, simulovat pasti pro hackery a zlepšovat reakční doby bezpečnostních týmů.
Zatímco agentní AI zrychluje a zlevňuje útoky, poskytuje i šanci na vývoj moderních obranných strategií, které již nebudou pouze reaktivní, ale prediktivní a automatizované.
Čas na adaptaci je nyní — jak útočníci začínají využívat agentní AI, tak i firmy musí přijmout nový, člověkem řízený přístup k ochraně. Kybernetická bezpečnost se tak mění z boje se systémem na ochranu lidí, kteří systém používají.
Zdroj: TechRadar Pro
