Většina finančních institucí řeší etiku umělé inteligence a přitom zapomíná na boj s podvody

Sdílet
Umělá inteligence už dávno není jen moderní nálepka pro marketing, v bankách a pojišťovnách dnes reálně pracuje. Přesto se ukazuje, že jen malý zlomek institucí má skutečně neprůstřelný plán, jak ji využívat naplno a hlavně bezpečně. Zatímco automatizace rutiny jede na plné obrátky, v boji proti podvodům technologie překvapivě pokulhává. Pojďme se podívat na to, co bankéře brzdí v rozletu a proč si raději vyvíjejí nástroje sami za zavřenými dveřmi.
Většina finančních institucí řeší etiku umělé inteligence a přitom zapomíná na boj s podvody

Regulace a nedostatek lidí jako hlavní brzda

Při pohledu na bankovní sektor by se mohlo zdát, že digitalizace frčí o sto šest, ale realita uvnitř je o něco střízlivější. Ačkoliv se nástroje založené na AI objevují všude možně, jen mizivých 15% finančních institucí má v ruce skutečně komplexní strategii. To v praxi znamená, že se často implementuje “za pochodu” bez hlubšího ukotvení metodiky, obzvlášť když přijde řeč na využití otevřeného softwaru (open source). Banky zkrátka naráží na tvrdou zeď reality, kterou tvoří přísné předpisy.

Pro každou banku je dodržování zákonů, jako jsou směrnice NIS2, DORA nebo evropský AI Act, naprostou prioritou. Není to jen o tom nedostat pokutu, ale o udržení důvěry. Téměř dvě třetiny firem označují soulad s předpisy za svůj hlavní cíl, ale zároveň se skoro 40% z nich bojí, že jejich současná AI řešení těmto nárokům nevyhoví. Tuto nervozitu ještě prohlubuje fakt, že na trhu zoufale chybí lidé. Třetina organizací přiznává, že nemá dostatek kvalifikovaných expertů, kteří by dokázali AI projekty bezpečně řídit a rozvíjet.

Kde banky AI skutečně využívají a kde překvapivě zaspaly

Když se podíváme na to, co umělá inteligence v bankách reálně dělá, dominuje zde tvrdá automatizace a obchodování. Algoritmy dnes běžně provádějí transakce, sledují cenové rozdíly na trzích a analyzují trendy rychleji než jakýkoliv makléř. Velmi silnou pozici má AI také v kyberbezpečnosti a stále častěji se setkáváme s generativní umělou inteligencí v zákaznickém servisu nebo při tvorbě obsahu. Pomocníkům na bázi AI už dnes důvěřuje skoro 60% institucí i při tak citlivých věcech, jako je schvalování úvěrů nebo hodnocení rizik.

O to víc zarážející je zjištění, že jen menšina firem (41%) nasazuje umělou inteligenci tam, kde by dávala největší smysl – v boji proti finančním podvodům. Máme tu sofistikované předpisy proti praní špinavých peněz (AML) a ověřování klientů (KYC), ale potenciál AI k vyhledávání anomálií a podezřelých transakcí zůstává trestuhodně nevyužitý. Je to paradoxní situace, kdy banky investují do chatbotů, ale “hlídacího psa” v podobě AI často nechávají spát v boudě, přestože právě zde by technologie mohla ušetřit miliardy a zvýšit bezpečnost celého systému.

Etika a snaha udržet technologii pod pokličkou

Pozitivní zprávou je, že finanční svět nebere na lehkou váhu etický rozměr celé věci. Více než polovina společností už sestavila specializované týmy, které mají za úkol dohlížet na to, aby se umělá inteligence chovala “slušně” a férově. Banky si uvědomují, že svěřit rozhodování strojům s sebou nese rizika, a proto polovina z nich masivně investuje do vzdělávání svých zaměstnanců. Chtějí mít jistotu, že lidé budou technologii rozumět, ne se jí jen bát.

Zajímavý trend sledujeme ve způsobu, jakým si banky tyto technologie pořizují. Polovina institucí si svá AI řešení vyvíjí interně a více než čtvrtina vůbec nepouští ke kormidlu externí dodavatele. Je v tom cítit určitá paranoia i snaha mít vše pod absolutní kontrolou. Často zde však narážíme na neznalost pojmů – mnoho firem například vůbec nerozlišuje mezi “otevřenou AI” a “AI postavenou na open source softwaru”. Pokud chce finanční sektor zůstat konkurenceschopný, bude se muset naučit důvěřovat i moderním otevřeným řešením, která přináší flexibilitu, kterou uzavřený vývoj “na koleni” jen těžko dožene.

Zdroj: SystemOnLine

Zůstaňte v obraze s AI novinkami

Přihlaste se k odběru mého newsletteru a získejte nejnovější tipy, triky a novinky ze světa umělé inteligence přímo do vaší schránky. Žádný spam, pouze hodnotný obsah.

Týdenní přehled novinek

Exkluzivní návody

Slevy na workshopy

Name(Required)
Privacy(Required)

Odesláním souhlasíte se zpracováním osobních údajů. Odhlásit se můžete kdykoliv.

Další články

Další zajímavé články, které by vás mohly zajímat

Klarna experimentovala s AI ve vedení i zákaznické podpoře, teď nabírá zaměstnance zpět

Klarna se stala symbolem odvážné digitalizace – prezentovala výsledky přes AI avatara CEO a propustila stovky zaměstnanců ve prospěch umělé inteligence. Dnes však přiznává, že lidský faktor je nenahraditelný, a zaměstnance nabírá zpět. Jaký je...

Budeme muset své city chránit před technologiemi?

Představte si, že umělá inteligence dokáže naprosto přesně číst naše emoce. Jak by to změnilo náš každodenní život, naše vztahy i osobní soukromí? Zamýšlím se nad tím, jaké etické, praktické ale i společenské dopady by...

Umělá inteligence převzala řízení satelitu a sama rozhodovala o snímkování Země

NASA poprvé nechala umělou inteligenci zcela ovládat satelit na oběžné dráze. Systém Dynamic Targeting dokázal během necelých dvou minut vyhodnotit počasí před sebou a rozhodnout, zda má smysl pořizovat snímky Země. Tento přístup šetří čas...