Co (ne)umí AI chatboty v podnikové praxi
Zmatení v očekáváních: Nástroje, které nejsou dokonalé
V posledních letech nelze přehlédnout hype kolem generativní AI a zejména konverzačních chatbotů poháněných velkými jazykovými modely. Zdání, že tyto nástroje zvládnou doslova „všechno“, ale naráží na hranice reality. Mnoho firem postupně zjišťuje, že rozdíl mezi vnější jednoduchostí uživatelských rozhraní (například ChatGPT) a skutečnou použitelností v podnikání je propastný.
Tradiční software je deterministický – na stejný podnět vždy reaguje stejně. Například počítání výskytu slov ve Wordu vám dá 100% přesný, opakovatelný výsledek. Oproti tomu generativní AI je nedeterministická: stejnou otázku dokáže dvakrát zodpovědět různě, protože „háda“ nejpravděpodobnější slovo na základě statistik v trénovacích datech.
Dvě zásadní vlastnosti GenAI: Halucinace a neopakovatelná přesnost
Dvě kritické vlastnosti GenAI si musí každá firma dobře uvědomit. Za prvé, AI chatboty občas „halucinují“ a sebevědomě vymýšlí nepřesné informace – například označí špatně čitelnost textu nebo přehlédne výskyt klíčových pojmů v dokumentu. Není to chyba v kódu, ale důsledek způsobu, jak technologie funguje.
Za druhé, není možné očekávat shodné výsledky na identickou instrukci – vždy se objeví variabilita. Pokud tedy potřebujete 100% jistotu a precizní výsledek, je nutné použít klasický software; GenAI zde selže.
Typickým selháním byl pokus najít všechny výskyty slova „cybersecurity“ ve smlouvě pomocí AI Copilotu. Výsledek? Chatbot našel jen 4 z celkových 27 výskytů – zásadní chyba, která by v regulovaném sektoru mohla mít vážné důsledky.
Kdy využít generativní AI pro firemní psaní?
Přesto má generativní AI ve firemní praxi své opodstatnění, ovšem pouze v určitých úlohách. Vyniká tam, kde je žádoucí variabilita, kreativita nebo je „dostatečně dobrý“ výsledek dostačující:
- První hrubé návrhy dokumentů – akční plány, výkonné souhrny, prezentace
- Přepis textu do jiného tónu nebo stylu
- Shrnování dlouhých materiálů
- Zjednodušování nebo přeformulování složitých pasáží
- Základní konkurenční analýzy nebo rešerše z veřejně dostupných zdrojů
Daleko vyšší hodnotu mají AI nástroje zabudované v širších workflow – například kombinace AI pro kreativní návrhy a deterministických nástrojů pro kontrolu faktů, compliance či měření kvality.
Limity práce s daty a bezpečnost: Nejde jen o nástroje
Ani nejlepší AI nedokáže „opravit“ nekvalitní interní data. Pokud jsou vaše znalostní databáze plné zastaralých verzí a špatně škatulkovaných dokumentů, výsledky budou odpovídat kvalitě vstupu. Dodržování pořádku v datech je hlavně otázkou lidského chování, nikoliv softwaru.
Další důležité riziko je bezpečnost. Většina populárních chatbotů běží v cloudu na veřejných modelech. Pro firmy v citlivých odvětvích je vkládání důvěrných či osobních údajů do těchto platforem velké riziko. Řešením je využívat open-source modely nasazené pouze uvnitř vaší firmy, nebo zcela privátní cloud – trend, který potvrzuje i aktuální posun podnikových strategií.
Lidský faktor, procesy a kritické myšlení
Většina AI projektů neztroskotá kvůli technice, ale na lidech a procesech. Chybějící buy-in, špatná strategie, nekvalitní data a nedostatečné školení jsou typické příčiny neúspěchu. Nasazovat AI bez jasného vysvětlení limitů (halucinace, nutnost ověřovat výstupy, jak správně zadávat podněty a na jaké úlohy ji rozhodně nepoužívat) přímo vede ke zklamání a selhání projektu.
Začněte definicí skutečné potřeby a cíle, technologie pak vybírejte podle konkrétních úloh – ne podle největšího hype. Při výběru dodavatelů vždy pátrejte po schopnosti zajistit přesnost, opakovatelnost, zabezpečení a rozumět vašim oborovým specifikům.
Zdroj: TechRadarPro
