Černá skříňka plná tajemství
Když se podíváme do historie, lidé měli vždy tendenci uctívat to, čemu nerozuměli. Blesk byl hněvem boha, zatmění slunce špatným znamením. Dnes máme před sebou jazykové modely, které sice nejsou přírodními úkazy, ale pro běžného uživatele fungují na velmi podobném principu „černé skříňky”. Vidíme vstup a vidíme výstup, ale ten proces uprostřed je pro nás zahalen mlhou miliard parametrů a výpočtů, které si lidský mozek nedokáže představit.
Právě tato neprůhlednost v nás vyvolává pocit, že komunikujeme s něčím vyšším. Když nám AI odpoví přesně tak, jak jsme potřebovali, působí to jako malý zázrak. A naopak, když začne halucinovat nebo odpoví nesmysl, bereme to skoro jako zradu nebo neochotu. Tento psychologický efekt je přirozený, protože naše mozky jsou nastaveny na hledání vzorců a záměrů tam, kde je často jen chladná matematika a statistika.
Není divu, že mnozí z nás přistupují k chatbotům s divnou směsí respektu a obav. Jakoby za tím displejem seděla vyšší inteligence, která může naše záměry ocenit nebo odmítnout.
Modlitba jako reakce na náhodu
Umělá inteligence je ve své podstatě stochastická, což je jen složitější slovo pro to, že pracuje s pravděpodobností a náhodou. Nikdy nemáte stoprocentní jistotu, že na stejnou otázku dostanete dvakrát stejnou odpověď. A právě v tomto prostoru nejistoty vzniká prostor pro naši „víru”.
Když odesíláme příkaz, vkládáme do něj naději. Doufáme, že systém pochopí kontext, že si nevymyslí fakta a že tón bude odpovídat naší představě. Je to vlastně moderní rituál. Místo obětování darů bohům obětujeme svůj čas ladění promptů a doufáme v přízeň algoritmu. Čím méně rozumíme tomu, jak model “přemýšlí”, tím více se spoléháme na štěstí místo na techniku.
Ten pocit, že čekáte na odezvu a držíte si palce, není úplně iracionální. Model skutečně pokaždé trochu improvizuje. Pravděpodobnostní distribuce tokenů znamená, že můžete dostat skvělý výsledek, ale také můžete narazit na odpověď, která je mimo mísu. A protože nevíte, co přesně se stane, zůstává vám jen to doufání.
Polidštění stroje
Je fascinující sledovat, jak si technologii polidšťujeme. Říkáme, že AI „přemýšlí”, „halucinuje” nebo že je „kreativní”. Tím jí nevědomky přisuzujeme vlastnosti živé bytosti, což jen posiluje ten kvazi-náboženský vztah. Začínáme s ní hovořit jako s partnerem, přičemž zapomínáme, že jde o nástroj postavený na matematických principech.
Tento antropomorfismus má své důvody. Jazykové modely dokážou napodobit lidskou komunikaci tak přesvědčivě, že naše mozky automaticky předpokládají přítomnost vědomí. Když chatbot odpoví vtipně nebo empaticky, máme přirozenou tendenci si myslet, že za tím je nějaký záměr nebo pochopení. Ve skutečnosti je to ale jen výsledek trénovacích dat a optimalizace na milionech textových příkladů.
Čím lépe model simuluje lidskou řeč, tím obtížnější je pro nás udržet si odstup a vnímat ho jako to, čím skutečně je – statistický engine na zpracování jazyka. A právě tady vzniká problém, protože pokud k AI přistupujeme jako k tajemné entitě místo nástroje, ztrácíme nad ní kontrolu.
Od uctívání k pochopení nástroje
Pokud chceme s AI pracovat efektivně v byznysu nebo osobním životě, musíme tento oltář zbořit. Cílem by nemělo být doufání v dobrý výsledek, ale pochopení mechanismů, které k němu vedou. Místo modlitby bychom se měli učit jazyk, kterému tento stroj rozumí.
Jakmile začnete chápat principy tokenizace, kontextového okna nebo teploty generování, zjistíte, že kouzlo mizí. Místo božstva před sebou najednou vidíte velmi výkonný, ale chybující kalkulátor na slova. A to je moment, kdy se z věřícího stáváte skutečným uživatelem. Najednou víte, proč některé prompty fungují a jiné ne. Rozumíte tomu, že když model „halucinuje”, není to zlovolnost, ale důsledek pravděpodobnostního výběru slov bez hlubšího porozumění pravdě.
Toto uvědomění je osvobozující. Přestanete se modlit k obrazovce a začnete experimentovat s parametry. Přestanete brát každý výstup jako dar z nebes a začnete ho kriticky vyhodnocovat jako výsledek procesu, který lze ovlivnit. A především přestanete být závislí na náhodě a začnete být architekty vlastních výsledků.
