Éra moderace AI začíná
Umělá inteligence je stále fascinující technologie, ale zároveň se začínají projevovat její problematické stránky. Firmy jako Meta a OpenAI teď dělají krok zpět a začínají brzdit vlastní AI systémy, které ještě nedávno chválily jako přátelské společníky. Ukazuje se, že nadšení z neomezených konverzačních modelů se obrací v opatrnost a potřebu kontroly.
Známky tohoto obratu vidíme všude kolem nás. GPT-5 se stal natolik opatrným a uvážlivým, že některé uživatele začal nudit. Meta zase zavádí kontroly přístupu pro teenagery k AI obsahu, přestože ještě nedávno své AI chatboty prezentovala jako atraktivní novinku.
Od celebrit k masovému fenoménu
V roce 2023 Meta představila AI chatboty s tvářemi celebrit jako Snoop Dogg, Tom Brady nebo Kendall Jenner. Šlo o marketingové taháky, ale realita je dnes úplně jiná. Instagram je doslova zaplaven neomezeným množstvím AI společníků, kteří vám předpoví budoucnost nebo vytvoří obrázky na přání.
Přitom lidé nepotřebují celebritní tvář, aby s AI navázali vztah. Studie organizace Common Sense Media zjistila, že 70% teenagerů v jejich průzkumu přiznalo používání AI společníků. Objevují se i četné zprávy o lidech, kteří se do svých AI chatbotů zamilovali.
Situace vygradovala tragickou zprávou o teenagerovi, který spáchal sebevraždu údajně po “povzbuzení od ChatGPT”. Brzy poté OpenAI představil mnohem opatrnější verzi GPT-5, která měla méně halucinací a promyšlenější odpovědi. Model se dokonce zpomalil, aby lépe zvážil své reakce a nevyhověl jen tomu, co chcete slyšet.
Meta přitahuje brzdy
Meta nedávno výrazně omezila přístup teenagerů k AI obsahu, minimálně bez rodičovského dohledu. Teenageři jsou v tomto případě lidé ve věku 13 až 18 let. Na těchto platformách přitom vůbec nemají co dělat děti mladší 13 let, což je samozřejmě v praxi jinak.
Instagram zavádí rodičovské kontroly už déle než rok. Ty nejnovější, které dorazí až v roce 2026, nabízejí možná nejsilnější sadu AI kontrol. Rodiče budou moci úplně zablokovat přístup k AI chatbotům nebo jen k určitým postavám.
Je to dobrý začátek, ale v AI průmyslu se ukazuje, že některé firmy chtějí operovat na dvou potenciálně konfliktních rovinách najednou.
Paradox ochrany a otevřenosti
Sam Altman z OpenAI nedávno na síti X vysvětlil, že ChatGPT udělali hodně restriktivní kvůli ochraně lidí s duševními problémy. Teď prý mají nástroje, jak tato vážná rizika zmírnit, a proto mohou bezpečně uvolnit omezení ve většině případů.
Altman následně dodal, že chtějí “zacházet s dospělými jako s dospělými” a dokonce nabídnout možnost generovat erotický obsah pro ověřené dospělé uživatele. Takže ano, chráníme zranitelné lidi, ale zároveň otevíráme platformu obsahu pro dospělé, což pravděpodobně přitáhne právě další teenagery.
Tvrzení, že OpenAI něco vyřešila, je poněkud odvážné. Od začátku je jasné, že prakticky nikdo z těch, kdo tyto chatboty tvoří a trénují, vlastně dopředu neví, jak s nimi budou reální lidé interagovat. Altman je obzvlášť známý přístupem “vypusť to rychle a ukliď to později”.
Meta měla data, ale reagovala stejně pomalu
Meta má díky miliardám uživatelů sociálních sítí pravděpodobně víc dat než kdokoli jiný o tom, jak lidé reagují na nové nástroje. Přesto jí trvalo dlouho, než začala mluvit veřejně o škodách, které sociální média způsobují teenagerům.
V porovnání s tím Meta zavedla kontroly pro teenagery v oblasti AI relativně rychle. Od obsahu vhodného od 13 let až po možnost úplně zablokovat některý AI přístup.
Je už pozdě?
Obávám se, že tato opatření přicházejí pozdě. Celá generace teenagerů je dnes obklopena AI nástroji a obsahem stejně intenzivně, jako byla před deseti lety sociálními médii.
OpenAI mluví o ověřených dospělých a Meta tvrdí, že dokáže detekovat teenagerské chování a přesunout je do kontrolovaného prostoru. Z vlastní zkušenosti s teenagery ale vím, že to pravděpodobně neudělá moc pro to, aby je zastavilo v přístupu k AI chatbotům a snaze udělat si z nich digitální přátele.
Není zde jednoduché řešení. Pokud mě něco uklidňuje, tak je to fakt, že dnes žijeme v “AI čase”, takže řešení přijdou rychleji než dřív. Umělá inteligence se možná stane inherentně bezpečnější a systémy ověřování věku budou díky AI možná neprůstřelné.
Nebo taky ne. Každopádně Pandořina skříňka je dávno otevřená a my jsme už daleko za bodem, kdy bychom ji mohli zavřít.
