Woke AI z pohledu Trumpovy administrativy
Termín „woke AI“ se nově objevil v rámci Bílého domu po představení Amerického akčního plánu pro umělou inteligenci (AI Action Plan) s cílem zajistit vedoucí postavení USA v rostoucím průmyslu umělé inteligence. Přestože je slovo „woke AI“ použito zejména v názvu jednoho z výkonných nařízení, jeho přesná definice v dokumentu chybí a je natolik vágní, že je velmi obtížné jej zákonně kodifikovat. Podle informací od Bílého domu se jedná o AI systémy s výstupy obsahujícími zaujatost zaměřenou na ideologie jako jsou rovnost, začleňování a diverzita (DEI) na úkor přesnosti a objektivity.
Výkonné nařízení zavádí zásady „nezkreslené AI“ (Unbiased AI Principles), mezi něž patří vyhledávání pravdy a ideologická neutralita, které by měly zajistit, že velké jazykové modely (LLMs) nebudou upřednostňovat žádné ideologické pohledy, jako například DEI, pokud k tomu nejsou uživatelsky vyzvány. Trumpova administrativa tak vnímá „woke AI“ jako systémy, které nenaplňují tuto neutralitu a mohla by být penalizována v případě nesplnění požadavků, například ztrátou přístupu k lukrativním vládním zakázkám.
Významnou kritikou tohoto přístupu je možnost ohrožení svobody projevu, jak zdůrazňuje expertka z neziskové organizace Electronic Frontier Foundation. Vládní regulace přístupné informace přes AI může narušovat právo podle Prvního dodatku na svobodný přístup k informacím a nezávislé vyjadřování myšlenek, což je v USA zákonně chráněné.
Politický a kulturní kontext pojmu woke AI
Pojem „woke“ pochází z afroamerické komunity a označoval politické uvědomění o rasové diskriminaci a nespravedlnosti. V posledních letech ho však konzervativci začali používat hanlivě pro označení přílišné politické korektnosti. To vede k výrazným politickým rozporům i vnímání AI.
Zajímavě se ukazuje, že jak liberální, tak konzervativní skupiny mají obavy z předsudků v AI, ale zaměřují se na různé aspekty. Liberálové zrbojí proti diskriminaci v rozhodovacích systémech (např. půjčky, zaměstnání), zatímco konzervativci vnímají jako problém zaujatost proti svým názorům. Elon Musk například upozorňuje, že „woke“ mentality ve vývoji AI modelů může vést k politicky korektním zkreslením faktů.
Vývojáři AI si přitom často neuvědomují své vlastní nevědomé předsudky, které se mohou při výběru dat či trénování modelů nevědomky projevit v modelech. Modely tak spíše odrážejí existující společenské a datové zaujatosti než záměrné programování biasů.
Dopady a očekávání kolem woke AI
Firmy vyvíjející AI mohou podle vládních požadavků omezovat zaujaté výstupy například kontrolou datového vstupu nebo zadáváním speciálních systémových instrukcí. Ukázky z praxe ale dokazují, že tyto přístupy jsou náročné a někdy vedou k problémovým chováním AI, jako u chatbota Groka od xAI, který například vzbudil kontroverze neuvěřitelnými a nevhodnými výroky.
Existuje proto i tlak na vyšší transparentnost v tom, jak jsou modely trénovány a jaké informace používají, což by mohlo pomoci lépe chránit proti zneužití a zároveň podporovat objektivitu a spolehlivost AI.
Pojem „woke AI“ tak symbolizuje aktuální kulturní střet, kde se setkává vývoj technologie s politickými a ideologickými postoji. Bez ohledu na vyhraněný postoj lze očekávat, že termín bude v příštích měsících a letech stále častěji zaznívat v diskuzích o umělé inteligenci.
Zdroj: Mashable
