Co když AI trénujeme celou dobu špatně?

Sdílet
Jak měříme a rozvíjíme kognitivní schopnosti – a jak to ovlivňuje trénink umělé inteligence? Nová studie přináší překvapivé zjištění, že důležité schopnosti, které považujeme za univerzální, mohou být silně ovlivněné školním prostředím. To má zásadní dopady i pro to, jak bychom měli přistupovat k vývoji AI systémů.
Co když AI trénujeme celou dobu špatně

Kognitivní schopnosti nejsou jen vrozené, ale hodně formované školou

Často si myslíme, že určité schopnosti našeho myšlení a chování máme od narození a že fungují stejně u všech lidí. Mezi tyto schopnosti patří například plánování, sebeřízení nebo schopnost organizovat si své úkoly. Tyto schopnosti nám pomáhají zvládat složité situace a rozhodovat se.

Nová výzkumná studie ukázala, že způsob, jakým tyto schopnosti měříme, je hodně ovlivněný tím, zda děti chodily do školy a jaké mají kulturní zázemí. V místě, kde část dětí školu navštěvovala a část ne, například v odlehlých oblastech Afriky a v Bolívii, se ukázalo, že školou prošlé děti dosahovaly v testech plánování a sebeřízení podobných výsledků jako děti ze západních zemí. Děti bez školního vzdělání měly v těchto testech podstatně horší výsledky.

Testy, které používáme, hodnotí spíše školní dovednosti než univerzální schopnosti

Běžné testy, kterými měříme tyto kognitivní schopnosti, často vyžadují, aby si dítě zapamatovalo nesouvisející slova nebo řešilo abstraktní problémy běžné právě ve školním prostředí. Dítě z prostředí, kde je důležitější například rozpoznat různé krávy a sledovat rodinné vztahy, proto může v těchto testech obstát velmi špatně. Ne proto, že by bylo „méně chytré“, ale protože se tyto úkoly liší od jeho každodenního života.

Naopak, pokud jim vědci nabídli úkoly přizpůsobené místním podmínkám, jako bylo právě rozpoznání a zapamatování si informací o dobytku, tyto děti uspěly mnohem lépe než děti z městských škol v západních zemích. To potvrzuje, že schopnosti sebeřízení a organizace nejsou pouze vrozené, ale hlavně se učí v konkrétním prostředí.

Co to znamená pro vývoj a trénink AI?

Stejný princip platí i pro umělou inteligenci. Pokud ji trénujeme na datech a úlohách, které odpovídají pouze určité kulturní nebo školní zkušenosti, může se stát, že AI nebude správně fungovat jinde. Může například nesprávně odhadovat situace nebo být „nekompetentní“ v prostředích, které nejsou podobné těm, na kterých byla naučená.

Proto je důležité, aby tvůrci AI i manažeři, kteří technologie nasazují, přemýšleli o tom, co vlastně AI učí a jak ji testují. Není vhodné spoléhat se jen na úlohy známé z jednoho prostředí, protože takové testování může zkreslovat skutečné schopnosti AI a vést ke špatným závěrům.


Zdroj: Phys.org

Zůstaňte v obraze s AI novinkami

Přihlaste se k odběru mého newsletteru a získejte nejnovější tipy, triky a novinky ze světa umělé inteligence přímo do vaší schránky. Žádný spam, pouze hodnotný obsah.

Týdenní přehled novinek

Exkluzivní návody

Slevy na workshopy

Name(Required)
Privacy(Required)

Odesláním souhlasíte se zpracováním osobních údajů. Odhlásit se můžete kdykoliv.

Další články

Další zajímavé články, které by vás mohly zajímat

Jak rozjet ChatGPT Atlas na Windows?

Atlas funguje pěkně jen pro ty s Mac a čipem M. Windows? Zapomeňte. Intel Mac? Taky. OpenAI slíbila revoluci v prohlížení webu, ale když slevíte ze svých představ o tom, že to bude na vašem...

Google plánuje využít naše soukromá data pro přesnější odpovědi umělé inteligence

Představte si, že vyhledávač ví nejen to, co právě hledáte, ale i to, co jste si psali včera s kolegou nebo jaké faktury vám chodí do e-mailu. Google v tom vidí obrovskou příležitost, jak udělat...

Generační rozdíly v používání moderních technologií nemusí být trvalou překážkou

Nová data od společnosti Cisco odhalují zajímavé trendy v tom, kdo vlastně dnes využívá umělou inteligenci naplno. Zatímco mladší generace naskakuje na vlnu inovací s nadšením, starší pracovníci často zůstávají opodál ne kvůli odporu, ale...