Co když AI trénujeme celou dobu špatně?

Sdílet
Jak měříme a rozvíjíme kognitivní schopnosti – a jak to ovlivňuje trénink umělé inteligence? Nová studie přináší překvapivé zjištění, že důležité schopnosti, které považujeme za univerzální, mohou být silně ovlivněné školním prostředím. To má zásadní dopady i pro to, jak bychom měli přistupovat k vývoji AI systémů.
Co když AI trénujeme celou dobu špatně

Kognitivní schopnosti nejsou jen vrozené, ale hodně formované školou

Často si myslíme, že určité schopnosti našeho myšlení a chování máme od narození a že fungují stejně u všech lidí. Mezi tyto schopnosti patří například plánování, sebeřízení nebo schopnost organizovat si své úkoly. Tyto schopnosti nám pomáhají zvládat složité situace a rozhodovat se.

Nová výzkumná studie ukázala, že způsob, jakým tyto schopnosti měříme, je hodně ovlivněný tím, zda děti chodily do školy a jaké mají kulturní zázemí. V místě, kde část dětí školu navštěvovala a část ne, například v odlehlých oblastech Afriky a v Bolívii, se ukázalo, že školou prošlé děti dosahovaly v testech plánování a sebeřízení podobných výsledků jako děti ze západních zemí. Děti bez školního vzdělání měly v těchto testech podstatně horší výsledky.

Testy, které používáme, hodnotí spíše školní dovednosti než univerzální schopnosti

Běžné testy, kterými měříme tyto kognitivní schopnosti, často vyžadují, aby si dítě zapamatovalo nesouvisející slova nebo řešilo abstraktní problémy běžné právě ve školním prostředí. Dítě z prostředí, kde je důležitější například rozpoznat různé krávy a sledovat rodinné vztahy, proto může v těchto testech obstát velmi špatně. Ne proto, že by bylo „méně chytré“, ale protože se tyto úkoly liší od jeho každodenního života.

Naopak, pokud jim vědci nabídli úkoly přizpůsobené místním podmínkám, jako bylo právě rozpoznání a zapamatování si informací o dobytku, tyto děti uspěly mnohem lépe než děti z městských škol v západních zemích. To potvrzuje, že schopnosti sebeřízení a organizace nejsou pouze vrozené, ale hlavně se učí v konkrétním prostředí.

Co to znamená pro vývoj a trénink AI?

Stejný princip platí i pro umělou inteligenci. Pokud ji trénujeme na datech a úlohách, které odpovídají pouze určité kulturní nebo školní zkušenosti, může se stát, že AI nebude správně fungovat jinde. Může například nesprávně odhadovat situace nebo být „nekompetentní“ v prostředích, které nejsou podobné těm, na kterých byla naučená.

Proto je důležité, aby tvůrci AI i manažeři, kteří technologie nasazují, přemýšleli o tom, co vlastně AI učí a jak ji testují. Není vhodné spoléhat se jen na úlohy známé z jednoho prostředí, protože takové testování může zkreslovat skutečné schopnosti AI a vést ke špatným závěrům.


Zdroj: Phys.org

Zůstaňte v obraze s AI novinkami

Přihlaste se k odběru mého newsletteru a získejte nejnovější tipy, triky a novinky ze světa umělé inteligence přímo do vaší schránky. Žádný spam, pouze hodnotný obsah.

Týdenní přehled novinek

Exkluzivní návody

Slevy na workshopy

Name(Required)
Privacy(Required)

Odesláním souhlasíte se zpracováním osobních údajů. Odhlásit se můžete kdykoliv.

Další články

Další zajímavé články, které by vás mohly zajímat

Nejúčinnější AI asistenti dokážou zjednodušit pracovní procesy ve firmě

AI agenti přestávají být jen futuristickou vizí a stávají se každodenní realitou firem po celém světě. Místo jednoduchých odpovědí na otázky dokážou nyní samostatně plánovat, rozhodovat a vykonávat komplexní úkoly. Zjistěte, které AI nástroje nejvíce...

Nový režim Copilot v Edge přináší AI, která aktivně pomáhá při online úlohách

Microsoft přichází s novým experimemtálním režimem Copilot Mode v prohlížeči Edge, který využívá agentní AI schopnosti. Namísto běžného pasivního prohlížení internetu vám AI nabídne aktivní asistenci – od porozumění obsahu na více záložkách po hlasové...

Nová funkce exportu do PDF v ChatGPT přináší revoluci v podnikovém využití

Nová funkce exportu do PDF v ChatGPT řeší dlouhodobý problém podnikových uživatelů Revoluce v podnikovém využití umělé inteligence OpenAI nedávno představila dlouho očekávanou funkci exportu do PDF pro svůj nástroj Deep Research, která zásadně mění...