Co když AI trénujeme celou dobu špatně?

Jak měříme a rozvíjíme kognitivní schopnosti – a jak to ovlivňuje trénink umělé inteligence? Nová studie přináší překvapivé zjištění, že důležité schopnosti, které považujeme za univerzální, mohou být silně ovlivněné školním prostředím. To má zásadní dopady i pro to, jak bychom měli přistupovat k vývoji AI systémů.
Co když AI trénujeme celou dobu špatně

Kognitivní schopnosti nejsou jen vrozené, ale hodně formované školou

Často si myslíme, že určité schopnosti našeho myšlení a chování máme od narození a že fungují stejně u všech lidí. Mezi tyto schopnosti patří například plánování, sebeřízení nebo schopnost organizovat si své úkoly. Tyto schopnosti nám pomáhají zvládat složité situace a rozhodovat se.

Nová výzkumná studie ukázala, že způsob, jakým tyto schopnosti měříme, je hodně ovlivněný tím, zda děti chodily do školy a jaké mají kulturní zázemí. V místě, kde část dětí školu navštěvovala a část ne, například v odlehlých oblastech Afriky a v Bolívii, se ukázalo, že školou prošlé děti dosahovaly v testech plánování a sebeřízení podobných výsledků jako děti ze západních zemí. Děti bez školního vzdělání měly v těchto testech podstatně horší výsledky.

Testy, které používáme, hodnotí spíše školní dovednosti než univerzální schopnosti

Běžné testy, kterými měříme tyto kognitivní schopnosti, často vyžadují, aby si dítě zapamatovalo nesouvisející slova nebo řešilo abstraktní problémy běžné právě ve školním prostředí. Dítě z prostředí, kde je důležitější například rozpoznat různé krávy a sledovat rodinné vztahy, proto může v těchto testech obstát velmi špatně. Ne proto, že by bylo „méně chytré“, ale protože se tyto úkoly liší od jeho každodenního života.

Naopak, pokud jim vědci nabídli úkoly přizpůsobené místním podmínkám, jako bylo právě rozpoznání a zapamatování si informací o dobytku, tyto děti uspěly mnohem lépe než děti z městských škol v západních zemích. To potvrzuje, že schopnosti sebeřízení a organizace nejsou pouze vrozené, ale hlavně se učí v konkrétním prostředí.

Co to znamená pro vývoj a trénink AI?

Stejný princip platí i pro umělou inteligenci. Pokud ji trénujeme na datech a úlohách, které odpovídají pouze určité kulturní nebo školní zkušenosti, může se stát, že AI nebude správně fungovat jinde. Může například nesprávně odhadovat situace nebo být „nekompetentní“ v prostředích, které nejsou podobné těm, na kterých byla naučená.

Proto je důležité, aby tvůrci AI i manažeři, kteří technologie nasazují, přemýšleli o tom, co vlastně AI učí a jak ji testují. Není vhodné spoléhat se jen na úlohy známé z jednoho prostředí, protože takové testování může zkreslovat skutečné schopnosti AI a vést ke špatným závěrům.


Zdroj: Phys.org

Chceš dostávat další tipy o AI?

Přihlas se k odběru a zhruba 2x měsíčně ti pošlu to nejlepší ze světa AI.

Name(Required)
Privacy(Required)

Další články

Jižní Korea investuje miliardy do domácí umělé inteligence

Jižní Korea vyčlenila téměř 400 milionů dolarů na vývoj vlastních velkých jazykových modelů. Pět vybraných firem dostalo za úkol vytvořit AI, která bude konkurovat OpenAI nebo Googlu. Vláda přitom neplánuje financovat všechny stejně dlouho. Každých šest měsíců se budou výsledky vyhodnocovat a ti nejúspěšnější pokračují dál. Nakonec zbydou jen dva vítězové. Co stojí za touto strategií a jak na to jdou místní hráči?

Celý článek >

Umělá inteligence nedokáže nahradit weby, ale výrazně usnadňuje jejich tvorbu

Každých pár let se objeví nová technologie, která má „zabít” webové stránky. Nejdřív to byly mobilní aplikace, pak Facebook, chatboti, hlasové asistentky. Teď je řada na umělé inteligenci. ChatGPT a podobné nástroje skutečně dokážou odpovědět na otázky rychleji než procházení několika webů, ale znamená to konec webových stránek? Historie nás učí něco jiného.

Celý článek >

Nejúčinnější AI asistenti dokážou zjednodušit pracovní procesy ve firmě

AI agenti přestávají být jen futuristickou vizí a stávají se každodenní realitou firem po celém světě. Místo jednoduchých odpovědí na otázky dokážou nyní samostatně plánovat, rozhodovat a vykonávat komplexní úkoly. Zjistěte, které AI nástroje nejvíce pomáhají profesionálům automatizovat rutinní práci a soustředit se na skutečně důležité rozhodování.

Celý článek >