Co když AI trénujeme celou dobu špatně?

Jak měříme a rozvíjíme kognitivní schopnosti – a jak to ovlivňuje trénink umělé inteligence? Nová studie přináší překvapivé zjištění, že důležité schopnosti, které považujeme za univerzální, mohou být silně ovlivněné školním prostředím. To má zásadní dopady i pro to, jak bychom měli přistupovat k vývoji AI systémů.
Co když AI trénujeme celou dobu špatně

Kognitivní schopnosti nejsou jen vrozené, ale hodně formované školou

Často si myslíme, že určité schopnosti našeho myšlení a chování máme od narození a že fungují stejně u všech lidí. Mezi tyto schopnosti patří například plánování, sebeřízení nebo schopnost organizovat si své úkoly. Tyto schopnosti nám pomáhají zvládat složité situace a rozhodovat se.

Nová výzkumná studie ukázala, že způsob, jakým tyto schopnosti měříme, je hodně ovlivněný tím, zda děti chodily do školy a jaké mají kulturní zázemí. V místě, kde část dětí školu navštěvovala a část ne, například v odlehlých oblastech Afriky a v Bolívii, se ukázalo, že školou prošlé děti dosahovaly v testech plánování a sebeřízení podobných výsledků jako děti ze západních zemí. Děti bez školního vzdělání měly v těchto testech podstatně horší výsledky.

Testy, které používáme, hodnotí spíše školní dovednosti než univerzální schopnosti

Běžné testy, kterými měříme tyto kognitivní schopnosti, často vyžadují, aby si dítě zapamatovalo nesouvisející slova nebo řešilo abstraktní problémy běžné právě ve školním prostředí. Dítě z prostředí, kde je důležitější například rozpoznat různé krávy a sledovat rodinné vztahy, proto může v těchto testech obstát velmi špatně. Ne proto, že by bylo „méně chytré“, ale protože se tyto úkoly liší od jeho každodenního života.

Naopak, pokud jim vědci nabídli úkoly přizpůsobené místním podmínkám, jako bylo právě rozpoznání a zapamatování si informací o dobytku, tyto děti uspěly mnohem lépe než děti z městských škol v západních zemích. To potvrzuje, že schopnosti sebeřízení a organizace nejsou pouze vrozené, ale hlavně se učí v konkrétním prostředí.

Co to znamená pro vývoj a trénink AI?

Stejný princip platí i pro umělou inteligenci. Pokud ji trénujeme na datech a úlohách, které odpovídají pouze určité kulturní nebo školní zkušenosti, může se stát, že AI nebude správně fungovat jinde. Může například nesprávně odhadovat situace nebo být „nekompetentní“ v prostředích, které nejsou podobné těm, na kterých byla naučená.

Proto je důležité, aby tvůrci AI i manažeři, kteří technologie nasazují, přemýšleli o tom, co vlastně AI učí a jak ji testují. Není vhodné spoléhat se jen na úlohy známé z jednoho prostředí, protože takové testování může zkreslovat skutečné schopnosti AI a vést ke špatným závěrům.


Zdroj: Phys.org

Chceš dostávat další tipy o AI?

Přihlas se k odběru a zhruba 2x měsíčně ti pošlu to nejlepší ze světa AI.

Name(Required)
Privacy(Required)

Další články

Stačí 250 zmanipulovaných dokumentů a velký jazykový model se stane zranitelným

Představte si, že by někdo mohl sabotovat chatbota jen pomocí několika set zmanipulovaných textů. Společnost Anthropic ve spolupráci s britskými bezpečnostními instituty zjistila, že k zavedení zadních vrátek do velkého jazykového modelu stačí pouhých 250 škodlivých dokumentů. Velikost modelu ani objem trénovacích dat na tom nic nemění. Co to znamená pro bezpečnost AI?

Celý článek >

Jak firmy využívají AI agenty a proč má ChatGPT v Evropě takovou převahu?

Umělá inteligence vstoupila do firem ve formě AI agentů, kteří fungují jako digitální kolegové schopní samostatně řešit úkoly. Zároveň se rozhořela bitva o evropský trh, kde ChatGPT ovládá téměř 85 procent. Francouzský Le Chat chce být evropskou alternativou, ale cesta k úspěchu není jednoduchá. Co musí firmy udělat, aby z AI agentů vytěžily maximum? A komu nakonec budou evropské organizace důvěřovat?

Celý článek >

Suno Studio nabízí profesionální hudební tvorbu s pomocí umělé inteligence

Společnost Suno představila revoluční platformu Suno Studio, kterou označuje za první generativní audio pracovní stanici na světě. Tento nástroj spojuje tradiční možnosti hudebních editorů jako GarageBand s pokročilým AI generováním hudby. Stačí hrubý nápad, broukat melodii nebo zadat textový popis a umělá inteligence vytvoří kompletní skladbu. Platforma je dostupná pro prémiové předplatitele za 30 dolarů měsíčně.

Celý článek >