AI a rozpoznávání emocí: Nové výzvy pro naši svobodu a důvěru
Rychlý rozvoj technologií dává AI přístup k našim pocitům
Umělá inteligence schopná rozpoznávat lidské emoce už není jen sci-fi. Její využití rychle roste napříč odvětvími – zdravotnictví, bezpečnostní složky a HR oddělení firem. I maloobchod věří, že díky mapování emocí lidí získají přesnější informace pro svá rozhodnutí. V HR je lákavé poznat kandidáty podle jejich mimiky a odhadovat třeba míru „důvěryhodnosti“. Bezpečnostní firmy by rády předvídaly agresi dřív, než skutečně vznikne.
I když dnes technologie zatím není ve všem dokonalá, odborníci se shodují, že pokrok v této oblasti bude rychlý. To zároveň znamená, že je právě teď čas bavit se o etických otázkách i potenciálních dopadech na společnost.
Kdo ovládá naše pocity?
Podle Ph.D. kandidátky Alexandry Prégent je dnes autorita nad vašimi emocemi stále ve vašich rukou. Když například řeknete lékaři, že vás něco bolí, musí na vás vzít ohled, i když lékařské testy souhlas neukazují. Podobně v právu: pokud přesvědčivě projevíte lítost, má to váhu v očích soudce.
Jakmile ale AI začne umět „číst“ i naše skryté emoce, situace se změní. Rozhodování o tom, co vlastně prožíváme, získá nový hráč: technologie, která může mít poslední slovo o našich pocitech. Tím dochází i ke změně základních pravidel společenské interakce. Mnohé naše emoční projevy nejsou jen přesným odrazem vnitřních pocitů, ale i způsobem, jak tvořit a udržovat vztahy s ostatními – například „účelově“ úsměv na kolegu nebo vyznání lásky. Pokud začne technologie rozlišovat mezi tím, co opravdu cítíme, a tím, co projevujeme navenek, může to zásadně narušit naší vzájemnou důvěru.
Chilling effect aneb fenomén sledování
Už samotná představa, že jsme pod dohledem, mění chování lidí. Slavný filozof Michel Foucault popsal „chilling effect“ – tedy situaci, kdy vědomí sledování tlumí naši spontánnost i ochotu otevřeně vyjadřovat názory. V době AI to nabývá nového rozměru, protože sledování už se neděje jen kamerami a mikrofony – nově mohou být pod drobnohledem i naše emoce.
Přestože mladší generace jsou na sledování údajně méně citlivé, nejistota, jestli vaše otázka nebo emoce nejsou právě analyzovány umělou inteligencí v reálném čase, může mít výrazné následky pro atmosféru v práci, školách nebo jakémkoliv veřejném prostředí.
Pozitivní přínosy? Ano, ale rizika nesmíme podceňovat
Rozpoznávání emocí umělou inteligencí rozhodně není černobílé. Technologií lze výrazně pomoci například při diagnostice nemocí jako Parkinson nebo Alzheimer, nebo usnadnit život lidem, kteří mají přirozeně problém číst emoce druhých – například lidem s autismem.
Nicméně nad riziky by neměla vítězit firemní vize velkých technologických gigantů. Každý krok k větší angažovanosti AI v oblasti lidských emocí si zaslouží pozornost nás všech: abychom neztratili právo rozhodovat o tom, kdy a s kým své emoce sdílíme.
Zdroj: Phys.org
