Odborné vysvětlení: Momentum je technika používaná v optimalizačních algoritmech, která přidává část předchozího kroku k aktuálnímu kroku. To pomáhá urychlit konvergenci a překonat lokální minima tím, že “setrvačnost” pohybu v určitém směru přetrvává.
Vysvětlení pro laiky: Momentum je jako když jedete na kole z kopce. Čím déle jedete stejným směrem, tím více nabíráte rychlost. To vám pomůže překonat malé kopečky na cestě dolů. V učení počítačů to znamená, že model získává “setrvačnost” ve směru, kterým se zlepšuje, což mu pomáhá rychleji najít nejlepší řešení a vyhnout se uvíznutí v malých problémech.
Momentum is a technique used in optimization algorithms that adds a fraction of the previous step to the current step. This helps accelerate convergence and overcome local minima by maintaining the “inertia” of movement in a certain direction.
