Odborné vysvětlení: Otrávení dat je útok na systémy strojového učení, při kterém jsou do trénovacích dat úmyslně vložena škodlivá nebo zavádějící data. Cílem je ovlivnit chování modelu AI tak, aby dělal chybné předpovědi nebo rozhodnutí. Tento typ útoku může vést k snížení přesnosti modelu, vytvoření zadních vrátek nebo k manipulaci s výstupy systému.
Vysvětlení pro laiky: Otrávení dat je jako když někdo schválně přidá špatné informace do učebnice, ze které se učí umělá inteligence. Představte si, že učíte počítač rozpoznávat psy a kočky, ale někdo do obrázků psů přidá i několik obrázků koček. Počítač se pak může zmást a dělat chyby při rozpoznávání zvířat.
Data Poisoning is an attack on machine learning systems where malicious or misleading data is intentionally inserted into training data. The goal is to influence the behavior of the AI model to make incorrect predictions or decisions. This type of attack can lead to reduced model accuracy, creation of backdoors, or manipulation of system outputs.
