kybernetická bezpečnost AI

• Nejdřív Anthropic, teď OpenAI. Washington blokuje další nejsilnější AI — Nejvýkonnější jazykové modely se začínají chovat jako citlivá technologie pod dohledem státu. OpenAI má podle Financial Times vypustit nový model GPT 5.6 po etapách a první partnery jí musí schválit americká vláda. Jen pár dní předtím dopadly exportní kontroly na Anthropic a jeho modely Fable a Mythos. Pro firmy z toho plyne jasný signál o tom, jak křehký je dnes přístup k té nejlepší AI.
• Trestní zákoník konečně reaguje na hrozby umělé inteligence a zneužití deepfake videí — Představte si situaci, kdy se internetem šíří video, ve kterém pronášíte slova, jež jste nikdy nevyslovili. Nebo ještě hůř, intimní záběry, které ve skutečnosti neexistují. Děsivá představa, že? Dlouho se zdálo, že právo je na tyto moderní technologie krátké a oběti nemají zastání. To se ale s příchodem roku 2026 mění. Český trestní zákoník zavádí přísné postihy pro tvůrce deepfake obsahu. Podívejme se společně na to, co přesně nová legislativa znamená pro vaši firmu, bezpečí i digitální soukromí.
• Stačí 250 zmanipulovaných dokumentů a velký jazykový model se stane zranitelným — Představte si, že by někdo mohl sabotovat chatbota jen pomocí několika set zmanipulovaných textů. Společnost Anthropic ve spolupráci s britskými bezpečnostními instituty zjistila, že k zavedení zadních vrátek do velkého jazykového modelu stačí pouhých 250 škodlivých dokumentů. Velikost modelu ani objem trénovacích dat na tom nic nemění. Co to znamená pro bezpečnost AI?
• OpenAI spustil prohlížeč s bezpečnostními problémy, před kterými sám varuje — OpenAI před týdnem uvedl svůj nový ChatGPT Atlas browser pro širokou veřejnost. Během 72 hodin sedm bezpečnostních firem objevilo kritické zranitelnosti. Atlas selhává v 94,2% testů proti phishingovým útokům, zatímco Chrome jich zastaví 47%. OpenAI sám varuje, aby lidé nepoužívali Atlas s citlivými daty.
• Jak stínová AI zvyšuje náklady na únik dat a co s tím mohou firmy dělat — Stínová AI, tedy neautorizované či neviditelné využívání umělé inteligence v organizacích, se stává výrazným bezpečnostním rizikem s náklady vyššími o 670 tisíc dolarů na bezpečnostní incident. Přes rychlý nástup AI vůbec většina firem nemá zavedené základní kontroly ani auditní procesy, což je pro hackery příležitost ke scénářům s hlubokou škodlivostí. Článek rozebírá nejnovější data ze studie IBM, která přináší jasná doporučení, jak situaci řešit.