Anthropic Claude

• Jak bezpečně používat Claude in Chrome a nepřijít o kontrolu nad prohlížečem — Rozšíření Claude in Chrome umožňuje AI asistentovi pracovat přímo ve vašem prohlížeči. Kliká, vyplňuje formuláře, přepíná záložky. S tím ale přichází i rizika, od nechtěných akcí po prompt injection útoky. Tady je praktický návod, jak rozšíření nastavit a používat tak, abyste měli situaci pod kontrolou.
• Claude Dispatch a Computer Use umožňují ovládat AI asistenta z telefonu, zatímco pracuje na vašem počítači — Anthropic posunul svého AI asistenta Claude o výrazný krok dál. Nová funkce Computer Use mu umožňuje klikat, psát a procházet aplikace přímo na vašem počítači. V kombinaci s funkcí Dispatch, která propojuje desktop s mobilním telefonem, vzniká AI agent, kterému zadáte úkol z telefonu a on ho sám dokončí na vašem počítači – i když u něj zrovna nesedíte.
• Stačí 250 zmanipulovaných dokumentů a velký jazykový model se stane zranitelným — Představte si, že by někdo mohl sabotovat chatbota jen pomocí několika set zmanipulovaných textů. Společnost Anthropic ve spolupráci s britskými bezpečnostními instituty zjistila, že k zavedení zadních vrátek do velkého jazykového modelu stačí pouhých 250 škodlivých dokumentů. Velikost modelu ani objem trénovacích dat na tom nic nemění. Co to znamená pro bezpečnost AI?
• Kalifornie nasazuje generativní AI do praxe: od dopravy po zákaznickou podporu — Kalifornie opět potvrzuje svou pozici technologického lídra. Guvernér Gavin Newsom oznámil nasazení generativní umělé inteligence do klíčových oblastí státní správy – od řešení dopravních zácp přes bezpečnost na silnicích až po zrychlení zákaznické podpory. Jaké konkrétní projekty a technologie Kalifornie testuje a co to znamená pro její obyvatele?