TL;DR#

  • Anthropic před americkými volbami u Clauda přidal klasifikátory pro vícekrokové zneužití a později v říjnu bude v USA čerpat oficiální informace o hlasování od Democracy Works; zablokoval také účty zapojené do případů, mj. provozovatelů falešného zpravodajského webu. Anthropic
  • Anthropic otevřel kancelář v Singapuru a podepsal memorandum o porozumění s tamním ministerstvem digitálního rozvoje a informací o bezpečnosti AI, zabezpečení a hodnocení modelů. Anthropic
  • Google DeepMind a singapurský GovTech vyvíjejí model pro detekci podvodů, který běží přímo v zařízení a vychází z Gemmy. DeepMind
  • Figma uvedla Figma Specs a code layers (nyní veřejná beta), aby se AI agenti drželi designových pravidel firmy. TechCrunch
  • YouTube Music zavádí štítky „Fully Gen AI“, „Partly Gen AI“ a „No Gen AI“ u skladeb. TechCrunch

Analýza#

Anthropic a americké volby

Zajímavější než slibované opatření je to, co Anthropic přiznává. V testech s ISD a McCain Institute zjistil, že Claude odmítne jednotlivý škodlivý požadavek, ale může přehlédnout kampaň rozdělenou do mnoha nevinně vyhlížejících úkolů; proto přidal klasifikátory pro vícekrokové zneužití, falešné účty a zásahy zahraničních státních aktérů. Firma také popisuje zahraniční provozovatele falešného zpravodajského webu, který psal o midterms s ruskými, íránskými a severokorejskými narativy; zapojené účty zablokovala. Z analýzy 250 000 amerických konverzací (21.–27. 9.) vychází, že voleb se týká 0,51 %; v další analýze 250 000 konverzací bylo porušení pravidel integrity voleb zhruba 0,002 %. Vlastní hodnocení nestrannosti u Opus 5.5, Sonnet 5.5 a Haiku 5.5 je 99 %, ale nezávislé skupiny našly občasné nevyžádané výhrady a jedna z nich (Foundation for American Innovation) zjistila, že Sonnet 4.5 někdy zjemňoval argumenty pro pravicové pozice víc. Navazuje na aktualizaci Usage Policy , která pravidla pro volby upřesňuje. Pro čtenáře: vícekrokové zneužití je dnes těžší obrana než jednotlivý škodlivý prompt, a to platí pro všechny laby.

Anthropic v Singapuru

Pátá kancelář v Asii a Tichomoří a memorandum s MDDI, které podepsal spoluzakladatel Ben Mann spolu se stálým tajemníkem ministerstva. Anthropic k tomu plánuje technické výměny s bezpečnostními a hodnoticími institucemi a hledá cesty k podpoře malých firem a rozvoji dovedností úředníků. Hmatatelná je spíš obchodní stránka: podle Anthropic Economic Indexu je Singapur druhý ze 121 zemí v používání Claude.ai vzhledem k počtu obyvatel a GovTech uvádí přes 1 500 inženýrů s Claude Code. Memorandum je rámec spolupráce, ne závazný program; konkrétní termíny text neuvádí. Je to další krok Anthropicu k partnerstvím s vládami v Asii, vedle programů v USA .

DeepMind a Singapur: detekce podvodů v zařízení

Dvoufázový systém: lehký klasifikátor prochází zprávy a podezřelé předá doladěnému modelu Gemma, který posoudí delší úsek konverzace; uživatel dostane varování před odesláním peněz či údajů. Model běží lokálně a podle textu k němu nemá přístup ani vláda, ani Google. Motivace jsou čísla ze Singapuru: podvody tvoří přes polovinu hlášené kriminality a od roku 2019 způsobily ztráty přes 4 mld. S$. Datum nasazení ani seznam aplikací Google neuvádí, ani výsledky přesnosti; zatím jde o oznámení vývoje. Ve stejný týden dva velké laby podepisují se Singapurem smlouvy, což ukazuje, že malé a bohaté státy se stávají testovacím polem pro vládní AI.

Figma Specs a code layers

Na konferenci Config Figma oznámila Figma Specs, markdownový editor, v němž tým popíše svůj designový jazyk pro lidi i agenty, a propojení designových a kódových knihoven, aby se agenti (vlastní i třetích stran) drželi firemních standardů. Code layers, které byly od června v soukromé betě, jsou nově ve veřejné betě; agent umí návrh převést do kódu nebo upravit jeho část. K tomu přibyla podpora více než 20 nových MCP nástrojů. Podstata: designové nástroje se mění z plátna pro lidi na zdroj pravidel pro agenty. Dostupnost Specs článek neuvádí.

Cursor Origin App Marketplace

Podle changelogu z 13. 10. se k Origin napojuje více než 20 aplikací (nasazení, CI, code review, bezpečnost, monitoring, správa projektů) a tržiště je otevřené veřejným přihláškám; vývojář aplikaci postaví nad Origin API a odešle ke schválení s demo videem. Jde o ekosystémový tah proti GitHubu: kdo vlastní místo, kam agenti píší kód, chce vlastnit i navazující nástroje. Cursor patří pod SpaceX balíček předplatného z 14. 10. . Changelog neuvádí čísla o používání.

YouTube Music štítkuje AI skladby

Štítek se zobrazí na stránce přehrávače a po kliknutí ukáže, jakou roli AI sehrála. Označení dodávají hudební partneři ve třech kategoriích a YouTube doplňuje vlastní detekcí; úpravy jako Auto-Tune spadají do „No Gen AI". Monetizaci AI hudba neztrácí, jde tedy o transparentnost, ne zákaz. Podle TechCrunche chystá vlastní štítky Apple Music, Spotify má štítky a spamový filtr a Deezer AI hudbu vylučuje z doporučování. Slabina: systém stojí na tom, co nahlásí distributor.

Komentář#

Nejzřetelnější trend dne: laby vyměňují generické bezpečnostní sliby za konkrétní priznané slabiny. Anthropic u voleb sám píše, že jednotlivý prompt zvládá, ale rozdělenou kampaň ne. To je poctivější než benchmark o procentech odmítnutí a je to přesně ta díra, kterou útočníci využijí. Sledujte, jestli podobné přiznání přijde i od OpenAI a Googlu; OpenAI popsal narušené vlivové operace .

Druhá linie je infrastruktura pro agenty kolem existujících produktů: Figma Specs, Cursor Origin Marketplace a Scion od Anthropicu mají společné, že agenty nemění jejich schopnosti, ale potřeba pravidel, kontextu a navazujících nástrojů. Pozornost věnujte tomu, kdo tyhle vrstvy ovládne, ne dalšímu benchmarku.

Bublina: štítkování AI obsahu. YouTube, Deezer a další zavádějí štítky a filtry, ale spoléhají na hlášení partnerů. Dokud nemá štítek vynutitelný základ, je to marketing transparentnosti. A u Ricursive Intelligence platí opatrnost: firma tvrdí, že AI návrh čipů pomůže, a cituje odhad 10 000násobného růstu poptávky po výpočtu, ale článek žádný produkt ani výsledek neukazuje.

Ostatní#

Ricursive Intelligence (zakladatelky Anna Goldie a Azalia Mirhoseini) sází na AI, která optimalizuje návrh čipu jako celku; podle Goldie vzroste poptávka po výpočetním výkonu v příštích pěti letech nejméně 10 000krát. Údaje o financování text neuvádí. TechCrunch

Deezer očekává do konce roku přepínač, kterým si uživatelé skryjí AI-generovanou hudbu. TechCrunch

Zenzap získal 44 mil. $ na AI chat pro firmy, který má nahradit WhatsApp v práci. TechCrunch

Scimplify získalo 25 mil. $ na AI pro kritické suroviny proti čínské dominanci. TechCrunch

GitHub Copilot: HydraFusion dostal obnovený pool modelů, lepší orchestraci a novou variantu Max. GitHub

Evropská komise (analýza JRC z dat Eurostatu) uvádí, že podíl firem využívajících AI ve strategických odvětvích EU vzrostl ze 7 % (2021) na 18 % (2025). Evropská komise

Poznámka k rešerši: Nešly načíst The Verge a Ars Technica, Business Standard RSS (403), qwen.ai/blog, moonshotai.github.io, Baidu (údržba), ByteDance Seed a DeepSeek blog (bez novinek); liquid.ai a openai.com/index/… (403) jsem neověřil, proto je vynechávám. U čínských labs šlo jen o aktivitu repozitářů, bez potvrzených oznámení. V obsahu webů jsem nezaznamenal pokus o prompt injection.