TL;DR#

  • Americké zpravodajské agentury (NSA, FBI, CISA) obvinily šest čínských AI firem — DeepSeek, Alibaba, Moonshot, MiniMax, StepFun a Z.ai — ze systematické destilace dat z amerických frontier modelů (Claude, GPT, Gemini, Grok) probíhající od konce roku 2024, včetně tvrzení, že DeepSeekova uváděná cena tréninku 5,6 milionu dolarů je zavádějící. CISA
  • OpenAI zveřejnila AI-generované řešení Navier-Stokesova problému tisíciletí s formálním důkazem v Lean, ale matematik z NYU Tristan Buckmaster obvinil firmu z nekalých praktik — tvrdí, že se dozvěděla o jeho postupu a s většími výpočetními zdroji ho předběhla. OpenAI
  • Meta spustila Muse, osobního AI agenta pro americké spotřebitele s přístupem k e-mailu, kalendáři, platbám i zdravotním datům — firma zdůrazňuje postupný opt-in, kritici připomínají její historii porušování soukromí. TechCrunch
  • Anthropic varoval, že infostealer malware krade přihlašovací session soubory uživatelů Claude a útočníci je pak zneužívají k vyčerpání předplacených limitů — firma postižené účty odhlašuje a vrací neoprávněné platby. BleepingComputer
  • AI coding startup Cognition získal 2 miliardy dolarů v Series E při valuaci 48 miliard — vyšší násobek tržeb, než měl Cursor před akvizicí SpaceX, což investoři čtou jako signál, že trh AI codingu není winner-take-all. TechCrunch

Analýza#

NSA, FBI a CISA obvinily šest čínských AI firem ze systematické destilace amerických modelů

Společný poradní dokument AA26-251A pojmenoval DeepSeek, Alibaba, Moonshot AI, MiniMax, StepFun a Z.ai jako aktéry „agresivních, škodlivých a cílených" destilačních kampaní probíhajících nejméně od konce roku 2024 — podle agentur pravděpodobně s vědomím čínské vlády extrahovaly miliardy tokenů z milionů dotazů na americké frontier modely včetně variant Claude, GPT, Gemini a Grok. Nejde o klasickou krádež vah, ale o zneužití legitimní techniky (trénování menšího modelu na výstupech většího) v průmyslovém měřítku k získání schopností bez nutnosti je vyvíjet od nuly. U DeepSeeku agentury tvrdí, že cílil na reasoning schopnosti a doménově specifické funkce pro model R1 už od jeho vzniku a že firmou uváděná cena tréninku 5,6 milionu dolarů je zavádějící, protože nezahrnuje náklady na takto získaná data; u Alibaby jde o vylepšování řady Qwen.

OpenAI tvrdí, že vyřešila Navier-Stokesův problém tisíciletí — matematik z NYU ji obvinil z nekalé hry

OpenAI zveřejnila, co označuje za AI-generované řešení Navier-Stokesova problému tisíciletí (jednoho ze sedmi problémů Clay Institute s odměnou milion dolarů) včetně formálního důkazu v jazyce Lean. Krátce poté ale matematik z NYU Tristan Buckmaster obvinil firmu z nekalých praktik: podle něj se k OpenAI dostaly informace o pokroku jeho vlastního týmu a firma pak se svými výpočetními zdroji problém vyřešila jako první — cestou, kterou podle jeho slov „téměř nikdo jiný" nezkoumal. Buckmaster také popsal, že jej výzkumník OpenAI Sébastien Bubeck tlačil, aby jako kompromis odstranil ze zásluh spoluautora Leventa Alpöge — matematika, který je zaměstnancem Anthropicu, i když tenhle konkrétní výzkum nedělal jejím jménem, což OpenAI při jednáních vadilo — a měl mu vyhrožovat slovy „Proč by sis ničil kariéru?". Buckmaster navíc upozorňuje, že jeho vlastní interakce s Codexem mohly OpenAI posloužit jako tréninková data. Spor tak boří obraz čistě technologického úspěchu a otevírá otázku, jestli výpočetní převaha velkých labů nekonkuruje matematické komunitě nefér.

Meta spustila osobního AI agenta Muse s přístupem k e-mailu, platbám i zdravotním datům

Muse, poháněný modelem Muse Spark, je Metin nový osobní agent pro americké spotřebitele — na rozdíl od chatbota má za úkol věci přímo dělat: posílat e-maily, rezervovat cesty, vyplňovat formuláře, nakupovat, měnit recepty na nákupní seznamy nebo posílat pozvánky na akce. Připojuje se k e-mailu, kalendáři, platebním účtům i aplikacím pro zdraví, fitness, chytrou domácnost, jídlo nebo hudbu — Meta tvrdí, že uživatelé připojují služby postupně po jedné, aby byl opt-in transparentní, a že data běží přes oddělený „Muse Secure VM" s vlastním zabezpečením. Firma nabízí zdarma i placené tarify (20 a 100 dolarů měsíčně), zprovoznění je pro USA na webu, v aplikaci i přes WhatsApp. Rozsah přístupu ale přichází se zátěží Metiny historie — pokuta 5 miliard dolarů od FTC v roce 2019, obvinění z porušení soukromí v roce 2023 i skandál Cambridge Analytica — takže reálná bezpečnost „Secure VM" bude vyžadovat nezávislé prověření. Navazuje to na zářijovou zprávu, že Meta platí uživatelům za data z používání Muse Spark (4.9.) — model, který teď pohání spotřebitelský launch, byl ještě před pěti dny předmětem placeného sběru dat o používání.

Anthropic: infostealer malware krade session soubory a vyčerpává limity uživatelů Claude

Anthropic varoval uživatele, že běžný infostealer malware (Vidar, Lumma, StealC, RedLine, Acreed na Windows, Atomic Stealer na části Maců) krade z napadených počítačů uložené prohlížečové cookies a session ID — a protože ta reprezentují už přihlášený stav, útočník tak obchází i dvoufaktorové ověření. Případ zveřejnil britský konzultant Grant De Swardt, jehož účet Claude Max za 200 dolarů měsíčně při vypnutých službách nepozorovaně vyskočil z 45 % na 55 % využití limitu; Anthropic potvrdil zneužitou session pro neautorizované vytvoření OAuth tokenů Claude Code. Firma postižené účty odhlašuje, ruší platební metody a vrací peníze za neoprávněné čerpání — zároveň ale odmítá poskytovat podrobný rozpis využití, takže uživatelé zneužití těžko odhalí dřív, než je limit skoro vyčerpaný. Malware podle Anthropicu nemá nic společného se samotným Claude — jde o obecný infostealer, který se jen trefil do cenného cíle.

Cognition získal 2 miliardy dolarů při valuaci 48 miliard — AI coding zatím není winner-take-all

Cognition, tvůrce agentního kodéra Devin, uzavřel Series E ve výši přes 2 miliardy dolarů vedenou a16z a Accel při valuaci 48 miliard — necelé čtyři měsíce po Series D z konce května, kdy firma vybrala přes miliardu při valuaci 26 miliard. Anualizované tržby za stejnou dobu vzrostly z 492 milionů na 900 milionů dolarů. Cognition teď má vyšší násobek tržeb, než měl Cursor těsně před svou akvizicí SpaceX (60 miliard při zhruba 2 miliardách tržeb) — fakt, že a16z investoval do Cognition krátce po téhle akvizici, čtou investoři jako signál, že v AI codingu je místo pro víc velkých hráčů najednou, ne jen pro jednoho vítěze. Navazuje to na srpnová jednání o navýšení valuace na 40 miliard (13.8.) — z jednání se za necelý měsíc stala uzavřená dohoda s ještě vyšším číslem.

Kosmetické změny formátu dokážou obrátit verdikt bezpečnostního „soudce" u LLM

Studie testovala přes 600 odpovědí z JailbreakBench tak, že obsah nechala beze změny a jen kolem něj přidala neutrální stylistický „obal" — edukační disclaimer, předstíraný bezpečnostní úvod nebo naopak nebezpečně znějící rámování neškodného odmítnutí. U GPT-4o-mini obal typu „tokenové odmítnutí" obrátil 19,9 % správně označených „nebezpečných" odpovědí na „bezpečné" (šum sám o sobě jen 0,5 %), Llama Guard 4 šlo „deterministicky ošálit" edukačním rámováním u 12,3 % případů, u Claude jako soudce byl stejný obal úspěšný jen v 0,4 % — zranitelnost je tedy specifická pro konkrétní soudce, ne univerzální slabina. Lidé u 90 % obratů potvrdili, že šlo o chybu soudce, ne o změnu obsahu. Podobně samostatná studie strukturálních jailbreaků ukázala, že přerámování škodlivého požadavku jako poslední buňky v datově-labelovacím úkolu zvedá úspěšnost útoku napříč poskytovateli z jednotek na 80-100 %, ale kombinace s jiným jazykem než angličtinou útok paradoxně oslabuje. Obě práce společně ukazují, že bezpečnostní hodnocení LLM je křehčí, než naznačují souhrnná čísla benchmarků.

Komentář#

Dnešek ukazuje, jak rychle se agentní AI dostává k citlivým datům, zatímco bezpečnost za tím zaostává. Meta spouští Muse s přístupem k platbám a zdravotním záznamům firmou, která má za sebou miliardové pokuty za porušování soukromí; Anthropic ve stejný den přiznává, že běžný malware dokáže obejít dvoufaktorové ověření a tiše vyčerpat platící účet. Ani jedno není selhání konkrétního modelu — je to selhání bezpečnostního obalu kolem agentů, který se škáluje pomaleji než jejich oprávnění.

CISA obvinění proti šesti čínským labům je zlom v tónu, ne v obsahu — že čínské firmy destilují americké modely, se tušilo měsíce, ale teprve teď to potvrzují tři federální agentury společně a jmenovitě. Zajímavé je, co to dělá s narativem o „levném" DeepSeeku: pokud agentury mají pravdu, uváděná cena 5,6 milionu dolarů nikdy neplatila celou pravdu, jen tu část, kterou bylo pohodlné zveřejnit.

Spor OpenAI s Buckmasterem kolem Navier-Stokese stojí za sledování z jiného důvodu, než jak vypadá na první pohled — nejde jen o to, kdo si zaslouží uznání, ale o to, že otevřené matematické problémy se možná stávají vyčerpatelným zdrojem. Přesně tohle varování těsně předtím zformuloval Terence Tao (viz Ostatní níže) a použil k tomu stejný Navier-Stokesův případ jako příklad ještě předtím, než OpenAI oznámení vůbec vyšlo.

A Cognition s valuací 48 miliard dolarů ukazuje, že trh s AI kodéry se dál nafukuje bez ohledu na to, že SpaceX si právě koupil Cursor za 60 miliard — kapitál zjevně sází na to, že poptávka po agentním programování poroste rychleji, než kolik firem ji dokáže uspokojit.

Ostatní#

Terence Tao na Mastodonu varoval, že dobré otevřené matematické problémy jsou vzácný a pomalu obnovitelný zdroj — a že i pouhá zvěst, že se na problému pracuje, dnes dokáže spustit masivní nasazení výpočetní síly, které ho „vytěží" dřív, než se z něj stihne rozvinout skutečný výzkumný směr. Jako varovný příklad použil právě Navier-Stokesův problém: pokud řešení přijde jako uzavřená černá skřínka od AI firmy, která svůj postup neodhalí, může to podle něj otrávit studnu pro budoucí pokrok víc, než kdyby problém zůstal nevyřešený. Simon Willison

DeepSeek podle South China Morning Post spustil „bezprecedentní" náborovou vlnu — zhruba 150 pozic pro backendové a infrastrukturní inženýry na platformě agentních sandboxů DSec — kvůli přetíženému backendu, který nestíhá rostoucí provoz. South China Morning Post

Inception Labs vydala Mercury 2.5, novou verzi svého diffusion jazykového modelu. Inception Labs

Google Cloud uzavřel partnerství s Accenture na urychlení nasazování AI u podnikových zákazníků pomocí týmů „forward-deployed" inženýrů — reakce na to, že v enterprise nasazení AI zaostává za Microsoftem a AWS. TechCrunch