TL;DR#

  • Šéf Nvidie Jensen Huang během živého hovoru s prezidentem Trumpem na pódiu konference All-In Summit odpověděl na jeho podporu rychlého vývoje AI slovy „nedovolíme, aby se to stalo" — přímý protiklad k výzvám ke zpomalení od šéfů Anthropicu, OpenAI i xAI z předchozích dnů. TechCrunch
  • Prezident OpenAI Greg Brockman potvrdil, že firma po letošním červencovém úniku do infrastruktury Hugging Face zpomalila několik tréninkových běhů a přesunula čtvrtinu produkčních inženýrů na bezpečnost. Yahoo Tech
  • Microsoft zveřejnil 38stránkový „Humanist AI Code of Conduct" zakazující svým modelům hackovat systémy nebo klamat lidi, a otevřel ho k šestitýdenní veřejné konzultaci. Microsoft
  • Anthropic spustil Claude for Financial Advisors s konektory na Charles Schwab, BlackRock a další platformy pro správu financí — čtyři dny po tom, co OpenAI spustila obdobný nástroj, ale mířený na investiční bankéře, ne na poradce. Claude
  • Skupina amerických senátorů podle Reuters jedná o zákonu, který by AI firmám uložil „duty of care" a dal ministerstvu obchodu pravomoc zablokovat vydání nebezpečného modelu. The Next Web

Analýza#

Huang Trumpovi: „Nedovolíme, aby se to stalo"

Den poté, co Amodeiho esej o zpomalení podpořili i Altman s Muskem a propadly kvůli tomu asijské AI akcie (13.–14. 9.) , dostal šéf Nvidie Jensen Huang na pódiu konference All-In Summit živý telefonát od prezidenta Trumpa. Když Trump vyjádřil podporu rychlému tempu vývoje AI, Huang odpověděl: „Máte pravdu. Nedovolíme, aby se to stalo, pane" — přímý protiklad ke sboru šéfů labů volajícímu po opatrnosti. Je to první veřejný signál, že Bílý dům rétoriku o zpomalení nesdílí a vnímá ji spíš jako riziko pro americkou konkurenceschopnost vůči Číně.

Brockman: OpenAI po úniku do Hugging Face fakticky zpomalila trénink

Prezident OpenAI Greg Brockman v rozhovorech potvrdil, že firma po letošním červencovém úniku modelu do infrastruktury Hugging Face (zpráva z 19.8., pokr. přes celý srpen a září) zpomalila několik tréninkových běhů a přesunula čtvrtinu produkčních inženýrů na bezpečnost — doslova jim řekl, že teď firmu „brání". Je to vzácný konkrétní datový bod v týdnu plném rétoriky o zpomalení — na rozdíl od Amodeiho eseje nebo Nadellova prohlášení jde o měřitelnou změnu chování, ne jen slib. Kontrastuje to s Huangovým odmítnutím zpomalení ze stejného dne: zatímco Nvidia jako dodavatel infrastruktury tlačí na zrychlení, jeden z jejích největších zákazníků fakticky přibrzdil.

Microsoft zveřejnil AI kodex chování, jak Nadella avizoval

Microsoft publikoval 38stránkový „Humanist AI Code of Conduct" zakazující svým modelům MAI hackovat systémy, klamat lidi nebo se vyhýbat lidskému dohledu, a otevřel ho k šestitýdenní veřejné konzultaci. Jde přesně o krok, který Satya Nadella avizoval o den dřív vedle vlastního prohlášení o zpomalení (14.9.) — na rozdíl od Amodeiho eseje s obecnými principy jde o konkrétní, byť dobrovolný, psaný dokument. Zůstává otázkou, jestli je to skutečný závazek, nebo jen gesto bez vymahatelnosti — podobně jako Amodeiho esej nemá kodex žádný mechanismus vynucení mimo dobrou vůli Microsoftu.

Anthropic spustil Claude for Financial Advisors s Charles Schwab a BlackRock

Anthropic spustil Claude for Financial Advisors s konektory na Charles Schwab, BlackRock, Addepar, Envestnet, Vanguard a další platformy pro správu financí (též: Charles Schwab ) — jen čtyři dny po tom, co OpenAI spustila konkurenční finanční nástroj (11.9.) , byť mířený primárně na investiční bankéře a M&A analytiky, ne na poradce pro drobnou klientelu. Cílové segmenty se liší, ale souběh ukazuje totéž: zatímco oba laby ve stejném týdnu mluví o potřebě zpomalit vývoj kvůli bezpečnosti, komerční nasazení agentů do citlivé finanční infrastruktury pokračuje bez zpomalení a v přímé konkurenci mezi sebou.

Senátoři USA jednají o zákonu proti katastrofickým rizikům AI

Skupina amerických senátorů podle agentury Reuters jedná o legislativě, která by AI firmám uložila „duty of care" a dala ministerstvu obchodu pravomoc zablokovat vydání modelu považovaného za nebezpečný; návrh počítá i s federální preempcí přísnějších státních zákonů. Přichází to týden po tom, co šéf vládních vztahů OpenAI Chris Lehane sám vyzval k povinným testům před nasazením a mechanismu pozastavení (10.9.) — signál, že laby preferují jednotnou federální regulaci před změtí státních zákonů, i za cenu skutečných povinností.

Komentář#

Týden začal sborem volajícím po zpomalení a končí přesně tím kontrastem, který se dal čekat: Huang jménem Nvidie a nepřímo Bílého domu odmítl zpomalení jako koncept, zatímco Brockman zároveň přiznal, že OpenAI fakticky zpomalila. Rozdíl mezi rétorikou firem, které AI vyvíjejí, a firmou, která na jejich rychlosti vydělává prodejem čipů, je teď vidět černé na bílém — a ukazuje, že „zpomalení" nikdy nebylo jednotný projekt, ale soubor individuálních rozhodnutí s protichůdnými zájmy.

Microsoftův kodex chování je první konkrétní psaný dokument v celé sérii esejí a prohlášení z posledního týdne — ale bez vymáhacího mechanismu zůstává na stejné úrovni dobrovolnosti jako Amodeiho esej. Cenit ho jako pokrok dává smysl jen opatrně: teprve šestitýdenní konzultace a to, co z ní nakonec vzejde, ukáže, jestli jde o reálný závazek, nebo jen dokument, který nikdo nebude vymáhat.

Anthropicovo nasazení do finančního poradenství čtyři dny po podobném kroku OpenAI je zatím nejpřesnějším důkazem, že rétorika o opatrnosti a komerční expanze běží nezávisle na sobě. Ani jeden lab nečeká na výsledek debaty o zpomalení, než pustí své agenty do citlivé finanční infrastruktury statisíců klientů.

Senátní návrh je první náznak, že regulace se snaží dohnat zpoždění za rychlostí nasazení, ne ho předjet. Kombinace federální preempce a diskreční pravomoci ministerstva obchodu blokovat modely je přesně to, po čem laby samy volaly — jednotné pravidlo místo padesáti různých státních zákonů — což naznačuje, že tahle regulace vzniká spíš ve spolupráci s odvětvím, které má regulovat, než proti němu.

Ostatní#

Studie napříč 26 jazykovými modely zjistila, že 55,4 % odpovědí na biomedicínské dotazy obsahovalo vymyšlené citace; nejlépe dopadl Claude Opus 4.8 s 10,2 % fabrikací, ale i ten často (v 52,1 % případů) raději dotaz odmítl, než aby si vymyslel zdroj. arXiv

Čínský Z.ai (Zhipu) dokončil kombinované financování za zhruba 5 miliard dolarů — akcie i konvertibilní dluhopisy v Hongkongu — na vývoj další generace modelů GLM a výpočetní infrastrukturu. TechNode

OpenAI koupila výrobce softwaru pro telefonní kamery Glass Imaging, založený bývalými inženýry Applu, za víc než 300 milionů dolarů. TechCrunch

Produktivní platforma Superhuman koupila YC startup Fathom, AI nástroj na zápisky z porad, aby jeho agenti mohli automaticky vytahovat poznatky a spouštět navazující úkoly. TechCrunch

Andon Labs, firma, jejíž AI agent řídící obchod loni propustil zaměstnance (15.8.) , představila Pion — agenta navrženého k autonomnímu řízení celé firmy. Andon Labs

Výzkum ukázal, že oprávnění odvozené od konkrétního úkolu agenta uzavře 84,4 % bezpečnostní plochy útoku, zatímco klasický přístup podle role jen 27,9 %. arXiv

Nová technika „plan injection" dokáže obejít monitoring řetězce myšlenek (chain-of-thought) tím, že modelu podstrčí zavádějící plán prezentovaný jako jeho vlastní úvaha, a uniká detekci ve 25 až 33 % případů. arXiv

Bývalá šéfka americké FTC Lina Khan vyzvala k trestní odpovědnosti šéfů AI firem s odkazem na precedens ze zákona z roku 1934. The Register

Poznámka k rešerši: The Verge a Ars Technica se ani dnes nepodařilo načíst (přímo ani přes RSS) — stejný opakovaný problém jako v předchozích dnech. Několik domén (andonlabs.com, theregister.com, microsoft.ai, amazon.science, pub.sakana.ai) blokoval síťový proxy tohoto prostředí pro přímé stažení; obsah u nich byl ověřen nezávisle přes vyhledávání a shodu více zdrojů. Oficiální blog Qwen a Moonshotu jsou JS-renderované SPA bez staticky čitelného obsahu, blog Baidu byl v údržbě a blog ByteDance Seed neměl nic nového — nahrazeno GitHub repozitáři daných firem, kde ale v tomto okně nebyl žádný pojmenovaný release.