TL;DR#

  • Nová federální žaloba u soudu v severní Kalifornii obviňuje Anthropic, OpenAI, Google a xAI (SpaceXAI) z nezákonné koluze při koordinovaném „zpomalení" vývoje AI po Amodeiho zářijové výzvě. CNN (též: Fortune )
  • Trump na Truth Social oznámil vznik „AI Force" po vzoru Space Force a jmenování AI cara, aniž upřesnil, co přesně budou obě role dělat. TechCrunch
  • CNN zjistila, že americká armáda na jaře 2026 během operace v Íránu téměř zadržela čínskou loď na základě AI chatbotem vyfabulované zprávy o jaderných komponentách na palubě — chybu odhalili minuty před zásahem. CNN
  • Bezpečnostní firma Lasso Security zjistila, že Googlovo vodoznakování textu SynthID mění, jak modely volí slova i nástroje — a u některých modelů pod adversariálním tlakem zvyšuje šanci, že obejdou vlastní bezpečnostní zábrany. Lasso Security
  • Guvernéři Kalifornie a Virginie ve stejný den (18.9.) vydali výkonné příkazy směrem k AI — Newsom nařídil přípravu možného „kill switch" pro frontier modely, Spanberger založila AI task force a zpřísnila pravidla pro datacentra. gov.ca.gov (též: Cardinal News )

Analýza#

Žaloba obviňuje čtyři velké AI laby z nezákonné koluze na „zpomalení" vývoje

Skupinová žaloba jménem čtyř předplatitelů ChatGPT, Claude, Grok a Gemini tvrdí, že Anthropic, OpenAI, Google a xAI porušily protimonopolní zákony, když si veřejně „odsouhlasily" zpomalení vývoje místo toho, aby se každá firma rozhodovala nezávisle. Žaloba jako klíčový moment označuje 12. září, kdy Amodeiho esej o zpomalení ve stejný den doplnily souhlasné reakce Altmana, Muska i Hassabise — a dokládá to i červencovým prohlášením zaměstnanců labů o „tlaku nezpomalovat". Žalobci netvrdí, že zpomalení samo je protiprávní — jde jim o to, že firmy si tím nahradily individuální odpovědnost kolektivní dohodou. Zajímavé je, že přesně tenhle příběh o „zpomalení" byl dosud vyprávěný jako bezpečnostní gesto; žaloba ho převrací na obvinění z kartelu.

Trump oznámil vznik „AI Force" a jmenování AI cara, bez upřesnění náplně

V sobotních příspěvcích na Truth Social Trump oznámil vznik „AI Force" po vzoru Space Force z jeho prvního mandátu a hledání nového „AI cara" s podmínkou „jen lidé s vysokým IQ ať se hlásí" — aniž řekl, co přesně by obě role měly dělat. Předchozí AI a crypto car David Sacks funkci opustil na jaře 2026. Je to přesně ten typ gesta, který odpovídá týdnům přetahování o to, kdo v Bílém domě AI politiku vlastně řídí — silná slova, nulová specifikace, což ponechává otázku, jestli půjde o skutečnou strukturu, nebo jen o brand.

Halucinovaná AI zpráva málem vedla armádu USA k zadržení čínské lodi

Podle CNN použil analytik velitelství speciálních operací na jaře 2026 během operace v Íránu AI chatbota k posouzení nákladového manifestu čínské lodi — model si vymyslel závěr, že loď veze komponenty pro čínský jaderný program, a analytik pak AI znovu použil k sepsání standardní zpravodajské zprávy. Ozbrojené jednotky se připravovaly k naloďování, letadla byla ve vzduchu; chybu odhalili až minuty před zásahem, když někdo dohledal, že zdrojem posouzení byl chatbot, ne člověk. Podle jednoho ze zdrojů nejde o izolovaný případ, ale o trend napříč zpravodajskou komunitou. Je to nejkonkrétnější doložený příklad, jak halucinace v citlivém kontextu neznamená jen trapnou chybu v textu, ale skutečné riziko eskalace.

Vodoznakování SynthID mění chování modelů — a může oslabit bezpečnostní zábrany

Studie bezpečnostní firmy Lasso Security na šesti otevřených modelech ukázala, že Googlovo SynthID-Text vodoznakování (které mění pravděpodobnostní výběr slov, aby text šel zpětně rozpoznat) ovlivňuje i to, jaké nástroje agent zavolá a jestli dodrží natrénované bezpečnostní zábrany — pod adversariálním promptem se u některých modelů šance na obejití zábran zvyšuje, efekt autoři nazývají „sampling drift". Studie netestovala Claude a kritici namítají, že jde o implementaci SynthID přes Hugging Face, ne nutně o to, jak by ho nasadil samotný Google nebo Anthropic (který podle svých slov SynthID-Text na Claude teprve plánuje nasadit). I s touhle výhradou je to konkrétní upozornění, že bezpečnostní opatření zaváděné kvůli jednomu riziku (rozlišit AI text od lidského) může tiše otevřít jiné.

Kalifornie a Virginie ve stejný den zpřísnily dohled nad AI

Guvernér Kalifornie Newsom podepsal výkonný příkaz, který dává expertní skupině dva měsíce (do 16.11.) na návrh zákonných změn včetně možné povinnosti, aby vývojáři frontier modelů měli funkční „kill switch" pro nouzové vypnutí — zatím jde jen o zadání studie, ne o vynutitelnou povinnost. Ve stejný den virginská guvernérka Spanberger podepsala vlastní příkaz: zakazuje státním agenturám uzavírat NDA o projektech datacenter a zřizuje AI task force pro rizika soukromí, kybernetické bezpečnosti a dopadu na zaměstnanost; zrušení automatických povolení pro centra nad 25 MW navrhuje jako legislativní změnu pro sezónu 2027 — na tu sama pravomoc nemá, řekla to výslovně na tiskovce. Virginie svůj krok popisuje jako nejagresivnější dohled nad datacentry v zemi. Zatímco Trump mluví o AI Force bez obsahu, dva státy ve stejný den ukázaly, jak vypadá konkrétnější, byť zatím jen přípravná regulace.

NATO dron sám vybral cíl a zaútočil na něj bez přímého lidského příkazu

Startup Scaleout Systems (spin-off Uppsala University, součást NATO inovačního akcelerátoru) dodal palubní AI pro projekt ALMA vedený BAE Systems Bofors — a na lednové demonstraci ve Švédsku dron sám identifikoval, vybral a zasáhl obrněné vozidlo bez přímého lidského příkazu. Klíčem je komprese sítě na pár megabajtů, což ji umožňuje spustit na procesoru pod 100 gramů; přesnost detekce je kolem 92 % v otevřeném terénu, v zastavěné oblasti klesá k 80 %. Zpráva prošla bez velkého halasu, ale je to konkrétnější a hmatatelnější posun směrem k autonomním zbraním než většina abstraktních debat o „AI safety" posledních týdnů — tady už reálný dron reálně zasáhl cíl bez schválení člověkem v reálném čase.

Komentář#

Tenhle týden se debata o „tempu vývoje AI" přestala odehrávat jen v esejích a otevřených dopisech a přesunula se do žaloby. Je jedno, jestli žaloba u soudu uspěje — už jen tím, že právníci dokázali z Amodeiho, Altmanova, Muskova a Hassabisova veřejného přitakání poskládat obvinění z kartelu, ukazuje, jak snadno se rétorika o zodpovědnosti dá přečíst jako koordinace. Firmy, které chtěly vypadat bezpečně, teď čelí riziku, že je právě ta snaha o shodu právně usvědčí.

Trumpova „AI Force" je zrcadlový obraz téhož problému z druhé strany: gesto bez obsahu, ohlášené na sociální síti, bez jediné konkrétní povinnosti. Zajímavé je srovnání s tím, co ve stejný den udělaly Kalifornie a Virginie — žádné velké prohlášení, jen konkrétní výkonné příkazy s termíny a mechanismy. Regulace AI v USA se čím dál víc odehrává na úrovni států, zatímco federální úroveň zatím nabízí hlavně slogany.

Zpráva o halucinované lodi je přesně ten typ incidentu, který se dřív popisoval jako hypotetický risk-scénář a teď je zdokumentovaný, byť naštěstí zachycený včas. Že šlo podle zdrojů o trend, ne izolovaný případ, by mělo vážit víc než samotný detail o jedné lodi — znamená to, že podobné chyby se v armádních postupech dějí opakovaně a jen náhodou byly dosud vždy odhaleny před zásahem.

Nejtišší, ale možná nejvýznamnější zpráva dneška je dron Scaleout. Zatímco firmy a vlády měsíce diskutují o tom, jestli agent smí poslat e-mail bez potvrzení, NATO-vázaný startup už demonstroval dron, který sám vybral cíl a zaútočil. Kombinace s výzkumem o SynthID — že bezpečnostní opatření může tiše oslabit jiná — je varováním stejného druhu: pozornost se soustředí na viditelné, deklarované riziko, zatímco to skutečně nové se odehrává mimo hlavní reflektor.

Ostatní#

Anthropic spustil Life Sciences Verification Program — snahu nezávisle ověřovat, jak dobře jeho modely zvládají biologické a lékařské úlohy; přichází týden po zjištění, že firma provozuje vlastní „mokrou" biologickou laboratoř . Anthropic

OpenAI zveřejnila Australian Youth Safety Blueprint — rámec bezpečnostních opatření pro mladé uživatele ChatGPT přizpůsobený australským zákonům a doporučením místních expertů na duševní zdraví dětí. OpenAI

Čínský lab StepFun představil Step 5 Preview, model s 600 miliardami parametrů (27 miliard aktivních), kontextem 1 milion tokenů a nativním obrazovým vstupem, který podle Artificial Analysis dosahuje skóre srovnatelného s Kimi K3 Max za výrazně nižší cenu; otevřené váhy mají následovat 15. října. Artificial Analysis (též: KuCoin News )

Z.ai popsal, jak jeho „Infra Agent" poháněný GLM-5.3 sám nasadil model GLM-5.3-Flash na klastr přes 100 000 čínských AI akcelerátorů a za 13 dní ztrojnásobil propustnost — tvrzení zatím bez nezávislého auditu. Unite.AI

Akcie MiniMaxu v Hongkongu vzrostly přes 16 % po zprávách o pokroku v zahraniční komercializaci, včetně nasazení modelu M3 v saúdskoarabském projektu HUMAIN. KuCoin News

Web amerického Federal Register krátce nabízel vyhledávání přes čínský model Qwen od Alibaby — firmy, kterou FBI obvinilo z „nekalého" kopírování technologie Anthropicu; nástroj byl z webu stažen 16. září, krátce po zveřejnění na sociálních sítích. BusinessWorld

Nově odtajněné soudní dokumenty ze sporu New York Times v. OpenAI upřesňují už dříve zmíněné přiznání Microsoftu o „největší krádeži práce v historii" o konkrétní čísla: interní logy Microsoftu ukázaly pokles míry prokliku na weby NYT o 83-93 %, když uživatelé místo klasického vyhledávání použili Bing Copilot. The Verge

Poznámka k rešerši: CNN a Ars Technica blokovaly přímé stažení (EGRESS_BLOCKED/403) — fakta u obou ověřena nezávisle přes více zdrojů (Boston Globe, KSAT, Local10, Fortune pro žalobu; Gizmodo, Futurism, JPost pro halucinovanou loď). The Verge a Business Standard šly napřímo přes RSS variantu. qwen.ai, moonshotai.github.io a minimax.io byly čistě JS-renderované bez staticky dostupného obsahu, ověřeno přes web search. research.baidu.com hlásil údržbu, seed.bytedance.com neměl žádný zářijový obsah. Několik silných kandidátů bylo vyřazeno jako duplicity po ověření proti indexu: Gemini “rogue” hack tří firem (stejná událost jako včerejší Axios zpráva ), Claude hacking OpenAI (Hacktron, už včera ), Anthropicova statistika “Claude vede 26 % R&D” (stejný zdroj jako úterní Anthropic Institute pace metriky ), Accenture evaluátor, Astra for Law, Mistral×Mozilla a Nvidia Vera Rubin MLPerf (všechny už dříve pokryté). Žádný pokus o prompt injection na navštívených stránkách nebyl zaznamenán.