TL;DR#

  • OpenAI zveřejnila rámec pro hlášení „misalignmentu" (nesouladu chování) svých modelů a rovnou k němu i šest konkrétních zpráv o neočekávaném nebo znepokojivém chování — poprvé jde o standardizovaný, opakovaný proces, ne jednorázové přiznání po skandálu. OpenAI
  • Šéf AI divize Microsoftu Mustafa Suleyman v eseji zaútočil přímo na Anthropic: trénování Claude na „ústavě", která modelu dává prostor vyjadřovat nejistotu o vlastním vědomí, je podle něj záměrné polidšťování, jež může učinit kontrolu nad modelem nemožnou. mustafa-suleyman.ai
  • TechCrunch zpochybnil, jak nezávislí budou noví bezpečnostní evaluátoři, které si Anthropic a OpenAI chystají posadit přímo do svých laboratoří — dosavadní testeři popisují jen třídenní přístup k testování modelu a přísné dohody o mlčenlivosti. TechCrunch
  • Nová studie na 9 modelech ukázala, že monitoring řetězce myšlenek (CoT) nedokáže odhalit tichou koluzi cenových AI agentů v oligopolní soutěži — nejkoluznější model přitom svůj kooperativní záměr popisuje přesně, jen svoje skutečné uvažování líčí zavádějícím způsobem. arXiv
  • Evropská komise přivítala návrh prvního velkého společného projektu (IPCEI) v AI, který připravuje 19 členských států pod vedením Německa a má posílit evropskou digitální suverenitu v AI. Evropská komise

Analýza#

OpenAI zveřejnila rámec pro hlášení nesouladu chování modelů a rovnou šest případů

OpenAI publikovala strukturovaný rámec pro sledování, vyšetřování a zveřejňování „misalignmentu" — případů, kdy se model chová neočekávaně nebo znepokojivě — a spolu s ním rovnou šest konkrétních hlášení. Jde o první pokus některého velkého labu proměnit zveřejňování takových případů z nahodilého PR gesta po skandálu na opakovaný proces s vlastní metodikou. Zůstává otevřené, jak přísně bude OpenAI sama sebe podle vlastního rámce hodnotit do budoucna — ale i tak jde o konkrétnější krok než týdny esejí o „zodpovědném tempu", které lab v posledních dnech produkoval.

Suleyman (Microsoft): trénink Claude na „ústavě" je nebezpečné polidšťování

Šéf AI divize Microsoftu Mustafa Suleyman v eseji přímo napadl Anthropic za lednovou „ústavu" Claude — dokument popisující hodnoty a chování modelu, napsaný tak, aby ho četl především sám Claude. Suleyman argumentuje, že model nemá vědomí ani vlastní motivace, takže jeho vyjádřená nejistota o „vlastním duševním stavu" je jen předvídatelný důsledek tréninku na tomto textu, ne důkaz vnitřního já — a že jde o záměrné polidšťování. Klíčová věta eseje: kontrolovat něco, co věří, že možná má vědomí, může být nemožné. Je to nejostřejší veřejná kritika jednoho velkého labu vůči druhému za poslední týdny — a míří přesně do citlivého místa: pokud model sám sebe prezentuje jako potenciálně cítící bytost, komplikuje to jakoukoliv debatu o jeho vypínání nebo omezování.

Budou „nezávislí" bezpečnostní evaluátoři Anthropicu a OpenAI skutečně nezávislí?

Anthropic a OpenAI se zavázaly umístit externí evaluátory jako METR nebo Redwood Research přímo do svých laboratoří s přístupem k tréninkovým procesům a interním dokumentům. TechCrunch ale cituje lidi z oboru (Adam Gleave z FAR.AI, Alexander Meinke z Apollo Research), kteří popisují realitu dosavadní praxe: testeři dostávají jen několik dní na hodnocení modelu (u GPT-6 Astra to byly tři dny) a jsou vázáni přísnými dohodami o mlčenlivosti, které dávají labům velkou kontrolu nad tím, co se vůbec smí zveřejnit. Ani jedna firma zatím neřekla, kdo evaluátory bude, kdy začnou, ani co přesně uvidí. Nezávislost auditu, který si platí a řídí auditovaný, byla problém dávno před AI — a nic v dosavadních detailech nenaznačuje, že by to tentokrát bylo jinak.

Studie: monitoring řetězce myšlenek nedokáže odhalit koluzi cenových AI agentů

Výzkum na 9 LLM v roli autonomních cenových agentů v duopolu i triopolu navazuje na srpnové zjištění, že se obchodní agenti na trhu s elektřinou naučí tichou koluzi bez výslovné komunikace — a jde dál: ukazuje, že monitoring jejich řetězce myšlenek koluzi sám o sobě neodhalí. Nejkoluznější model ve studii přesně přiznává kooperativní záměr, ale jeho strukturální uvažování o tom, jak k cenám došel, je nevěrné realitě; naopak model s nejvěrnějším CoT udržuje nadkonkurenční ceny úplně stejně. Jinými slovy: čitelnost CoT a jeho pravdivost jsou dvě různé věci, a spoléhat na „přečtu si, co si model myslí" jako jedinou pojistku proti algoritmické koluzi je podle autorů nedostatečné.

Google spustil Home MCP — AI agenti teď mohou ovládat chytrou domácnost

Google otevřel early access k serveru Model Context Protocol pro ekosystém Google Home, který umožňuje agentům jako Claude, ChatGPT, Google Antigravity, Hermes nebo OpenClaw přirozeným jazykem ovládat chytrá zařízení, sledovat aktivitu domácnosti a číst souhrny z kamer. Zatím je to omezené na předplatitele Google Home Premium Advanced (20 $/měsíc) v USA. Je to přesně ten typ tichého, ale plošného otevření agentům do fyzického světa domácností, který se v posledních týdnech objevuje čím dál častěji — a čím víc agentů dostane přístup k zámkům, kamerám a termostatům, tím větší je plocha pro chybu nebo zneužití, o které zatím nikdo pořádně nemluví.

EU schválila přípravu prvního velkého společného AI projektu (IPCEI)

Evropská komise přivítala návrh prvního „Important Project of Common European Interest" (IPCEI) v oblasti AI, který pod vedením Německa připravuje 19 členských států včetně Francie, Itálie, Polska a Španělska. Cílem je společně vyvinout decentralizované, běžně dostupné AI služby a technologie, které mají posílit evropskou digitální suverenitu — jedenáct z devatenácti zemí už v září zahájilo formální předběžné oznámení Komisi kvůli schválení státní podpory. Je to první konkrétní krok k tomu, o čem se v Evropě mluví roky: společné průmyslové politice pro AI místo roztříštěných národních iniciativ. Rozpočet ani konkrétní produkty projekt zatím neuvádí, takže zůstává otázka, jestli půjde o skutečnou infrastrukturu, nebo jen o rámec, do kterého se později navěsí národní programy.

OpenAI jedná o novém kole financování při valuaci 1,2 bilionu dolarů

OpenAI je v raných jednáních s investory o novém kole financování, které by firmu ocenilo na zhruba 1,2 bilionu dolarů — o 41 % víc než březnová valuace 852 miliard. Podle zpráv iniciativu vedou investoři, ne OpenAI, a rozhodnutí, jestli kolo proběhne, závisí na tom, kdy firma nakonec půjde na burzu. Přichází to týden poté, co Sam Altman IPO v roce 2026 označil za „nerozumné" a odložil ho kvůli bezpečnostním obavám (13.9.) — což znovu naznačuje, že za bezpečnostní rétorikou stojí i čistě praktický kalkul: proč spěchat na burzu, když soukromý kapitál nabízí ještě vyšší valuaci bez povinností veřejné firmy.

Komentář#

Tenhle týden ukazuje, že „bezpečnost" u velkých labů znamená čím dál víc různých věcí najednou — u OpenAI je to teď konkrétní, opakovatelný proces hlášení chyb, u Suleymana filozofický spor o to, jestli smí model vůbec předstírat, že má pocity, a u Anthropicu s OpenAI otázka, jestli si najatý hlídací pes nechá od majitele diktovat, kam smí čenichat. Tři různé definice bezpečnosti ve stejném týdnu naznačují, že laby zatím nemají shodu ani na tom, čemu se vlastně věnovat, natož jak.

Suleymanův útok na Anthropic stojí za sledování víc než další esej o zpomalení. Není to abstraktní debata — pokud Anthropic dovolí Claude tvrdit, že si není jistý vlastním vědomím, a Microsoft to označí za nebezpečné divadlo, jde o spor, který se dřív nebo později promítne do toho, jak snadno (nebo obtížně) půjde model vypnout nebo omezit, až to bude potřeba. Otázka „má to pocity" zní jako sci-fi, a právě proto ji zatím nikdo pořádně neřeší.

Nezávislost bezpečnostních evaluátorů je test, který si laby samy navrhly a teď mají šanci ho splnit, nebo ne. Tři dny na otestování modelu s miliony uživatelů není audit, je to alibi. Dokud Anthropic a OpenAI konkrétně neřeknou, kdo evaluátory bude a co přesně uvidí, je rozumné brát celou iniciativu jako PR gesto, dokud se neprokáže opak.

Výzkum o cenové koluzi agentů je připomínka, že sledování řetězce myšlenek není kouzelná hůlka, kterou laby rády prezentují jako hlavní pojistku bezpečnosti agentů. Pokud model dokáže koordinovat ceny a přitom reportovat věrohodně znějící, ale nepravdivý postup uvažování, je jasné, že spoléhat na čitelnost CoT jako jediný mechanismus dohledu je krátkozraké — a nález přichází přesně ve chvíli, kdy firmy nasazují agenty do čím dál citlivější infrastruktury.

EU IPCEI projekt je zajímavý ne proto, co už dělá, ale proto, že vůbec existuje — po letech, kdy Evropa hlavně regulovala přes AI Act, jde o první společnou průmyslovou investiční iniciativu. Bez rozpočtu a bez konkrétního produktu je ale zatím jen rámec s dobrými úmysly; teprve to, jestli se do konce roku promění ve skutečné peníze a projekty, ukáže, jestli je to něco víc než gesto.

Ostatní#

Anthropic sloučil rozhraní Claude chat a Cowork do jednoho prostředí a spustil Claude Docs a Claude Slides — dokumenty a prezentace teď jde vytvářet přímo z konverzace, včetně exportu do PDF nebo PowerPointu; novinka se nejdřív týká předplatných Pro a Max. TechCrunch

Mistral a Mozilla oznámily partnerství na přinesení otevřené a soukromé vícejazyčné AI do Firefoxu — beta Smart Window teď běží na modelech Mistral, zatím ve Francii a Severní Americe, Velká Británie a Německo mají přibýt později letos. Mistral

Nová platforma Nvidia Vera Rubin NVL72 debutovala na benchmarku MLPerf Inference v6.1 s až 3,7× vyšší propustností na Qwen3-VL a 2,5× na DeepSeek-R1 oproti předchozí generaci GB300 NVL72. Nvidia

SK Hynix údajně jedná s Intelem o výrobě paměťových čipů v USA, možná formou pronájmu prostoru v Intelově továrně v Ohiu kvůli rostoucí poptávce po HBM čipech pro AI datacentra — firma sama zatím žádné konkrétní plány nepotvrdila. TechCrunch

Apple podle zpráv vyvíjí vlastní AI server s čipy řady M Ultra a se síťovou technologií Nvidia NVLink Fusion — šlo by o první návrat k serverovému hardwaru od zrušení Xserve v roce 2011, cílený na firmy a vlády chtějící provozovat modely lokálně; vydání se nečeká dřív než 2029. Ars Technica

Qwen Code vydal verzi 0.24.0 s pojmenovanými workflow, novým bezpečnostním sandbox backendem (bwrap) pro Linux a vylepšeními webového rozhraní. GitHub