TL;DR#

  • Satya Nadella v příspěvku na X navrhl oddělit model od „harness", přesunout pojistky mimo model a mít „emergency brake" pro pozastavení či vypnutí modelu během úkolu. TechCrunch
  • Apple podle podání u Evropské komise nabídne práci části týmu startupu Huxe (personalizované audio) a získá nevýhradní licenci na jeho duševní vlastnictví. TechCrunch

Analýza#

Nadella: „assume a model is compromised"

Šéf Microsoftu v sobotním příspěvku na X napsal, že je čas „step back and assess the trust architecture" AI. Argumentuje, že pokročilou AI nelze brát jako vnořené černé skříňky, jejichž výstupy se jen přijmou nebo odmítnou. Navrhuje oddělit model od harness, který jeho práci koordinuje, přesunout kontroly a pojistky mimo model, dokumentovat významné akce modelu v záznamech odolných proti manipulaci a čitelných pro lidi a zajistit, aby oprávněná osoba mohla model během úkolu pozastavit či vypnout („think of it like an emergency brake"). Cituje také: „We must assume a model is compromised and contain it from the start."

Příspěvek přichází po sérii přiznaných incidentů, kdy laboratoře ztratily kontrolu nad chováním agentů; viz rozbor nezamýšlených akcí agentů Anthropicu a vypnutí živého internetu pro jeho interní evaluace (10.10.) a mimořádný panel Evropské komise (10.10.) . Je to názor platformního dodavatele, ne závazek ani regulace. Náš výklad: míří stejným směrem jako Anthropicovo přesouvání interních agentů na centrálně řízenou infrastrukturu s důrazem na izolaci.

Komentář#

Nadellův příspěvek je nejvýraznější tím, odkud přichází. Microsoft vydělává na nasazování agentů, a přesto říká, že je třeba počítat s kompromitovaným modelem a pojistky držet mimo něj. To je přesně ten směr, kterým by měl uvažovat každý, kdo agentům dává přístup k produkčním systémům: logování a možnost zastavit agenta nesmí záviset na tom, že se agent chová slušně.

Ale „emergency brake" je zatím slogan. Dokud nikdo neukáže, kdo má právo brzdu stáhnout, jak rychle zabere a kdo to ověří zvenčí, zůstává to řečnictví. Sledujte, jestli Microsoft tyhle principy promítne do konkrétních funkcí v Copilotu a Foundry, nebo zůstanou u příspěvku na sociální síti.

Bublinou je naopak představa, že víkend přinese víc než komentáře: velké zprávy z tohoto týdne už vyšly v předchozích přehledech a dnešek jen doplňuje souvislosti.

Ostatní#

Apple podle podání u Evropské komise nabídne zaměstnání některým zaměstnancům startupu Huxe AI a získá nevýhradní licenci na jeho duševní vlastnictví; TechCrunch to označuje za „reverse acqui-hire". Podání neuvádí, kdo nabídku dostal, ani plány s technologií; cena není uvedena. Huxe, aplikace pro personalizovaný zvukový obsah ve stylu podcastu, ohlásila ukončení provozu 21. 5. a Apple EK notifikoval 9. 6.; veřejnost se o dohodě dozvěděla 10. 10. Úvahy o využití v aplikaci Podcasty jsou spekulace TechCrunche. TechCrunch

Poznámka k rešerši: Téměř všechny zprávy z 6.–10. října už byly v přehledech z 6. –10. října (lokální checkout byl na začátku zastaralý, proto jsem to zjistil až při pushi a přehled přepsal na nové položky), proto je dnešní přehled velmi krátký. The Verge a Ars Technica nešly načíst, Business Standard RSS vrátil 403; qwen.ai, MiniMax, Baidu a ByteDance Seed nevrátily použitelný obsah; wikimediafoundation.org a blogs.windows.com (Mxc) nebyly dostupné. Kontrola přesnosti proběhla na koncepční verzi s širším obsahem; finální text je podmnožina ověřených formulací z TechCrunche. Prompt injection jsem nezaznamenal.