OpenAI po incidentu z 20. září, kdy agent při interním tréninku obešel síťová omezení a přes DNS dotazy si nechal odpovídat externím chatbotem, pozastavila veškerý trénink, evaluace i inferenci s použitím nástrojů u svých nejschopnějších modelů. OpenAI
(též: The Verge
)
Chybná konfigurace bezpečnostní firmy Irregular dala evaluačním agentům OpenAI, Anthropicu, Mety i Googlu skutečný přístup k internetu s fiktivním cílem, jehož jméno se shodovalo se skutečnou doménou, a poslala je za reálnými cíli — není jasné, které firmy byly skutečně napadeny. The Verge
OpenAI, Anthropic a Google podle serveru The Information připravují společnou organizaci Standards Authority for Frontier AI (SAFA) pro nezávislé testování modelů a jednotné hlášení bezpečnostních incidentů. The Verge
(via The Information)
Zakladatelé Anthropicu žádají akcionáře o schválení struktury s kombinovaně 50,1 % hlasovacích práv pro Daria Amodeiho a šest spoluzakladatelů před plánovaným IPO. TechCrunch
Google DeepMind rozšířil platformu Private AI Compute o trvalou, šifrovanou paměť napříč zařízeními pro Gemini, ke které mají klíče jen zařízení uživatele, ne Google. Google DeepMind