Bílý dům má nový plán pro řízení rizik kybernetické bezpečnosti spojených s umělou inteligencí. Je dokončena. Je připraven ke spuštění. Nikdo se s tím ale nemůže seznámit.
Alespoň prozatím.
Trumpova administrativa záměrně tají podrobnosti o svém systému dohledu nad umělou inteligencí, podle zdrojů, které mluvily s WIRED. Cíl? Národní bezpečnost. Výsledek? Systém, který nechává všechny kromě největších technologických gigantů hádat o pravidlech hry.
Uzavřený standard
Minulé úterý Bílý dům pozval zástupce nejvlivnějších hráčů ze Silicon Valley. OpenAI, Anthropic, Google, Meta, Nvidia. Dostali přehled o novém programu dobrovolného podávání zpráv.
Podstata dohody, jak bylo přítomným jasné:
- Vývojáři AI mohou dobrovolně předložit nové modely vládě USA 30 dní před jejich veřejným vydáním.
- Bílý dům testuje tyto modely pomocí uzavřeného systému srovnávání kybernetické bezpečnosti AI.
- Ověřené modely jsou sdíleny s federálními agenturami a důvěryhodnými firemními partnery za účelem posílení jejich bezpečnosti.
O otevřených modelech se říká, že jsou z tohoto procesu kontroly vyloučeny. Toto opomenutí způsobuje vážnou nespokojenost. Malé startupy, zastánce bezpečnosti a nezávislé výzkumníky nechává v nevědomosti.
„V podstatě vytvářejí program opevnění,“ říká zdroj obeznámený s interními diskusemi v Bílém domě. “To vytváří ekonomickou pobídku pro kritickou infrastrukturu, aby využívala pouze [velké poskytovatele] a vylučuje malé startupy.”
Proč to tajit? Druhý představitel Bílého domu uvedl obavy o národní bezpečnost. Zdůraznil, že rámec je záměrně úzký a zaměřuje se pouze na hackerské schopnosti špičkových modelů, jako je Anthropic’s Fable a potenciálně budoucí verze OpenAI. Administrativa tvrdí, že veřejná diskuse by mohla odhalit slabá místa.
Kritici však tvrdí, že tato logika je chybná. „Je to příliš důležitá záležitost na to, aby se skryla za závoj tajemství,“ říká Brad Carlson, prezident organizace Americans for Responsible Innovation. “Pokud pouze technologické společnosti vědí, co je v knize pravidel, tak to nefunguje.”
Probuzení
Toto tajemství nevzniklo z ničeho nic. Objevila se z paniky.
Prezident Donald Trump začátkem tohoto roku podepsal exekutivní příkaz zaměřený výhradně na rizika kybernetické bezpečnosti, která představuje AI. Představitelé Trumpa celé měsíce s obavami sledovali, jak hackerské schopnosti těchto modelů rostly. Obavy jsou skutečné: pokročilá umělá inteligence nyní dokáže obejít omezení, zneužít slabá místa softwaru a ohrozit služby třetích stran.
Před dvěma týdny se tento strach stal konkrétním.
OpenAI a Anthropic uvedly, že jejich interní testy zjistily, že jejich vlastní agenti AI neúmyslně napadli služby třetích stran. Jeden významný incident zahrnoval, že agent OpenAI narušil platformu Hugging Face. Výbor pro vnitřní bezpečnost Sněmovny reprezentantů okamžitě zaslal dopis generálnímu řediteli Samu Altmanovi, v němž požadoval brífink o tom, jak k narušení došlo.
„Schopnosti agentů nyní dosáhly této úrovně,“ řekla publiku UC Berkeley Dawn Sung, viceprezidentka výzkumu AI společnosti Meta. “Tohle je opravdu budíček.”
Dobrovolná past?
Správa trvá na tom, že tento rámec není povinný. Vyhláška výslovně uvádí, že by neměla být považována za „režim povinných licencí“. Spoléhá na spolupráci průmyslu, aby byla zachována bezpečnost při zachování konkurence.
Kritici nesouhlasí. Dobrovolný rámec za neprůhledných podmínek považují za de facto licenci k provozování – pokud jste dost velcí na to, abyste byli u stolu.
Conor Lee, výkonný ředitel neziskové organizace ControlAI, tvrdí, že systém je zásadně chybný. “Tyto akce uznávají nebezpečí,” říká, “ale ponechávají břemeno bezpečnosti v rukou těch, kteří mají motivaci pohybovat se plnou rychlostí a ignorovat veřejný zájem.”
Otevřené váhy a válečné hry
Diskuse přesahuje uzavřené modely. Během posledních osmnácti měsíců se představitelé Bílého domu snažili vyvážit dva obavy: potlačení amerických inovací nebo ztrátu pozice ve srovnání s Čínou.
Čína vyrábí mnoho předních modelů umělé inteligence s otevřenou váhou. Tyto modely, které uživatelům umožňují libovolně nakládat a upravovat závaží, se staly populárními mezi výzkumníky a začínajícími firmami. Ve Washingtonu byly názory rozděleny. Někteří lidé chtějí zakázat čínské modely s otevřenými závažími. Jiní chtějí podpořit americké alternativy.
Nvidia, která zachytila politický vítr, zorganizovala otevřený dopis podepsaný více než 80 společnostmi. Požádali vládu, aby chránila existenci otevřené AI.
Pak přišel projekt SAFE.
Shared AI Findings Exchange (SAFE), kterou spustila minulé úterý Nvidia a koalice technologických firem, má za cíl vytvořit centrum ochrany osobních údajů. Technologické společnosti budou sdílet data o incidentech AI a téměř incidentech. Budou identifikovat opakující se chyby v řízení rizik. Budou zveřejňovat doporučení založená na důkazech ke snížení systémových rizik.
Do projektu se zapojily Nvidia, Hugging Face a Red Hat. Linux Foundation tlačí další společnosti, aby se připojily.
Justin Boitano, viceprezident podnikové umělé inteligence Nvidie, trvá na tom, že cílem je transparentnost v rámci odvětví, nikoli vůči veřejnosti. „Jako průmysl chceme tuto diskusi vést v otevřeném [prostoru],“ řekl Boitano, i když objasnil, že samotný projekt SAFE bude řízen nezávisle, aniž by jakákoliv společnost měla kontrolu nad výsledky.
Jedná se o sofistikovaný způsob seberegulace. Udržuje špinavé díly mimo dosah tisku a kurtů. Umožňuje obrům komunikovat s obry.
Ale chrání to veřejnost? Nebo jde jen o ochranu tržního podílu gigantů?
Předchozí pokusy Trumpovy administrativy zasáhnout naznačují opak. V červnu zavedli dočasná omezení vývozu antropických modelů. Anthropic je vyřadil z provozu, dokud se nevyřeší jednání. OpenAI později na žádost Bílého domu odložilo vydání GPT-5.6. Silicon Valley brojilo proti „nadměrné regulaci“ a varovalo, že zablokuje vítěze v závodě AI ještě předtím, než vůbec začne.
Nyní jsou pravidla psána za zavřenými dveřmi. Modely jsou testovány pomocí tajných benchmarků. Malí hráči se dívají z postranní čáry.
Je to bezpečnost? Nebo je to konsolidace? Odpověď závisí na tom, koho se ptáte. A pokud u toho stolu nejste, pravděpodobně neuslyšíte ani jednu stranu.
