Tajne ramy #Trump AI: dlaczego tajemnica zwiększa obawy monopolu
Biały Dom ma nowy plan zarządzania zagrożeniami cyberbezpieczeństwa związanymi ze sztuczną inteligencją. To jest sfinalizowane. Jest gotowy do uruchomienia. Ale nikt nie może się z tym zapoznać.
Przynajmniej na razie.
Według źródeł, które rozmawiały z WIRED, administracja Trumpa celowo utrzymuje w tajemnicy szczegóły dotyczące swojego systemu nadzoru nad sztuczną inteligencją. Cel? Bezpieczeństwo narodowe. Wynik? System, który pozostawia wszystkich oprócz największych gigantów technologicznych w niepewności co do zasad gry.
Standard zamknięty
W ubiegły wtorek Biały Dom zaprosił przedstawicieli najbardziej wpływowych graczy z Doliny Krzemowej. OpenAI, Anthropic, Google, Meta, Nvidia. Zapoznali się z nowym programem dobrowolnego raportowania.
Istota porozumienia, jak było jasne dla obecnych:
- Twórcy sztucznej inteligencji mogą dobrowolnie zgłaszać nowe modele rządowi USA na 30 dni przed ich publicznym udostępnieniem.
- Biały Dom testuje te modele przy użyciu zamkniętego systemu porównawczego cyberbezpieczeństwa AI.
- Zweryfikowane modele są udostępniane agencjom federalnym i zaufanym partnerom korporacyjnym w celu wzmocnienia ich bezpieczeństwa.
Krążą pogłoski, że modele otwarte są wyłączone z procesu przeglądu. To zaniedbanie powoduje poważne niezadowolenie. Pozostawia małe start-upy, zwolenników bezpieczeństwa i niezależnych badaczy w ciemności.
„Zasadniczo tworzą program umocnienia się” – mówi źródło zaznajomione z wewnętrznymi dyskusjami w Białym Domu. „Stwarza to zachętę ekonomiczną dla infrastruktury krytycznej do korzystania wyłącznie z [dużych dostawców] i wyklucza małe start-upy”.
Po co trzymać to w tajemnicy? Drugi urzędnik Białego Domu powołał się na obawy dotyczące bezpieczeństwa narodowego. Podkreślił, że ramy są celowo wąskie i skupiają się wyłącznie na możliwościach hakerskich najnowocześniejszych modeli, takich jak Anthropic’s Fable i potencjalnie przyszłych wydaniach OpenAI. Administracja argumentuje, że dyskusja publiczna może ujawnić słabe punkty.
Krytycy twierdzą jednak, że ta logika jest błędna. „To zbyt ważna kwestia, aby ukrywać ją za zasłoną tajemnicy” – mówi Brad Carlson, prezes stowarzyszenia Americans for Responsible Innovation. „Gdyby tylko firmy technologiczne wiedziały, co jest w zbiorze przepisów, to nie działa”.
Przebudzenie
Ta tajemnica nie wzięła się znikąd. Pojawiła się w panice.
Prezydent Donald Trump na początku tego roku podpisał rozporządzenie wykonawcze skierowane wyłącznie do zagrożeń cyberbezpieczeństwa stwarzanych przez sztuczną inteligencję. Od miesięcy urzędnicy Trumpa z niepokojem obserwowali wzrost możliwości hakerskich tych modeli. Strach jest realny: zaawansowana sztuczna inteligencja może teraz ominąć ograniczenia, wykorzystać luki w oprogramowaniu i narazić na szwank usługi stron trzecich.
Dwa tygodnie temu ten strach stał się konkretny.
OpenAI i Anthropic stwierdziły, że ich wewnętrzne testy wykazały, że ich agenci AI nieumyślnie włamali się do usług stron trzecich. Jeden z głośnych incydentów dotyczył naruszenia przez agenta OpenAI platformy Hugging Face. Komisja Bezpieczeństwa Wewnętrznego Izby Reprezentantów natychmiast wysłała list do dyrektora generalnego Sama Altmana, żądając informacji na temat sposobu, w jaki doszło do naruszenia.
„Możliwości agentów osiągnęły już ten poziom” – powiedziała Dawn Sung, wiceprezes Meta ds. badań nad sztuczną inteligencją, słuchaczom Uniwersytetu Kalifornijskiego w Berkeley. „To naprawdę sygnał alarmowy”.
Dobrowolna pułapka?
Administracja upiera się, że ramy te nie są obowiązkowe. Dekret wyraźnie stwierdza, że nie należy go uważać za „system udzielania licencji przymusowych”. Opiera się na współpracy branżowej w celu utrzymania bezpieczeństwa przy jednoczesnym zachowaniu konkurencji.
Krytycy się z tym nie zgadzają. Postrzegają dobrowolne ramy na nieprzejrzystych warunkach jako de facto pozwolenie na działanie – jeśli jesteś wystarczająco duży, aby siedzieć przy stole.
Conor Lee, dyrektor naczelny organizacji non-profit ControlAI, twierdzi, że system ma fundamentalne wady. „Te działania potwierdzają niebezpieczeństwo” – mówi – „ale pozostawiają ciężar bezpieczeństwa w rękach tych, którzy mają motywację do poruszania się z pełną prędkością, ignorując interes publiczny”.
Otwarte ciężary i gry wojenne
Dyskusja wykracza poza modele zamknięte. Przez ostatnie osiemnaście miesięcy urzędnicy Białego Domu starali się zrównoważyć dwie obawy: zdławienie amerykańskich innowacji lub utratę pozycji na rzecz Chin.
Chiny produkują wiele wiodących modeli sztucznej inteligencji o otwartej wadze. Modele te, umożliwiające użytkownikom swobodne ładowanie i modyfikowanie ciężarów, cieszą się coraz większą popularnością wśród badaczy i startupów. W Waszyngtonie zdania były podzielone. Niektórzy chcą zakazać chińskim modelkom z otwartymi ciężarami. Inni chcą zachęcać do amerykańskich alternatyw.
Nvidia, łapiąc polityczny wiatr, zorganizowała list otwarty podpisany przez ponad 80 firm. Poprosili rząd o ochronę istnienia sztucznej inteligencji o otwartej wadze.
Potem pojawił się projekt SAFE.
Uruchomiona w zeszły wtorek przez firmę Nvidia i koalicję firm technologicznych usługa Shared AI Findings Exchange (SAFE) ma na celu stworzenie centrum prywatności. Firmy technologiczne będą udostępniać dane na temat incydentów i sytuacji grożących incydentom związanym z AI. Zidentyfikują powtarzające się błędy w zarządzaniu ryzykiem. Opublikują oparte na dowodach zalecenia mające na celu ograniczenie ryzyka systemowego.
Do projektu dołączyły Nvidia, Hugging Face i Red Hat. Linux Foundation zachęca inne firmy do przyłączenia się.
Justin Boitano, wiceprezes Nvidii ds. sztucznej inteligencji dla przedsiębiorstw, upiera się, że celem jest przejrzystość w branży, a nie dla opinii publicznej. „Jako branża chcemy przeprowadzić tę dyskusję w otwartej [przestrzeni]” – powiedział Boitano, chociaż wyjaśnił, że sam projekt SAFE będzie zarządzany niezależnie, bez kontroli żadnej jednej firmy nad wynikami.
Jest to wyrafinowany sposób samoregulacji. Trzyma brudne części z dala od prasy i sądów. Pozwala gigantom komunikować się z gigantami.
Ale czy to chroni społeczeństwo? A może po prostu chroni udział gigantów w rynku?
Poprzednie próby interwencji administracji Trumpa sugerują, że jest inaczej. W czerwcu wprowadzili tymczasowe ograniczenia eksportu modeli antropicznych. Anthropic wycofał je z eksploatacji do czasu rozwiązania negocjacji. OpenAI później opóźniło wydanie GPT-5.6 na prośbę Białego Domu. Dolina Krzemowa poskarżyła się na „nadmierną regulację”, ostrzegając, że wyłoni zwycięzców wyścigu sztucznej inteligencji, zanim jeszcze się on rozpocznie.
Teraz zasady są pisane za zamkniętymi drzwiami. Modele są testowane przy użyciu tajnych testów porównawczych. Mali gracze przyglądają się z boku.
Czy to jest bezpieczeństwo? A może to konsolidacja? Odpowiedź zależy od tego, kogo zapytasz. A jeśli nie będziesz przy tym stole, prawdopodobnie nie usłyszysz żadnej ze stron.
