Liderzy największych firm sztucznej inteligencji opublikowali w tym tygodniu list otwarty, w którym ostrzegają, że szybko rozwijające się modele AI w połączeniu z łatwym dostępem do syntetycznych kwasów nukleinowych mogą obniżyć bariery utrudniające produkcję broni biologicznej. Wśród sygnatariuszy znaleźli się szefowie Google DeepMind, OpenAI, Anthropic i Microsoft AI, którzy apelują do amerykańskiego Kongresu o natychmiastowe wprowadzenie obowiązkowego sprawdzania zamówień na syntetyczne DNA oraz sprzęt do jego wytwarzania.
Kolejne ostrzeżenie od twórców sztucznej inteligencji
List przypomina wcześniejsze apele prominentnych postaci branży technologicznej o zagrożeniach wynikających z rozwoju zaawansowanych systemów AI. Tym razem sygnatariusze koncentrują się na konkretnym ryzyku biosecurity. Pod dokumentem podpisali się m.in. Demis Hassabis, prezes Google DeepMind, Sam Altman, szef OpenAI, Dario Amodei, założyciel i CEO Anthropic, oraz Mustafa Suleyman, lider Microsoft AI. Do inicjatywy dołączyli także przedstawiciele branży nauk biologicznych i syntezy kwasów nukleinowych.
Autorzy listu zwracają uwagę, że możliwość zamawiania syntetycznego DNA przez internet przyspieszyła rozwój szczepionek oraz badania podstawowe, a małe zespoły mogą dziś korzystać z możliwości wcześniej zarezerwowanych dla dużych instytucji. Jednocześnie dostępność tych materiałów została już wcześniej uznana za potencjalne zagrożenie, a postępy w dziedzinie sztucznej inteligencji mogą to ryzyko zwiększyć. Modele klasy frontier AI mogą wspierać badaczy w analizie sekwencji genetycznych i projektowaniu nowych struktur biologicznych, ale te same umiejętności teoretycznie mogą posłużyć do opracowywania szkodliwych patogenów. Według sygnatariuszy istnieje realna możliwość, że historyczne bariery wiedzy uniemożliwiające złym aktorom pozyskanie broni biologicznej ulegną istotnemu osłabieniu.
Obowiązkowy screening i rejestr zamówień
Autorzy listu argumentują, że kontrola zamówień na syntetyczne kwasy nukleinowe oraz sprzęt do ich produkcji to jedno z najlepiej poznanych i najmniej inwazyjnych środków biosecurity. Dostawcy materiałów i urządzeń powinni sprawdzać zamówienia pod kątem obecności sekwencji budzących niepokój, a także weryfikować tożsamość i wiarygodność klienta przed realizacją wysyłki. Ponadto sygnatariusze postulują przechowywanie danych o zamówieniach i sekwencjach, co pozwoliłoby na późniejsze śledzenie zagrożeń, które wymkną się wstępnej kontroli.
Zdaniem autorów same świadomość możliwości identyfikacji źródła zamówienia działa odstraszająco na potencjalnych sprawców. Wielu największych i najbardziej odpowiedzialnych dostawców w branży już teraz stosuje te praktyki, a sygnatariusze chcą, aby zostały one zakotwiczone w prawie federalnym USA.
Projekty ustaw w Kongresie i zmiana administracji
W amerykańskim Kongresie od dłuższego czasu leżą dwa projekty ustaw mających na celu wzmocnienie nadzoru nad syntezą kwasów nukleinowych. Projekt złożony w Izbie Reprezentantów ponad rok temu został przez komisję skierowany do dalszej procedury w kwietniu 2025 roku, ale od tamtej pory nie posunął się dalej. Z kolei projekt senacki został złożony w styczniu 2026 i pozostaje w komisji od momentu wprowadzenia.
Administracja Joe Bidena opublikowała w kwietniu 2024 roku ramowe wytyczne dla instytucji finansowanych federalnie, które zalecały zamawianie syntetycznych kwasów nukleinowych i sprzętu do ich produkcji wyłącznie od dostawców stosujących określone procedury sprawdzania. Administracja Donalda Trumpa nakazała jednak w majowym rozporządzeniu wykonawczym z 2025 roku rewizję lub zastąpienie tych ram, dając na to 90 dni. Nowa wersja dokumentu nie została dotąd opublikowana.
Sygnatariusze podkreślają, że ze względu na tempo zmian w podstawowych technologiach potrzeba działania jest pilna. Wyrażają nadzieję, że politycy wykorzystają rzadki moment zgody stron często pozostających w sporze i podejmą decyzyjne kroki jeszcze w bieżącej sesji Kongresu.
