Zakazanie modeli otwartych w celu ograniczenia ryzyka cybernetycznego mogłoby, według autora felietonu opublikowanego na Substack, działać na szkodę konkurencyjności amerykańskiej i zwiększać ryzyko długoterminowe. Uważa on, że debata utknęła w martwym punkcie z powodu braku uwzględnienia kompromisów i trudnych realiów.
Trzy stanowiska w debacie
Autor wyróżnia trzy nurty. Pierwszy uważa, że modele otwarte, czyli takie, których parametry są publikowane i można je pobrać, stwarzają niedopuszczalne ryzyko dla funkcjonowania społeczeństwa. Nurt ten skupia kierownictwo niektórych czołowych laboratoriów The AI / news oraz środowiska amerykańskiej bezpieczeństwa narodowego. Drugi, w którym autor się umieszcza, twierdzi, że te modele są niezbędne dla obronności, a zakazanie ich użycia uczyniłoby świat mniej bezpiecznym. Łączy on umiarkowane głosy zachodnie, w tym Hugging Face po incydencie z udziałem OpenAI, oraz Joshuę Saxe. Trzeci nurt skupia chińskie przedsiębiorstwa, które nadal publikują modele otwarte o wysokich zdolnościach cybernetycznych, opierając się na własnej ocenie ryzyka.
Tekst zarzuca raportowi Anthropic dotyczącemu ryzyka modelu GLM-5.3, użytecznego jako narzędzie ofensywnego ataku cybernetycznego, że nie porusza kwestii przekrojowych. Prace techniczne oceniane są jako rozsądne, ale autor zauważa, że żadna analiza nie dotyczy skutków zakazu modeli otwartych ani powodów, dla których chińskie firmy uważają te modele za bezpieczne do publikacji.
Inne dane, kompromisy i zarządzanie
Zdaniem autora, udokumentowane do tej pory ataki dotyczą głównie modeli zamkniętych, dostępnych przez interfejs programistyczny (API), i jako przykład podaje liczne ataki przypisywane modelom OpenAI. Przedstawia kilka możliwych wyjaśnień, nie rozstrzygając: zarówno modele otwarte, jak i zamknięte API mogłyby być łatwe do wykorzystania w złym celu, albo liczba złych aktorów gotowych atakować kluczową infrastrukturę może być niewielka. Podkreśla też, że w niektórych wrażliwych obszarach modele otwarte są jedynymi, które można używać w sieciach odizolowanych od internetu.
Jego zdaniem, Chiny podchodzą do bezpieczeństwa The AI / news w sposób właściwy dla swojej kultury i struktur władzy. Z jego rozumienia wynika, że chińskie firmy muszą zgłaszać każdą większą publikację modelu rządowi, wraz z ocenami, ale nie jest jasne, czy mechanizm ten obejmuje ryzyko cybernetyczne lub biologiczne. Uważa również, że kompleksowe oceny bezpieczeństwa dla modelu takiego jak Kimi K3 mogłyby kosztować dziesiątki milionów dolarów w przeliczeniu na moc obliczeniową.
Podczas swojej zapowiedzi, Claude Mythos został przedstawiony jako nowa klasa broni cybernetycznej. Autor uważa, że takie przedstawienie było błędne, a przypadkowe udostępnienie tego modelu w wersji otwartej głównie przyspieszyłoby incydenty, a nie stworzyło przełom. Jego zdaniem, GLM-5.3 przekracza obecnie próg zdolności, o którym mowa, a ponad miesiąc po publikacji w wersji otwartej, niewiele publicznych dowodów wskazuje, że sytuacja znacznie się zmieniła.
