Das Verbot von Modellen mit offenen Gewichten zur Begrenzung von Cyberrisiken könnte laut dem Autor eines auf Substack veröffentlichten Beitrags der Wettbewerbsfähigkeit der USA zuwiderlaufen und die Risiken langfristig erhöhen. Er ist der Ansicht, dass die Debatte blockiert ist, weil die schwierigen Abwägungen und Realitäten nicht berücksichtigt werden.
Drei Positionen in der Debatte
Der Autor unterscheidet drei Strömungen. Die erste hält Modelle mit offenen Gewichten, also deren Parameter veröffentlicht und herunterladbar sind, für ein inakzeptables Risiko für das Funktionieren der Gesellschaft. Dazu gehören die Leitung einiger führender KI-Labore und die US-amerikanische nationale Sicherheitsgemeinschaft. Die zweite, der er sich zuordnet, vertritt die Ansicht, dass diese Modelle für die Verteidigung notwendig sind und ein Verbot ihrer Nutzung die Welt unsicherer machen würde. Diese Position vereint gemäßigte westliche Stimmen, darunter Hugging Face nach dem Vorfall mit OpenAI sowie Joshua Saxe. Die dritte umfasst chinesische Unternehmen, die weiterhin Modelle mit offenen Gewichten und hohen Cyberfähigkeiten veröffentlichen, basierend auf ihrer eigenen Risikobewertung.
Der Text wirft dem Bericht von Anthropic über die Risiken des Modells GLM-5.3, das als Werkzeug für offensive Cyberangriffe nutzbar ist, vor, keine übergreifenden Fragen zu behandeln. Die technischen Arbeiten werden als vernünftig bewertet, doch der Autor stellt fest, dass keine Analyse der Auswirkungen eines Verbots offener Modelle oder der Gründe, warum chinesische Unternehmen diese Modelle als sicher zum Veröffentlichen erachten, vorliegt.
Daten, Abwägungen und eine andere Governance
Für den Autor hängen die bisher dokumentierten Angriffe vor allem mit geschlossenen Modellen zusammen, die über Programmierschnittstellen (API) zugänglich sind, und er nennt insbesondere zahlreiche Angriffe, die OpenAI-Modellen zugeschrieben werden. Er bringt mehrere mögliche Erklärungen vor, ohne sich festzulegen: Offene Modelle wie auch geschlossene APIs könnten beide leicht missbraucht werden, oder es könnte nur wenige böswillige Akteure geben, die kritische Infrastrukturen ins Visier nehmen. Er betont auch, dass in bestimmten sensiblen Bereichen offene Modelle die einzigen sind, die in isolierten Netzwerken ohne Internetzugang verwendet werden können.
Seiner Ansicht nach geht China die Sicherheit von KI auf eine Weise an, die seiner Kultur und seinen Machtstrukturen entspricht. Nach seinem Verständnis müssen chinesische Unternehmen jede größere Modellveröffentlichung einschließlich der Bewertungen der Regierung melden, doch es ist unklar, ob dieses System auch Cyber- oder biologische Risiken umfasst. Er schätzt zudem, dass umfassende Sicherheitsbewertungen eines Modells wie Kimi K3 mehrere zehn Millionen Dollar an Rechenkosten verursachen könnten.
Bei seiner Ankündigung wurde Claude Mythos als eine neue Klasse von Cyberwaffe vorgestellt. Der Autor hält diese Darstellung für falsch und meint, dass eine versehentliche Verbreitung dieses Modells mit offenen Gewichten vor allem die Vorfälle beschleunigt hätte, statt eine Zäsur zu schaffen. Seiner Meinung nach überschreitet GLM-5.3 nun die erwähnte Fähigkeitsgrenze, und mehr als einen Monat nach seiner Veröffentlichung mit offenen Gewichten gibt es wenige öffentliche Belege dafür, dass sich die Lage wesentlich verändert hat.
