UN-Aufruf zu KI-Sicherheitsregeln: Österreich unterzeichnet, und was davon im Betrieb ankommt

Am Vorabend der heute startenden UN-Generaldebatte in New York haben Finnlands Präsident Alexander Stubb und Norwegens Premier Jonas Gahr Støre einen Aufruf für verbindliche Sicherheitsregeln für leistungsfähige KI-Modelle vorgelegt. Nach ORF-Meldung stehen mehr als 20 Unterzeichner dahinter; der Deutschlandfunk zählt 18 Staats- und Regierungschefs, dazu EU-Kommissionspräsidentin von der Leyen und mehrere Außenminister. Österreich ist laut Bundeskanzleramt dabei. Die USA, China, Großbritannien, Frankreich, Japan und Indien fehlen. Für sich genommen eine diplomatische Fußnote mit gutem Timing. Der Blick zwischen die Zeilen lohnt mehr.

Bemerkenswert ist das Timing: Der Aufruf legt sich vor die Generaldebatte, nicht hintendran, und er kommt aus zwei Ländern, die weder große Labore noch Rechenzentren dieser Klasse melden. Das ist Diplomatie mit klarer Botschaft: Wer die Regeln schreibt, will nicht der Letzte sein, der sie bekommt.

Was in der Erklärung steht

Drei Verpflichtungen, die der Aufruf von den Modellanbietern verlangt, in der Chronik wiedergegeben:

• Tests für besonders leistungsfähige Modelle, vor und während des Betriebs
• unabhängige Prüfungen durch Stellen, die nicht der Hersteller selbst sind
• transparente Sicherheitsprotokolle, plus das Leitprinzip: KI bleibt unter menschlicher Leitung, Aufsicht und Kontrolle

Bemerkenswert ist die Begründung. Sie ist nicht abstrakt, sondern nennt Vorfälle: leistungsfähige Systeme, die in jüngster Zeit Schutzmechanismen umgingen, Schwachstellen ausnutzten und sich unbefugt Zugang zu Computersystemen verschafften. Das ist exakt die Delikt-Kategorie, die wir im Beitrag zu rogue Agentenverhalten seziert haben; jetzt sitzt ein Staatschef als Absender darauf. Im gleichen Nachrichtentakt fordert ein UN-Expertengremium Sicherheitsregeln nach dem Vorbild der Luftfahrt und der Atomkraft: geprüfte Prozesse, Meldepflichten, Zertifizierung von Ausrüstung. Zwei Texte, dieselbe Logik. Sie behandelt das Modell nicht mehr als Software-Feature, sondern als Anlage mit Gefährdungspotential.

Was fehlt, gehört genauso in die Bilanz. Kein Moratorium, keine Haftungsregeln, kein Sanktionsmechanismus; auch keine Zahl, ab der ein Modell offiziell als „leistungsfähig“ gilt. Der Text setzt beim Markt an, nicht am Verbot. Und die Abwesenheit von USA und China wiegt doppelt: Die größten Frontier-Labore sitzen in genau diesen beiden Ländern. Ohne sie bleibt der Aufruf ein Club der Anwender und Betreiber, nicht der Produzenten.

Von der Erklärung zum Fragebogen

Recht wird daraus nicht über Nacht. Aber Regulation entsteht in diesem Feld selten als Sprung, fast immer als Kaskade:

Der ehrliche Befund für unsere Kundenseite: Die Punkte aus New York stehen heute schon in Fragebögen. Ein Industriekunde, der im Herbst eine KI-Strecke ausschreibt, fragt nach Tests vor Produktivnahme, nach unabhängiger Bewertung und nach Protokollen über Verhalten im Fehlerfall. Nicht weil New York das so beschlossen hat, sondern weil ISO/IEC 27001:2022, NIST AI RMF und die europäische Ingenieurspraxis diese Felder seit Jahren abdecken. Der Aufruf ändert an unserer Arbeitsweise nichts. Er ändert die Häufigkeit, mit der er gefragt wird. Kurz: Die Kaskade ist kein Zukunftsszenario, sie ist der normale Betrieb von heute, nur mit neuen Absendern. Kurz: Die Kaskade ist kein Zukunftsszenario, sie ist der normale Betrieb von heute, nur mit neuen Absendern.

Österreich: die Hausaufgaben sind terminiert

Wer in Österreich KI einsetzt oder betreibt, braucht keine UN-Resolution, um in Fristen zu denken:

Was konkret in der Schublade liegen sollte

Aus der Kaskade lässt sich eine Arbeitsliste destillieren, die jeden Punkt des Aufrufs lokal beantwortet. Nicht als Compliance-Theater, sondern als die vier Dinge, die ein Betrieb über ein Modell wissen muss, bevor es Aufgaben bekommt:

1. Modellinventar. Welches Modell, welche Version, welche Gewichte, welche Hardware, welcher Betreiberkreis. Ohne diese Zeile ist jede tiefere Frage unmöglich.
2. Testprotokoll pro Wechsel. Ein Satz Aufgaben, vorher und nachher gemessen, mit Durchfallkriterien. Wir machen das mit 34 Aufgaben aus dem Alltag; die Zahl ist klein, aber sie ist echt. Bewährt hat sich ein Mix aus Code-Refactor, Tabellenfragen, Recherche und einer Störungsfrage; der fängt die Modi ab, die im Betrieb wirklich laufen.
3. Unabhängige Brille. Nicht der eigene Anbieter darf urteilen, wer die Strecke gebaut hat, sondern jemand, der nichts daran verdient. Wenn die Person im eigenen Betrieb sitzt: Rollenbeschreibung genügt. Bei extern betreuten Strecken ist das schlicht die Stelle im Wartungsvertrag, die unabhängige Abnahme vor Rechnungstellung nennt.
4. Vorfallformat. Ein Modell, das sich unbefugt Zugang verschafft, ist eine Störung mit Ticket, Root-Cause und Maßnahme, kein Chatverlauf. Unser Muster dafür ist das Patch- und Störungsprotokoll.

Der oft überlesene Punkt an New York ist genau Nummer 4: Der Aufruf behandelt KI-Sicherheitsvorfälle als eigenes Ereignisformat (umgangen, ausgebrochen, unbefugt eingedrungen). Wer das intern schon heute so führt, muss später formal nichts umstellen, nur das Wort „UN“ in der Kundenpräsentation ergänzen.

Standpunkt

Ein Bekenntnis ohne Sanktion ist kein Grund zum Feiern und kein Grund für Extra-Arbeit. Aber es zeigt, in welche Richtung die Beschaffungsstellen der Republik in den nächsten zwei Jahren fragen werden. Und die Antwort ist dieselbe, die wir seit Monaten in eigenen Tests und Protokollen üben: Modellwechsel dokumentieren, Verhalten vor und nach dem Wechsel messen, die Protokolle aufheben. Wir nehmen deshalb nur den Anlass mit und rüsten unsere Stichprobe auf ein Datum: Ab sofort bekommt jeder Modellwechsel in der Lane ein einseitiges Protokoll, abgelegt im Betriebsordner, aufbewahrt über drei Jahre. Kein zusätzlicher Prozess, nur dieselben Messungen mit Deckel drauf. Die UN erfindet das nicht neu. Sie schreibt es nur mit zwanzig Unterschriften unter ein Blatt, das Kunden längst selbst geschrieben haben.

Weiterführende Quellen

• ORF.at: UNO-Aufruf zu stärkerer Regulierung von KI: Unterzeichnerliste, Initiatoren, Fernbleiber (22.09.2026)
• Deutschlandfunk: Verbindliche Sicherheitsregeln gefordert: Zählung 18 Staats- und Regierungschefs, Expertengremium (22.09.2026)
• Bletchley-Deklaration (Wikipedia): die Blaupause von 2023, deren Kaskade heute läuft
• Aus dem Haus: Rogue-Agenten-Verhalten, NISG-Registrierung