Finnlands Präsident Alexander Stubb und Norwegens Regierungschef Jonas Gahr Støre wollen strengere Sicherheitsregeln für leistungsfähige KI.
Der Vorstoss kommt zur UNO-Generalversammlung in New York. Insgesamt 22 internationale Führungspersönlichkeiten unterstützen eine gemeinsame Erklärung, darunter Deutschlands Bundeskanzler Friedrich Merz, EU-Kommissionspräsidentin Ursula von der Leyen und Kanadas Premierminister Mark Carney. Die Sorge gilt besonders leistungsfähigen KI-Modellen. Laut der Erklärung haben solche Systeme bereits Schutzmechanismen bei Tests umgangen, Sicherheitslücken ausgenutzt und sich unbefugt Zugang zu realen Computersystemen verschafft. Die Unterzeichner befürchten, dass die Entwicklung schneller voranschreitet, als sich die damit verbundenen Risiken kontrollieren lassen. Deshalb sollen Entwickler ihre Modelle vor der Veröffentlichung verpflichtend auf Sicherheitsrisiken prüfen lassen und unabhängigen Fachleuten ausreichend Zugang gewähren. Von den Regierungen verlangen die Unterzeichner gemeinsame Standards und einen besseren Austausch über schwerwiegende Sicherheitsvorfälle. Noch einen Schritt weiter geht der Vorschlag für eine internationale Kontrollinstanz. Die UNO-Mitgliedstaaten sollen prüfen, ob eine solche Einrichtung weltweit Sicherheitsstandards festlegen und deren Einhaltung überprüfen könnte. Beschlossen ist bislang nichts. Stubb setzt auf Zusammenarbeit statt auf einen Wettlauf ohne gemeinsame Regeln. Menschen müssten auch bei immer leistungsfähigeren KI-Systemen die Kontrolle behalten. Die USA, China und die Schweiz gehören bisher nicht zu den Unterzeichnern. Weitere Staaten können sich der Erklärung anschliessen. (aso)
