OpenAI fährt Teile der internen Arbeit am KI-Modell Astra zurück. Der Grund sind Sicherheitsbedenken wegen möglicher Cyberfähigkeiten.
Astra ist ein neues, noch nicht öffentlich verfügbares KI-Modell von OpenAI. Es soll leistungsfähiger arbeiten als bisherige Systeme und wird derzeit intern getestet. Die Arbeit an Astra wurde nicht komplett gestoppt, aber einzelne interne Abläufe wurden eingeschränkt. Vorläufige Tests deuten darauf hin, dass das Modell Fähigkeiten erreichen könnte, die im Bereich Cybersicherheit als kritisch gelten. Heikel wird es dort, wo solche Modelle nicht nur Code schreiben oder Schwachstellen beschreiben. In fortgeschrittenen Tests geht es auch darum, ob ein System Sicherheitslücken findet, ausnutzt oder mehrere Schritte eines Angriffs weitgehend selbstständig kombiniert. Die betroffenen Arbeiten werden deshalb in stärker kontrollierte Testumgebungen verlagert. Ungesicherte Abläufe werden unterbrochen oder nur weitergeführt, wenn zusätzliche Sicherheitsauflagen erfüllt sind. Astra war nach Unternehmensangaben nicht an externen Hackerangriffen beteiligt. Der Schritt ist also keine Reaktion auf einen bekannten Missbrauch, sondern eine Vorsichtsmassnahme vor einer möglichen neuen Risikostufe. Der Fall zeigt, wie sich die Debatte um KI-Sicherheit verschiebt. Es geht nicht mehr nur um falsche Antworten, problematische Inhalte oder Datenschutz. Bei den stärksten Modellen rückt die Frage näher, ob sie komplexe Cyberaufgaben eigenständig genug ausführen könnten, um selbst zum Risiko zu werden. (aso)
