Anthropic-Chef Dario Amodei fordert ein langsameres Tempo bei besonders leistungsfähigen KI-Modellen. Sam Altman und Elon Musk unterstützen ihn.
Der Wettlauf um immer stärkere Modelle bekommt Gegenwind aus den eigenen Reihen. Amodei warnt davor, dass technische Fortschritte schneller vorankommen könnten als Sicherheitsmassnahmen und Kontrolle. Einen Stopp der KI-Entwicklung verlangt er nicht. Er will die Entwicklung an der Spitze bremsen, damit Risiken untersucht und Schutzmechanismen nachgezogen werden können. Amodei nennt Cyberangriffe, autonome Agenten und mögliche selbstverbessernde Systeme als zentrale Gefahren. Besonders kritisch wären Modelle, die selbstständig neue Werkzeuge entwickeln oder weitere Systeme erzeugen. Anthropic will deshalb unabhängigen Prüfern mehr Einblick geben. Sie sollen Sicherheitsmassnahmen kontrollieren, Vorfälle untersuchen und Modelle bereits während des Trainings bewerten können. Sam Altman stellte sich hinter Amodeis Forderung. Auch OpenAI will externe Kontrolle stärker zulassen. Elon Musk unterstützte den Vorstoss ebenfalls öffentlich. Damit kommt der Ruf nach mehr Zurückhaltung ausgerechnet von jenen Unternehmen, die sich beim Bau immer leistungsfähigerer KI-Systeme einen harten Wettlauf liefern. Genau darin liegt das Dilemma: Wer allein bremst, riskiert im globalen Wettbewerb zurückzufallen. (aso)
