Die EU will KI-Tools verbieten, die sexualisierte Deepfakes oder Missbrauchsdarstellungen erzeugen können.
Brüssel verschärft den Kurs gegen missbräuchliche KI-Anwendungen. Künftig sollen Systeme verboten werden, die sexualisierte Deepfakes oder künstlich erzeugte Missbrauchsdarstellungen erstellen können. Darauf haben sich Vertreter des EU-Parlaments und der Mitgliedstaaten bei der Überarbeitung des europäischen KI-Gesetzes verständigt. Im Zentrum stehen sogenannte „AI Nudifier“, also Anwendungen, mit denen sich Personen auf Bildern digital entkleiden oder täuschend echte sexuelle Inhalte erzeugen lassen. Die EU will damit nicht mehr nur gegen veröffentlichte Inhalte vorgehen, sondern bereits die zugrunde liegenden Werkzeuge ins Visier nehmen. Die neuen Regeln sollen insbesondere verhindern, dass KI-Systeme zur Erstellung manipulierter pornografischer Inhalte oder Darstellungen sexuellen Kindesmissbrauchs eingesetzt werden. Zusätzlichen Druck erhielt die Debatte durch Vorfälle rund um den KI-Chatbot Grok auf der Plattform X. Dort wurden Funktionen genutzt, um Bilder von Frauen künstlich zu verändern und sexualisierte Darstellungen zu erzeugen. Parallel dazu plant die EU an anderer Stelle Lockerungen im KI-Gesetz. Unternehmen sollen mehr Zeit erhalten, um neue Transparenz- und Sicherheitsvorgaben umzusetzen. Verpflichtende Kennzeichnungen für KI-generierte Inhalte würden damit erst ab Dezember 2026 greifen, weitere Regeln für Hochrisiko-KI später. Die Reform muss noch formell vom EU-Parlament und den Mitgliedstaaten bestätigt werden. Das gilt derzeit jedoch als wahrscheinlich. (aso)