EU plant Verbot von KI-Deepfakes

Die Europäische Union hat sich auf eine Verschärfung ihres KI-Gesetzes verständigt. Künftig sollen Anwendungen der Künstlichen Intelligenz verboten werden, die zur Erstellung sexualisierter Deepfakes oder von Darstellungen sexuellen Kindesmissbrauchs genutzt werden können.

Vertreter der EU-Mitgliedstaaten und des Europäischen Parlaments einigten sich auf die Anpassung der Regeln. Bevor die Änderungen in Kraft treten, müssen sie noch offiziell bestätigt werden. Das gilt jedoch als wahrscheinlich. Die neuen Vorgaben sollen ab Dezember 2026 durch das europäische KI-Amt überwacht werden.

Bei Deepfakes werden mithilfe von KI täuschend echte Bilder, Videos oder Stimmen erzeugt oder manipuliert. So können Personen scheinbar Dinge sagen oder tun, die nie stattgefunden haben. Besonders problematisch ist der Einsatz solcher Technologien für pornografische oder missbräuchliche Inhalte.

Aufmerksamkeit erhielt das Thema zuletzt durch den KI-Chatbot Grok von xAI. Nutzer hatten die Software genutzt, um Frauen auf Bildern digital zu entkleiden. Auch in Deutschland wurde die Debatte zuletzt durch Vorwürfe der Moderatorin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen verstärkt. Für Ulmen gilt die Unschuldsvermutung.

Die EU hatte bereits 2024 eine Richtlinie gegen digitale Gewalt beschlossen. Das neue KI-Verbot würde nun zusätzlich direkt die verwendeten KI-Anwendungen betreffen und nicht nur die Verbreitung entsprechender Inhalte.

Gleichzeitig wurden andere Teile des KI-Gesetzes entschärft oder verschoben, um Unternehmen mehr Zeit zur Umsetzung zu geben. Verpflichtende Kennzeichnungen und Wasserzeichen für KI-generierte Inhalte sollen nun erst ab Ende 2026 gelten. Weitere Vorschriften treten erst 2027 vollständig in Kraft.

APA/Red.