KI-generierte Abbildungen von Kindesmissbrauch

Die Verbreitung von Darstellungen von Kindesmissbrauch hat Diskussionen über den Umgang mit Inhalten im Internet und die Frage ausgelöst, ob solche Inhalte gelöscht werden können. Sie ist einer der Gründe für die Bestrebungen der EU, eine Chatkontrolle mit Client-Side-Scanning einzuführen. In jüngerer Vergangenheit ist zu beobachten, dass die Darstellungen nicht mehr unbedingt von existierenden Opfern stammen, sondern mittels KI-basierter generativer Systeme (GenAI) erstellt oder modifiziert worden sind. Der Beitrag führt auf, mit welchen Methoden entsprechende Inhalte erzeugt werden können und diskutiert die Konsequenzen der Verfügbarkeit der Methoden für potenzielle Opfer, ihr Umfeld und die Ermittler.