Chancen und Risiken künstlicher Intelligenz bei der Erkennung von sexuellen Übergriffen

Künstliche Intelligenz hat aus Sicht des Kinder- und Jugendschutzes »zwei Seiten einer Medaille. Neben den gefährdenden Aspekten die KI für Kinder und Jugendliche hat bzw. haben kann z.B. durch Deepnudes, Inpainting und künstlich generierte Abbildungen von Missbrauch, stellt die Nutzung von KI zur Bekämpfung digitaler sexueller Gewalt gegen Kinder einen positiven Aspekt dar. Die Erkennung und Blockierung von Missbrauchsinhalten, die Identifikation von Cyber-Grooming und der Schutz von Kindern auf digitalen Plattformen durch automatische Überwachungssysteme stellen - neben der Förderung von Medienkompetenz - Ansätze zur Risikominimierung dar.