KI gegen Übergriffe auf Kinder im Web
Das Fraunhofer-Institut für sichere Informationstechnologie (SIT) hat eine Machbarkeitsstudie veröffentlicht, die zeigt, wie man Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien schützen kann. Demnach lassen sich durch künstliche Intelligenz und Multimediaforensik viele Delikte erkennen und sogar unterbinden. Die Studie war vom Hessischen Ministerium des Innern und für Sport 2018 beauftragt worden und ist nun im Web unter https://www.sit.fraunhofer.de/jugendschutz/ frei zugänglich.
Wie das SIT mitteilt, stieg laut polizeilicher Kriminalstatistik die Zahl der Delikte im Bereich kinder- und jugend porno grafischer Schriften im Pandemiejahr 2020 um mehr als 50 Prozent. Das Cybergrooming, die gezielte manipulative sexuelle Kontaktaufnahme zu Kindern in Chats, Foren oder Online-Spielen, habe während der Pandemie enorme Ausmaße angenommen, meldet Johannes-Wilhelm Rörig, der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs (UBSKM). Zudem sei das Versenden von Nacktfotos über Messenger-Dienste, neuhochdeutsch Sexting, auch unter Heranwachsenden verbreitet, berichtet das SIT.
In der Machbarkeitsstudie prüften die Forscher unterschiedliche technische Verfahren der automatischen Bilderkennung, um unbedachtes Sexting zu verhindern. Unter anderem basierten die Methoden auf einem Deep-Learning-Netz. Mit dieser Art der künstlichen Intelligenz könne man ein Nacktbild auf Smart phones mit hoher Genauigkeit erkennen, so die Forscher, und Jugendliche dann technisch davon abhalten, solche Bilder zu erstellen und zu verbreiten. Studienleiter Professor Martin Steinebach erklärte dazu: „Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smart-phone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden.“
