Kann uns Künstliche Intelligenz helfen, sexuelle Gewalt im Internet zu bekämpfen, Martin Steinebach?

Die Zahl der Missbrauchsmeldungen im Internet ist in den letzten Jahren explodiert: Von 23.000 Fällen im Jahr 2010 stieg sie auf über 725.000 im Jahr 2019. Weltweit wird jedes achte Kind online sexuell ausgebeutet – so das Ergebnis einer Studie der Universität Edinburgh aus dem Jahr 2024. Dazu gehören die Erstellung und Verbreitung von Fotos und Videos mit sexuellem Inhalt, Online-Erpressung mit expliziten Aufnahmen und der Einsatz von Künstlicher Intelligenz für gefälschte Bilder und Videos. Auch Cybergrooming und missbräuchliches Sexting nehmen zu. Soziale Netzwerke und Online-Spiele bieten pädokriminellen Menschen dabei eine fast ungehinderte Plattform, um mit Kindern und Jugendlichen in Kontakt zu treten.

Der Ruf nach stärkeren Kontrollen im Netz wird dementsprechend lauter, der Einsatz von Künstlicher Intelligenz (KI) zur Unterstützung solcher Kontrollen wird dabei zunehmend diskutiert. Denn Neuronale Netzwerke können Nacktbilder erkennen, bevor sie verbreitet werden, und bei der Aufdeckung von Cybergrooming helfen, indem sie Sprachmuster analysieren und so das tatsächliche Alter der User herausfinden. Doch die Technologien sind nicht unfehlbar und die Fehlerraten oft hoch. Kritiker:innen befürchten zudem, dass KI-gestützte Kontrollen zur „Massenüberwachung” führen könnten.
Wie KI zum Schutz von Kindern und Jugendlichen im Netz eingesetzt werden könnte – und welche Gefahren damit einhergehen: Darüber spricht Prof. Dr. Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie bei einbiszwei.

⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯

WEITERE INFOS

Website vom Fraunhofer-Institut für Sichere Informationstechnologie SIT Zur Website

Studie „Technik für den digitalen Jugendschutz” unter Beteiligung von Martin Steinebach Zur Studie

Artikel von Martin Steinebach in der BzKJAKTUELL Zum Artikel

Beitrag „Maschinelles Lernen im Jugendschutz” von Martin Steinebach in mediendiskurs Zum Beitrag

⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯

HILFEANGEBOTE:

Hilfe-Telefon Sexueller Missbrauch 0800 22 55 530 – anonym und kostenfrei
Hilfe-Portal Sexueller Missbrauch