Was im Klassenchat landet und warum das Probleme macht

Stuttgart/Hannover (dpa) - Pornos, Gewaltvideos und manipulierte Bilder gehören in vielen Klassenchats längst zur Realität. Besonders heikel sind sexualisierte Inhalte, die ohne Einverständnis der Betroffenen weitergeleitet, verfremdet oder mit Künstlicher Intelligenz (KI) neu erzeugt werden. Experten berichten, dass Kinder und Jugendliche oft nicht einschätzen können, welche Folgen ihr Handeln hat - und dass auch das Teilen sexualisierter Gewalt strafbar machen kann. Die Opfer leiden mitunter jahrelang unter den Mobbingfolgen.

Vor solchen Gefahren will die EU-Kommission Kinder besser schützen. Soziale Netzwerke, bestimmte Spieleplattformen sowie Anbieter von KI für Kinder und Jugendliche sollen nach Plänen der EU-Kommission nachweisen müssen, dass sie sicher sind. «Vorher gibt es keinen Zugang zu den Minderjährigen», sagte EU-Kommissionspräsidentin Ursula von der Leyen in Straßburg. Bevor neue Regeln in Kraft treten, müssen sich das EU-Parlament und die 27 EU-Mitgliedsländer mit dem Vorschlag befassen. Das könnte Monate oder sogar Jahre dauern.

Wie früh sexualisierte Grenzverletzungen beginnen

Saskia Nakari vom Landesmedienzentrum (LMZ) in Stuttgart sagt, in Workshops mit sechsten Klassen beobachte sie regelmäßig, wie früh das Thema Jugendliche erreicht. «Von zehn jungen Mädchen sind sechs von ungefragt zugesandten sogenannten Dickpics, das heißt erigierten Penisbildern, betroffen», sagt sie. Solche Erfahrungen zeigten, wie normalisiert sexualisierte Grenzverletzungen in digitalen Räumen für viele schon geworden seien.

Zu den Problemen in Messenger-Gruppen kommt inzwischen die Möglichkeit hinzu, Bilder mit KI zu manipulieren oder neu zu generieren. Das zeigt sich auch in der Beratungspraxis von Juuuport, einer bundesweiten Online-Beratungsplattform mit Sitz in Hannover. 

Ann-Kristin Gaumann ist dort im Medienpädagogischen Projektmanagement zuständig für die Beratung, Aus- und Weiterbildung der Scouts - ehrenamtlich aktive Jugendliche und junge Erwachsene, die Gleichaltrige vertraulich etwa bei Thema Cybermobbing unterstützen. Nach Angaben von Gaumann melden sich im Schnitt 250 bis 300 junge Leute pro Monat. Bearbeitet werden die Anfragen von 35 Scouts. Den Schwerpunkt der Betroffenen bilden 14- bis 17-Jährige und 10- bis 13-Jährige.

Eine 15-Jährige habe geschrieben: «Leute, die ich kenne, haben mit meinen Fotos irgendwie Nacktbilder erstellt. Ich glaube, mit KI. Ich bin das aber nicht auf den Nacktbildern! Ich würde nie welche von mir machen! Aber es sieht so aus, als hätte ich welche gemacht und dann verschickt. Alle glauben das.» Ein 13-Jähriger berichtete, Mitschüler hätten «mit KI einen Sticker» von ihm erstellt; es sehe so aus, als würde er ein Mädchen küssen, und dies werde geteilt.

Betroffene geben sich oft selbst die Schuld 

Experten beschreiben als häufiges Muster, dass Betroffene Angst haben und sich selbst die Schuld geben. In den Beratungen gehe es deshalb oft zunächst darum, Schuldzuweisungen einzuordnen und das Gefühl der Isolation zu durchbrechen. «Ich würde immer auf jeden Fall raten, mit jemandem darüber zu sprechen. Das ist immer das Allerwichtigste», sagt Tomas, Scout bei Juuuport.

Nach Nakaris Beobachtung werden viele problematische Inhalte heute nicht mehr nur klassisch «verschickt», sondern auch in Livestream- und Plattform-Situationen angestoßen, etwa wenn Minderjährige zu sexualisierten oder entwürdigenden Handlungen gedrängt werden. Dabei entstünden Abbildungen, die gespeichert und weiterverbreitet werden könnten. 

Gruppendruck statt «Spaß»: Warum Jugendliche weiterleiten

Warum Jugendliche derartige Inhalte teilen, hat nach Einschätzung von Medienpädagogin Petra Grimm von der Hochschule der Medien in Stuttgart oft weniger mit technischer Neugier als mit Gruppendynamik zu tun. Wer etwas weiterleite, bestätige Freundschaften und sichere sich Anerkennung. 

Wer sich verweigere, riskiere in der Clique isoliert zu werden - ein Risiko, das viele zwischen 12 und 16 Jahren nicht eingehen wollten. «Indem ich es weiterleite als Jugendlicher zeige ich, dass ich diese Freundschaft quasi bestätige und letztendlich damit auch soziale Beziehungen festige», sagt Grimm.

Strafbarkeit und fehlende Aufklärung

Verschärft werde das Problem durch fehlende Aufklärung, sagt Nakari. «Ich erlebe in meiner täglichen Arbeit, wie Kinder und Jugendliche meist unwissend mit ihren Endgeräten Straftaten begehen.»

Es sei nicht nur strafbar, pornografische Inhalte herzustellen - auch das Weiterleiten könne strafbar sein. Nakari verwies dabei auf ihre Podcast-Reihe «Schoolcrime».

Rollen von Schule und Eltern

Andrea Zeisberg, Medienpädagogin am LMZ, beschreibt, dass solche Vorfälle in der Schule meist zwei Ebenen haben: den Schutz der betroffenen Person und die Frage, wie mit der Gruppe und dem Weiterverbreiten umgegangen wird. Es gehe immer zunächst darum, sich auf das geschädigte Kind zu konzentrieren, dessen Bild verbreitet wurde.