Hetze, Mord und Pornos – aber bitte erst ab 16?

Kennen Sie es auch, dieses mulmige Gefühl? Weil die Tochter sich schon wieder besinnungslos durch blöde Videos scrollt und dabei immer gereizter wird? Oder wegen dieses Schulkameraden Ihres Sohnes, der in der Whatsapp-Gruppe der Klasse gemobbt wurde? Und wollten Sie nicht eigentlich dringend mal die Kinderschutzeinstellungen auf Ihrem Handy kontrollieren? Andererseits: Man will die Kinder ja auch nicht von ihren Freunden fernhalten, die haben ja alle soziale Medien. Aber vielleicht sollte man sich mal bei Tiktok anmelden, um zu sehen, was sie da treiben?

Vielen Eltern geht es gerade so: Sie haben Heranwachsende und wollen ihnen die Teilhabe an sozialen Medien nicht verwehren. Aber gleichzeitig spüren sie, dass da etwas aus dem Ruder läuft. Dass eine Gefahr für ihre Kinder droht, der sie nicht Herr werden. Schon die Zahlen sind beängstigend. 93 Prozent der Kinder und Jugendlichen ab zehn Jahren nutzen soziale Netzwerke, pro Tag im Schnitt 95 Minuten lang. Das sind Ergebnisse einer Studie im Auftrag des Digitalverbands Bitkom.

Selbst Kinder, die gerade erst lesen und schreiben gelernt haben, tummeln sich schon in Chats und auf Videoplattformen. Knapp ein Viertel der 10- bis 17-Jährigen nutzt soziale Netzwerke riskant, also an der Schwelle zur Sucht. Das hat 2024 eine Untersuchung der DAK-Gesundheit und des Universitätsklinikums Hamburg-Eppendorf ergeben. Die Folgen sind verheerend. Laut einer Studie des Bündnisses gegen Cybermobbing vom Oktober sind allein zwei Millionen Schüler in Deutschland schon mindestens einmal in den sozialen Medien gemobbt worden. Ein Drittel der Opfer gab an, sich dauerhaft belastet zu fühlen, ein Viertel hatte Suizidgedanken. Seit 2022 ist die Zahl der jungen Menschen, die von solchen Fällen betroffen sind, um fast 17 Prozentpunkte gestiegen.

Doch nicht nur Mobbing ist eine Gefahr im Netz. Über soziale Medien haben Kinder und Jugendliche freien Zugang zu Themen wie Pornographie, Selbstverletzung, Diätwahn, Gewalt und Drogen. Studien legen seit Jahren nahe, worüber sich Experten einig sind: Die Nutzung sozialer Medien kann bei Heranwachsenden zu Depressionen, Konzentrationsschwierigkeiten, Angststörungen oder dem Gefühl von Wertlosigkeit führen. Auch Schlaf- und Essstörungen oder soziale Abschottung können die Folge sein. Sogenannte Challenges auf Tiktok haben weltweit zu Todesopfern unter Kindern und Jugendlichen geführt. Im Mai 2024 starb in Hessen ein 13-jähriges Mädchen, nachdem es sich selbst bis zur Ohnmacht gewürgt hatte. Das hatte die „Blackout Challenge“ vorgegeben.

Auch Hass und politische Beeinflussung haben in den sozialen Medien zugenommen. Ein Selbstversuch der F.A.S. hat gezeigt, wie schnell man auf Tiktok von harmlosen Clips zu einschlägigen Inhalten gelangt: Es dauert kaum 15 Minuten. Man gibt ein Like für einen zufälligen Clip über coole Jungs, die coole Autos fahren. Darauf zeigt der Algorithmus bald coole deutsche Jungs, die coole Autos fahren: Like. Coole deutsche Jungs mit coolen deutschen Frauen, die super kochen: Like. Danach kommen schnell Rechtsrock-Bands und AfD-Clips. Tiktok ist kein Netzwerk mehr, es ist ein Propagandainstrument. In Amerika soll die Plattform aus dem App-Store gelöscht werden, wenn der chinesische Mutterkonzern seinen amerikanischen Ableger bis zum 19. Januar nicht verkauft. Es wird befürchtet, dass China die Amerikaner ausspionieren könnte.

Bis vor einer Weile hat die Gesellschaft diese Risiken weithin ignoriert. Wenn man einen 13-Jährigen mit einer Bierflasche vor dem Bahnhof erwischt, wird das meist schnell geahndet. Steht er mit dem Handy da und schaut Tiktok-Videos, zucken viele nur mit den Schultern. Dass soziale Medien Heranwachsende körperlich und psychisch schädigen können, wird nicht gesehen. Rund ein Drittel der Eltern, sagen Polizisten und Lehrer, interessiere sich nicht dafür, was ihr Kind im Netz macht. Ein Drittel sei überfordert und überblicke die Situation nicht mehr, ein Drittel kümmere sich zwar intensiv, könne dem sozialen Druck, das Kind teilhaben zu lassen, weil es sonst die neue Trainingszeit oder den Klassentratsch nicht kennt, aber nicht standhalten.

Die Eltern allein, dieses Gefühl setzt sich immer mehr durch, können das Social-Media-Problem ihrer Kinder nicht lösen. Deshalb werden die Rufe nach gesetzlichen Regelungen lauter, und das weltweit. Australien hat kürzlich ein Gesetz verabschiedet, das unter 16-Jährigen den Zugang zu sozialen Medien verbietet. Auch Spanien und Italien planen das. In Florida gilt neuerdings eine Grenze von 14 Jahren, in Frankreich fordern Experten sogar eine Schwelle von 18 Jahren. In Albanien hat die Regierung Tiktok für ein Jahr gesperrt, nachdem sich Jugendliche auf der Plattform zu einer tödlichen Messerstecherei verabredet hatten. Deutschland hingegen hat es bisher nicht geschafft, sich auf ein Mindestalter zu einigen. In den Nutzungsbedingungen der meisten Plattformen ist zwar von 13 Jahren die Rede. Wirklich überprüft wird das aber nicht. In vielen Apps gibt es nur eine simple Abfrage bei der Installation, die man leicht umgehen kann.

In Deutschland habe man bislang vor allem auf digitale Teilhabe gesetzt, sagt die schleswig-holsteinische Bildungsministerin Karin Prien (CDU). „Aber wo soziale Medien süchtig machen und Schaden anrichten, muss der Staat seinem Schutzauftrag gerecht werden. Diesen Auftrag haben wir bisher zu sehr auf die leichte Schulter genommen.“ Prien fordert eine „viel intensivere Debatte“ über besseren Jugendschutz in den Netzwerken – auf allen politischen Ebenen von der EU bis in die Bundesländer. Die Kultusministerkonferenz will im März mit Experten diskutieren; am besten werde noch in diesem Jahr ein Maßnahmenkatalog beschlossen, fordert Prien. Sie hält altersgerechte Beschränkungen für „dringend nötig“. „Man kann sich nicht hinter dem Argument verschanzen, dass wir nun mal in der digitalen Welt leben.“

Auch der hessische Kultusminister Armin Schwarz (CDU) sieht raschen Handlungsbedarf. „Unsere Kinder brauchen genauso Schutzzonen vor Social Media wie vor Smartphones in Klassenräumen und auf Schulhöfen. Die Lage ist mittlerweile so dynamisch und damit zunehmend dramatisch, dass wir sonst eine ganze Generation verlieren könnten.“ Schwarz sagt, Deutschland müsse sich den Vorstoß von Australien genau ansehen und prüfen, ob eine solche Altersbeschränkung auch hierzulande sinnvoll sei. Die Deutschen würden das gutheißen. In einer Umfrage des Marktforschungsinstituts Appinio sprachen sich jüngst 87 Prozent für eine Altersbeschränkung aus. Mehr als 50 Prozent plädierten für eine Grenze von 16 Jahren, ein Fünftel sogar für eine von 18 Jahren. Aber wie wäre das durchsetzbar?

Spricht man mit Experten, dann ist vieles möglich – zumindest in der Theorie. In der Praxis wird die Sache schnell kompliziert. So arbeitet die EU, die Diensteanbieter im Internet mit dem „Digital Services Act“ (DSA) schon seit 2022 stärker kontrolliert, gerade an einer „digitalen Brieftasche“. Sie soll es EU-Bürgern ermöglichen, sich von 2026 an digital auszuweisen. Auch auf sozialen Plattformen könne dann das Alter des Nutzers verbindlich überprüft werden, sagen Befürworter. Doch Kritiker haben Bedenken – auch wegen des Datenschutzes. Sie fürchten, dass sensible Identitätsdaten aus der digitalen Brieftasche leicht abgefischt werden könnten, und warnen vor digitaler Überwachung. Altersprüfungen seien eine Gratwanderung, sagen Experten wie Michael Terhörst, Leiter der Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten (KidD): Sie dürften nicht zu kompliziert sein, weil die Nutzer sie sonst nicht akzeptierten. Gleichzeitig dürften die Unternehmen aber nicht zu viele sensible Daten erhalten.

Auch Marc Jan Eumann, Direktor der Kommission für Jugendmedienschutz, sieht die digitale Brieftasche skeptisch – weil er die Mühlen der EU für zu träge hält. Er setzt lieber auf die „Browser-Lösung“, die in der Novelle des Jugendmedienschutz-Staatsvertrags geplant ist. Sie soll die Anbieter verpflichten, einfache Einstellungen für Altersstufen auf Smartphones und Tablets anzubieten. Eumann hält das für einen „Gamechanger“. Kritiker sagen aber, es reiche nicht, um die Gefahr in den sozialen Medien deutlich zu reduzieren. Welcher Jugendliche klickt schon freiwillig auf die richtige Stufe?

Noch drängender ist allerdings die Frage, ob die Anbieter beim Jugendschutz überhaupt kooperieren. Wie zwiespältig der von ihnen behandelt wird, sieht man bei einem Lieblingsthema von Eumann: der automatischen Altersschätzung. In der Theorie klingt die Idee gut: Eine Künstliche Intelligenz analysiert Metadaten auf dem Handy und zieht daraus Rückschlüsse auf das Alter des Nutzers, ohne ihn zu identifizieren. Eigentlich sei die Technik der „age estimation“ mittlerweile sehr zuverlässig, schwärmt Eumann; wenn die Anbieter sie flächendeckend verwenden würden, wäre man einen großen Schritt weiter. Und dann erzählt Eumann von Instagram, das vor Kurzem eine solche Altersschätzung eingeführt hat – aber nicht für die erste Anmeldung in der App, sondern nur, wenn man im Nachhinein sein Alter ändert. Das sei so, sagt Eumann, als wolle man sein Haus vor Einbrechern schützen, lasse die Haustür aber sperrangelweit offen und schließe nur die Dachkammer ab. „Das zeigt, wie wenig Interesse die Plattformen an Altersbeschränkungen haben. Die wollen eine größtmögliche Audience.“ Auch der Kotau des Meta-Chefs Mark Zuckerberg vor Donald Trump macht wenig Hoffnung auf Kooperationsbereitschaft. Zuckerberg will auf seinen Plattformen in Amerika keine Faktenchecks mehr betreiben und hat angekündigt, gegen die „institutionalisierte Zensur“ in der EU vorzugehen. So nennt der Meta-Chef die Verpflichtung, in Europa gegen Hassrede und Fake News vorzugehen.

Die meisten Experten sind davon überzeugt, dass man den Anbietern wenn überhaupt nur durch empfindliche Strafen beikommen kann. In Australien sollen sie Geldbußen von umgerechnet bis zu 31 Millionen US-Dollar zahlen, wenn sie binnen eines Jahres keine wirksamen Altersprüfungen einführen. Das soll in der EU auch bald möglich sein. Schon jetzt sieht Europas „Digital Services Act“ für große Plattformen wie Tiktok Bußgelder von bis zu sechs Prozent ihres Jahresumsatzes vor, wenn sie gegen seine Richtlinien verstoßen und illegale Inhalte anbieten. Im Dezember hat die Kommission wegen Manipulationsvorwürfen bei der Wahl in Rumänien ein Verfahren gegen Tiktok eingeleitet.

Künftig will die EU die Anbieter auch zu verbindlichen Altersprüfungen verpflichten. Eine Taskforce erarbeitet gerade Leitlinien dafür. Doch welche das sein werden und wie die Mitgliedstaaten sie dann umsetzen, ist unklar. Die Grüne Tabea Rößner, Vorsitzende des Digitalausschusses im Bundestag, ist trotzdem zuversichtlich. „Die Leitlinien zur Altersprüfung werden einen guten Rahmen für mehr Schutz bieten“, glaubt sie. Wenn die Anbieter nicht kooperierten, sei neben hohen Geldstrafen theoretisch auch ein Verbot von Plattformen in der EU möglich – als „Ultima Ratio“. „Unser Schwert ist scharf“, sagt Rößner. „Wir müssen es nur schwingen.“