Künstliche Intelligenz erleichtert das Handwerk von Pädokriminellen. Dabei gäbe es schon heute Systeme, die Minderjährige vor den dunkelsten Ecken des Internets schützen, ohne gleich die Privatsphäre abzuschaffen.
Künstliche Intelligenz ist für den Jugendschutz ein Albtraum: Sie vereinfacht den sexuellen Missbrauch von Kindern und Jugendlichen. Erwachsene melden sich unter falschem Namen auf Online-Plattformen an. Gezielt erschleichen sich die Täter im Zuge des «online grooming» erst das Vertrauen der Minderjährigen und schreiten dann zum Missbrauch: Sie bitten die Teenager, Nacktfotos von sich zu schicken. Mit den Bildern erpressen sie die Opfer, drohen mit der Publikation und verlangen Geld.
Die Straftat wird in Fachkreisen Sextortion genannt. Besonders gefährdet sind männliche Teenager: Laut der aktuellen Kriminalstatistik stellen sie neun von zehn Opfern. Viele von ihnen sind sensibilisiert für solche Gefahren im Internet. Sie wissen, dass sie keine «dick pics» versenden sollten. Trotzdem passiert es immer wieder, dass Jugendliche auf die Masche hereinfallen, wie die «NZZ am Sonntag» kürzlich ausführte. Zu gross ist ihre Neugier, zu gross ihre Unerfahrenheit.
KI vereinfacht Sextortion auf vielfältige Weise: Täter können mit KI-Bilderstellung Profilbilder generieren und inszenieren sich damit als attraktive, vertrauenswürdige Jugendliche. Sie können sich von Chatbots beraten lassen, wie sie ideale Opfer finden, zum Beispiel Teenager in schwierigen Situationen. Sie können mit Chatbots Skripte und Chat-Verläufe entwerfen, mit denen sie sich das Vertrauen von Minderjährigen erschleichen. Und sie können Jugendliche dazu animieren, Nacktfotos von sich zu schicken, indem sie ihnen computergenerierte Nacktbilder zustellen, von denen sie behaupten, sie zeigten sie selbst.
Leider können solche Straftaten selten aufgeklärt werden. Laut der aktuellen Kriminalstatistik laufen die Ermittlungen in über 90 Prozent der Fälle ins Nichts. Für Täter ist dies lukrativ: Sie können Geld von Teenagern erpressen, ohne mit einer sofortigen Verhaftung rechnen zu müssen.
Und leider geht es noch schlimmer: Weil Chatbots das Grooming vereinfachen, ist auch nicht ausgeschlossen, dass Täter die Minderjährigen zu einem Treffen in der realen Welt überreden. Was mit einem harmlosen Chat begann, endet dann unter Umständen mit sexueller Gewalt, von der die Kinder und Jugendlichen ein Leben lang traumatisiert sind.
Unter anderem wegen solcher Gefahren braucht es im Internet endlich einen glaubwürdigen Altersnachweis. Denn bis anhin ist die Online-Alterskontrolle ein schlechter Witz. Pornografieportale gewähren auch Primarschülern nach einem einzigen Klick auf «Ich bin über 18» Zugriff auf ihre Seiten. Und Alkoholverkäufer liefern Spirituosen an 13-Jährige. Für die durchdigitalisierte Gesellschaft, in der wir heute leben, ist das ein Armutszeugnis.
Der Porno-Site wird niemand seine ID zeigen müssen
Die EU hat das Problem erkannt. Im Jahr 2023 verpflichtete sie grosse Pornografie-Sites, ein System zur Altersverifizierung einzuführen. Die Site-Betreiber haben die Deadline von Anfang 2024 allerdings tatenlos verstreichen lassen. Konsequenzen gab es für die Firmen keine.
Nun will die EU kommenden Sommer eine eigene App für die Altersverifizierung bereitstellen. Die App soll als Zwischenlösung fungieren, bis Ende 2026 der digitale Identitätsnachweis der EU, die EU Digital Identity Wallet, eingeführt wird.
Man fragt sich: Darf man diesem Zeitplan glauben, nachdem die Porno-Sites geltendes Recht schon jahrelang folgenlos ignoriert haben? Und warum stockt die Einführung der Altersnachweise dermassen?
Das Problem lag bisher bei Netzaktivisten und Privatsphärenschützer, die sich jahrelang gegen Altersnachweise im Internet stellten. Sie wollen verhindern, dass Internetnutzer noch mehr Daten von sich preisgeben, als sie dies heute schon tun. Die amerikanische Electronic Frontier Foundation schreibt deswegen: «Systeme für die Altersverifizierung sind Systeme zur Überwachung.»
Tatsächlich sind bisherige Formen der Alterskontrolle schlecht vereinbar mit dem Gedanken, dass die Anonymität im Internet so weit wie möglich aufrechterhalten werden soll. Dass die meisten Nutzer von Pornografie-Sites weder ihre Identitätskarte abfotografieren noch ihr Gesicht scannen lassen wollen, liegt auf der Hand.
Doch es gäbe schon jahrelang Systeme, die Kinder im Internet schützen, ohne die Privatsphäre – oder das, was im digitalen Zeitalter von der Privatsphäre übriggeblieben ist – stark zu beschneiden.
ID wird in einer App hinterlegt
Die EU schlägt nun ein System vor, in dem Internetnutzer ihr Alter nachweisen können, ohne dass sie ihre Identität preisgeben. Dabei bestätigt die eigens dafür entwickelte App, ob jemand einer bestimmten Altersgruppe angehört. Die Nutzer können in der App eine ID hinterlegen oder die App mit einer anderen Anwendung verknüpfen, die das Alter des Nutzers bereits kennt, zum Beispiel jener einer Bank.
Will der Internetnutzer nun auf eine Website für Erwachsene, bestätigt die App seine Volljährigkeit. Der Websitebetreiber, also der Online-Alkoholhändler, die Pornografie-Site oder der Chatroom-Betreiber, erhält in dem System weder den Namen noch das genaue Alter eines Nutzers, sondern nur die Information, ob die Person tatsächlich der erforderten Altersgruppe – zum Beispiel Ü-18 – angehört.
Obwohl in diesem System die Pornowebsite ihre Nutzer nicht identifizieren kann, gibt es Verbesserungspotenzial. Aber im Ansatz geht es in eine wünschenswerte Richtung: Die Privatsphäre wird so weit wie möglich gewahrt.
Ein Restrisiko bleibt immer
Trotzdem sind Systeme wie dieses immer mit einem Restrisiko verbunden: Wer genügend Ressourcen hat, Zeit, Geld, technisches Wissen, kann jedes digitale System hacken. Etwas anderes zu behaupten, wäre naiv.
Aber der Fakt, dass man ein jedes System missbrauchen kann, darf kein Grund dafür sein, die Altersnachweise weiterhin nicht einzuführen. Schliesslich ist das zusätzliche Risiko, das ein datensparsamer Altersnachweis schafft, minimal, wenn man den grossen Datenschatz bedenkt, den Internetfirmen bereits über uns speichern.
Pornografie-Sites beispielsweise wissen sehr genau, dass etwa 90 Prozent der Männer regelmässig Sexfilme konsumieren. Sie speichern auch die Vorlieben ihrer Nutzer und verfolgen sie durchs Internet. Betreiber von Suchmaschinen und sozialen Plattformen tun ähnliches.
Es wäre schön, wenn dies anders wäre. Wenn wir anonym durch das Internet browsen könnten, ohne dass Firmen jedes noch so kleine Detail über uns speichern. Aber in der Welt, in der wir gegenwertig leben, werden unsere digitalen Spuren wo immer möglich verfolgt, gespeichert, verwertet. Trotzdem haben wir keinen glaubwürdigen Jugendschutz im Internet hervorgebracht. Das ist absurd.
Keine 12-Jährigen im Sexkino
Ob Alterskontrollen als angemessen wahrgenommen werden, ist auch eine Frage des definierten Mindestalters. Bei Alkohol, Zigaretten und Pornografie existiert seit Jahrzehnten ein gesellschaftlicher Konsens. Im analogen Leben funktioniert das einigermassen gut: 12-Jährige werden in der Regel nicht ins Sexkino eingelassen. Im Supermarkt erhalten sie weder Spirituosen noch Zigaretten. Deshalb würde der Altersnachweis im Internet die eklatante Ungleichbehandlung zwischen Online- und Offline-Verkaufsstellen aufheben.
Trotz allem: Selbstverständlich finden Jugendliche ihre Wege zu Alkohol, Drogen und Pornografie, auch wenn man ihnen die eine oder andere Barriere in den Weg stellt. Und auch das Problem der Sextortion wird nicht allein mit Altersnachweisen gelöst. Es wird deshalb immer wichtig bleiben, mit Jugendlichen über die Gefahren des Internets und seine reizvollen Produkte zu sprechen.
Dennoch ist bei den Altersnachweisen die Balance klar: Der Nutzen überwiegt das Risiko für die Gesamtgesellschaft. Der Schutz von Kindern und Jugendlichen ist zu wichtig, als dass wir noch jahrelang darauf warten sollten.
