Ende von Cybergrooming: Knuddels nutzt KI-Filter, Abschreckung & ist bald ab 18

Knuddels gibt es seit mehr als 25 Jahren. Aus einem studentischen Hobbyprojekt wurde in den frühen 2000er-Jahren die größte soziale Plattform in Deutschland mit Millionen aktiven Nutzern. Später sorgten neue Wettbewerber und der Wechsel zu mobilen Angeboten für Stagnation und Rückgang. Heute zählt die Chat-Community eigenen Aussagen zufolge täglich rund 90.000 aktive Mitglieder.

Ein besonders sensibles Thema für Knuddels war vor allem das Thema Cybergrooming. Seit 2023 arbeitet die Plattform mit dem Bundeskriminalamt (BKA) zusammen. Seit Juni desselben Jahres hat Knuddels eigenen Angaben zufolge „die Anzahl identifizierter Verdachtsfälle um 93 Prozent“ senken können. Die Zusammenarbeit beschreibt das BKA gegenüber heise online als „konstruktiv“. Seit Beginn der Meldeverpflichtung des Digital Services Act „habe der Hostingdiensteanbieter Knuddels eine hohe dreistellige Anzahl an Art. 18 DSA Meldungen an das Bundeskriminalamt (BKA) übermittelt“, erklärt eine BKA-Sprecherin. Es könnten jedoch noch mehr sein. Übermittelte Vorgänge werden „bei positiver Prüfung der Strafbarkeit und nach Feststellung der örtlichen Zuständigkeit an das jeweils zuständige Bundesland übergeben, die Einleitung eines Ermittlungsverfahrens obliegt der zuständigen Staatsanwaltschaft und erfolgt nicht in jedem Falle“.

Bild 1 von 7

Im Zentrum von Knuddels steht inzwischen die Pflege einer langjährigen und loyalen Gemeinschaft – inklusive umfangreicher Schutzmechanismen und technischer Weiterentwicklungen. Über die Geschichte einer der ersten Chatplattformen in Deutschland sprachen wir mit Holger Kujath, dem Geschäftsführer von Knuddels“.

Knuddels gibt es inzwischen seit 1999 – also über 25 Jahre. Wie hat sich die Plattform entwickelt?

Gestartet haben wir 1999 als reines Hobbyprojekt während des Studiums. Wir trafen damals offenbar einen Nerv, denn die Plattform ist in den ersten sieben Jahren exponentiell gewachsen. Es war eine Pionierzeit des Social Web, in der wir mit über fünf Millionen monatlich aktiven Mitgliedern zur größten sozialen Plattform in Deutschland wurden, noch bevor Facebook hier überhaupt eine Rolle spielte. Danach kam die Konkurrenz (StudiVZ, Facebook etc.) und der Shift zu mobile. Es folgte eine Stagnations- und eine Rückgangsphase. Das Entscheidende ist aber, wie sich Knuddels seither gewandelt hat: Die Plattform ist mit ihrer Community erwachsen geworden. Viele unserer Nutzer sind uns treu geblieben, einige davon seit über 20 Jahren. Der Fokus hat sich von schnellem Wachstum hin zur Pflege dieser einzigartigen Gemeinschaft verschoben. Heute geht es um authentische, echte Verbindungen zwischen Menschen.

Und wie haben sich die Nutzerzahlen entwickelt?

Zuerst gab es die Phase des Hyperwachstums in den frühen 2000ern. In den ersten sieben Jahren sind wir exponentiell gewachsen und erreichten auf dem Höhepunkt über fünf Millionen monatlich aktive Nutzer. Damit waren wir die größte soziale Plattform im Land. Seit einigen Jahren hat sich die Zahl der Mitglieder wieder stabilisiert. Unser Fokus liegt heute weniger auf den reinen Mitgliederrekorden, sondern auf der hohen Authentizität und Loyalität der Community. Aktuell sind täglich rund 90.000 Mitglieder auf Knuddels aktiv.

Bei Knuddels war Cybergrooming in der Vergangenheit oft ein Thema. Wie sind Sie heute aufgestellt?

Als wir gestartet sind, war das ein gesellschaftlich und technologisch völlig neues Feld. Das Bewusstsein für die spezifische Gefahr des Cybergrooming musste sich erst entwickeln – bei uns, aber auch in der gesamten Branche. 2006 haben wir als erste Plattform ein Meldesystem eingeführt, über das User Gespräche melden konnten und das die Grundlage für mögliche Strafverfolgung bildet. Seitdem haben wir jedes Jahr zusätzliche Sicherheitsmaßnahmen entwickelt. Der größte Schritt war aber die Einführung des KI-basierten Filtersystems. Zunächst gibt es eine lokale, automatisierte Echtzeit-Analyse, bei der Chats nach bestimmten Textmustern und Auffälligkeiten gescannt werden. Dann folgt eine Validierung über ein Large Language Modell, damit nicht zu viele Fehlalarme entstehen. Das Modell bewertet, ob es sich wirklich um einen riskanten Inhalt handelt. Wenn der Verdacht bestätigt wird, beendet das System das Gespräch sofort. Die User können es dann bei Bedarf melden – nur so dürfen Fälle rechtlich an Behörden weitergegeben werden. Durch das frühe Eingreifen der Filter konnten wir die Zahl der Verdachtsfälle, die wir an die Ermittlungsbehörden weiterleiten, um 93 Prozent reduzieren.

RTL hatte damals in der Sendung „Angriff auf unsere Kinder“ berichtet, dass auf Knuddels Cybergrooming ein großes Problem sei und Sicherheitsmaßnahmen versagt hätten. Können Sie bitte nochmal skizzieren, was da los war?

Tatsächlich enthielt die damalige Berichterstattung eine Reihe schwerwiegender Falschdarstellungen und nachweislich falscher Anschuldigungen über Knuddels. Wir sind dagegen erfolgreich juristisch vorgegangen. Das Landgericht und Oberlandesgericht Hamburg haben unsere Position bestätigt (u.a. Urteil vom 14.01.2022) und RTL untersagt, die zentralen, rufschädigenden Falschaussagen zu wiederholen. RTL hat die Berichte daraufhin aus der Mediathek entfernt und selbst journalistische Fehler eingeräumt.

Welche Technik steckt derzeit hinter der KI?

Aktuell nutzen wir Modelle großer Anbieter – DSGVO-konform und in der Cloud. Das System ist modular, wir können also verschiedene Modelle testen und je nach Stärken einsetzen. Das war notwendig, weil jedes Modell andere Qualitäten hatte. Auch Prompt-Engineering ist ein entscheidender Teil, um die Balance zwischen Sicherheit und False Positives zu halten.

Haben Sie auch Pläne, ein Modell selbst zu hosten?

Ja. Wir testen aktuell Open-Source-Modelle wie Metas „LLaMA“ und andere. Pilotversuche auf eigenen Servern laufen schon. Unsere Vision ist, mittelfristig ein Modell komplett auf eigener Hardware zu betreiben. Das bringt uns mehr Kontrolle, flexiblere Anpassung an die Knuddels-Community und weniger Abhängigkeit von großen Anbietern.

Welche Rolle spielt Verschlüsselung für Knuddels?

Schon 1999 hatten wir in unser proprietäres Protokoll Verschlüsselung integriert; heute nutzen wir natürlich den TLS-Standard zur Transportverschlüsselung der gesamten Kommunikation. Wir speichern verdächtige Chats verschlüsselt, damit Missbrauchsfälle vor Gericht belastbar nachgewiesen werden können. Eine absolute Ende-zu-Ende-Verschlüsselung würde bedeuten, dass wir bei schweren Straftaten keinerlei gerichtsverwertbare Beweise liefern könnten und auch keine proaktive Prävention möglich wäre. Unser System schützt die Kommunikation, aber es schützt keine Täter. Wir haben da eine Balance getroffen.

Sie haben gerade die Behörden erwähnt – wie sieht die Zusammenarbeit konkret aus?

Wir arbeiten seit Jahren mit hochrangigen Sicherheitsbehörden zusammen. Das war uns auch wichtig, weil es eine abschreckende Wirkung hat. Potenzielle Täter wissen: Es gibt hier keine Lücken.

Wie hat die Community auf die Ankündigung der Kooperation reagiert?

Die meisten haben es sehr positiv aufgenommen, sogar positiver, als wir erwartet haben. Eine hohe vierstellige Zahl an Mitgliedern, die offensichtlich unsere Haltung nicht teilten, hat die Plattform umgehend verlassen. Für uns war das überhaupt kein Problem, im Gegenteil: Wir haben offensichtlich die Richtigen abgeschreckt. Die verbleibende Community fühlte sich sicherer.

Offiziell ist Knuddels ab 16?

Ja, aktuell noch. Und in der Praxis sind mittlerweile über 96 Prozent unserer Mitglieder volljährig. Wir betreiben zusätzlich einen Alters-Filter, der mit KI überprüft, ob neue Nutzer jünger sein könnten. Erkennt das Modell ein Muster – etwa weil jemand im Chat sagt „ich bin 15“ – wird das Konto umgehend gesperrt und auch weitere Registrierungsversuche verhindert.

Die Kombination dieser Maßnahmen zeigt eine massive Wirkung. Seit Einführung der Systeme haben uns die Sicherheitsbehörden keinen Fall von erfolgtem Cybergrooming mit Beteiligung eines Kindes auf unserer Plattform mehr gemeldet.

Wie finanziert sich Knuddels heute?

Hauptsächlich über ein Freemium-Modell und Spiele innerhalb der Plattform. Daneben auch über Werbung. Unsere Community ist älter geworden – viele sind Fans, die uns seit Jahrzehnten kennen und gerne Geld für Features ausgeben.

Welche Rolle wird KI künftig noch spielen?

Unsere Haltung ist ganz klar: Wir wollen keine KI-Nutzer oder Bots. Im Gegenteil, Knuddels soll eine Plattform für echte Menschen bleiben. KI werden wir nur da einsetzen, wo sie schützt – also Fakes, Scammer und Missbrauch erkennt.

Unser Herzstück ist die Community. Viele unserer Nutzer sind aus der „Chatzeit der 2000er“ geblieben. Wir veranstalten regelmäßig Offline-Treffen, bei denen bis zu 200 Leute ein Wochenende zusammen verbringen. Genau das ist die Idee von Knuddels: authentische, echte Verbindungen zwischen Menschen – seit über 25 Jahren.

(mack)