Connect with us

Künstliche Intelligenz

Ende von Cybergrooming: Knuddels nutzt KI-Filter, Abschreckung & ist bald ab 18


Knuddels gibt es seit mehr als 25 Jahren. Aus einem studentischen Hobbyprojekt wurde in den frühen 2000er-Jahren die größte soziale Plattform in Deutschland mit Millionen aktiven Nutzern. Später sorgten neue Wettbewerber und der Wechsel zu mobilen Angeboten für Stagnation und Rückgang. Heute zählt die Chat-Community eigenen Aussagen zufolge täglich rund 90.000 aktive Mitglieder.

Ein besonders sensibles Thema für Knuddels war vor allem das Thema Cybergrooming. Seit 2023 arbeitet die Plattform mit dem Bundeskriminalamt (BKA) zusammen. Seit Juni desselben Jahres hat Knuddels eigenen Angaben zufolge „die Anzahl identifizierter Verdachtsfälle um 93 Prozent“ senken können. Die Zusammenarbeit beschreibt das BKA gegenüber heise online als „konstruktiv“. Seit Beginn der Meldeverpflichtung des Digital Services Act „habe der Hostingdiensteanbieter Knuddels eine hohe dreistellige Anzahl an Art. 18 DSA Meldungen an das Bundeskriminalamt (BKA) übermittelt“, erklärt eine BKA-Sprecherin. Es könnten jedoch noch mehr sein. Übermittelte Vorgänge werden „bei positiver Prüfung der Strafbarkeit und nach Feststellung der örtlichen Zuständigkeit an das jeweils zuständige Bundesland übergeben, die Einleitung eines Ermittlungsverfahrens obliegt der zuständigen Staatsanwaltschaft und erfolgt nicht in jedem Falle“.


Im Zentrum von Knuddels steht inzwischen die Pflege einer langjährigen und loyalen Gemeinschaft – inklusive umfangreicher Schutzmechanismen und technischer Weiterentwicklungen. Über die Geschichte einer der ersten Chatplattformen in Deutschland sprachen wir mit Holger Kujath, dem Geschäftsführer von Knuddels“.


Holger Kujath

Holger Kujath

Holger Kujath ist Mitgründer und Geschäftsführer der Chatplattform Knuddels. Der Diplom-Informatiker (KIT) gründete die Plattform 1999 während seines Studiums.

(Bild: Chris Marxen / Headshots-Berlin)

Knuddels gibt es inzwischen seit 1999 – also über 25 Jahre. Wie hat sich die Plattform entwickelt?

Gestartet haben wir 1999 als reines Hobbyprojekt während des Studiums. Wir trafen damals offenbar einen Nerv, denn die Plattform ist in den ersten sieben Jahren exponentiell gewachsen. Es war eine Pionierzeit des Social Web, in der wir mit über fünf Millionen monatlich aktiven Mitgliedern zur größten sozialen Plattform in Deutschland wurden, noch bevor Facebook hier überhaupt eine Rolle spielte. Danach kam die Konkurrenz (StudiVZ, Facebook etc.) und der Shift zu mobile. Es folgte eine Stagnations- und eine Rückgangsphase. Das Entscheidende ist aber, wie sich Knuddels seither gewandelt hat: Die Plattform ist mit ihrer Community erwachsen geworden. Viele unserer Nutzer sind uns treu geblieben, einige davon seit über 20 Jahren. Der Fokus hat sich von schnellem Wachstum hin zur Pflege dieser einzigartigen Gemeinschaft verschoben. Heute geht es um authentische, echte Verbindungen zwischen Menschen.

Und wie haben sich die Nutzerzahlen entwickelt?

Zuerst gab es die Phase des Hyperwachstums in den frühen 2000ern. In den ersten sieben Jahren sind wir exponentiell gewachsen und erreichten auf dem Höhepunkt über fünf Millionen monatlich aktive Nutzer. Damit waren wir die größte soziale Plattform im Land. Seit einigen Jahren hat sich die Zahl der Mitglieder wieder stabilisiert. Unser Fokus liegt heute weniger auf den reinen Mitgliederrekorden, sondern auf der hohen Authentizität und Loyalität der Community. Aktuell sind täglich rund 90.000 Mitglieder auf Knuddels aktiv.

Bei Knuddels war Cybergrooming in der Vergangenheit oft ein Thema. Wie sind Sie heute aufgestellt?

Als wir gestartet sind, war das ein gesellschaftlich und technologisch völlig neues Feld. Das Bewusstsein für die spezifische Gefahr des Cybergrooming musste sich erst entwickeln – bei uns, aber auch in der gesamten Branche. 2006 haben wir als erste Plattform ein Meldesystem eingeführt, über das User Gespräche melden konnten und das die Grundlage für mögliche Strafverfolgung bildet. Seitdem haben wir jedes Jahr zusätzliche Sicherheitsmaßnahmen entwickelt. Der größte Schritt war aber die Einführung des KI-basierten Filtersystems. Zunächst gibt es eine lokale, automatisierte Echtzeit-Analyse, bei der Chats nach bestimmten Textmustern und Auffälligkeiten gescannt werden. Dann folgt eine Validierung über ein Large Language Modell, damit nicht zu viele Fehlalarme entstehen. Das Modell bewertet, ob es sich wirklich um einen riskanten Inhalt handelt. Wenn der Verdacht bestätigt wird, beendet das System das Gespräch sofort. Die User können es dann bei Bedarf melden – nur so dürfen Fälle rechtlich an Behörden weitergegeben werden. Durch das frühe Eingreifen der Filter konnten wir die Zahl der Verdachtsfälle, die wir an die Ermittlungsbehörden weiterleiten, um 93 Prozent reduzieren.

RTL hatte damals in der Sendung „Angriff auf unsere Kinder“ berichtet, dass auf Knuddels Cybergrooming ein großes Problem sei und Sicherheitsmaßnahmen versagt hätten. Können Sie bitte nochmal skizzieren, was da los war?

Tatsächlich enthielt die damalige Berichterstattung eine Reihe schwerwiegender Falschdarstellungen und nachweislich falscher Anschuldigungen über Knuddels. Wir sind dagegen erfolgreich juristisch vorgegangen. Das Landgericht und Oberlandesgericht Hamburg haben unsere Position bestätigt (u.a. Urteil vom 14.01.2022) und RTL untersagt, die zentralen, rufschädigenden Falschaussagen zu wiederholen. RTL hat die Berichte daraufhin aus der Mediathek entfernt und selbst journalistische Fehler eingeräumt.

Welche Technik steckt derzeit hinter der KI?

Aktuell nutzen wir Modelle großer Anbieter – DSGVO-konform und in der Cloud. Das System ist modular, wir können also verschiedene Modelle testen und je nach Stärken einsetzen. Das war notwendig, weil jedes Modell andere Qualitäten hatte. Auch Prompt-Engineering ist ein entscheidender Teil, um die Balance zwischen Sicherheit und False Positives zu halten.

Haben Sie auch Pläne, ein Modell selbst zu hosten?

Ja. Wir testen aktuell Open-Source-Modelle wie Metas „LLaMA“ und andere. Pilotversuche auf eigenen Servern laufen schon. Unsere Vision ist, mittelfristig ein Modell komplett auf eigener Hardware zu betreiben. Das bringt uns mehr Kontrolle, flexiblere Anpassung an die Knuddels-Community und weniger Abhängigkeit von großen Anbietern.

Welche Rolle spielt Verschlüsselung für Knuddels?

Schon 1999 hatten wir in unser proprietäres Protokoll Verschlüsselung integriert; heute nutzen wir natürlich den TLS-Standard zur Transportverschlüsselung der gesamten Kommunikation. Wir speichern verdächtige Chats verschlüsselt, damit Missbrauchsfälle vor Gericht belastbar nachgewiesen werden können. Eine absolute Ende-zu-Ende-Verschlüsselung würde bedeuten, dass wir bei schweren Straftaten keinerlei gerichtsverwertbare Beweise liefern könnten und auch keine proaktive Prävention möglich wäre. Unser System schützt die Kommunikation, aber es schützt keine Täter. Wir haben da eine Balance getroffen.

Sie haben gerade die Behörden erwähnt – wie sieht die Zusammenarbeit konkret aus?

Wir arbeiten seit Jahren mit hochrangigen Sicherheitsbehörden zusammen. Das war uns auch wichtig, weil es eine abschreckende Wirkung hat. Potenzielle Täter wissen: Es gibt hier keine Lücken.

Wie hat die Community auf die Ankündigung der Kooperation reagiert?

Die meisten haben es sehr positiv aufgenommen, sogar positiver, als wir erwartet haben. Eine hohe vierstellige Zahl an Mitgliedern, die offensichtlich unsere Haltung nicht teilten, hat die Plattform umgehend verlassen. Für uns war das überhaupt kein Problem, im Gegenteil: Wir haben offensichtlich die Richtigen abgeschreckt. Die verbleibende Community fühlte sich sicherer.

Offiziell ist Knuddels ab 16?

Ja, aktuell noch. Und in der Praxis sind mittlerweile über 96 Prozent unserer Mitglieder volljährig. Wir betreiben zusätzlich einen Alters-Filter, der mit KI überprüft, ob neue Nutzer jünger sein könnten. Erkennt das Modell ein Muster – etwa weil jemand im Chat sagt „ich bin 15“ – wird das Konto umgehend gesperrt und auch weitere Registrierungsversuche verhindert.

Die Kombination dieser Maßnahmen zeigt eine massive Wirkung. Seit Einführung der Systeme haben uns die Sicherheitsbehörden keinen Fall von erfolgtem Cybergrooming mit Beteiligung eines Kindes auf unserer Plattform mehr gemeldet.

Wie finanziert sich Knuddels heute?

Hauptsächlich über ein Freemium-Modell und Spiele innerhalb der Plattform. Daneben auch über Werbung. Unsere Community ist älter geworden – viele sind Fans, die uns seit Jahrzehnten kennen und gerne Geld für Features ausgeben.

Welche Rolle wird KI künftig noch spielen?

Unsere Haltung ist ganz klar: Wir wollen keine KI-Nutzer oder Bots. Im Gegenteil, Knuddels soll eine Plattform für echte Menschen bleiben. KI werden wir nur da einsetzen, wo sie schützt – also Fakes, Scammer und Missbrauch erkennt.

Unser Herzstück ist die Community. Viele unserer Nutzer sind aus der „Chatzeit der 2000er“ geblieben. Wir veranstalten regelmäßig Offline-Treffen, bei denen bis zu 200 Leute ein Wochenende zusammen verbringen. Genau das ist die Idee von Knuddels: authentische, echte Verbindungen zwischen Menschen – seit über 25 Jahren.


(mack)



Source link

Verwandte Themen:
Weiterlesen

Künstliche Intelligenz

iX-Workshop: RAG-Systeme effizient evaluieren und optimieren


Mit dem rasanten Fortschritt in der KI-Technologie wird ihre gezielte Optimierung zum entscheidenden Faktor für zuverlässige und skalierbare Lösungen.

In dem zweitägigen Intensiv-Workshop RAG-Systeme systematisch evaluieren und optimieren lernen Sie, wie Sie RAG-Systeme systematisch bewerten, Schwächen identifizieren und durch den Einsatz moderner Frameworks wie RAGAS fundierte Leistungsanalysen durchführen. Sie lernen fortgeschrittene Techniken wie Semantic Chunking, Hybrid Search, Query Expansion und Reranking kennen und wenden diese direkt in praktischen Übungen an, um Genauigkeit, Relevanz und Effizienz Ihrer RAG-Anwendungen nachhaltig zu verbessern.

Jede Menge Praxis mit echten Anwendungsfällen

Die Schulung ist interaktiv aufgebaut, mit hohem Praxisanteil und intensiver Betreuung durch zwei erfahrene Trainer. In kleinen Teams oder Zweiergruppen arbeiten Sie an realitätsnahen Use Cases und entwickeln eigenständig Lösungsstrategien für typische Herausforderungen in produktionsnahen Szenarien. So erleben Sie unmittelbar die Wirkung verschiedener Optimierungsansätze und lernen, diese gezielt zu kombinieren.

Oktober
23.10. – 24.10.2025 		Online-Workshop, 09:00 – 17:00 Uhr
10 % Frühbucher-Rabatt bis zum 23. Sept. 2025

Angesprochen sind Softwareentwickler und AI-Engineers, die mit RAG vertraut sind und ihre Systeme in Bezug auf Leistung, Relevanz und Robustheit systematisch weiterentwickeln möchten.

Die Softwareentwickler Steve Haupt und Jacques Huss von andrena objects leiten den Workshop. Steve Haupt hat sich auf KI-Themen spezialisiert, eigene KI-Anwendungen entwickelt, zahlreiche Vorträge zu Künstlicher Intelligenz gehalten und mehrere KI-Trainings konzipiert. Jacques Huss hingegen legt seinen Fokus auf Clean Code, testgetriebene Entwicklung und den praktischen Einsatz generativer KI.




(ilk)



Source link

Weiterlesen

Künstliche Intelligenz

Tag des Programmierers: Lustiges und Schrecken aus dem Developer-Alltag gesucht


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

.

Am heutigen 13. September ist der Tag des Programmierers, der am 256. Tag des Jahres stattfindet – 2024 war er bereits am 12. September. Wir nehmen den Gedenktag zum Anlass, Developern eine Bühne für ihre Geschichten zu geben.

Shocking Shorts: Schreckensmomente beim Entwickeln

Jeder Entwickler und jede Entwicklerin kennt diese Schreckensmomente: der Serverabsturz, wenn der Kunde vor der Tür steht, das Testskript, das versehentlich im produktiven Code gelandet ist. Oder ist ein Kommentar wie


// When I wrote this, only God and I understood what I was doing. 
// Now, God only knows.


beim Push im öffentlichen Code geblieben?

KI macht alles leichter – auch die Fails

Copilot, Cursor, Codeium und Co. helfen bei Routineaufgaben und beim Fixen von Code. Manchmal erstellen sie jedoch skurrile Funktionen oder erlauben sich böse Patzer. Und die KI hat offenbar nicht nur das Coden, sondern auch das Kommentieren von den Menschen gelernt, wie Sammlungen von Copilot-Kommentaren zeigen.

Zum Day of the Programmer suchen wir die besten Shocking Shorts und lustigen Erlebnisse aus dem Developer-Alltag – mit und ohne KI. Teilt eure Geschichten gerne als Kommentar im Forum zu diesem Beitrag.

Tag für Programmierer und Entwicklerinnen

Der Tag des Programmierers hat seine Wurzeln 2002 in Russland, wo ihn zwei Mitarbeiter von Parallel Technologies vorgeschlagen haben und er seit 2009 offizieller Gedenktag ist. Im Englischen findet man ihn sowohl als Day of the Programmer als auch als Programmers’ Day. Er findet stets am 256. (28) Tag des Jahres statt. In China hat nicht nur Neujahr, sondern auch der Gedenktag ein anderes Datum. Dort ist er am 24. Oktober, der sich in numerischer Schreibweise mit führendem Monat als 1024 schreibt, was 210 entspricht.


(rme)



Source link

Weiterlesen

Künstliche Intelligenz

Developer Snapshots: Kleinere News der Woche


Zum Wochenende gibt es einen kleinen Überblick über alles, was es zwar nicht in die News geschafft hat, wir aber dennoch für spannend halten:

  • Go 1.25 führt mit encoding/json/v2 und encoding/json/jsontext eine experimentelle, vollständig überarbeitete JSON-API ein, die viele alte Designfehler beheben, strikter am Standard (RFC 8259) arbeiten und laut Ankündigungsbeitrag bessere Performance (bis zu 10x beim Unmarshal) bieten soll. Neu sind unter anderem Streaming-Encoder/Decoder, flexiblere Optionen, überarbeitetes Fehlerverhalten (z.  B. bei ungültigem UTF-8 oder doppelten Member-Namen in JSON-Objekten) sowie die Möglichkeit für effizientere und individuell anpassbare Marshal/Unmarshal-Implementierungen.
  • Kotlin 2.2.20 bringt Kotlin/Wasm in den Beta-Status, mit besserem JavaScript‑Interop, npm‑Integration, Browser-Debugging und einem neuen gemeinsamen Source-Set für js und wasmJs. Zusätzlich stellt das Release standardmäßigen Swift‑Export in Multiplatform bereit, optimiert die Sprach- und Native‑Features und kompiliert Long‑Werte in Kotlin/JS zu BigInt.
  • Mit Version 38.0 hebt das Cross‑Plattform-Framework Electron seine Basis auf Chromium 140, Node 22.18 und V8 14.0 an und führt Neuerungen wie anpassbare System‑Akzentfarben, erweitertes Tray‑Handling auf macOS und eine API zum Zugriff auf WebFrame‑Instanzen ein. Zugleich endet die Unterstützung für macOS 11, während mehrere ältere APIs entfernt oder als veraltet markiert wurden.

  • Die von Hornetlabs Technology entwickelte PostgreSQL-Erweiterung SynchDB liegt in Version 1.2 vor. Das Open-Source-Tool ist auf die direkte Datenreplikation aus heterogenen Datenbanken wie MySQL, MS SQL Server oder Oracle ausgelegt. Das neue Release bietet umfassendere Monitoring-Funktionen durch die Integration mit JMX und Grafana. Darüber hinaus sind zahlreiche Verbesserungen für mehr Performance und Zuverlässigkeit sowie einfachere Deployment- und Testprozesse in Version 1.2 eingeflossen.
  • Die Compiler Performance Working Group hat die Ergebnisse des Rust Compiler Performance Survey veröffentlicht. Die Umfrage, die erstmals vor zwei Monaten stattfand und über 3700 Antworten erzielte, soll nun jährlich durchgeführt werden. Wie die aktuelle Ausgabe zeigt, unterscheiden sich sowohl die Zufriedenheit mit der Performance als auch die Build-Erfahrung stark je nach Usern und Workflows.

  • JetBrains hat seine Workbench zum Erstellen domänenspezifischer Sprachen, MPS, in Version 2025.2 vorgelegt. Das Release eröffnet die Möglichkeit, MPS mit betriebssystemeigenen Launchern zu starten. Die Binary-Launcher stehen für Windows und Linux zur Verfügung. Das Entwicklungsteam hat in der neuen Version zudem die Verarbeitung von resolve-info beim Kopieren und Einfügen von Referenzen verbessert.
  • Für das August-2025-Update zu Visual Studio 2022 (v17.14) verspricht das Microsoft-Entwicklungsteam vor allem eine Reihe neuer KI-basierter Hilfestellungen für Developer. So bietet das Update unter anderem offiziellen Support für GPT-5. Entwicklerinnen und Entwickler können den Visual-Studio-Chat nun auf Wunsch auch per API-Schlüssel mit eigenen Sprachmodellen von OpenAI, Google oder Anthropic verknüpfen. Darüber hinaus steht das MCP (Model Context Protocol) in Visual Studio nun vollumfänglich zur Verfügung, um KI-Agenten beispielsweise mit externen Tools wie Datenbanken, Codesuche und Bereitstellungssystemen zu verbinden.

Sollten Sie ein wichtiges Thema vermissen, freuen wir uns über Ihre Mail.


(who)



Source link

Weiterlesen

Beliebt