Knuddels und BKA kooperieren für mehr Schutz von Minderjährigen

Hallo zusammen!

Wir bei Knuddels legen seit jeher großen Wert auf das harmonische und respektvolle Miteinander in unserer Community.

Gleichzeitig achten wir darauf, dass unsere Plattform kein rechtsfreier Raum ist. Wer sich nicht an die Regeln hält, der muss mit Konsequenzen rechnen.

Für noch mehr Sicherheit hat Knuddels nun eine Kooperation mit dem Bundeskriminalamt (BKA) aufgebaut.

Ergibt sich bei Meldungen ein begründeter Verdacht auf kriminelles Verhalten zum Nachteil Minderjähriger, dann leiten wir ab sofort eine Strafanzeige an Spezialisten des BKA weiter.
Damit setzt Knuddels neue Maßstäbe für ein sicheres Miteinander im Chat.

Hier findet ihr alle weiteren wichtigen Infos zur BKA-Kooperation und den neuesten Sicherheits-Verbesserungen. Zudem erfahrt ihr, wie ihr uns bei dieser Mission auch selbst unterstützen könnt.

Knuddelige Grüße
Euer Knuddelsteam

Eine meiner Meinung nach schon längst überfällige Maßnahme.

Ich glaube nicht, dass es am Willen gescheitert ist solch eine Kooperation zu führen, zumindest lässt der Satz:

"Wir freuen uns, dass unsere langjährigen und proaktiven Bemühungen nun in der Kooperation mit dem Bundeskriminalamt (BKA) gipfeln und wir unseren Beitrag zur effektiven und nachhaltigen Verfolgung von Straftaten ausbauen können."

darauf schließen, dass schon seit langem versucht wird eine solche Kooperation zu erwirken

Zuerst einmal:

So eine Kooperation finde ich gut und sollte eigentlich schon seit Langem Standard sein.
Nicht nur zum Schutze aller Chatter, sondern auch zum Selbstschutz. Gerade was RTL anbelangt, sollte dort der Wind aus den Segekn genommen werden.

Aber trotzdem mal nachgefragt:
"Neuer KI Filter: Ein neuer KI-Filter erkennt Gespräche im Zusammenhang von Sexualität und Minderjährigen. Als Konsequenz werden solche Gespräche beendet, Accounts von der Plattform verbannt und die Beteiligten erhalten die Möglichkeit, den Gesprächsverlauf mit einem Klick zur Überprüfung durch unser Team weiterzuleiten."

Was wäre nun mit einem normalen Gespräch unter Freunden oder Bekannten? Man hat sich damals, vor vielen Jahren auch mal in größerer Gruppe unterhalten, Alter damals 15 bis 50+ wobei 50+ der langjährige weibliche Admin im privaten Channel war. Es wurde feucht fröhlich frei nach Schnauze gelabert. Die Themen waren dabei vielfältig und enthielten auch sexuelle Themen, die meist sogar von einer der minderjährigen Personen ausgingen. Wobei es allerdings auch NIE darum ging, dass je ernsthaft erwägt wurde, mit irgendwem im Channel rumzuXXXen. Gefährdung bestand demnach nicht.

Würden hier nun alle gebannt? Wäre auch der Admin raus? Oder würden, wenn diese Gespräche durch Euch überprüft würden, diese Accounts entsperrt, wenn klar wäre, dass hier nur Unsinn geschrieben wurde?

Hallo erstmal :)


"Man hat sich damals, vor vielen Jahren auch mal in größerer Gruppe unterhalten, Alter damals 15 bis 50+ wobei 50+ der langjährige weibliche Admin im privaten Channel war. Es wurde feucht fröhlich frei nach Schnauze gelabert. Die Themen waren dabei vielfältig und enthielten auch sexuelle Themen, die meist sogar von einer der minderjährigen Personen ausgingen. Wobei es allerdings auch NIE darum ging, dass je ernsthaft erwägt wurde, mit irgendwem im Channel rumzuXXXen. Gefährdung bestand demnach nicht."

Das Beenden von Gesprächen der KI betrifft wohl nur die Privatgespräche. Gespräche in privaten Channeln werden sicher nicht überprüft. Trotzdem würde ich mir überlegen, ob ich Gespräche sexuellen Inhalts (wenn man schon Bedenken hat) im Beisein von Minderjährigen zu führen :)

Privatgespräche werden von KI überwacht?
das ist aber schon Krass

Hi,

in bestimmten Konstellationen wurden privat-Gespräche auch früher schon durch einen Filter überwacht. Das ist nicht neu. Neu ist nur, dass die Art der gefilterten Inhalte eine andere ist.

Der Schritt ist auch absolut richtig und nichts verwerfliches. - Das Gespräch wird ja auch nicht dauerhaft überwacht und irgendwo aufgezeichnet, sondern es werden Nachrichten einmal geprüft ob bestimmte Inhalte drin sind, auf die dann vom System reagiert wird.

Gerade wenn es um Inhalte geht, wo Menschen ihren z.B: pädophilen Neigungen nachgehen, ist das der einzige funktionierende Weg, da oftmals nicht mal eine Meldung erfolgt, weil der ggü. die gleichen Neigungen teilt. Wir sind uns sicher einig, dass wir solche Inhalte hier nicht wollen. Auch wenn sich 2 Leute privat austauschen.

Vorweg:
Ich finde die Zusammenarbeit von Knuddels und dem BKA wirklich gut, wurde auch allerhöchste Zeit, da in der heutigen Zeit leider immer mehr Menschen denken, im Internet gäbe es keine Gesetze und sie dort tun und lassen könnten, was immer sie wollen.

Was ich aber trotzdem scharf kritisieren muss:
Die Annahme, Sexualität zwischen Minderjährigen und Erwachsenen sei gänzlich verboten.

NEIN, sexueller Kontakt zwischen Minderjährigen und Erwachsenen ist NICHT verboten, sondern sogar gesetzlich erlaubt! Voraussetzung hierbei ist aber, dass die Minderjährige Person schon 14 Jahre alt oder älter ist, diese freiwillig damit einverstanden ist (einvernehmlich), diese nicht gezwungen, ausgenutzt, bezahlt oder sonst was wird.

Weder Knuddels, noch sonst jemand, hat sich in das Leben anderer Menschen einzumischen und denen irgend etwas vorzuschreiben, solange beide geistig gesund sind und beide mit ihren Handlungen einverstanden sind.

Ich verstehe gar nicht, wo die Annahme herkommt, dass Erwachsene keinen sexuellen Kontakt zu minderjährigen haben dürften? Diese Annahme ist nämlich schlichtweg falsch!

Mal angenommen (knuddels ist ja mittlerweile nur noch ab 16), ein z. B. 20 jähriger und eine 16 jährige schreiben EINVERNEHMLICH sexuell (was gesetzlich sogar erlaubt ist), wird der 20 jährige dann trotzdem bestraft, obwohl er nichts falsches und nichts verbotenes getan hat und alles einvernehmlich war?

Natürlich finde ich den Schutz von minderjährigen gut und extrem wichtig, jedoch stelle ich mir hier die Frage, wie eine KI entscheidet/unterscheidet, ob es einvernehmlich war oder nicht? Oder bestraft die KI einen erstmal einfach so aus Verdacht, obwohl kein Verstoß vorliegt?

Hierzu habe ich auch mal eine Grafik rausgesucht, ab wann sexueller Kontakt erlaubt ist, weiteres dazu findet man auch im Internet oder erfährt man bei seinem Rechtsanwalt.

Hallo Systm,

Zwei Dinge, die ich zu deinem Post gerne loswerden würde:

1. Ja, sexueller Austausch ist zwischen Minderjährigen und Erwachsenen durchaus unter bestimmten Umständen erlaubt. Dennoch gibt es hier das Hausrecht und wenn Knuddels das hier (auch wegen des fehlenden Schutzes der Minderjährigen) nicht erlauben möchte, dann ist das gut und wichtig.

2. Ich denke es geht hier (bei der Überprüfung der Privatgespräche) mehr um die pädophilen oder hebephilen Neigungen, welche auf unserer Plattform keinen Platz erhalten sollen. (Siehe auch der Post von riesaboy).

Hallo zusammen!

Ich finde es super, dass Knuddels jetzt mit dem BKA kooperiert. Danke für eure Bemühungen!



Vielleicht verstehst du die Annahme nicht, weil es diese Annahme nicht gegeben hat. Sicherlich gibt es Menschen, die unsere Gesetzeslage falsch interpretieren oder nicht kennen, jedoch habe ich nirgendwo gelesen, dass hier jemand annimmt, dass Erwachsene und Jugendliche nicht sexuell agieren dürfen.


Nein, der 20 Jährige wird nicht bestraft. Da du schon schreibst, es ist einvernehmlich. Demnach gibt es da auch nichts zu bestrafen.




Ich glaube Knuddels bringt keine KI raus, die jetzt willkürlich jeden sexuellen Chat zwischen Erwachsenen und Jugendlichen unterbindet. Sonst hätten wir wahrscheinlich viele Mitglieder nicht mehr.


Ich denke, du hast den Beitrag etwas falsch verstanden. Die Zusammenarbeit mit dem BKA und die weiteren Schutzmaßnahmen (z.B. KI) dienen nicht dazu, um sexuellen Kontakt zwischen Minderjährigen (ab 16) und Erwachsenen zu verhindern.

Denn wenn du Schadi: richtig liest, dann geht es um kriminelles Verhalten. Nicht um sexuelle Interaktionen allgemein. Das kann z.B. sexuelle Belästigung sein, Pädophilie (Bspw. ein Mädchen schreibt, dass sie erst 13 oder jünger ist und dem Gemeldeten/Erfassten ist das egal und macht weiter), Drogen im Zusammenhang mit Jugendlichen, Angebote zur Jugend/Kinderpornographie, etc.... Die Liste ist, wie du siehst, ziemlich lang bzw. länger als beschrieben. Also geh bitte nicht davon aus, dass Knuddels sich denkt "Sexuelle Handlungen zwischen Jugendlichen/Minderjährigen sind untersagt und das verbieten wir hier." So ist das nicht gedacht mit den neuen Schutzmaßnahmen.


Zusatzinfo:

Auch wenn unsere Gesetzeslage klar ist, handelt Knuddels mit strengeren Jugendschutzmaßnahmen. Was auch gut so ist. Denn ein 60 Jähriger soll nicht die Möglichkeit bekommen einer 16 Jährigen zu ihrem Geburtstag zu schreiben: "Hast du Skype du geile Sau?"

Liebe Grüße
Oltion

Schadi hier nochmal

Viel wurde ja schon gesagt, dennoch zur Klärung: es ist wichtig, unsere Zusammenarbeit mit dem BKA und unserem neuen KI Filter nicht gleichzusetzen. Beide Projekte schlagen gewissermaßen in die selbe Kerbe, es gibt aber auch Unterschiede.

Straftaten zum Nachteil von Minderjährigen werden von uns ans BKA gemeldet. Hierbei ist IMMER ein Mitarbeiter von Knuddels beteiligt, der diese Inhalte prüft. Das Thema Strafbarkeit und Anzeigen ist zu sensibel, als dass wir dieses einer reinen KI anvertrauen würden. Dies bedeutet aber auch, dass wir als Mtarbeiter zunächst Zugang zu den Gesprächsinhalten brauchen, denn es gilt weiterhin: Gespräche auf Knuddels werden NICHT von Menschen mitgelesen, ohne dass wenigstens ein Gesprächspartner uns Zugriff auf diese Inhalte gegeben hätte.

Die meisten Anzeigen an das BKA haben ihre Grundlage daher in Meldungen über das Meldesystem.

Der neue KI Filter prüft dagegen Gespräche im Hintergrund und sucht ganz konkret nach pädosexuellen Inhalten. Das ist schon eine ganze Nummer härter als einfach nur ein Gespräch zwischen jungen Erwachsenen und Minderjährigen. Hier wiederum wichtig: es muss sich dabei nicht um strafbare Inhalte handeln, es geht uns hier in erster Linie um die Durchsetzung unserer eigenen Hausregeln.
Ein Beispiel: wenn zwei Erwachsene pädosexuelle Fantasien austauschen oder gemeinsame sogenanntes Age-Play betreiben, dann machen sie sich damit (noch) nicht strafbar. Dennoch würde unser Filter solche Gespräche erkennen und entsprechend eingreifen, da wir solchen Gesprächen und Themen keine Plattform bieten möchten.

Liebe Grüße
Euer Schadi

Zusammenarbeit mit BKA und Jugendschutz ist wichtig, aber die Aussage zu der KI klingt für mich in etwa so:
"Wenn du deine Gedanken frei entfalten willst, ohne dass wir dich zensieren, dann verlasse bitte den Chat."

Warum klingt es so für mich?
Davonn abgesehen, dass ich der KI die feinen Unterschiede in der Kommunikation zu erkennen NOCH nicht zutraue, müsste man auch hinterfragen, nach welchen Schlagwörtern die KI die Gespräche noch durchsuchen könnte.

Es ist eine Maßnahme, deren Auswirkungen auf den Chat sich erst zeigen werden. Ich bin NICHT überzeugt, dass diese Maßnahme für den Chat/ eine Anmeldung im Chat spricht. Wenn andere Anbiete von Messenger/Chats über E2E-Verschlüsselung diskutieren, nimmt Knuddels die entgegengesetzte Position ein mit einer stark eingeschränkten Privatsphäre.

Hallo

Wir denken schon, dass es gewisse Unterschiede gibt zwischen der freien Entfaltung von Gedanken ganz allgemein und dem Austausch pädosexueller Fantasien bzw. dem Versuch von Menschen mit pädosexuellen Neigungen, sich untereinander zu vernetzen und kinderpornographisches Material auszutauschen. Und solche Unterscheidungen zu treffen und bei diesem Thema nicht zu pauschalisieren ist sehr wichtig!

Es gibt kaum eine Plattform im Internet, welche nicht in irgendeiner Form von Cyberkriminalität betroffen ist. Und damit sieht sich jeder Anbieter früher oder später mit der Frage konfrontiert, ob er mehr auf Sicherheit und die Nachverfolgbarkeit solcher Straftaten setzen will oder auf den Datenschutz und die Anonymität seiner Mitglieder setzen will. Jeder Schritt in die eine Richtung geht nun einmal oft zu Lasten der anderen...

Wir als Knuddels versuchen unserer Verantwortung insofern gerecht zu werden, dass wir eben nicht pauschal Gespräche auswerten, sondern ganz konkret nach bestimmten und eng definierten Themen filtern. Von daher würde ich deinen Satz etwas umformulieren:

"Wenn du deine pädösexuellen Gedanken frei entfalten willst, ohne dass wir dich zensieren, dann verlasse bitte den Chat."

Und ja, dann würden wir diesen Satz unterschreiben.

Was die Wirksamkeit unseres Filters angeht. Natürlich entwickeln wir den Filter immer weiter und wir würden lügen, wenn wir behaupten würden, dass der Filter keine Fehler macht. Unter anderem deshalb gibt es ja die Möglichkeit, das Gespräch direkt über den Filtereingriff an das Knuddelsteam zu melden, sodass wir den Eingriff prüfen können, wenn man der Meinung ist, dass dieser falsch war. Das Ergebnis: bisher hat in über 90% dieser Prüffälle der Filter richtig gehandelt. Die anderen Fälle nutzen wir dann, um den Filter noch besser zu machen.

Liebe Grüße
Schadi

@Schadi:

Ist diese Beschreibung irreführend?
Ich verstehe die Beschreibung, wie folgt:
Schritt 1a: Wenn ich die Beschreibung des KI-Filters lese, so verstehe ich es so, dass die KI ein Gespräch zwischen A und B (beide an einem pädosexuellen Thema interessiert) mit entsprechenden Inhalten erkennt und automatisiert ohne Eingreifen von Mitarbeitern unterbindet.
Schritt 2 (Folge nach dem Schritt 1a): Nach dem das Gespräch unterbunden wurde, werden die entsprechende Accounts gebannt, dies geschieht automatisiert ggf. nach einer Prüfung durch einen menschlichen Helfer.

Schritt 1b: Geht die unerwünschte Intention in einem Gespräch zw. A und B nur von einem (von B) aus, so wird die Person A gewarnt, das Gespräch wird unterbunden und die Person A kann B melden, was folgerichtig zum Ausschluss von B aus der Community führt.

Funktioniert der KI-Filter NUR wie im Schritt 1b beschrieben ODER gibt es einen automatisierten Prozess wie in Schritt 1a+2 beschrieben, denn zwei Personen mit entsprechenden Neigungen würden sich wohl kaum gegenseitig belasten.
Wenn der KI-Filter nur wie im Schritt 1b beschrieben funktioniert, macht diese Erklärung Sinn:


Und wenn das der Fall ist, wären pädosexuellen Gespräche zwischen zwei interessierten Parteien weiterhin ohne Konsequenzen im Chat möglich. weil die sich nicht gegenseitig melden würden.

Meine Bedenken betreffen den völlig automatisierten Prozess (1a+2), wenn die Gespräche von unschuldigen und durch die KI missverstanden an Helfer weitergeleitet und von diesen mitgelesen werden. Wenn es zu Konsequenzen erst nach einer Meldung durch eine Person (siehe 1b) kommt, dann hat sich gar nicht viel verändert. Der KI-Filter würde lediglich eine Empfehlung zu einer Meldung eines Gesprächs abgeben.

Wie sieht es nun wirklich aus?
Kannst du es bitte für mich nachvollziehbar erklären?

Du kannst dir den Prozess vereinfacht wie folgt vorstellen:

• der Filter erkennt potenziell pädosexuelle Inhalte in einem Gespräch und unterbricht dieses daraufhin für beide Parteien (damit ist die vornehmlichste Aufgabe des Filters bereits erfüllt, nämlich solche Gespräche zu unterbinden).
• BEIDE Parteien haben nun direkt in der erhaltenen Nachricht die Chance, das Gespräch an uns zu melden; entweder weil sie selbst unbeteiligt waren und dabei helfen wollen, dass die andere Person überführt wird ODER weil sie den Filtereingriff für unberechtigt halten und uns über diesen Fehler informieren wollen.
• wird ein Gespräch gemeldet und der Eingriff war berechtigt, dann sperren wir die Schuldigen natürlich und behalten uns ggf. auch rechtliche Schritte vor (hier greift wieder unsere Zusammenarbeit mit dem BKA.
• wird ein Gespräch gemeldet und der Eingriff war tatsächlich unberechtigt, entfernen wir die Nicks von der Filterliste und geben den Fall an unsere Technik zur Prüfung und Verbesserung der Filtereinstellungen.
• wird das Gespräch gar nicht gemeldet und eine Person, die der Filter bereits zuvor einmal erkannt hat, wird wieder auffällig, dann sperrt der Filter den entsprechenden Account (wobei diese Person dann z. B. immer noch die Chance hätte, sich über den Support bei uns zu melden)

Ich hoffe, du verstehst die Funktionsweise nun etwas besser. Wie bereits gesagt, ist es NICHT die vornehmliche Aufgabe des KI-Filters Anzeigen zu produzieren (dafür ist die Zusammenarbeit mit dem BKA da), sondern Gespräche mit pädosexuellem Inhalt zu unterbinden und damit auffällige Accounts langfristig auszuschließen. Und bis jetzt scheint er hier sehr gut zu funktionieren.

Viele Grüße
Schadi

Ich finde es bemerkenswert, dass ihr bezüglich des Jugendschutzes inzwischen wahre Vorreiter seid. Weiter so.

Ausgezeichnet beschrieben!

Nun beschreibst du genau den Punkt, den ich bedenklich finde. Die KI soll eigenständig Gespräche mitlesen, erkennen und eingreifen und folglich damit das Juschu-Team entlasten, aber was wenn die KI Fehler macht? Dann muss das Gespräch gemeldet werden und von Dritten gelesen werden, sonst kann die KI die Accounts wegen einem Fehler/ Missverständnis sogar sperren.

Ich finde, dass der Zweck dieses Mittel nicht heiligt.
Ich werde nun schauen, wie sich die Situation aus der Betrachterperspektive entwickelt.

Danke dir für deine gut nachvollziehbare Erklärung des KI-Filters.

Mahlzeit.

Ich bin geneigt zu schreiben, schöne sache das jedoch bin ich auch gewillt zu schreiben, ist eine zusammenarbeit mit den Strafverfolgungsbehörden (egal in welcher form) als Betreiber nicht eigentlich selbstverständlich und dies von anfang an ?

Was die KI betrifft bin ich etwas gespaltener Meinung, vom Grunde her schönes ding und richtig eingesetzt ein gutes mittel für den richtigen Zweck.

Die frage die sich mir aber stellt … was macht die KI sonst noch so ausser das …

Zum anderen ist es leider auch so, das KI nicht wirklich clever sind, sie lassen sich leicht aushebeln und leicht austricksen. Kommt hier zwar auch darauf an wo und wie gut diese Gelernt hat und ob man die Ergebnisse in einer Heatmap kontrolliert / kontrolliert hat.

Zwar immernoch besser als gar nichts, muss man schon so sagen wie es einfach ist.

Ist nicht grad eine leichte Sowas, ist mir schon klar.

Was das Prominentere Darstellung der Admins und channelMods angeht, auch hier bin ich gespaltener Meinung, eine trügerische sicherheit welche hiermit versucht wird zu vermitteln.

Hier muss in erster Linie ein Umdenken bei den betreffenden Stattfinden, ohne dem kann man diese Darstellen wie man es möchte und es wird nichts bringen.

In diesem sinne, schönen abend

Die Zusammenarbeit wurde durch Knuddels schon seit jeher gewünscht, allerdings gestaltete es sich mit den Behörden nicht immer einfach. Zumindest was ich so gehört habe.

Ich muss aus eigener Beruflicher Erfahrung sagen, läuft nicht immer blenden aber im grunde brauchbar.