Antwort auf: Schadi
Du kannst dir den Prozess vereinfacht wie folgt vorstellen:


  • der Filter erkennt potenziell pädosexuelle Inhalte in einem Gespräch und unterbricht dieses daraufhin für beide Parteien (damit ist die vornehmlichste Aufgabe des Filters bereits erfüllt, nämlich solche Gespräche zu unterbinden).
  • BEIDE Parteien haben nun direkt in der erhaltenen Nachricht die Chance, das Gespräch an uns zu melden; entweder weil sie selbst unbeteiligt waren und dabei helfen wollen, dass die andere Person überführt wird ODER weil sie den Filtereingriff für unberechtigt halten und uns über diesen Fehler informieren wollen.
  • wird ein Gespräch gemeldet und der Eingriff war berechtigt, dann sperren wir die Schuldigen natürlich und behalten uns ggf. auch rechtliche Schritte vor (hier greift wieder unsere Zusammenarbeit mit dem BKA.
  • wird ein Gespräch gemeldet und der Eingriff war tatsächlich unberechtigt, entfernen wir die Nicks von der Filterliste und geben den Fall an unsere Technik zur Prüfung und Verbesserung der Filtereinstellungen.
  • wird das Gespräch gar nicht gemeldet und eine Person, die der Filter bereits zuvor einmal erkannt hat, wird wieder auffällig, dann sperrt der Filter den entsprechenden Account (wobei diese Person dann z. B. immer noch die Chance hätte, sich über den Support bei uns zu melden)


Ich hoffe, du verstehst die Funktionsweise nun etwas besser. Wie bereits gesagt, ist es NICHT die vornehmliche Aufgabe des KI-Filters Anzeigen zu produzieren (dafür ist die Zusammenarbeit mit dem BKA da), sondern Gespräche mit pädosexuellem Inhalt zu unterbinden und damit auffällige Accounts langfristig auszuschließen. Und bis jetzt scheint er hier sehr gut zu funktionieren.

Viele Grüße
Schadi
Ausgezeichnet beschrieben!

Nun beschreibst du genau den Punkt, den ich bedenklich finde. Die KI soll eigenständig Gespräche mitlesen, erkennen und eingreifen und folglich damit das JuSchu-Team entlasten, aber was wenn die KI Fehler macht? Dann muss das Gespräch gemeldet werden und von Dritten gelesen werden, sonst kann die KI die Accounts wegen einem Fehler/ Missverständnis sogar sperren.

Ich finde, dass der Zweck dieses Mittel nicht heiligt.
Ich werde nun schauen, wie sich die Situation aus der Betrachterperspektive entwickelt. ?-)

Danke dir für deine gut nachvollziehbare Erklärung des KI-Filters.
_________________________
Sometimes the world doesn't need another HERO, sometimes what it needs, is a MONSTER.