[Foto-Upload] Automatische Sperre bei Falscherkennungen.

Posted by: Holger

[Foto-Upload] Automatische Sperre bei Falscherkennungen. - 12.07.2020, 11:23:07

Knuddels tut ja einiges daran, dass perverse Bilder nicht einfach so publiziert werden können, immerhin nutzen diese auch Bilderkennungs-API's von google und co.

Was ich aber nicht verstehe, dass ein wirklich harmloses Bild wohl als Pimmelbildchen erkannt wird, echte Pimmelbildchen aber es immer wieder schaffen, hochgeladen zu werden.

Im folgendem Beispiel wurde dieser Upload bei mir unterbrochen und eine Upload-Sperre verhangen:
Warnung! Spoiler!


Ich denke, da gibt es noch ein wenig Optimierungsbedarf.
Posted by: Holger

Re: [Foto-Upload] Automatische Sperre bei Falscherkennungen. - 12.07.2020, 11:44:42

Ich habe das Bild nun selbst einmal durch die vision API gejagt, was folgende Resultate erzielte:




Ich weiß natürlich nun nicht, welche Faktoren Knuddels bei der Bewertung mit einspielen lassen hat, vielleicht haben die sich ja auch nur einfach gedacht "OK, wenn das adult-rating über 50 % liegt, weg mit dem Dreck...".
Posted by: Anonym

Re: [Foto-Upload] Automatische Sperre bei Falscherkennungen. - 12.07.2020, 13:06:55

Bescheuert ist, dass es direkt Uploadsperren gibt, weil ein MASCHINENFILTER!! mal wieder kacke ist.
Ist mir auch schon passiert. Da war das sogar nur ein Text ohne anstößige deutsche Wörter.
Posted by: Holger

Re: [Foto-Upload] Automatische Sperre bei Falscherkennungen. - 15.07.2020, 13:26:59

Ich würde es auch gerne begrüßen, wenn nicht direkt eine Uploadsperre verhängt wird. Warum lässt man das nicht lieber erst menschlich überprufen?

Soll halt meinetwegen im Hintergrund ein automatischer Notruf gestartet werden, damit das ggf. zügig geprüft wird, aber doch nicht so!

Bisher gab es auch noch keinerlei Rückmeldung, was ich wirklich schade finde. Immerhin hängt der Thread schon einige Tage im Forum.
Posted by: Lukriel

Re: [Foto-Upload] Automatische Sperre bei Falscherkennungen. - 18.07.2020, 00:14:17

Antwort auf: Der Benny Do
Bescheuert ist, dass es direkt Uploadsperren gibt, weil ein MASCHINENFILTER!! mal wieder kacke ist.
Ist mir auch schon passiert. Da war das sogar nur ein Text ohne anstößige deutsche Wörter.


Doppelmoral lässt grüßen, wenn man sich damals klar gegen Artikel 13/17 positionierte und selbst nun freiweillig solche Erkennungssoftware von dritten benutzt, mit automatischer Sperrfunktion.
Posted by: Maexxchen

Re: [Foto-Upload] Automatische Sperre bei Falscherkennungen. - 19.07.2020, 03:03:18

Antwort auf: Lukriel
Antwort auf: Der Benny Do
Bescheuert ist, dass es direkt Uploadsperren gibt, weil ein MASCHINENFILTER!! mal wieder kacke ist.
Ist mir auch schon passiert. Da war das sogar nur ein Text ohne anstößige deutsche Wörter.


Doppelmoral lässt grüßen, wenn man sich damals klar gegen Artikel 13/17 positionierte und selbst nun freiweillig solche Erkennungssoftware von dritten benutzt, mit automatischer Sperrfunktion.

Du weißt aber schon, dass du hier Äpfel mit Birnen vergleichst, oder? Beim Upload-Filter geht es um urheberrechtsverletzende Inhalte. Hier jedoch liegt ein völlig anderes Problem zu Grunde, nämlich der Schutz u.a. vor pornographischen Inhalten, der hier offensichtlich hervorragend greift. :-D