15 / 3902

OpenAI will Meldestellen für Kindesmissbrauch mit Classifier gegen Deepfakes entlasten

TL;DR

OpenAI hat einen Classifier angekündigt, der Ermittler bei der Suche nach Darstellungen sexuellen Missbrauchs von Kindern unterstützen soll. Das System soll auch erkennen, ob Bilder AI-generiert sind, und relevante Inhalte für eine schnelle Bearbeitung priorisieren. Geprüfte Organisationen sollen kostenlosen Zugang erhalten, Entwickler zusätzliche Hinweise zur Erkennung bekommen und Polizeibehörden Schulungen zur Nutzung von AI in Ermittlungen erhalten.

Nauti's Take

Für kleine Teams liegt der erste sinnvolle Test in der Fehlerrate des Classifiers im eigenen Moderations- oder Meldeworkflow. Prüfe, wie zuverlässig er synthetische und reale Darstellungen priorisiert, welche zulässigen Inhalte er blockiert und ob die Organisation die Ergebnisse nachvollziehen kann.

Aus einer einzelnen Ankündigung lässt sich die Praxistauglichkeit noch nicht ableiten.

Quellen