Condat Success Story | Landesanstalt für Medien NRW
Effektivere Medienaufsicht im digitalen Raum

Seit Jahren steigt die Menge an rechtswidrigen und jugendgefährdenden Inhalten im Internet kontinuierlich an. Um weiterhin eine effektive Medienaufsicht zu gewährleisten, sind intelligente IT-Lösungen gefordert, die bei der Sichtung von Content unterstützen. Um justiziable Gewaltdarstellungen, Pornografie, Hate Speech und andere unzulässige Inhalte im Netz zu identifizieren und zur Anzeige zu bringen, kommt in der Landesanstalt für Medien NRW ein spezialisiertes Monitoring-Team zum Einsatz. Um dieses Team leistungsfähiger zu machen und es vor der unvermittelten Rezeption mit belastendem Inhalt zu schützen, entschied sich die Landesanstalt für Medien NRW 2020 zur Einführung eines KI-basierten Analyse- und Bearbeitungstools auf Basis der Smart Media Engine von Condat.

Die Anwendung bietet den Nutzerinnen und Nutzern die Möglichkeit, Text-, Bild- und Videoinhalte von Websites und Social Media Plattformen einzulesen und auf einen Katalog rechtswidriger und jugendgefährdender Merkmale hin überprüfen zu lassen. Durch die intelligente Kategorisierung und Priorisierung von Inhalten konzentriert sich die manuelle Sichtung der Mitarbeiterinnen und Mitarbeiter auf besonders kritisches Material und erhöht so die Effizienz in der Auswertung. Gleichzeitig ist das System lernfähig und bezieht neues Wissen über falsch-positiv erkannte Inhalte in zukünftige Analysen mit ein. Auf einem übersichtlichen Team-Dashboard ist jederzeit der aktuelle Bearbeitungsstatus der eingelesenen Inhalte einsehbar und erlaubt den direkten Absprung in die zu prüfenden Quellen. Alle Auswertungsaktivitäten von der ersten Sichtung bis zur Ergreifung aufsichtsrechtlicher Maßnahmen werden transparent und rechtssicher dokumentiert. 

Die Projekt-Highlights im Überblick
Funktionen

KI-basierte Text-, Bild- und Videoanalyse

Automatische Sichtung von Inhalten

Intuitive Nutzung über Dashboard

Integrierte, rechtssichere Dokumentation

Dienstleistung

Beratung und Prozessanalyse

Einrichtung und Training der KI

Umfangreiche Nutzer:innenschulung

Betrieb als Cloud-Lösung

Das Ergebnis: Mit KI schneller zur Strafanzeige

Das Monitoring-Team setzt die neue Anwendung zur Suche nach rechtswidrigen und jugendgefährdenden Inhalten in den sozialen Netzwerken und im Internet ein. Das Tool hilft seit dem Launch Anfang 2021 bei der Aufgabenpriorisierung und Dokumentation und ermöglicht eine deutliche Erhöhung der Bearbeitungseffizienz: Als erster messbarer Erfolg konnte die Anzahl an Strafanzeigen bei gleichem Personaleinsatz nahezu verdoppelt werden.

Die eingeführte Lösung wird laufend weiterentwickelt und der Erkennungsalgorithmus regelmäßig trainiert und evaluiert, um kritische Inhalte künftig noch besser erkennen zu können. Darüber hinaus ist geplant, die Lösung weiteren Landesmedienanstalten zur Verfügung zu stellen.  

„Das KI-Tool hilft uns, problematische Inhalte im Netz jetzt deutlich schneller zu identifizieren und zur Anzeige zu bringen. In den ersten acht  Monaten haben wir bereits mehr als 6.000 Verstöße in den Bereichen Hassrede und Jugendschutz gefunden. Der Einsatz dieser KI ist ein wesentlicher Schritt für die Durchsetzung von Recht
im Netz und trägt damit entscheidend zur Sicherung einer demokratischen und rechtsstaatlichen Freiheit im Internet bei.“

Dr. Tobias Schmid
Direktor Landesanstalt für Medien NRW

Über die Landesanstalt für Medien NRW

Die Landesanstalt für Medien NRW ist die für Nordrhein-Westfalen zuständige Aufsichtsinstitution über die privaten Medien. Sie richtet ihre Arbeit danach aus, die Menschenwürde, die Jugend, die Nutzerinnen und Nutzer sowie die Vielfalt in den Medien zu schützen. Mit ihrer Arbeit in Bereich des Jugendmedienschutzes geht sie gegen rechtswidrige Inhalte im Internet vor und setzt die Einhaltung von Jugendschutzbestimmungen in den digitalen Medien durch.

Success Story als PDF downloaden