Effektivere Medienaufsicht im digitalen Raum
Seit Jahren steigt die Menge an rechtswidrigen und jugendgefährdenden Inhalten im Internet kontinuierlich an. Um weiterhin eine effektive Medienaufsicht zu gewährleisten, sind intelligente IT-Lösungen gefordert, die bei der Sichtung von Content unterstützen. Um justiziable Gewaltdarstellungen, Pornografie, Hate Speech und andere unzulässige Inhalte im Netz zu identifizieren und zur Anzeige zu bringen, kommt in der Landesanstalt für Medien NRW ein spezialisiertes Monitoring-Team zum Einsatz. Um dieses Team leistungsfähiger zu machen und es vor der unvermittelten Rezeption mit belastendem Inhalt zu schützen, entschied sich die Landesanstalt für Medien NRW 2020 zur Einführung eines KI-basierten Analyse- und Bearbeitungstools auf Basis der Smart Media Engine von Condat.
Die Anwendung bietet den Nutzerinnen und Nutzern die Möglichkeit, Text-, Bild- und Videoinhalte von Websites und Social Media Plattformen einzulesen und auf einen Katalog rechtswidriger und jugendgefährdender Merkmale hin überprüfen zu lassen. Durch die intelligente Kategorisierung und Priorisierung von Inhalten konzentriert sich die manuelle Sichtung der Mitarbeiterinnen und Mitarbeiter auf besonders kritisches Material und erhöht so die Effizienz in der Auswertung. Gleichzeitig ist das System lernfähig und bezieht neues Wissen über falsch-positiv erkannte Inhalte in zukünftige Analysen mit ein. Auf einem übersichtlichen Team-Dashboard ist jederzeit der aktuelle Bearbeitungsstatus der eingelesenen Inhalte einsehbar und erlaubt den direkten Absprung in die zu prüfenden Quellen. Alle Auswertungsaktivitäten von der ersten Sichtung bis zur Ergreifung aufsichtsrechtlicher Maßnahmen werden transparent und rechtssicher dokumentiert.
Die Projekt-Highlights im Überblick
Funktionen
KI-basierte Text-, Bild- und Videoanalyse
Automatische Sichtung von Inhalten
Intuitive Nutzung über Dashboard
Integrierte, rechtssichere Dokumentation
Dienstleistung
Beratung und Prozessanalyse
Einrichtung und Training der KI
Umfangreiche Nutzer:innenschulung
Betrieb als Cloud-Lösung
Das Ergebnis: Mit KI schneller zur Strafanzeige
Das Monitoring-Team setzt die neue Anwendung zur Suche nach rechtswidrigen und jugendgefährdenden Inhalten in den sozialen Netzwerken und im Internet ein. Das Tool hilft seit dem Launch Anfang 2021 bei der Aufgabenpriorisierung und Dokumentation und ermöglicht eine deutliche Erhöhung der Bearbeitungseffizienz: Als erster messbarer Erfolg konnte die Anzahl an Strafanzeigen bei gleichem Personaleinsatz nahezu verdoppelt werden.
Die eingeführte Lösung wird laufend weiterentwickelt und der Erkennungsalgorithmus regelmäßig trainiert und evaluiert, um kritische Inhalte künftig noch besser erkennen zu können. Neben der Landesanstalt für Medien NRW nutzen seit November 2021 auch die Medienanstalten weiterer Bundesländer das KI-Tool zur Medienaufsicht. Dieses ermöglicht auch eine häuserübergreifende Vernetzung beim gemeinsamen Kampf gegen rechtswidrige Inhalte im Netz.
„KIVI hilft uns, problematische Inhalte im Netz jetzt deutlich schneller zu identifizieren und zur Anzeige zu bringen. Seit der Einführung des Tools haben wir bereits mehr als 7.000 Verstöße in den Bereichen Hassrede und Jugendschutz gefunden. Der Einsatz dieser KI ist ein wesentlicher Schritt für die Durchsetzung von Recht im Netz und trägt damit entscheidend zur Sicherung einer demokratischen und rechtsstaatlichen Freiheit im Internet bei.“
Dr. Tobias Schmid
Direktor Landesanstalt für Medien NRW
Über die Landesanstalt für Medien NRW
Die Landesanstalt für Medien NRW ist die für Nordrhein-Westfalen zuständige Aufsichtsinstitution über die privaten Medien. Sie richtet ihre Arbeit danach aus, die Menschenwürde, die Jugend, die Nutzerinnen und Nutzer sowie die Vielfalt in den Medien zu schützen. Mit ihrer Arbeit in Bereich des Jugendmedienschutzes geht sie gegen rechtswidrige Inhalte im Internet vor und setzt die Einhaltung von Jugendschutzbestimmungen in den digitalen Medien durch.