Erster Platz beim BraIn-Startup Award
Erster Platz beim Brandenburger Innovationspreis – für ein Tool gegen Hass im Netz.
Weiterlesen →
Starke Geschichten
statt Spaltung
KI-Tool zur Analyse von Hassrede und
zur Entwicklung verbindender Geschichten
Was wir machen
Herausforderung
Die gesellschaftliche Spaltung und die Verbreitung extremistischer Narrative in sozialen Medien stellen Medienhäuser, zivilgesellschaftliche Akteure, Parteien und Unternehmen vor große Herausforderungen.
Redaktionen und Community Management Teams benötigen effektive Werkzeuge, um auf Hassrede und Desinformation zu reagieren und den gesellschaftlichen Zusammenhalt zu stärken.
Lösung
Mit narraltiv entwicklen wir ein KI-gestützten Tool für Community-Manager:innen das ihnen Geschichten vorschlägt um auf Hassrede zu reagieren.
1. Analyse von Hassrede
Echtzeit-Monitoring und Analyse von toxischen Diskursen mittels KI-gestützter Technologien.
2. Generierung von Geschichten
Automatisierte Generierung von verbindenen Geschichten, die auf die Zielgruppe abgestimmt sind.
Wie narraltiv funktioniert
Analyse von Hasskommentaren:
Unsere KI erkennt und kategorisiert in Echtzeit problematische Inhalte – z. B. Hasskommentare – und analysiert gleichzeitig die Kommunikationssituation: Wozu wurde der Kommentar gepostet? Auf welcher Plattform? Und an wen richtet sich die Botschaft? So entsteht ein vollständiges Bild des Diskurses – die Grundlage für wirksame Antworten.
Entwicklung von Geschichten:
Daraufhin wird aus einer eigens kuratierten Datenbank aus echten Geschichten eine oder mehrere passende Geschichten ausgewählt und anhand wissenschaftlicher Erkenntnisse aus der Medienwirkungsforschung aufereitet. Kunden können Ihre eigenen Narrative und Erfahrungen einpflegen und so die KI kontinuierlich verbessern.
Antwortvorschlag:
Narraltiv erzeugt in Sekundenbruchteilen konkrete kurze Geschichten als Antwortvorschläge, die Community Manager:innen direkt übernehmen, anpassen oder weiterspielen können.
Technische Features
- • Browser-Plugin für nahtlose Integration
- • Automatische Hate Speech Erkennung in Echtzeit
- • Eigene Narrative-Datenbanken und Wissensmanagement
- • KI-gestützte Narrativ-Generierung
- • Datenschutzkonforme Verarbeitung
Narraltiv integriert sich nahtlos mit führenden Social-Media-Management-Tools wie swat.io und conversar.io.
Fallbeispiel: Auf Hassrede in Echtzeit reagieren
1
Erkennung
Eine Community-Managerin bemerkt eine Welle von Hasskommentaren unter einem Beitrag zu einem aktuellen politischen Ereignis. Die Kommentare richten sich abwertend gegen eine bestimmte Personengruppe und drohen, die Diskussion zu eskalieren.
2
Analyse
Im Hintergrund analysiert narraltiv das Thema der Hassrede, bezieht den Kontext wie den ursprünglichen Post, die Plattform und andere Kommentare mit ein und entwickelt auf wissenschaftlichen Kriterien beruhende Geschichten als Antwort.
3
Reaktion
Die Community-Managerin wählt eine passende Geschichte aus, passt sie bei Bedarf an und bringt sie in die Diskussion ein – gezielt, konstruktiv und evidenzbasiert.
Demo
Sie möchten mehr über unsere KI-Lösung erfahren? Kontaktieren Sie uns für eine persönliche Demo.
Demo Features
- Echtzeit-Analyse von Social Media Kommentaren
- Automatische Erkennung von Hassrede und toxischen Mustern
- Generierung von alternativen Narrativen
- Visualisierung der Analyseergebnisse
Unser Team
Unser zweiköpfiges Team vereint technische Innovation mit fundiertem Fachwissen in Medienkommunikation, Deradikalisierung und Menschenrechten.
Dr. Linda Walter
Forschung & Content
- • Expertin für digitale Menschenrechte und Medienkommunikation
- • 15+ Jahre Erfahrung in Planung, Durchführung und Evaluation von Projekten an der Schnittstelle von Menschenrechtsarbeit, Journalismus und Digitalisierung
- • Promotion zu Narrativen in der Deradikalisierungsarbeit auf Social Media
- • Mitgründerin und geschäftsführender Vorstand von Future Challenges e.V.
Letzte Veröffentlichungen:
Walter, L 2025, 'Networked Sympathy: Rethinking Human Rights Work on Social Media using Narrative Persuasion', Springer (Wiesbaden).
Ali, R, Özvatan, Ö, Walter, L 2023, 'The Narrative Foundations of Radical and Deradicalizing Online Discursive Spaces: A Comparison of the Cases of Generation Islam and Jamal al-Khatib in Germany', Religions (14): 167.
Simon Liedtke
Entwicklung & Technik
- • Softwareingenieur, IT-Berater sowie KI-Lösungsarchitekt für Großkonzerne, KMUs und Start-ups
- • 20+ Jahre Erfahrung in Medien- und Software-Entwicklung
- • 5+ Jahre Erfahrung mit maschinellem Lernen, KI und NLP z. B. Entwicklung eines KI-gestützten Bias Check-Tools für Journalist*innen
- • Mitgründer und technischer Leiter der wechange eG
- • Mitgründer und CTO der sinnwerkstatt
Zertifikate:
Zertifikat "Interkulturelle Kompetenz" (Hochschule München, 2022)
Zertifikate "Professional Scrum Master & Product Owner (PSM/PSPO I)" (Scrum.org, 2021)
Unsere Partner
Wir arbeiten mit führenden Organisationen zusammen, um Hassrede in den Medien effektiv zu bekämpfen und den gesellschaftlichen Zusammenhalt zu stärken.
AI4Democracy
Technologische Unterstützung bei der Entwicklung von KI-Lösungen zur Erkennung von Hassrede und Analyse toxischer Inhalte.
Das Nettz
Vernetzung und Öffentlichkeitsarbeit mit relevanten Akteur*innen sowie Austausch von Expertise zur Verbesserung der Reaktionsfähigkeit.
RBB
Pilotimplementierung und Testen des Prototyps sowie Bereitstellung von Feedback zur weiteren Optimierung.
Insights
MIZ-Förderung für unseren Prototyp
Wie wir mit Hilfe der MIZ-Innovationsförderung ein KI-Tool für Redaktionen entwickeln.
Weiterlesen →
Die Kraft von Geschichten
Wie aus Forschung zu Storytelling ein KI-Tool gegen Hass im Netz entstand.
Weiterlesen →Kontakt
Haben Sie Fragen oder möchten Sie mehr über narraltiv erfahren? Kontaktieren Sie uns oder abonnieren Sie unseren Newsletter.
Newsletter abonnieren
Bleiben Sie auf dem Laufenden über unsere neuesten Entwicklungen und Erkenntnisse.
Direkte Kontaktaufnahme
Haben Sie spezifische Fragen oder Anliegen? Kontaktieren Sie uns direkt per E-Mail.
Wir bemühen uns, alle Anfragen innerhalb von 48 Stunden zu beantworten.