Die Idee und der erste Prototyp des DesinfoNavigators entstand im Rahmen des Politechathons der Baden-Württemberg Stiftung. Beim Politechathon trafen sich über 100 Expert:innen aus Technologie, Politik und
Zivilgesellschaft, um sich mit den Chancen und Risiken von Künstlicher Intelligenz in Bezug
auf demokratische Wahlen zu beschäftigen. Für uns war dabei die zentrale Frage: "Wie können
wir Menschen dabei helfen Desinformationen zu erkennen und zu widerlegen?"Die Forschung zeigt: Um die Glaubwürdigkeit von Desinformationen zu reduzieren kann es
helfen, ein Verständnis über die irreführenden rhetorischen Strategien und Tricks der
Desinformation zu vermitteln. Wenn Menschen die irreführenden Strategien von
Desinformationen erkennen, kann es dabei helfen die Glaubwürdigkeit von Desinformationen zu
reduzieren. Außerdem können sie dann zukünftig neue Informationen auf die bekannten
Strategien selbstständig untersuchen.Es gibt verschiedene Frameworks, die die irreführenden rhetorischen Strategien der
Desinformationen kategorisieren. Im Rahmen des DesinfoNavigators verwenden wir das PLURV-Framwork, das folgende fünf Kategorien unterscheidet:
Pseudo Expert:innen: Von Pseudo Expert:innen ist dann
die Rede, wenn unqualifizierte Personen oder Institutionen als Quelle relevanter Einwände
präsentiert werden.
Logischer Trugschluss: Ein Logischer Trugschluss liegt
dann vor, wenn aus nachweisbaren Tatsachen falsche Schlüsse gezogen werden, oder wenn eine
Argumentation bei genauer Betrachtung widersprüchlich ist.
Unerfüllbare Erwartungen: Wenn von der Wissenschaft
unwiderlegbare Tatsachen und sichere Prognosen in komplexen Fragen gefordert werden,
liegen unerfüllbare Erwartungen vor.
Rosinenpickerei: Nur das, was in die eigene
Argumentation passt, wird bei der Rosinenpickerei anerkannt. Alles Übrige wird abgelehnt
oder bewusst ausgelassen.
Verschwörungsmythen: Verschwörungsmythen dienen dazu
(wissenschaftlich) fundierte Sachverhalte zu diskreditieren. So lässt sich die eigene
Erzählung gegen jeden Widerspruch immunisieren.
Unser Ziel mit dem DesinfoNavigator ist es, Nutzer:innen-Eingaben auf diese Strategien zu
überprüfen und den Nutzer:innen Hinweise zu geben, mit der die identifizierten Textstellen
auf Strategien überprüft werden können. Wir unterscheiden uns somit von klassischen
Fact-Checks, da wir keine Aussage darüber treffen, ob eine Textstelle falsche Informationen
enthält. Vielmehr leiten wir den User zu einer eigenen Auseinandersetzung mit den Strategien
und einer selbstständigen Überprüfung der Information an.
Wie funktioniert der DesinfoNavigator?
Zunächst wird die Nutzer:innen-Eingabe auf potenzielle irreführende rhetorische
Strategien der Desinformation gemäß des PLURV-Frameworks überprüft.Dazu verwenden wir eine ausführliche Beschreibung der Strategien für die wir
vielfältige Quellen herangezogen haben: unter anderem das Portal SkepticalScience, das von dem Kognitionswissenschaftler John Cook gegründet wurde, das Portal Klimafakten.de und Informationen der Bundeszentrale für politische Bildung.Die Nutzer:innen-Eingabe und die ausführliche Beschreibung wird einem Sprachmodell zur
Verfügung gestellt. Dieses identifiziert dann Textstellen, bei denen Hinweise auf zu
überprüfende Strategien vorliegen.
Im zweiten Schritt wird für alle identifizierten Textstellen, bei denen potenziell eine
rhetorische Strategie der Desinformation verwendet wurde, mit Hilfe eines Sprachmodells
eine individuelle Handlungsanweisung generiert.
Links
Hier findest du eine Liste an ausgewählten Links, welche für den DesinfoNavigator relevant
sind: