S3E03 Diese Folge ist ein „Double Feature“ zu einem Thema:
1. Um uns politisch zu beeinflussen wird Hochtechnologie mit Niedrigmoral eingesetzt. Fangen wir mit einem Agentenplot an.
Sie trauen Ihren Augen nicht: Da wird auf X ein Artikel der Süddeutschen Zeitung verlinkt, der deutlich sagt: „Die Politiker der Ukraine verkaufen die von USA, UK, Frankreich und Deutschland Waffen an Dritte. Und finanzieren sich damit ein feines Leben.„ Das in der SZ? Unglaublich …
2. Oder ist Ihnen das schon passiert? Ein sehr überzeugender und kenntnisreicher Mensch überzeugt Sie in ihrer Filterblase von seinen abstrusen Wahrheiten. Sie sind erstaunt, wie ihnen das passieren konnte. Wollen Sie es wissen? Wissenschaft hilft.
Teil 1, eine Agentenplot? Das ist doch unglaublich, oder? Sie müssen mehr wissen und klicken auf den Kurzlink in „X“. Und der Schreck wird noch größer, wenn Sie diese Attrappe des Internetzeitalters aus der Nähe betrachten. Der Klick hat Sie auf eine Seite springen lassen, die in Aussehen und Funktion dem entspricht, was Sie von der SZ kennen.
Nun, wir wissen, Aussehen ist nicht alles, Ansehen ist auch wichtig. Und das der Zeitung bröckelt schon bei den ersten Zeilen.
Wie aber kommt solch eine Meldung auf die Original-Webseite?
Sind es Irrtum, Scherz, Parodie, oder investigativer Journalismus? Ein Maulwurf in der Redaktion.
All das nicht, Sie sind auf einen Scam reingefallen, in eine Propagandafalle. eine Fälschung.
Das Medienhaus correctiv aus Essen hat recherchiert, berichtet und ist intelligent und kenntnisreich wieder einmal selbst aktiv geworden.
Teil 2, ein Science Fiction?
Jetzt haben Sie in Ihrer Social Media Filterblasen aber wirklich jemanden, der die Diskussion übernimmt. Alle Argumente parat hat und diese in die Posts haut, hat sich auf alles vorbereitet. Auf jede Frage eine Antwort hat. Der Verdacht keimt auf: Vielleicht ein KI-Bot? Könnte das sein? Was kann man dem noch entgegen halten?
Mit diesem Thema haben sich zwei unabhängige Forscherteams beschäftigt: Die einen, die die Wirkung eines Großen Sprachmodells (ChatGPT) in einer beispielhaft angelegten Studie untersuchen. Die zweite Gruppe zeigt, ob man Feuer mit Feuer bekämpfen kann, also die „böse“ KI mit einer „guten“ KI. Was funktionieren könnte, so die Idee, wäre die Gegenrede (Counter Speech) zu den Posts eines „bösen“ Bots.
Quellen
Ein spannender Agentenplot
Disclaimer: Der erste Teil dieser Podcast Folge („Doppelgänger“) beruht auf den Recherchen von Correctiv, anbei die Quellen. Alle Rechte liegen bei correctiv. Bitte klickt auf die Links und besucht die Webseite dieses Medienhauses. Correctiv wird auch über Spenden finanziert und bietet mehr als Recherchen und Faktenchecks, zum Beispiel eine „Reporterfabrik“, also eine Journalistenschule für jeden und jede..
Die Informationen zu Doppelgänger werden stetig auf correctiv.org ergänzt
Teil 1: Russische Propaganda und Fakes – dank Technik aus Europa
Dies ist der Rcherchebericht mit vielen Details, Abbildungen, Graphiken und Diagrammen, die das Vorgehen der Macher der Doppelgänger aufdecken. Recherchen und vor allem das intelligente und beherzte Vorgehen von correctiv haben uns vor größerem Schaden bewahrt und unsere Demokratie geschützt. Respekt!
„Es ist eine der größten Desinformations-Kampagnen in der EU – gesteuert aus Russland: die sogenannte Doppelgänger-Kampagne. Wir haben sie durchleuchtet und sind auf Beteiligte in Deutschland gestoßen. Merkwürdig, dass noch keine Ermittlungsbehörden dort waren….“
Weitere Aspekte werden detailliert in den folgenden Artikeln behandelt.
Russische Propaganda: Bundesregierung ignoriert Hinweise auf Spuren in Deutschland
Doppelgänger gilt als eine der aufwändigsten russischen Desinformations-Kampagnen. Nach Informationen von CORRECTIV ist die Bundesregierung seit mehreren Monaten über involvierte deutsche Firmen informiert, ist den Hinweisen aber bisher nicht nachgegangen….
Doppelgänger: CORRECTIV-Recherchen legen russische Propaganda-Kampagne lahm
Die Verbreitung von Fake-Webseiten der russischen Desinformationskampagne Doppelgänger ist größtenteils gestoppt. Die Hinterleute der Kampagne nutzten ausgerechnet einen ukrainischen Dienst – und der fackelte nach einer CORRECTIV-Anfrage nicht lange und sperrte den Kunden. Derweil führen die digitalen Spuren von Doppelgänger direkt zum Verteidigungsministerium in Moskau…
https://correctiv.org/faktencheck/russische-desinformation/2024/11/13/propaganda-desinformation-russland-recherchen-legen-doppelgaenger-kampagne-lahm/
Teil 2: KI dein Feind; KI dein Freund. Es kommt darauf an, was macht man daraus macht …
Wir beschäftigen uns im zweiten Teil mit der Frage, ob es, ausser dem „Abschalten!“ als der im Fall der „Doppelgänger“ wirksamsten Massnahme auch etwas gibt für den Alltag in Filterbubble und Echokammern.
Beide zitierten Studien sind methodisch / handwerklich von hoher Güte, die erste Studie über die „Überzeugungskraft von großen Sprachmodellen“ möchte ich (HWK) ein Meisterwerk nennen.
- Die Forschergruppe um Francesco Salvi et. al, veröffentlichte im März 2024 einen Forschungsbericht zur „Überzeugungskraft von großen Sprachmodellen (LLM)“: LLMs sind in der Lage, mit nur wenigen Zusatzinformationen Menschen in einem Dialog von der „eigenen“ Meinung zu überzeugen.
On the Conversational Persuasiveness of Large Language Models: A Randomized Controlled Trial (Francesco Salvi, Manoel Horta Ribeiro, Riccardo Gallotti, Robert West)- The development and popularization of large language models (LLMs) have raised concerns that they will be used to create tailor-made, convincing arguments to push false or misleading narratives online. Early work has found that language models can generate content perceived as at least on par and often more persuasive than human-written messages
- https://arxiv.org/abs/2403.14380
- In einer Studie von Costello, Pennycook, Rand (09/2024) wird das Thema aufgegriffen: Ihre Forschungsfrage „Kann man KI nutzen, um mit „Counterspeech“ in Filterblasen Menschen aufzuklären und Verschwörungsglauben zu mindern. Die einfache Antwort „Ja“. Auch Menschen können dies, wenn sie die richtigen Fragen stellen oder Antworten geben.
- „Conspiracy theory beliefs are notoriously persistent. Influential hypotheses propose that they fulfill important psychological needs, thus resisting counterevidence. Yet previous failures in correcting conspiracy beliefs may be due to counterevidence being insufficiently compelling and tailored. To evaluate this possibility, we leveraged developments in generative artificial intelligence and engaged 2190 conspiracy believers in personalized evidence-based dialogues with GPT-4 Turbo. The intervention reduced conspiracy belief by ~20%.“
- https://www.science.org/doi/10.1126/science.adq1814
Bildquelle
Die Emotionen, die entstehen, wenn man seinem Doppelgänger begegnet, zeigt unser Folgenbild: Zwischen Erstaunen, Hilflosigkeit, Wut und Angst können die Emotionen changieren, die durch vier Personen (2 Personen und ihre Doppelgänger) abgebildet sind. Das Bild entstand um 1851, der Künstler ist Dante Gabriel Rosetti. Die Geschichte des Bildes und Näheres zum Maler finden Sie auf …
Vom Bild gibt es drei Versionen, wir haben uns für die schwarz/weiße Fassung – im Stil von alten Stichen – entschieden. https://upload.wikimedia.org/wikipedia/commons/b/bf/Dante_Gabriel_Rossetti_-_How_They_Met_Themselves_%281851-60%29.jpg
