Netzwerk 'Pravda': Wie Russland westliche Chatbots für seine Propaganda manipuliert.

Laut einer Studie der Organisation NewsGuard enthalten die meisten Antworten von KI-basierten Assistenten russische Desinformation.

Forscher behaupten, dies sei mit dem Netzwerk 'Pravda' verbunden, das pro-russische Propaganda weltweit verbreitet, berichtet Der Spiegel.

'Eine enorme Menge russischer Propaganda - 3.600.000 Artikel im Jahr 2024 - gelangt in die Ergebnisse westlicher KI-Systeme und infiziert deren Antworten mit falschen Behauptungen und Propaganda', schreiben die Forscher in ihrem Bericht.

NewsGuard führte eine Studie zu den zehn wichtigsten KI-Anwendungen durch, darunter ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini und Perplexity. Alle diese Anwendungen reproduzieren die Desinformation, die von 'Pravda' verbreitet wird. Darüber hinaus verweisen sieben Chatbots auf Artikel von 'Pravda' als Quellen.

Nach den Forschern beeinflusst 'Pravda' die Chatbots, indem sie sie mit großen Sprachmodellen (LLM) füttert. Dies ermöglicht es ihnen, Antworten auf der Grundlage von Fake News zu generieren. Diese Methode wird 'LLM Grooming' genannt. Die Forschung zeigt, dass KI-Chatbots nicht nur Desinformation aus dem Internet verbreiten, sondern auch aktiv auf die Benutzer Einfluss nehmen.

Eine andere Studie der gemeinnützigen Organisation American Sunlight Project warnt vor der Ausbreitung des Netzwerks 'Pravda', das auch als 'Portal Kombat' bekannt ist.

'Die Fähigkeit des Pravda-Netzwerks, Desinformation in solch einem Maßstab zu verbreiten, ist ohne Präzedenzfall, und die Möglichkeit, Einfluss auf KI zu nehmen, macht diese Bedrohung noch gefährlicher', erklärte die Geschäftsführerin des American Sunlight Project, Nina Yankovich. 'Mit der Verbreitung des russischen Einflusses wächst die Bedrohung für demokratische Diskussionen weltweit.'

Expertenmeinungen zufolge ist russische Desinformation jetzt besonders gefährlich, da die USA keine Maßnahmen dagegen ergreifen. US-Verteidigungsminister Austin hat Cyberoperationen gegen Russland vorübergehend ausgesetzt, und alle Operationen gegen Moskau werden überprüft.

Das Netzwerk 'Pravda' entstand im April 2022, nach Beginn des Konflikts in der Ukraine, und wächst stetig. Laut NewsGuard breitet es sich in 49 Ländern aus und nutzt Dutzende von Sprachen.

'Pravda' erstellt keine eigenen Inhalte, sondern nutzt Artikel russischer Staatsmedien oder autoritärer Personen, die dem Kreml geneigt sind. Das Netzwerk verbreitet diese Artikel Millionen Male über Plattformen wie X, Telegram und Bluesky.

Eine der Falschmeldungen ist die Behauptung über die Existenz von geheimen Laboren in den USA zur Produktion von biologischen Waffen in der Ukraine.