Wie Jugendliche Manipulation in sozialen Medien erkennen: Forschungsprojekt entwickelt KI-basiertes Bildungsangebot für den Unterricht
Ein tanzender Friedrich Merz und Yanis Varoufakis mit dem Stinkefinger – echt oder Deep Fake? Ob Bilder und Videos wahre Situationen zeigen oder bearbeitet wurden, lässt sich für uns immer schwerer unterscheiden. Zunehmend verbreiten sich über Soziale Medien auch gezielte Falschinformationen und manipulative Narrative und beeinflussen die Meinungsbildung in demokratischen Gesellschaften.
Eigentlich sei es in Zeiten „synthetischer Realitäten“ ratsam, Informationen grundsätzlich anzuzweifeln und erst zu verifizieren, sagt Prof. Dr. Marco Kalz von der Pädagogischen Hochschule Heidelberg. „Doch auf diese Herangehensweise sind wir nicht vorbereitet.“ Besonders Jugendliche gelten als vulnerable Gruppe, wie der Mediendidaktiker erzählt, der das Heidelberger Zentrum für digitale Transformation in der Bildung leitet. Über ihre Social Media-Kanäle seien sie regelmäßig mit Fake News konfrontiert – multimodal, über Text, Bild und Audio.
Der Umgang mit solchen Informationen ist noch wenig Thema im Unterricht – auch wenn seit Herbst 2025 Baden-Württemberg das Fach „Informatik und Medienbildung“ an weiterführenden Schulen unterrichtet wird. Mit einem neuen Forschungsprojekt könnte die PHHD hierzu einen Beitrag leisten: Im Vorhaben MARSS (Multimodales System zur Abwehr von Desinformation mittels Sozioemotionaler Prozesse für SchülerInnen) entwickeln Marco Kalz, Holger Meeh und Marlene Ganz (alle Institut für Kunst, Musik und Medien) eine digitale Lernumgebung für den Schulunterricht, die Desinformation und emotionale Manipulation thematisiert.
Zwar sind Falschinformationen nichts Neues – schon analoge Fotos werden seit Generationen manipuliert. „Mit KI-Prompting und Sozialen Medien ist es aber viel einfacher geworden, sie zu produzieren und zu verbreiten“, sagt Meeh. „Manipulationen sind oft nur noch bei genauer Analyse zu erkennen.“ Das betrifft nicht nur politische Themen, sondern auch Bereiche wie Ernährung oder Produktwerbung.
„Hier wird genauso mit emotionaler Desinformation gearbeitet, oft weitaus diffuser als bei offensichtlicher Panikmache“, so Kalz. Der Wissenschaftler war auch als Autor am Leitfaden für Lehrkräfte zu „Desinformation und digitaler Medienkompetenz“ der Europäischen Kommission beteiligt. Die im Februar 2026 veröffentlichte Version wurde von europäischen Expert:innen aktualisiert und thematisiert erstmals die Rolle generativer KI bei der Produktion und Verbreitung von Falschinformationen.
Training für Schüler:innen
Für das neue Bildungsangebot der PHHD stellt sich das Team einen Mix verschiedener Medienformate vor: In einem ersten Schritt wird grundlegendes Wissen zu emotionalen Falschinformationen vermittelt, z.B. in welchen Formen sie uns begegnen. In weiteren Modulen lernen Schüler:innen anhand realer Inhalte beispielsweise Quellen und Vertrauenswürdigkeit zu hinterfragen und typische Muster multimodaler Desinformation zu erkennen.
In einem dritten Schritt sollen sie dann ein KI-basiertes Tool an die Hand bekommen, mit denen sich Feeds in Echtzeit auf Manipulationsstrategien überprüfen lassen. An Letzterem arbeitet das Deutsche Forschungszentrum für künstliche Intelligenz als Projektpartner: Ein Team entwickelt gerade Large-Language-Models (LLM) und Algorithmen, die emotional aufgeladene Desinformation erkennen können. Als dritter Projektpartner wird die Hochschule Bonn-Rhein-Sieg ihre Expertise in Sachen Wissenschaftskommunikation einbringen.
Mit Lehrkräften entwickelt
Für das Teilprojekt der PHHD sichten die Forschenden derzeit vorhandene Unterrichtsangebote. Die neuen Materialien werde man gemeinsam mit Lehrkräften aus der Praxis erarbeiten, erklärt Meeh. „Wir werden uns immer wieder Feedback holen, ob unsere Ideen tauglich für den Schulalltag und eine 45-Minuten-Stunde sind.“ Dazu sei man bereits mit Schulen im Gespräch und freue sich über weitere interessierte Lehrkräfte, die gelegentlich mitarbeiten wollen.
Mitgedacht wird natürlich auch die Ausbildung angehender Lehrkräfte. Bereits jetzt setzen sich Studierende der Hochschule im Grundlagenmodul Medienbildung intensiv mit Themen wie Desinformation in Sozialen Medien auseinander. Alle entwickelten Materialien und Tools sollen am Ende unter einer offenen Lizenz zur Verfügung stehen. Und idealerweise sei dann ein Chatbot Teil des Bildungsangebots, mit dem Lehrkräfte mit Stichworten eine angepasste Lernumgebung für ihre Zwecke kreieren können, sagt Kalz. „KI lässt sich ja nicht nur für Desinformation nutzen, sondern genauso für 'Anti-Desinformation‘ und Bildung.“
Das Projekt
Das dreijährige Projekt MARSS (Multimodales System zur Abwehr von Desinformation mittels Sozioemotionaler Prozesse für SchülerInnen. Entwicklung und Evaluation eines integrierten Bildungsformats) ist im April 2026 gestartet und wird gemeinsam mit dem Deutschen Forschungszentrum für künstliche Intelligenz und der Hochschule Bonn-Rhein-Sieg durchgeführt. Es wird durch das Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen der Förderlinie „Vertrauen in Demokratie und Staat: Digitale Desinformation erkennen und abwehren“ gefördert. Informationen unter
Text: Antje Karbe
Foto: Marco Kalz / Medienbildung - Foto KI-generiert