Im aktuellen Verfassungsschutzbericht des Freistaates Bayern (VSB 2024) wird auf die Zunahme rechtsextremistischer Aktivitäten im digitalen Raum hingewiesen, darunter auf die Nutzung audiovisueller, spielerischer und musikalischer Formate zur Normalisierung extremistischer Narrative. Dabei kommen zunehmend KI-generierte Inhalte (z. B. Musik, Bilder, Memes) zum Einsatz, um emotionale Anknüpfungspunkte zu schaffen und Jugendliche gezielt anzusprechen. Aktuelle Medienberichte (u. a. Tagesschau: „Rechte KI-Songs auf YouTube und Spotify“, Belltower.News: „TikTok und das Skinhead-Revival – Nichts als substanzloses Gebaren“, taz: „Nazimusikschwemme auf Streamingportalen“) zeigen, dass insbesondere auf Plattformen wie Spotify, YouTube und TikTok KI-generierte Musik mit rechtsextremen oder völkisch-nationalistischen Inhalten zunehmend Reichweite erzielt.
Antwort des Staatsministeriums des Innern, für Sport und Integration im Einvernehmen mit der Staatskanzlei, dem Staatsministerium der Justiz, dem Staatsministerium für Unterricht und Kultus, dem Staatsministerium für Wissenschaft und Kunst, dem Staatsministerium für Familie, Arbeit und Soziales sowie dem Staatsministerium für Digitales auf eine schriftliche Anfrage von meinem Kollegen Cemal Bozoğlu und mir:
1. Erkenntnisse und Bewertung
1.1 Welche Erkenntnisse liegen der Staatsregierung zur Nutzung von KI-generierten Musik-, Bild- oder Videoinhalten durch extremistische Akteurinnen und Akteure in Bayern vor, insbesondere mit Bezug auf Plattformen wie Spotify, TikTok und YouTube (vgl. taz, Tagesschau)?
1.2 Welche extremistischen Strömungen nutzen nach Kenntnis der Staatsregierung KI-Inhalte gezielt zur Nachwuchsgewinnung, etwa im Bereich rechtsextremer Subkulturen oder identitärer Bewegungen?
Die Fragen 1.1 und 1.2 werden aufgrund des Sachzusammenhangs gemeinsam beantwortet.
Das Internet bietet Nutzern neben diversen Kommunikations- und Vernetzungsmöglichkeiten auch vielfältige Potenziale im Bereich der künstlichen Intelligenz (KI).
Die Anwendungsbereiche erstrecken sich dabei von der Bilderstellung über die Bildmanipulation bis hin zur Erstellung von sog. „Deepfakes“.
Im Phänomenbereich Rechtsextremismus ist die Nutzung solcher Technologien vermehrt festzustellen. Authentisch wirkende Bilder und Videos werden von Rechtsextremisten zielgruppenorientiert für Propagandazwecke genutzt. Oft geschieht dies, um in Beiträgen oder Postings das eigene Weltbild durch grafische Darstellungen zugänglicher zu machen. Aktuelle Beispiele hierfür finden sich u. a. auf den Webseiten der rechtsextremistischen Parteien „Der III. Weg“ und „Die Heimat“.
Aus dem Umfeld der aufgelösten „Jungen Alternative“ (JA) bzw. der neu gegründeten Jugendorganisation „Generation Deutschland“ (GD) ist das KI-generierte Video für den „Abschiebesong“ im Rahmen der „Deutschlandretterkampagne“ im August 2024 zu nennen. Der mittlerweile auf den meisten Plattformen gesperrte Song wurde von www.deutschlandretter24.fun (Link nicht mehr verfügbar) verbreitet und war eine Adaption des Songs „Hey, das geht ab“ aus dem Jahr 2014.
Weitere Beispiele für die Nutzung von KI-generiertem Material finden sich auch bei der Identitären Bewegung (IB). Ihre „No Way“-Kampagne soll eigenen Angaben zufolge Menschen aus afrikanischen Herkunftsländern vor Migration und Flucht nach Europa warnen. Ein hierzu genutztes Bild zeigt eine stereotypisierende Darstellung von Migranten, die auf einem Boot das Meer überqueren (vgl. Verfassungsschutzbericht Bayern 2024, S. 169). In einem Beitrag auf Social Media und Telegram verbreitete die IB am 18.02.2025 im Vorfeld der Bundestagswahl ein Deepfake-Video, bei dem der ehemalige Bundeskanzler Aktivisten anfährt und danach gleichgültig bleibt. In diesem Fall ist das Video als offensichtlicher Fake zu erkennen und auch so benannt („nur ein Aktionsvideo“), doch es zeigt eindrücklich die Offenheit der rechtsextremistischen Szene, neueste Techniken für die eigene Propaganda nutzbar zu machen.
Auch in rechtsextremistischen Subkulturen wird KI dazu genutzt, sich selbst als agil und zeitgemäß darzustellen. So nutzte beispielsweise der rechtsextremistische „Active Club Mainfranken“ ein durch den Einsatz von KI generiertes Bild zur Selbstdarstellung und zu Propagandazwecken in den sozialen Medien (vgl. Verfassungsschutzbericht Bayern 2024, S. 170). Auf diese Weise versucht die Gruppierung, sich als personenstark und wehrhaft zu inszenieren.
KI-generierte Inhalte werden auch von Anhängern islamistischer Strömungen sowie im Bereich des auslandsbezogenen Extremismus genutzt. Eine vollständige Beschränkung der Erkenntnisse auf Bayern kann aufgrund der Anonymität des Internets und der damit verbundenen schwierigen Identifizierung der Nutzer nicht gewährleistet werden. Die Verbreitung entsprechender Inhalte durch Akteure aus Bayern konzentriert sich in den vorliegenden Beobachtungen auf Plattformen wie den Kurzvideodienst TikTok und das soziale Netzwerk Instagram.
Die Akteure aus den Bereichen Islamismus und auslandsbezogener Extremismus verfolgen eine gezielte Social-Media-Strategie, die Elemente des digitalen Aktivismus nutzt. Neue Onlineplattformen, App-Funktionen und Trends im digitalen Mediengebrauch werden von den Akteuren dabei konsequent aufgegriffen und für propagandistische Zwecke sowie zur Indoktrination von Szeneeinsteigern instrumentalisiert. Hierzu gehörte u. a. der Einsatz von generativer KI zur Erstellung und Verbreitung von emotionalisierenden Posts, Szenecodes wie spezifischen Symbolen und Emojis zur verschleierten Kommunikation mit Gleichgesinnten oder von mehrminütigen Audio- und Videobeiträgen mit künstlicher Sprecherstimme. So kann Propaganda individuell an die Wünsche der Rezipienten angepasst werden, was zu einer viel höheren direkten Interaktion und damit möglicherweise intensiveren Bindung zwischen radikalisierenden Akteuren und ihren Followern führt.
Konkretes Ziel bei der Nutzung dieser Tools ist es, die Verbreitung extremistischer Botschaften zu vereinfachen und zu forcieren, Bilder, Audios und Videos kostengünstig herzustellen, Inhalte einheitlich darzustellen oder zu animieren oder etwa Voice-Mimik zu nutzen. Auch kann es darum gehen, neue Mitglieder zu rekrutieren.
Diesen Umstand machen sich insbesondere Anhänger der dschihadistisch-salafistischen Terrororganisationen „Islamischer Staat“ (IS) sowie „al-Qaida“ (AQ) zunutze, die die offizielle Propaganda mit KI-generierten Inhalten quantitativ erweitert haben.
Im Bereich der salafistischen Influencer wird KI auch zur Übersetzung von religiösen Inhalten in verschiedenste Sprachen genutzt, um so ein möglichst weitflächiges Publikum zu erreichen.
Aus dem Phänomenbereich Linksextremismus liegen keine Erkenntnisse im Sinne der Fragestellungen vor.
1.3 Welche Zielgruppen – insbesondere Jugendliche – werden vorrangig adressiert (bitte in dem Zusammenhang darauf eingehen, wie die Ansprache über emotionale oder ästhetische Stilmittel – Musik, Meme-Kultur, visuelle Codes – erfolgt)?
Welche Zielgruppen adressiert werden, richtet sich vor allem nach der jeweiligen Gruppierung und ihrer Altersstruktur. Während rechtsextremistische Parteien grundsätzlich nach Mitgliedern jeder Alterskohorte suchen, wenden sich aktivistische Jugendgruppen, wie IB, an ein jüngeres Publikum.
Durch die permanente Beschallung mit digitalen Inhalten müssen Influencer im Ringen um Aufmerksamkeit zeitgemäße und attraktive Wege der Ansprache finden. Musik und Memes sind deshalb für die rechtsextremistische Szene ein effektives Mittel. Während sich Musik eignet, um Emotionen zu wecken und eine Gemeinschaft zu schaffen, eigenen sich Memes als Weg, um Standpunkte zugänglich und humorvoll zu verpacken. Nutzer können so auch in Kontakt mit rechtsextremistischen Inhalten und Accounts geraten.
Ein bekanntes Beispiel für die Nutzung von Memes ist der Account „Wilhelm Kachel“, der mit seinen „Memes für Deutschland“ Werbung für die Partei „Alternative für Deutschland“ macht.
Im Übrigen wird auf die Antwort zu den Fragen 1.1 und 1.2 verwiesen.
2. Plattformen und algorithmische Verbreitung
2.1 Auf welchen digitalen Plattformen und Streamingdiensten beobachtet die Staatsregierung die algorithmisch verstärkte Verbreitung extremistischer KI-Inhalte, wie sie in taz und Tagesschau beschrieben wird?
2.2 Gibt es Erkenntnisse über grenzüberschreitende Netzwerke oder Kooperationen rechtsextremer Akteurinnen und Akteure, die über KI-Content global Reichweite generieren?
2.3 Welche Rolle spielen Plattformalgorithmen (z. B. TikTok-„For You“-Feed, Spotify-Empfehlungen) für die Sichtbarkeit rechtsextremer KI-Songs oder Videos?
Die Fragen 2.1 bis 2.3 werden gemeinsam beantwortet.
Die Verbreitung von KI-Inhalten lässt sich im Phänomenbereich Rechtsextremismus plattformübergreifend feststellen, unter anderem auf Telegram, Instagram und TikTok. Plattformalgorithmen spielen eine entscheidende Rolle bei der Sichtbarkeit von Inhalten, einschließlich rechtsextremistischer Musik und Videos. Diese Algorithmen sind darauf ausgelegt, Nutzern Inhalte vorzuschlagen, die wahrscheinlich ihr Interesse wecken. Hinzu kommt, dass sich extremistische Inhalte häufig starker Emotionen wie Angst und Hass bedienen und dadurch Reaktionen hervorrufen, die sie für die Algorithmen attraktiv machen können. Durch die personalisierten Empfehlungen können Nutzer innerhalb kürzester Zeit in Filterblasen oder Echokammern geraten, in denen sie hauptsächlich Inhalte sehen, die ihre bestehenden Überzeugungen verstärken.
Im Übrigen wird auf die Antwort zu den Fragen 1.1 und 1.2 verwiesen.
3. Ästhetik und Normalisierung
3.1 Welche Maßnahmen ergreift die Staatsregierung in Bezug zu der zunehmenden Normalisierung (rechts)extremistischer Ideologie durch
emotional ansprechende, KI-erzeugte Musik und Clips und kulturelle Annäherungsversuche an den Mainstream (vgl. Belltower.News und taz)?
3.2 Wie wird die Ästhetisierung rechter Inhalte – etwa durch gefühlsbetonte Texte, nostalgische Bildwelten oder Lifestyle-Codes – in bestehenden Präventionskonzepten berücksichtigt?
3.3 Inwieweit analysiert die Staatsregierung die von Belltower.News beschriebene „substanziell leere, affektiv übersteigerte“ Social-Media-Rhetorik als Risiko insbesondere für Jugendliche?
Die Fragen 3.1 bis 3.3 werden gemeinsam beantwortet.
Die Staatsregierung misst der zunehmenden Nutzung emotional ansprechender, teils KI-erzeugter Inhalte durch extremistische Akteure große Bedeutung bei und bewertet dies als ernstzunehmende Herausforderung für den Jugend- und Demokratieschutz. Daher werden im Schulbereich Präventionsmaßnahmen gegen Extremismus ausdrücklich um digitale Phänomene und Social-Media-Formate ergänzt und in schulische Bildungsangebote integriert.
In den bestehenden schulischen Präventionskonzepten wird die Ästhetisierung extremistischer Inhalte bereits durch die Auseinandersetzung mit Symbolik, Musik, Kleidungs- und Lifestyle-Codes berücksichtigt. Die Expertinnen und Experten der Bayerischen Informationsstelle gegen Extremismus (BIGE) sowie die Regionalbeauftragten für Demokratie und Toleranz stehen der kompletten Schulgemeinschaft als kompetente Ansprechpartner zur Verfügung und sensibilisieren in Schülerworkshops, Vorträgen und Fortbildungen für diese Thematik. Die Angebote vermitteln Jugendlichen und Lehrkräften, wie emotionalisierende Bildwelten und Inszenierungen sowie Meme-Kultur zur Verbreitung demokratiefeindlicher Positionen genutzt werden können, und fördern zugleich die kritische Medienkompetenz.
Die „substanziell leere, affektiv übersteigerte“ Social-Media-Rhetorik wird als Risikofaktor insbesondere für Jugendliche eingestuft, da sie eine niederschwellige Anziehungskraft entfaltet, ohne offen mit extremistischen Begriffen zu operieren. Entsprechende Analysen fließen in die Fortbildung von Lehrkräften ein, um subtile Formen der Radikalisierungsansprache besser zu erkennen und pädagogisch darauf reagieren
zu können.
Im Übrigen wird auf die Antwort zu den Fragen 5.1 bis 5.3 verwiesen.
4. Entstehung und Verbreitung von KI-generierter Musik
4.1 Welche Erkenntnisse liegen zur Entstehung und Verbreitung von KI-generierter Musik mit (rechts)extremistischen Texten (z. B. auf Spotify) vor, wie sie in der taz dokumentiert sind?
Dem Landesamt für Verfassungsschutz (BayLfV) liegen keine Erkenntnisse im Sinne der Fragestellung vor.
4.2 Wie wird der Umgang mit solchen Inhalten – analog zu den früheren „Schulhof-CDs“ – aktuell bewertet und ggf. reguliert?
KI-generierte extremistische Musikangebote werden ähnlich kritisch wie frühere rechtsextremistische „Schulhof-CDs“ bewertet. Aufgrund der heute überwiegend digitalen Verbreitungswege herrscht jedoch eine veränderte Rechtslage. Während klassische Trägermedien vor allem ordnungs- und strafrechtlich vor Ort unterbunden werden konnten, stehen heute die Zusammenarbeit mit Plattformbetreibern, der Jugendmedienschutz, strafrechtliche Instrumente und die Förderung von Medienkompetenz im Vordergrund.
In strafrechtlicher Hinsicht gelten für den Umgang mit solchen Inhalten (auch in Form von Streaming- oder Download-Angeboten) die allgemeinen Vorschriften. Sofern zureichende tatsächliche Anhaltspunkte für verfolgbare Straftaten, namentlich in Gestalt der Volksverhetzung (§ 130 Strafgesetzbuch – StGB) oder des Verwendens von Kennzeichen verfassungswidriger und terroristischer Organisationen (§ 86a StGB), vorliegen, sind die Strafverfolgungsbehörden zum Einschreiten verpflichtet.
Ergänzend setzt die Staatsregierung auf Aufklärung und Beratung der Schulen sowie auf die Kooperation mit zivilgesellschaftlichen Partnern. Darüber hinaus ist die Information und Aufklärung der Öffentlichkeit über extremistische Vorgehensweisen in diesem Zusammenhang unerlässlich und eines der wesentlichen Ziele des BayLfV.
4.3 Welche Maßnahmen werden, ggf. in Zusammenarbeit mit den zuständigen Medienaufsichtsbehörden, ergriffen, um Plattformen zur Kennzeichnung solcher Inhalte im Sinne des Jugendschutzes zu verpflichten?
Vorgaben zu unzulässigen und entwicklungsbeeinträchtigenden Inhalten in Telemedien – damit auch auf Onlineplattformen – ergeben sich aus dem Jugendmedien schutzstaatsvertrag (JMStV). Hierauf wird Bezug genommen. Für den Vollzug sind die Landesmedienanstalten als Aufsichtsbehörden zuständig.
5. Prävention, Bildung und Aufklärung
5.1 Welche Bildungs- und Präventionsprogramme existieren in Bayern, um Jugendliche über algorithmisch verstärkte Desinformation und (rechts)extremistische KI-Inhalte aufzuklären?
5.2 Wie werden Schulen, Fachkräfte für Medienpädagogik und Eltern unterstützt, um die Wirkung solcher digitaler Subkulturen (Musik, Kleidung, Symbolik) zu verstehen und zu kontextualisieren?
5.3 Gibt es spezielle Workshops oder Lehrmaterialien, die auf KI-basierte Propagandaformate eingehen?
Die Fragen 5.1 bis 5.3 werden aufgrund des Sachzusammenhangs gemeinsam beantwortet.
In Bayern existiert ein breites Spektrum an Bildungs- und Präventionsprogrammen, mit denen Kinder und Jugendliche auch über Desinformation, digitale Propaganda und extremistische Inhalte aufgeklärt werden. Eine dreiteilige eSession-Reihe zum Thema „Radikalisierung Jugendlicher im Netz“ vermittelte beispielsweise den teilnehmenden Lehrkräften praxisnahe Impulse, wie sich Radikalisierungstendenzen – insbesondere in den Bereichen Islamismus und Rechtsextremismus – im digitalen Raum äußern und wie darauf pädagogisch reagiert werden kann. Zudem können Schulen auf die vielfältigen Angebote der Landeszentrale für politische Bildungsarbeit zurückgreifen. Im Dezember 2025 wird beispielsweise eine Onlinelehrerfortbildung mit dem Titel „Deepfakes & Diskurs: Wie verändert generative KI die politische Auseinandersetzung?“ angeboten. In monatlichen Onlineelternabenden zu Hass und Desinformation im Netz erfahren Eltern, wie sie Jugendliche dabei unterstützen können, politische Informationen im Netz einzuordnen sowie sich verantwortungsvoll und konstruktiv an digitalen Debatten zu beteiligen. Ergänzend dazu sensibilisieren Computerspiele wie „Deine Stimme“ und „Augen auf!“ junge Menschen für populistische Tendenzen, Fake News und rechtsextremistische Strategien in den sozialen Medien.
Darüber hinaus spielt im Rahmen der Prävention und Aufklärung im Zusammenhang mit gezielter Desinformation die Befähigung zum kompetenten und reflektierten Umgang mit Medien allgemein und KI-Technologien im Besonderen eine zentrale Rolle. Der digitalkompass.schule des Staatsinstituts für Schulqualität und Bildungsforschung (ISB) sowie der Medienführerschein Bayern der BLM Stiftung Medienpädagogik Bayern bieten hierfür direkt einsetzbare Unterrichtsmaterialien. Die von der Staatskanzlei geförderte und 2009 gestartete Initiative der Staatsregierung Medienführerschein Bayern ist bundesweit Vorbild. Der Medienführerschein Bayern versteht sich als Baukastensystem, mit dem Schritt für Schritt die Medienkompetenz von Kindern, Jugendlichen und jungen Erwachsenen gestärkt werden kann. Für die Sensibilisierung und Qualifizierung von Lehrkräften können diese auf ein umfangreiches Fortbildungsangebot auf allen Ebenen der staatlichen Lehrkräftefortbildung zurückgreifen. Materialien für die medienpädagogische Elternarbeit, die u. a. die Themenbereiche KI sowie Social Media aufgreifen und detaillierte Informationen bieten, runden das umfangreiche staatliche Angebot ab.
Die BIGE ist seit ihrer Gründung 2009 mit Präventionsangeboten zum Thema Rechts- und Linksextremismus an Schulen tätig.
Zum einen werden für Schüler Workshops angeboten, die dafür sensibilisieren, wie insbesondere rechtsextremistische Akteure Jugendliche thematisch an sich binden wollen. Dabei werden z. B. auch Ausschnitte aus KI-generierten (TikTok-)Videos gezeigt, um anhand dieser rassistische und antisemitische Erzählmuster zu erläutern. Ebenfalls Inhalt der Workshops sind Hintergründe zu Musik, Kleidung und Symbolen, die sowohl realweltlich als auch digital von Extremisten genutzt werden.
Zum anderen ist die BIGE in enger Zusammenarbeit mit dem Staatsministerium für Unterricht und Kultus (StMUK) in die Aus- und Fortbildung von Lehrkräften eingebunden. Auch dort wird auf die Strategien von Extremisten, Hintergründe zu deren Musik, Kleidung und Symbolen eingegangen und dies für Social Media anhand von zum Teil KI-generierten Videos und Memes erläutert. An der Akademie für Lehrerfortbildung und Personalführung (ALP) Dillingen werden zudem regelmäßig Vorträge zu den Themen Rechtsextremismus, Linksextremismus, aber auch speziell zu Hetze im Netz und Verschwörungstheorien angeboten, in denen z. B. auf die durch Rechtsextremisten genutzte Verschwörungstheorie des „Großen Austausch“ hingewiesen wird. An Elternabenden an den Schulen geht die BIGE ebenfalls adressatenbezogen auf die bereits genannten Themen ein.
Das Staatsministerium für Familie, Arbeit und Soziales (StMAS) setzt sich in vielfältiger Weise für die Stärkung der Medienkompetenz von Jugendlichen im Rahmen der Radikalisierungsprävention und für Aufklärung digitaler extremistischer Inhalte ein – auch im Hinblick auf KI-basierte Formate. Ein Schwerpunkt liegt auch auf der Unterstützung pädagogischer Fachkräfte, damit sie die Wirkung digitaler Subkulturen und die Mechanismen algorithmisch verstärkter Inhalte besser verstehen und einordnen können.
Es werden entsprechend eine Reihe phänomenübergreifender Projekte im digitalen Bereich gefördert, beispielsweise:
Das Projekt „Radikal im Netz – Extremismus Prävention und digitale Medien“ (Aktion Jugendschutz Landesarbeitsstelle Bayern e. V.) richtet sich gezielt an Fachkräfte der Kinder- und Jugendhilfe. Sie werden durch Schulungen befähigt, extremistische Botschaften im Internet einzuordnen und mit Jugendlichen zu diesem Thema zu arbeiten. Neben grundlegendem Wissen zu Radikalisierungsprozessen werden konkrete Einblicke in digitale Phänomene und Subkulturen vermittelt.
Im Projekt „widerständig“ (Jugend Film Fernsehen e. V. – JFF) werden in Einrichtungen der Jugendhilfe strukturelle Angebote zur Förderung von Informations- und Medienkompetenz entwickelt. Ziel ist es, Kindern und Jugendlichen einen sicheren Umgang in der digitalen Welt zu ermöglichen und sie insbesondere für extremistische Ansprachen im Netz zu sensibilisieren.
Das Projekt „unpacking online Bias“ (democ e. V.) setzt sich gezielt mit israelbezogenem Antisemitismus in den sozialen Medien auseinander. Pädagogische Fachkräfte werden unterstützt und gestärkt, um antisemitische Narrative im digitalen Raum zu erkennen, zu verstehen und ihnen altersgerecht entgegenzutreten.
Im Rahmen des Projektes „DIGITALMIND“ (MIND Prevention gGmbH) werden junge Menschen mit und ohne Flucht- und/oder Migrationserfahrungen aus muslimisch und/oder patriarchal geprägten Heimatländern mit einem interaktiven, niedrigschwelligen und humorvollen Angebot zur Islamismusprävention digital auf den sozialen Medien, wie Instagram, TikTok und YouTube, erreicht. Das Ziel ist, die jungen Menschen zum Reflektieren ihrer Haltungen und zum Hinterfragen stereotypischer Rollenbilder anzuregen.
Speziell für die 5. und 6. Jahrgangsstufen wurde vom Jungen Theater Augsburg ein Theaterstück entwickelt, das junge Menschen für extremistische Inhalte, Fake News und Verschwörungserzählungen sensibilisiert. Die Medienkompetenz und die Widerstandskraft gegenüber digitaler Manipulation werden dadurch gestärkt. Das Projekt umfasst das Theaterstück, einen begleitenden Workshop für Schülerinnen und Schüler und eine Fortbildung für Lehrkräfte zur Medienreflexion und Radikalisierungsprävention im digitalen Raum.
Mit der Website „GELOGEN?! Lass Dich nicht manipulieren“ (www.lass-dich-nicht-manipulieren.de) hat das Staatsministerium des Innern, für Sport und Integration ein Informationsportal geschaffen, das die breite bayerische Bevölkerung über die Themen Desinformation und Verschwörungstheorien informiert. Es fungiert als zentrale „Informationsbörse“ für verlässliche Informationen zu Desinformation und Verschwörungstheorien und verlinkt zu externen Informationsangeboten und Partnern. Besonders im Fokus stehen dabei die Auswirkungen von Desinformation und Verschwörungstheorien auf jeden Einzelnen und die Gesellschaft sowie psychologische Wirkmechanismen, die jedermann betreffen. Darüber hinaus enthält das Internetportal Tipps zum Umgang mit Desinformation und Verschwörungstheorien sowie konkrete Beispiele.
Zur Stärkung der Medienkompetenz fördert die Staatsregierung das JFF – Institut für Medienpädagogik in Forschung und Praxis institutionell. Damit werden Forschung und Prävention im Umgang mit extremistischen und manipulativen Onlineinhalten ermöglicht. Hierzu zählen u. a. das Forschungsprojekt „RexMemes“1, das rechts-
extreme Kommunikationsformen und deren Wirkung auf Jugendliche untersucht, sowie webhelm2, das entsprechende Strategien auf TikTok beschreibt. Als medienpädagogischer Experte versorgt das JFF – Institut für Medienpädagogik in Forschung und Praxis mit dem vom Staatsministerium für Digitales geförderten Projekt „fakefrei“ zudem die zivilgesellschaftlichen Partner der Bayern-Allianz gegen Desinformation (u. a. der Bayerische Jugendring und die Katholische Landjugendbewegung Bayern) mit pädagogisch hochwertigen Informationen und Materialien und liefert ihnen Moti- vation und Inspiration, sich mit Desinformation auseinanderzusetzen.
Die Zivilgesellschaft wird dabei über unterschiedliche Medien angesprochen: Von der Website mit Methoden für Multiplikatoren (https://fakefrei.jff.de) über Instagram- und WhatsApp-Kanäle bis hin zu eigenentwickelten Podcasts.
6. Monitoring und Forschung
6.1 Welche Monitoring-Tools oder wissenschaftlichen Methoden nutzt die Staatsregierung zur Erkennung und Analyse extremistischer KI- Inhalte auf Social-Media- oder Streamingplattformen?
Angesichts der immer komplexer und umfangreicher werdenden Informationslandschaft ist der Einsatz von KI-Lösungen für das BayLfV essenziell, um seine Arbeits-
und Analysefähigkeit zu stärken und auszubauen.
Details zu den konkreten Arbeitsprozessen können nicht mitgeteilt werden, da aus der Antwort Rückschlüsse auf die generelle Arbeitsweise von Nachrichtendiensten bzw. Rückschlüsse auf den Erkenntnisstand, soweit Aufklärungsbedarf des BayLfV besteht, gezogen werden können. Aus der Abwägung des verfassungsrechtlich garantierten parlamentarischen Fragerechts mit den negativen Folgen für die künftige Aufgabenerfüllung des BayLfV sowie den daraus resultierenden Beeinträchtigungen der Sicherheit der Bundesrepublik Deutschland folgt, dass auch eine Beantwortung unter VS-Einstufung, die in der Geheimschutzstelle des Landtags einsehbar wäre, ausscheidet.
6.2 Welche Forschungsvorhaben (z. B. in Kooperation mit Hochschulen oder zivilgesellschaftlichen Akteurinnen und Akteuren) werden aktuell unterstützt, um die algorithmische Verstärkung extremistischer Narrative zu untersuchen?
6.3 Wie fließen die Ergebnisse solcher Analysen in die Weiterentwicklung der staatlichen Präventionsstrategie ein?
7 .Kooperation und Plattformverantwortung
7.1 Mit welchen externen Partnerinnen und Partnern, Initiativen oder Forschungsnetzwerken arbeitet die Staatsregierung zusammen, um der algorithmisch gestützten Verbreitung extremistischer Inhalte entgegenzuwirken?
7.3 Gibt es Austauschformate mit Nichtregierungsorganisationen (NGOs) wie der Amadeu Antonio Stiftung oder EU-Initiativen zu digitalem Extremismus-Monitoring?
Die Fragen 6.2, 6.3, 7.1 und 7.3 werden gemeinsam beantwortet.
Das StMAS fördert Projekte, die der Erforschung extremistischer Ideologien und ihrer Wirkweisen in der digitalen Welt dienen, um bestehende Präventionsmaßnahmen bedarfsgerecht und zielgruppenspezifisch anzupassen und daraus weitere Maßnahmen zu entwickeln:
Das Projekt „TikTalks: Programm zur Akteur- und Sprachanalyse radikaler Inhalte auf TikTok“ des Responsible Technology Hub e. V. widmet sich extremistischen Inhalten und Radikalisierungsprozessen auf der digitalen Plattform TikTok. Bei der Untersuchung wird ein besonderes Augenmerk auf die Mechanismen der künstlichen Intelligenz gelegt. Die Erkenntnisse werden in einer Datenbank der Öffentlichkeit und insbesondere Fachkräften zur Verfügung gestellt. In einem weiteren Schritt sollen pädagogische Konzepte zur Stärkung Jugendlicher gegen die erforschten Mechanismen entwickelt und umgesetzt werden.
Des Weiteren wurden in Kooperation mit der Landeszentrale für neue Medien (BLM) im Rahmen eines Forschungsgutachtens zum Thema „(Rechts-)Extremismus und Online-Games“ von modus | zad (rechts)extreme Inhalte und bereits bestehende Präventionsansätze in Online-Games untersucht sowie Empfehlungen für passende Präventionsmaßnahmen entwickelt.
Im Anschluss plant das StMAS für das kommende Jahr die Förderung des Präventionsprojekts „Learn. Play. Prevent. Interaktive Trainings zu Gaming & Extremismusprävention“ von modus | zad, in dem insbesondere pädagogischen Fachkräften mit praxisnahen, interaktiven Workshops und Trainingsmodulen Wissen und Methoden für einen sicheren und reflektierten Umgang mit Gaming und Extremismus vermittelt werden.
7.2 Wie werden Plattformen wie z. B. Spotify, YouTube oder TikTok konkret in Präventions- und Kennzeichnungsstrategien einbezogen?
Die Partner der Bayern-Allianz gegen Desinformation Google, Tiktok und Meta tragen durch ihre Plattformen sowie YouTube, TikTok, Facebook und Instagram durch Präventions- und Kennzeichnungsmaßnahmen dazu bei, Desinformation frühzeitig zu erkennen und ihre Verbreitung zu begrenzen. Dazu gehören Maßnahmen wie die Kennzeichnung oder Reduzierung der Sichtbarkeit von nachweislich falschen Inhalten, der Einsatz von Faktenchecks sowie Transparenz bei der Kennzeichnung KI-generierter Inhalte. TikTok nutzt beispielsweise die Content-Credentials-Technologie, um KI-Inhalte automatisch zu kennzeichnen. Ergänzend unterstützen die Plattformen Präventions- und „Prebunking“-Kampagnen vor Wahlen. Die Videos mit dem Claim „Lass Dich nicht manipulieren“ wurden als Social-Media-Anzeigen auf YouTube unter anderem vor der Bundestagswahl geschaltet. So tragen die Unternehmen gemeinsam mit der Bayern-Allianz dazu bei, digitale Resilienz in der Gesellschaft zu fördern.
Das Internetportal „GELOGEN?! Lass Dich nicht manipulieren“ wird seit seinem Launch am 05.11.2025 im Rahmen einer Werbekampagne beworben. Dazu gehören auch Werbeschaltungen und Beiträge in sozialen Medien (Facebook, Instagram, YouTube).
Ergänzend fördert das StMAS präventive Maßnahmen. Das JFF – Institut für Medienpädagogik in Forschung und Praxis wird hierfür institutionell unterstützt. Zum geförderten Portfolio zählen u. a. das Projekt „jung. engagiert. online“3 der BLM, des JFF sowie des Bayerischen Jugendrings (BJR), das Präventionsinhalte zu Extremismus, Hate Speech und Deepfakes direkt auf TikTok erstellt, sowie webhelm4, das praxisorientierte Materialien zu Plattformrisiken und Jugendschutzeinstellungen bereitstellt.
8. Zukunftsplanung und Evaluierung
8.1 Welche künftigen Projekte oder Modellvorhaben plant die Staatsregierung zur Sensibilisierung von Jugendlichen, Eltern und Lehrkräften gegenüber KI-gestütztem Extremismus?
8.2 Welche personellen und finanziellen Ressourcen sind für diese Maßnahmen vorgesehen?
8.3 Wie wird die Wirksamkeit der Präventions- und Bildungsmaßnahmen evaluiert und an neue technologische Entwicklungen angepasst?
Die Fragen 8.1 bis 8.3 werden gemeinsam beantwortet.
Das Landeskriminalamt wurde Anfang Dezember 2025 mit der Erstellung eines (polizeilichen) Präventionsprojekts für Schülerinnen und Schüler hinsichtlich KI-generierter und von Algorithmen gesteuerter Fehlinformationen und damit möglicher Radikalisierung beauftragt. Weiter gehende Informationen hierzu können zum jetzigen Zeitpunkt noch nicht mitgeteilt werden.
Die bestehenden Bildungs- und Präventionsprogramme des StMUK werden fortlaufend gezielt weiterentwickelt, um den Umgang mit den Herausforderungen durch KI-generierte extremistische Inhalte zu vermitteln.
Exemplarisch seien folgende Formate genannt:
Im Rahmen des neuen Projekts „Stark gegen Extremismus“ erwerben Lehrkräfte in einem einwöchigen Lehrgang an der ALP Dillingen Interventions- und Präventionsstrategien, um Extremismus- bzw. Radikalisierungstendenzen früh zu erkennen und ihnen wirksam zu begegnen. Dabei werden auch Verbreitungsmechanismen über soziale Medien eine zentrale Rolle spielen. Zudem wird im März 2026 ein Blended Learning angeboten, bestehend aus einer eSession und einer Präsenzveranstaltung in München und Nürnberg, mit dem Titel „Digitale Hetze – wie Extremisten Hass im Netz schüren“. Im ersten Teil der Veranstaltung wird in Onlinefachvorträgen beleuchtet, wie sich extremistisches Gedankengut im Internet verbreitet und verfestigt. Im zweiten Teil, einem Präsenzworkshop, werden interaktive Methoden und Handlungsempfehlungen vermittelt, die Lehrkräfte dabei unterstützen, extremistischen Äußerungen und Haltungen von Jugendlichen zu begegnen und die Resilienz gegenüber extremistischen Ansprachen im Netz zu stärken.
Die Staatsregierung greift dabei auf bestehende personelle und finanzielle Ressourcen zurück und kooperiert mit bewährten Partnern aus dem Bereich der Extremismusprävention. Dazu zählen unter anderem das Bayerische Netzwerk für Prävention und Deradikalisierung gegen Salafismus, die BIGE sowie die ALP Dillingen. Darüber hinaus arbeiten verschiedene Staatsministerien in interministeriellen Arbeitsgruppen zusammen, flankiert durch enge Kooperationen mit zivilgesellschaftlichen Akteuren. Diese Strukturen ermöglichen eine koordinierte und ressourceneffiziente Umsetzung von Präventions- und Bildungsmaßnahmen, auch gegen KI-gestützten Extremismus. Bestehende und neue Präventionsformate werden kontinuierlich evaluiert und an aktuelle Entwicklungen angepasst – eine zwingende Notwendigkeit angesichts der dynamischen Bedrohungen durch extremistische Inhalte im digitalen Raum.
Für den Bereich des StMAS wird auf die Antwort zu den Fragen 6.2, 6.3, 7.1 und 7.3 verwiesen. Für die dort genannten und weiterhin geplanten Projekte des StMAS sind für die kommende Förderperiode ca. 580.000 Euro (inkl. Personal) eingeplant. Die Wirksamkeit der Maßnahmen des StMAS wird gemäß der Richtlinie für die Förderung von Maßnahmen zur Prävention von politischer und religiös begründeter Radikalisierung (Radikalisierungspräventionsrichtlinie – RPR) des StMAS geprüft. Dazu zählen unter anderem quantitative und qualitative Prüfinstrumente wie Bedarfs- und Wissensabfragen oder standardisierte Feedbackfragebögen und Feedbackinterviews.
1 https://www.jff.de/schwerpunkte/social-media/details/rexmemes-internet-memes-als-
rechtsextreme-kommunikationsstrategie
2 https://webhelm.de/rechte-inhalte-auf-tiktok/
3 https://www.jff.de/schwerpunkte/digitaler-wandel/details/jung-engagiert-online
4 https://webhelm.de/jugendschutzeinstellungen-auf-tiktok/