class: center, middle, inverse, title-slide .title[ # Emotionen, Radikalisierung und TikTok ] .subtitle[ ## Beitrag zu: Kollektive Emotionen in Radikalisierungsprozessen und die Rolle von TikTok ] .author[ ### Nader Hotait
] .institute[ ### Humboldt-Universität zu Berlin (BIM) ] .institute[ ### Universität Mannheim (CDSS) ] .date[ ### Dezember 8, 2022 ] --- # Inhalt ## 1. Key Facts zu TikTok ## 2. Online-Radikalisierung und TikTok ## 3. Die Rolle von Emotionen ## 4. Fallbeispiele --- class: inverse, center, middle # Was ist so besonders an TikTok? --- # Nutzung und Demografie .middle[ | Indikator | Zahlen | |-------------------------- |-------------------------------------------- | | **Erstveröffentlichung** | 2016 in China (Douyin), 2017 international | | **Nutzer:innen** | > 1 Mrd. | | **Alter** | 28% jünger als 18, ca. 60% jünger als 30 | | **Geschlecht** | ca. 57% weiblich, ca. 43% männlich | | **Engagement-Rate** | ca. 13-17% | ] -- + Zahlen weichen stark voneinander ab und jeweilige Methodik nicht nachvollziehbar + Nach aller Wahrscheinlichkeit besteht die TikTok Demographie aus + vielen, + eher weiblichen, + jungen, + aktiven Nutzer:innen + Jünger und aktiver als auf den meisten Social Media Plattformen --- # TikTok Interface .center[ ![](tiktok.png) ] --- # Recommender System und Inhalte + **Algorithmus** <a name=cite-ZHANG2021846></a>([Zhang and Liu, 2021](#bib-ZHANG2021846)): + Schlägt Inhalte vor auf grundlage bestehender Interessen + Gewichtet populäre Accounts weniger stark als andere Plattformen + Ermöglicht schnelle dissemination von Beiträgen + **Inhalte:** + Unterhaltung, Sport, Tanz und Musik, Ratgebung und Anleitungen + Auch weitreichende Präsenz von radikalen/extremistischen Inhalten + Beispiele: Religiös <a name=cite-moduszad1></a>([Hartwig and Haenig, 2021](#bib-moduszad1)), Rechtsradikal <a name=cite-doi1010801057610X20201780027></a>([Weimann and Masri, 2020a](#bib-doi1010801057610X20201780027)), Frauen/LGBTQI+ Feindlich <a name=cite-mm1></a>([Little and Richards, 2021](#bib-mm1)) + **Moderation:** + Relativ lax + Im Verzug + In den Händen von unterbesetzten und unterbezahlten Arbeiter:innen → **Wild west of social media feeds** --- class: inverse, center, middle # Fördert TikTok Radikalisierung? --- # Online Radikalisierung und TikTok? **Wenig beforscht!** Es gibt Gründe anzunehmen, dass TikTok Radikalisierung fördern könnte: 1. Existenz und Beharrlichkeit radikaler Inhalte 2. Techniken für Content-Interaktion und künstlerische Untermalung 3. Volatile Demografien 4. Effiziente und unbehelligte Verbreitung radikaler Inhalte 5. Verstärkte Exposition durch Filterblasen? → **Annahme: Exposition führt zu Radikalisierung** + Umstritten: siehe <a name=cite-Hassan2018_2></a><a name=cite-wolfowicz2022></a>[Hassan, Brouillette-Alarie, Alava, and et al. (2018)](#bib-Hassan2018_2); [Wolfowicz, Hasisi, and Weisburd (2022)](#bib-wolfowicz2022) + Medien + ... → **Prävalenz radikaler Inhalte muss noch ergründet werden** --- # Selbstexperiment TikTok
--- # Religion
--- # Rechte Inhalte
--- class: inverse, center, middle # Rolle von Emotionen in der Radikalisierung --- # Emotionen und Radikalisierung + Emotionen fördern das "überzeugt werden" + Aristoteles und Rhetorik: Ethos, Logos und Pathos + Emotionale Identifikation mit einer Erzählung "überredet" <a name=cite-poletta2020></a>([Polletta and Redman, 2020](#bib-poletta2020)) - Fördert Zuwendung zu einem Thema - Suspendiert die Tendenz Gegenargumente zu formulieren + Radikalisierung als Prozess des überzeugt werdens? + Von Problemkonstruktion + Vom Lösungsvorschlag bzw. Handlungsnotwendigkeit + Rolle von Emotionen in der Radikalisierung <a name=cite-McCauley2017></a>([McCauley and Moskalenko, 2017](#bib-McCauley2017)): + Insbesondere: Wut, Scham, Schuld, Demütigung, Angst, Liebe und Hass + Gepaart mit reelen, gruppenbezogenen Erfahrungen von Gewalt, Diskriminierung bzw. Feindlichkeit + Löst Drang zu einer persönlichen moralischen Verpflichtung gegen "Täter" vorzugehen aus → **Viktimisierung als zentrales Element im Nexus Emotionen und Radikalisierung** --- # TikTok und Emotionen **Wir wissen um die Rolle von:** + Persönliche Opfererfahrung, politische Missstände <a name=cite-mccauley2008></a>([McCauley and Moskalenko, 2008a](#bib-mccauley2008)), Wahrgenommene Diskriminierung, Gruppenbedrohung, Verfahrensungerechtigkeit, Illegitimität der politischen Entscheidungsträger <a name=cite-Emmelkamp2020></a>([Emmelkamp, Asscher, Wissink, and Stams, 2020](#bib-Emmelkamp2020)) + Kunst/Musik als Auslöser von Emotionen bzw. emotionale Untermalung von Inhalt + Einfluss von Konsumption radikaler Inhalte gepaart mit anderen psychosozialen Faktoren auf Radikalisierung -- **Zugleich:** + Existenz oft unmoderierter radikaler Inhalte auf TikTok + TikToks Angebot für verschiedene technische Möglichkeiten: + Mit Content zu intagieren + Content mit Medien zu kombinieren + Content effizient zu streuen -- **Transport von Emotionen durch radikale TikTok Beiträge → Radikalisierung?** --- class: inverse, center, middle # Fallbeispiele --- # Muslim Interaktiv
--- # Video 1 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@musliminteraktiv/video/6939567094958738693" data-video-id="6939567094958738693" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@musliminteraktiv" href="https://www.tiktok.com/@musliminteraktiv?refer=embed">@musliminteraktiv</a> 5 Monate nach dem Massaker in Christchurch sprechen die Familien der Opfer zum Terroristen❗️ <a title="fyp" target="_blank" href="https://www.tiktok.com/tag/fyp?refer=embed">#fyp</a> <a title="christchurch" target="_blank" href="https://www.tiktok.com/tag/christchurch?refer=embed">#christchurch</a> <a title="islam" target="_blank" href="https://www.tiktok.com/tag/islam?refer=embed">#islam</a> <a title="ummah" target="_blank" href="https://www.tiktok.com/tag/ummah?refer=embed">#ummah</a> <a title="muslimtiktok" target="_blank" href="https://www.tiktok.com/tag/muslimtiktok?refer=embed">#muslimtiktok</a> <a title="viral" target="_blank" href="https://www.tiktok.com/tag/viral?refer=embed">#viral</a> <a target="_blank" title="♬ original sound" href="https://www.tiktok.com/music/original-sound-6833943023383055110?refer=embed">♬ original sound</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- # Video 2 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@musliminteraktiv/video/6979876967390792965" data-video-id="6979876967390792965" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@musliminteraktiv" href="https://www.tiktok.com/@musliminteraktiv?refer=embed">@musliminteraktiv</a> Am 1.Juli 2009 wurde <a title="marwa" target="_blank" href="https://www.tiktok.com/tag/marwa?refer=embed">#Marwa</a> El-Sherbini von einem <a title="islamhasser" target="_blank" href="https://www.tiktok.com/tag/islamhasser?refer=embed">#Islamhasser</a> mit 18 <a title="stichen" target="_blank" href="https://www.tiktok.com/tag/stichen?refer=embed">#Stichen</a> im <a title="gerichtssaal" target="_blank" href="https://www.tiktok.com/tag/gerichtssaal?refer=embed">#Gerichtssaal</a> ermordet❗️<a title="islam" target="_blank" href="https://www.tiktok.com/tag/islam?refer=embed">#Islam</a> <a title="muslima" target="_blank" href="https://www.tiktok.com/tag/muslima?refer=embed">#muslima</a> <a title="viral" target="_blank" href="https://www.tiktok.com/tag/viral?refer=embed">#viral</a> <a title="fyp" target="_blank" href="https://www.tiktok.com/tag/fyp?refer=embed">#fyp</a> <a title="muslimtiktok" target="_blank" href="https://www.tiktok.com/tag/muslimtiktok?refer=embed">#muslimtiktok</a> <a target="_blank" title="♬ Originalton - Muslim Interaktiv" href="https://www.tiktok.com/music/Originalton-6979876644500638470?refer=embed">♬ Originalton - Muslim Interaktiv</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- # Video 3 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@musliminteraktiv/video/6965483437650218246" data-video-id="6965483437650218246" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@musliminteraktiv" href="https://www.tiktok.com/@musliminteraktiv?refer=embed">@musliminteraktiv</a> Cem Özdemir zitiert eine rassistische Aussage der ehemaligen israelischen Ministerpräsidentin❗️<a title="fyp" target="_blank" href="https://www.tiktok.com/tag/fyp?refer=embed">#fyp</a> <a title="rassismus" target="_blank" href="https://www.tiktok.com/tag/rassismus?refer=embed">#rassismus</a> <a title="freepalestine" target="_blank" href="https://www.tiktok.com/tag/freepalestine?refer=embed">#freepalestine</a> <a title="islam" target="_blank" href="https://www.tiktok.com/tag/islam?refer=embed">#Islam</a> <a title="viral" target="_blank" href="https://www.tiktok.com/tag/viral?refer=embed">#viral</a> <a target="_blank" title="♬ Originalton - 🥷🏽" href="https://www.tiktok.com/music/Originalton-6890669849765350145?refer=embed">♬ Originalton - 🥷🏽</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- class: inverse, center, middle # Salafi Beispiele --- # Video 1 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@tauhid.tr/video/7070582267151699206" data-video-id="7070582267151699206" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@tauhid.tr" href="https://www.tiktok.com/@tauhid.tr?refer=embed">@tauhid.tr</a> <a title="tauhid" target="_blank" href="https://www.tiktok.com/tag/tauhid?refer=embed">#tauhid</a> <a title="islam" target="_blank" href="https://www.tiktok.com/tag/islam?refer=embed">#islam</a> <a title="tevhid" target="_blank" href="https://www.tiktok.com/tag/tevhid?refer=embed">#tevhid</a> <a title="muslim" target="_blank" href="https://www.tiktok.com/tag/muslim?refer=embed">#muslim</a> <a title="muhammad" target="_blank" href="https://www.tiktok.com/tag/muhammad?refer=embed">#muhammad</a> <a title="freitag" target="_blank" href="https://www.tiktok.com/tag/freitag?refer=embed">#freitag</a> <a title="segenwünschenaufunserempropheten" target="_blank" href="https://www.tiktok.com/tag/segenw%C3%BCnschenaufunserempropheten?refer=embed">#segenwünschenaufunserempropheten</a> <a title="islamic" target="_blank" href="https://www.tiktok.com/tag/islamic?refer=embed">#islamic</a> <a title="gebet" target="_blank" href="https://www.tiktok.com/tag/gebet?refer=embed">#gebet</a> <a title="selef" target="_blank" href="https://www.tiktok.com/tag/selef?refer=embed">#selef</a> <a title="beten" target="_blank" href="https://www.tiktok.com/tag/beten?refer=embed">#beten</a> <a title="pierrevogeldawa" target="_blank" href="https://www.tiktok.com/tag/pierrevogeldawa?refer=embed">#pierrevogeldawa</a> <a title="fyp" target="_blank" href="https://www.tiktok.com/tag/fyp?refer=embed">#fyp</a> <a target="_blank" title="♬ Originalton - Tauhid.Tr" href="https://www.tiktok.com/music/Originalton-7070582263548742405?refer=embed">♬ Originalton - Tauhid.Tr</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- # Video 2 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@akhitachi/video/7058969895320849670" data-video-id="7058969895320849670" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@akhitachi" href="https://www.tiktok.com/@akhitachi?refer=embed">@akhitachi</a> Oh Mutter🥺😭 <a title="islam" target="_blank" href="https://www.tiktok.com/tag/islam?refer=embed">#islam</a> <a title="islamdeutsch" target="_blank" href="https://www.tiktok.com/tag/islamdeutsch?refer=embed">#islamdeutsch</a> <a title="abulbaraa" target="_blank" href="https://www.tiktok.com/tag/abulbaraa?refer=embed">#abulbaraa</a> <a title="muhammadsaw" target="_blank" href="https://www.tiktok.com/tag/muhammadsaw?refer=embed">#muhammadsaw</a> <a title="emotional" target="_blank" href="https://www.tiktok.com/tag/emotional?refer=embed">#emotional</a> <a title="traurig" target="_blank" href="https://www.tiktok.com/tag/traurig?refer=embed">#traurig</a> <a title="mutter" target="_blank" href="https://www.tiktok.com/tag/mutter?refer=embed">#mutter</a> <a title="fürdich" target="_blank" href="https://www.tiktok.com/tag/f%C3%BCrdich?refer=embed">#fürdich</a> <a title="fyp" target="_blank" href="https://www.tiktok.com/tag/fyp?refer=embed">#fyp</a> <a title="fy" target="_blank" href="https://www.tiktok.com/tag/fy?refer=embed">#fy</a> <a target="_blank" title="♬ Originalton - Akh Itachi" href="https://www.tiktok.com/music/Originalton-7058969875603032837?refer=embed">♬ Originalton - Akh Itachi</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- # Video 3 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@i.s.l.a.m_d.u.n.y.a/video/6955862732876958982" data-video-id="6955862732876958982" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@i.s.l.a.m_d.u.n.y.a" href="https://www.tiktok.com/@i.s.l.a.m_d.u.n.y.a?refer=embed">@i.s.l.a.m_d.u.n.y.a</a> <a title="abulbaraa" target="_blank" href="https://www.tiktok.com/tag/abulbaraa?refer=embed">#abulbaraa</a> <a title="viral" target="_blank" href="https://www.tiktok.com/tag/viral?refer=embed">#viral</a> <a title="emotional" target="_blank" href="https://www.tiktok.com/tag/emotional?refer=embed">#emotional</a> <a title="muslim" target="_blank" href="https://www.tiktok.com/tag/muslim?refer=embed">#muslim</a> <a title="fypシ" target="_blank" href="https://www.tiktok.com/tag/fyp%E3%82%B7?refer=embed">#fypシ</a> <a title="islamtiktok" target="_blank" href="https://www.tiktok.com/tag/islamtiktok?refer=embed">#islamtiktok</a> <a title="fy" target="_blank" href="https://www.tiktok.com/tag/fy?refer=embed">#fy</a> <a target="_blank" title="♬ Originalton - Allahu Akbar" href="https://www.tiktok.com/music/Originalton-6955862621564324613?refer=embed">♬ Originalton - Allahu Akbar</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- # Video 4 <blockquote class="tiktok-embed" cite="https://www.tiktok.com/@leguanderalbo/video/7099448949890616582" data-video-id="7099448949890616582" style="max-width: 605px;min-width: 325px;" > <section> <a target="_blank" title="@leguanderalbo" href="https://www.tiktok.com/@leguanderalbo?refer=embed">@leguanderalbo</a> Islam🏴👆🏻 <a title="islam" target="_blank" href="https://www.tiktok.com/tag/islam?refer=embed">#islam</a> <a title="kefir" target="_blank" href="https://www.tiktok.com/tag/kefir?refer=embed">#kefir</a> <a title="kafir" target="_blank" href="https://www.tiktok.com/tag/kafir?refer=embed">#kafir</a> <a title="muslim" target="_blank" href="https://www.tiktok.com/tag/muslim?refer=embed">#muslim</a> <a title="abulbaara" target="_blank" href="https://www.tiktok.com/tag/abulbaara?refer=embed">#abulbaara</a> <a title="hijabi" target="_blank" href="https://www.tiktok.com/tag/hijabi?refer=embed">#hijabi</a> <a target="_blank" title="♬ Originalton - SUHA REKA" href="https://www.tiktok.com/music/Originalton-7099448936968030981?refer=embed">♬ Originalton - SUHA REKA</a> </section> </blockquote> <script async src="https://www.tiktok.com/embed.js"></script> --- class: inverse, center, middle # Vielen Dank für Ihre Aufmerksamkeit --- # Literatur <a name=bib-Emmelkamp2020></a>[Emmelkamp, J., J. J. Asscher, I. B. Wissink, et al.](#cite-Emmelkamp2020) (2020). "Risk factors for (violent) radicalization in juveniles: A multilevel meta-analysis". In: _Aggression and Violent Behavior_ 55. cited By 9. ISSN: 13591789. DOI: [10.1016/j.avb.2020.101489](https://doi.org/10.1016%2Fj.avb.2020.101489). <a name=bib-moduszad1></a>[Hartwig, F. and A. Haenig](#cite-moduszad1) (2021). _Monitoring der Peripherie des religiös begründeten Extremismus (PrE)_. Berlin: Bundeszentrale für politische Bildung. <a name=bib-Hassan2018_2></a>[Hassan, G., S. Brouillette-Alarie, S. Alava, et al.](#cite-Hassan2018_2) (2018). "Exposure to Extremist Online Content Could Lead to Violent Radicalization:A Systematic Review of Empirical Evidence". In: _International Journal of Developmental Science_ 12, pp. 71-88. ISSN: 2191-7485. DOI: [10.3233/DEV-170233](https://doi.org/10.3233%2FDEV-170233). URL: [https://doi.org/10.3233/DEV-170233](https://doi.org/10.3233/DEV-170233). <a name=bib-mm1></a>[Little, O. and A. Richards](#cite-mm1) (2021). "TikTok's algorithm leads users from transphobic videos to far-right rabbit holes". In: _Media Matters for America_. [Online; Accessed 20 Jan 2022]. URL: [https://www.mediamatters.org/tiktok/tiktoks-algorithm-leads-users-transphobic-videos-far-right-rabbit-holes](https://www.mediamatters.org/tiktok/tiktoks-algorithm-leads-users-transphobic-videos-far-right-rabbit-holes). --- # Literatur <a name=bib-mccauley2008></a>[McCauley, C. and S. Moskalenko](#cite-mccauley2008) (2008a). "Mechanisms of Political Radicalization: Pathways Toward Terrorism". In: _Terrorism and Political Violence_ 20.3, pp. 415-433. DOI: [10.1080/09546550802073367](https://doi.org/10.1080%2F09546550802073367). eprint: https://doi.org/10.1080/09546550802073367. URL: [https://doi.org/10.1080/09546550802073367](https://doi.org/10.1080/09546550802073367). <a name=bib-McCauley2017></a>[McCauley, C. and S. Moskalenko](#cite-McCauley2017) (2017). "Understanding political radicalization: The two-pyramids model." In: _American Psychologist_ 72.3, pp. 205-216. DOI: [10.1037/amp0000062](https://doi.org/10.1037%2Famp0000062). URL: [https://doi.org/10.1037/amp0000062](https://doi.org/10.1037/amp0000062). <a name=bib-poletta2020></a>[Polletta, F. and N. Redman](#cite-poletta2020) (2020). "When do stories change our minds? Narrative persuasion about social problems". In: _Sociology Compass_ 14.4, p. e12778. DOI: [doi.org/10.1111/soc4.12778](https://doi.org/doi.org%2F10.1111%2Fsoc4.12778). eprint: https://onlinelibrary.wiley.com/doi/pdf/10.1111/soc4.12778. URL: [https://onlinelibrary.wiley.com/doi/abs/10.1111/soc4.12778](https://onlinelibrary.wiley.com/doi/abs/10.1111/soc4.12778). <a name=bib-doi1010801057610X20201780027></a>[Weimann, G. and N. Masri](#cite-doi1010801057610X20201780027) (2020a). "Research Note: Spreading Hate on TikTok". In: _Studies in Conflict & Terrorism_ 0.0, pp. 1-14. DOI: [10.1080/1057610X.2020.1780027](https://doi.org/10.1080%2F1057610X.2020.1780027). eprint: https://doi.org/10.1080/1057610X.2020.1780027. URL: [https://doi.org/10.1080/1057610X.2020.1780027](https://doi.org/10.1080/1057610X.2020.1780027). --- # Literatur <a name=bib-wolfowicz2022></a>[Wolfowicz, M., B. Hasisi, and D. Weisburd](#cite-wolfowicz2022) (2022). "What are the effects of different elements of media on radicalization outcomes? A systematic review". In: _Campbell Systematic Reviews_ 18.2, p. e1244. DOI: [10.1002/cl2.1244](https://doi.org/10.1002%2Fcl2.1244). <a name=bib-ZHANG2021846></a>[Zhang, M. and Y. Liu](#cite-ZHANG2021846) (2021). "A commentary of TikTok recommendation algorithms in MIT Technology Review 2021". In: _Fundamental Research_ 1.6, pp. 846-847. ISSN: 2667-3258. DOI: [https://doi.org/10.1016/j.fmre.2021.11.015](https://doi.org/https%3A%2F%2Fdoi.org%2F10.1016%2Fj.fmre.2021.11.015). URL: [https://www.sciencedirect.com/science/article/pii/S2667325821002235](https://www.sciencedirect.com/science/article/pii/S2667325821002235).