Neues EU-Projekt: Tech Against Terrorism Europe

Vergrößern

Professorin Diana Rieger und Sophia Rothut vom Institut für Kommunikationswissenschaft und Medienforschung (IfKW) der LMU sind mit ihrem Team an einem neuen europaweiten Projekt beteiligt, das sich dem Kampf gegen terroristische Inhalte im Netz widmet.

Über Online-Plattformen haben auch extremistische Gruppen die Möglichkeit, sich zu vernetzen und potenziell gefährliche Informationen zu verbreiten. Inwiefern beschäftigt sich die Kommunikationswissenschaft mit Terrorismus im Internet?

Diana Rieger: Wir betrachten das Thema auf verschiedenen Ebenen. Zum einen sehen wir uns an, in welchem Ausmaß terroristische Inhalte im Netz verbreitet werden. Aber natürlich auch, was die Ziele dieser Inhalte sind.

Sollen zum Beispiel über Cyberattacken bestimmte Infrastrukturen zerstört werden? Geht es darum, Angst zu verbreiten oder Aufmerksamkeit zu erregen? Oder will man neue Mitglieder anwerben?

Eine Frage, die insbesondere die Kommunikationswissenschaft immer wieder beschäftigt, ist auch: Wie wirkt das auf der Seite der Nutzerinnen und Nutzer? Haben wir dadurch mehr Angst oder verhalten uns vielleicht sogar anders?

Wie können solche extremistischen Inhalte aussehen?

Sophia Rothut: Das ist ganz vielfältig. Das können hassgeladene Inhalte sein oder Propaganda gegen Minderheiten oder marginalisierte Gruppen. Es kann aber auch bis hin zu Anleitungen für den Bombenbau gehen oder konkreten Anschlagsplanungen.

Welches Ausmaß hat das Problem? Ist es in den letzten Jahren größer geworden?

Rieger: Für einige Foren kann man durchaus einen Anstieg verzeichnen. In bestimmten Rechtsaußen-Gruppen bei Telegram ist der Hass in den Pandemiejahren angestiegen. Ich kenne aber auch Analysen aus den USA, die Reddit-Foren untersuchen, jedoch keinen Trend nach oben gefunden haben.

Seit letztem Jahr gibt es neue EU-weite Regulierungen zur Terrorbekämpfung im Internet. Worum geht es dabei?

Rothut: Es geht vor allem darum, Anbieter von Hosting-Plattformen mehr in die Pflicht zu nehmen und Transparenz für die Nutzerinnen und Nutzer zu schaffen. Wenn Dienstleister von den zuständigen Stellen auf terroristische Inhalte aufmerksam gemacht werden, müssen sie diese innerhalb von einer Stunde prüfen und gegebenenfalls löschen und die Verfasserin oder den Verfasser entsprechend benachrichtigen. Die Plattformbetreiber müssen also relativ schnell reagieren können.

Konkret bedeutet das, dass die Hosting-Diensteanbieter 24 Stunden am Tag parat stehen müssen, um gemeldete Inhalte zu überprüfen.

Rothut: Im besten Fall ja.

Rieger: Extremistische Gruppierungen planen gezielt, wie sie terroristische Inhalte zum idealen Zeitpunkt platzieren können. Zum Beispiel nachts oder wenn in den Redaktionen von Nachrichtenportalen ein Schichtwechsel und dadurch kurzzeitig keine Content-Moderation stattfindet.

Diese Zeitfenster werden bewusst genutzt, um schnell etwas zu posten, das dann länger als ein paar Minuten online steht. Da findet ein richtiges Wettrennen zwischen Verbreitung und Löschung problematischer Inhalte statt.

Wer sind die Akteure, die solche Verstöße bei den Betreibern melden können?

Rothut: Es sind vor allem Behörden, die solche Inhalte prüfen. In Deutschland ist es das Bundeskriminalamt und auch die Bundesnetzagentur ist involviert. Auch in anderen europäischen Ländern sind vor allem die zuständigen Sicherheitsbehörden verantwortlich, die wiederum durch die Nutzerinnen und Nutzer auf die Inhalte aufmerksam gemacht werden können.

Warum musste das Problem EU-weit angepackt werden?

Rieger: Einer der Kritikpunkte war, dass das Internet ein transnationaler Raum ist und die Gesetze einzelner Staaten oft nicht ausreichend greifen. Deswegen ist es durchaus sinnvoll, das Ganze etwas globaler, zumindest europäisch zu betrachten.

Innerhalb der Europäischen Union herrscht vielleicht auch eine ähnliche Grundhaltung zum Spannungsfeld zwischen Zensur und freier Meinungsäußerung, was ja in Amerika ein bisschen anders ausgelegt wird. Dort wird die Meinungsfreiheit in der Regel deutlich weiter gefasst als in Europa.

Wer ist von den Regulierungen betroffen?

Rothut: Das betrifft alle Anbieter von Online-Services, die in irgendeiner Form innerhalb der EU agieren. Dazu gehören Hosting-Anbieter, die eine wesentliche Verbindung zur Europäischen Union aufweisen, eine Niederlassung in einem EU-Mitgliedsstaat haben, ihre Tätigkeiten auf einen oder mehrere Mitgliedsstaaten ausrichten oder deren Dienste von einer signifikanten Zahl von Nutzerinnen und Nutzern in der Europäischen Union in Anspruch genommen werden. Also kann man davon ausgehen, dass so gut wie jede Plattform davon betroffen ist.

Wie leicht fällt es den Anbietern, die Regelungen umzusetzen?

Rothut: Große Plattformbetreiber gehen in ihren Terms of Services bereits relativ stark auf terroristische und extremistische Inhalte ein und besitzen Reporting-Mechanismen und Meldesysteme.

Kleinere Unternehmen sind personell und finanziell oft weniger gut aufgestellt. Wenn die Kapazitäten begrenzt sind, wird es schwierig, sich mit problematischen Inhalten angemessen auseinanderzusetzen.

An diesem Punkt setzt das Projekt Tech Against Terrorism Europe (TATE) an.

Was ist Tech Against Terrorism Europe?

Rieger: In dem Projekt geht es vor allem darum, Hosting-Service-Provider zu unterstützen. TATE soll darüber aufklären, was Unternehmen tun können, wenn terroristische Inhalte auf Ihren Seiten auftauchen, und welche rechtlichen Implikationen man dabei bedenken muss.

Rothut: Wir fokussieren uns hauptsächlich auf kleinere Anbieter und versuchen, ihnen Tools und Informationen an die Hand zu geben. So helfen wir ihnen, die neuen Regularien umzusetzen und bestmöglich gegen Terrorismus und Extremismus vorzugehen.

Wie sieht das konkret aus?

Rothut: Wir erstellen gerade einen Guide über die aktuellen Regelungen zu terroristischen Online-Inhalten. Er soll als grober Überblick dienen, damit die Firmen einen Leitfaden zur Hand haben, der griffig und nicht zu ausufernd ist, um auch bereits im Aufbau der Plattform die Gefahr terroristischer Inhalte mitzudenken.

Außerdem konzipieren und testen wir Workshops und einen Online-Kurs, bei denen Plattformbetreiber in wenigen Tagen erfahren können, wie sie ihre Seiten fit gegen Terrorismus machen können.

Was ist die Rolle Ihrer Forschung dabei?

Rieger: Neben der Erstellung solcher Materialien ist es uns auch besonders wichtig, diese im Anschluss angemessen zu evaluieren. Daran kranken viele solcher Projekte nämlich häufig: Eine Kampagne wird durchgeführt, aber am Ende weiß niemand, ob sie etwas gebracht hat.

Wissen die Unternehmen im Anschluss wirklich mehr darüber, wie sie mit terroristischen Inhalten umgehen können? Wo sie ansetzen müssen? Wo sie sich Hilfe holen können? Genau diese Fragen wollen wir im Zuge des Projekts untersuchen und bewerten.

Das Projekt Tech Against Terrorism Europe (TATE) zielt darauf ab, kleinen Technologieunternehmen zu helfen, die Anforderungen zur Bekämpfung der Verbreitung terroristischer Inhalte auf ihren Plattformen zu erfüllen. Es besteht aus sieben Partnern aus sechs Ländern. Von LMU-Seite waren, neben Prof. Dr. Diana Rieger, auch Dr. Brigitte Naderer (jetzt: Medizinische Universität Wien) und Heidi Schulze an der Antragstellung beteiligt.

Vergrößern

Prof. Dr. Diana Rieger ist stellvertretende Direktorin des Instituts für Kommunikationswissenschaft und Medienforschung und Prodekanin der Sozialwissenschaftlichen Fakultät der LMU. Sie forscht zu Online-Radikalisierung, Hassrede, entsprechenden Gegenmaßnahmen und der Wirkung von Unterhaltungsangeboten.

Sophia Rothut ist wissenschaftliche Mitarbeiterin und Doktorandin am Institut für Kommunikationswissenschaft und Medienforschung der LMU. Sie beschäftigt sich schwerpunktmäßig mit den Themen Online-Radikalisierung, Mainstreaming radikaler Positionen sowie Influencer:innen am rechten Rand.