Europol l\u00e4sst Inhalte aus dem Internet entfernen. Der Ansatz geht \u00fcber den Kampf gegen terroristische Propaganda deutlich hinaus und vermischt Polizeiarbeit und Medienregulierung. Sollte eine Polizeibeh\u00f6rde f\u00fcr die \u00dcberwachung und Kontrolle von Facebook-Postings und Tweets zust\u00e4ndig sein?<\/strong><\/p>\n Europol unterh\u00e4lt seit Sommer 2015 eine sogenannte Meldestelle f\u00fcr Internetinhalte (EU Internet Referral Unit, kurz: EU IRU). Diese Einheit durchsucht das Internet und analysiert und bewertet Inhalte, die sie f\u00fcr unangemessen oder zumindest fragw\u00fcrdig h\u00e4lt. Diese Inhalte werden dann als L\u00f6schempfehlung an die Betreiber der betreffenden Website weitergeleitet. Damit soll der Verbreitung von Propagandamaterial und der Radikalisierung im Internet entgegengewirkt werden. Die Meldestelle versucht, die Internetkonzerne also gezielt auf Online-Material aufmerksam zu machen, das nicht den AGBs der jeweiligen Plattform entspricht. Damit agiert die EU-Meldestelle an der Schnittstelle von privater und polizeilicher Medienregulierung.<\/p>\n Die Einrichtung der neuen Europoleinheit wurde im M\u00e4rz 2015 beschlossen, also nur etwa zwei Monate nach den Anschl\u00e4gen auf die Redaktion von Charlie Hebdo und den j\u00fcdischen Supermarkt Hypercacher in Paris. Die Forderung nach einer EU-Einheit gegen Online-Propaganda findet sich auch schon in einer Erkl\u00e4rung vom 30. Januar 2015, in der festgehalten wird, dass das Internet eine \u201ebedeutende Rolle f\u00fcr Radikalisierung spielt\u201c und die \u201eEntfernung von terroristischen und extremistischen Inhalten gest\u00e4rkt werden muss\u201c.[1]<\/a> Die Schaffung der neuen EU-Meldestelle wurde ausdr\u00fccklich als politische \u201eAntwort\u201c auf die Anschl\u00e4ge von Paris bezeichnet. Sie folgt also dem altbekannten Muster, sicherheitspolitische Ma\u00dfnahmen im Schnellverfahren umzusetzen, sobald sich die politische Gelegenheit bietet. Sicherheitspolitische AkteurInnen sehen sich nach solchen Attacken oft unter Druck, \u201eHandlungsf\u00e4higkeit\u201c zu demonstrieren, auch wenn es sich dabei h\u00e4ufig um symbolische Ma\u00dfnahmen handelt.<\/p>\n Die EU IRU baut auf dem \u201eCheck the Web\u201c-Projekt auf, das terroristische Propaganda im Internet analysiert und in einer zentralen Datenbank sammelt, die allen Mitgliedstaaten zur Verf\u00fcgung steht. Von der Einf\u00fchrung 2007 bis Anfang 2015 wurden darin bereits um die 10.000 Dokumente und Personen gespeichert.[2]<\/a> Dabei ging es jedoch nur um die \u00dcberwachung und Analyse von Propagandamaterial; die L\u00f6schempfehlungen an die Provider spielten bei \u201eCheck the Web\u201c noch keine Rolle. Gro\u00dfbritannien war der erste EU-Mitgliedstaat, der im Rahmen seines Pr\u00e4ventionsansatzes gegen Terrorismus polizeiliche Ma\u00dfnahmen gegen Radikalisierung im Internet umsetzte. Das institutionelle Modell und Vorbild f\u00fcr die EU IRU war die britische \u201eCounter-Terrorism Internet Referral Unit\u201c (CTIRU).[3]<\/a> Diese britische Einheit arbeitet seit 2010 daran, unliebsame Inhalte aus dem Internet zu filtern.<\/p>\n Europols erkl\u00e4rtes Ziel ist es, durch die Meldestelle den Zugang zu \u201eterroristischem und extremistischem Material\u201c im Internet zu reduzieren. Die Inhalte k\u00f6nnen sowohl Text, Bilder und Videos sein, aber auch ganze Social Media-Accounts oder Profile, die diese Inhalte verbreiten. Bisher konzentriert sich die Einheit vor allem auf die \u00dcberwachung gro\u00dfer Plattformen wie Facebook, Youtube und Twitter sowie auf relevante Knotenpunkte, an denen Propagandainhalte zentral verteilt werden. Priorit\u00e4t haben zum Beispiel die Accounts, die Inhalte \u00fcbersetzen oder besonders gro\u00dfe Reichweiten haben.[4]<\/a> Den Gro\u00dfteil der zu entfernenden Inhalte sucht und findet die Europoleinheit selbstst\u00e4ndig, au\u00dferdem nimmt sie aber auch Inhalte aus den Mitgliedstaaten entgegen und leitet sie an die Plattformen weiter. Diese Koordinierungsfunktion soll Doppelanfragen verhindern und unterbinden, dass z.B. konkrete NutzerInnen-Accounts, die von einem Mitgliedstaat gezielt zur Informationsgewinnung \u00fcberwacht werden, von einem anderen Mitgliedstaat zur L\u00f6schung beantragt werden. Gleichzeitig bietet sich Europol als Vermittlerin f\u00fcr die Mitgliedstaaten an, die keine eigene Meldestelle unterhalten. Anders als der Name \u201eMeldestelle\u201c es vielleicht vermuten l\u00e4sst, nimmt Europol keine Informationen von B\u00fcrgerInnen entgegen; kooperiert wird nur mit Beh\u00f6rden und den Internetunternehmen.<\/p>\n Soweit bekannt hat die Meldestelle keinen privilegierten Zugang zu den einzelnen Online-Plattformen. Sie beruft sich darauf, nur die M\u00f6glichkeiten auszusch\u00f6pfen, die prinzipiell allen B\u00fcrgerInnen offen stehen: Inhalte bei Social Media-Anbietern zu melden. Wie genau die Kommunikation zwischen der EU IRU und den Dienstanbietern funktioniert, ist unklar. Es besteht aber kein Zweifel, dass die Zusammenarbeit ausgeweitet werden soll. Daf\u00fcr hat die EU-Kommission eigens das \u201eEU Internet Forum\u201c ins Leben gerufen, um den Dialog und die \u201ePartnerschaft\u201c mit den Plattformbetreiberfirmen zu verbessern.[5]<\/a><\/p>\n Obwohl die Entscheidung, eine EU-Internetmeldestelle zu schaffen, eindeutig im Zusammenhang mit den Pariser Anschl\u00e4gen im Januar 2015 stand, gehen die Befugnisse der neuen Einheit deutlich \u00fcber den Bereich der Terrorismusbek\u00e4mpfung hinaus: Die EU IRU soll nicht nur \u201eterroristische und extremistische\u201c Inhalte \u00fcberwachen und entfernen lassen, sondern auch Inhalte, die im Zusammenhang mit \u201eillegaler Einwanderung\u201c und \u201eMigrantenschmuggel\u201c stehen. Im April 2015 entschied der Europ\u00e4ische Rat, Europols Auftrag umfasse auch \u201eim Einklang mit der jeweiligen nationalen Verfassung Internetinhalte, mit denen Schlepper Migranten und Fl\u00fcchtlinge anlocken, auszumachen und deren Entfernung aus dem Netz zu beantragen\u201c.[6]<\/a> Mit dieser Ausdehnung des Mandats, noch bevor die Meldestelle \u00fcberhaupt eingerichtet war, wurde eine zus\u00e4tzliche, \u00e4u\u00dferst schwammige Grundlage f\u00fcr die L\u00f6schung von Informationen geschaffen. Von Anfang an umfasste die Zust\u00e4ndigkeit der EU IRU damit auch die \u00dcberwachung der Online-Aktivit\u00e4ten von FluchthelferInnen bzw. SchlepperInnen.[7]<\/a> Die Internetmeldestelle arbeitet dementsprechend sowohl mit Europols Anti-Terrorismuszentrum (ECTC) als auch mit dem ebenfalls bei Europol angesiedelten Zentrum gegen \u201eMigrantenschmuggel\u201c (EMSC) zusammen.<\/p>\n Die aktuellsten \u00f6ffentlichen Zahlen zur Arbeit der EU IRU stammen aus einem Bericht vom Dezember 2016. Darin hei\u00dft es, die Meldestelle habe bis Oktober 2016 die L\u00f6schung von 15.421 Inhalten beantragt.[8]<\/a> Diese Inhalte waren auf mindestens 31 Plattformen verteilt und in acht verschiedenen Sprachen verfasst.[9]<\/a> 88,9 Prozent dieser gemeldeten Inhalte wurden daraufhin gel\u00f6scht. Da es bisher wenig Vergleichswerte gibt, f\u00e4llt es schwer, diese \u201eErfolgsquote\u201c zu bewerten und zu \u00fcberpr\u00fcfen. Der interessante Knackpunkt ist der kleine Anteil der gemeldeten Inhalte, die die Plattformen trotz Empfehlung von Europol nicht<\/em> gel\u00f6scht haben. Denn die entscheidende Frage ist nicht unbedingt, wie viele Inhalte insgesamt entfernt wurden, sondern anhand welcher Kriterien die L\u00f6schung erfolgt.<\/p>\n Es lohnt sich also, diesen Prozess genauer zu beleuchten. Wichtig ist zun\u00e4chst, dass die Inhalte zweimal getrennt bewertet werden. Die erste Bewertung erfolgt durch Europols IRU, die einzelne Inhalte oder Accounts z.B. als \u201eterroristische Propaganda\u201c oder \u201eAnlockung von MigrantInnen\u201c einstuft. Nachdem der Inhalt an den betreffenden Anbieter weitergeleitet wurde, f\u00fchrt das Unternehmen, auf dessen Servern sich der Inhalt befindet, eine zweite Bewertung durch. Wie und auf welcher Grundlage diese zweite Bewertung durchgef\u00fchrt wird, liegt allein in der Verantwortung dieses Unternehmens. Typischerweise beziehen sich die Unternehmen auf ihre Gemeinschaftsrichtlinien, also das sich selbst gegebene, individuelle Regelwerk. Europol betont, absolut keinen Einfluss auf die endg\u00fcltige L\u00f6schentscheidung zu haben. Und das aus gutem Grund, denn Europol hat keine Exekutivgewalt und kann die Inhalte nur melden, aber die L\u00f6schung nicht selbst vollstrecken, da die rechtliche Grundlage dies nicht zul\u00e4sst.<\/p>\n Beide Bewertungsprozesse \u2013 von Europol und von den Plattformen \u2013 sind v\u00f6llig intransparent und nicht \u00fcberpr\u00fcfbar. Eine richterliche oder parlamentarische Kontrolle oder auch eine Aufsicht durch eine Ombuds\u00adperson ist nicht vorgesehen. Ein Widerspruchs- oder Offenlegungsrecht haben die NutzerInnen nicht. Die Verantwortung f\u00fcr die L\u00f6schung von Inhalten wird g\u00e4nzlich an die Unternehmen abgew\u00e4lzt.<\/p>\n Keiner der beiden Prozesse zur Bewertung der Inhalte basiert auf gesetzlich festgelegten Regeln, sondern auf den \u201eCommunity Guidelines\u201c der Unternehmen. Auch Europols Meldestelle richtet sich bei der Analyse von Inhalten nach den Gemeinschaftsstandards der Unternehmen. Das ist deshalb so wichtig, da es sich hierbei nicht um ein zuf\u00e4lliges Arrangement handelt. Ganz im Gegenteil war dies einer der Gr\u00fcnde, die EU Meldestelle einzurichten: Man kann damit mehr Inhalte entfernen lassen, als nach gesetzlichen Vorgaben erlaubt w\u00e4re.<\/p>\n Der EU-Anti-Terrorismuskoordinator erkl\u00e4rte in einer Stellungnahme Anfang 2015 w\u00f6rtlich, es sei sinnvoll, sich nach den AGBs der Plattformen zu richten, da diese mehr L\u00f6schungen erlauben als die meisten europ\u00e4ischen und nationalen Rechtsrahmen.[10]<\/a> Es geht also auch um das Grundrecht auf freie Meinungs\u00e4u\u00dferung und die Frage, wer die Regeln daf\u00fcr bestimmt. Welche Inhalte verboten sind, ist von Land zu Land und von Plattform zu Plattform sehr verschieden. Die Grenzen der freien Meinungs\u00e4u\u00dferung zu definieren, ist immer eine politische Entscheidung, die in einer freien Gesellschaft nicht durch intransparente, technokratische Abl\u00e4ufe, sondern durch eine offene, demokratische Debatte getroffen werden muss. Ein Beispiel ist die Abbildung \u201eweiblicher\u201c Brustwarzen: Instagram und Facebook l\u00f6schen solche Bilder umgehend, aber in Deutschland sind nackte Br\u00fcste in der \u00d6ffentlichkeit eigentlich nicht explizit verboten. W\u00e4hrend nationalsozialistische Symbole in Deutschland verboten sind, k\u00f6nnen sie in anderen L\u00e4ndern teilweise frei zur Schau gestellt werden. Wie die Einschr\u00e4nkung der freien Meinungs\u00e4u\u00dferung ausgelegt wird, kann also nicht verallgemeinert werden und steht immer in einem sozialen und politischen Kontext.<\/p>\n Wie trifft Europol diese komplexe Entscheidung \u00fcber die Einstufung von Inhalten? Dazu schweigt Europol und verweist vage auf seine gesetzliche Grundlage. Doch die liefert wahrlich keine ausreichend pr\u00e4zisen Kriterien f\u00fcr komplexe Abw\u00e4gungen und Einzelfallentscheidungen. Europol hat einen enormen Gestaltungsspielraum bei der Kategorisierung von unerw\u00fcnschten Inhalten.<\/p>\n Europol wurde geschaffen, um den Informationsaustausch und die Kooperation zwischen den nationalen Polizeien zu verbessern und die Effektivit\u00e4t und Effizienz der europ\u00e4ischen Sicherheitspolitik erh\u00f6hen. Die immer engere Kooperation mit privaten Plattformen gilt es jedoch kritisch zu beobachten, da sich abzeichnet, dass das \u201eIRU-Modell\u201c zur Regulierung von Medieninhalten auch auf nationaler Ebene ausgeweitet werden wird. Schon heute unterhalten 26 Mitgliedstaaten extra eingerichtete nationale Kontaktstellen zur EU IRU. Und das, obwohl Europol selbst zugibt, dass der Ansatz der EU-Meldestelle nicht besonders effektiv ist.[11]<\/a> Denn das L\u00f6schen von Internetinhalten \u00e4hnelt einem Katz-und-Maus-Spiel: Wird an einer Stelle etwas gel\u00f6scht, taucht es daf\u00fcr an anderer Stelle (mehrfach) wieder auf. Diesem Grundproblem \u2013 seit l\u00e4ngerem schon als Streisand-Effekt bekannt \u2013 hat die Europolmeldestelle wenig entgegenzusetzen. Das Entfernen bleibt reaktiv und in seiner Wirkung begrenzt, auch weil sich die SenderInnen von Propagandamaterial schnell an L\u00f6schma\u00dfnahmen anpassen k\u00f6nnen. Auch wenn Europol mehr Ressourcen f\u00fcr die Meldestelle fordert (bis Juli 2017 soll die Einheit auf 36 MitarbeiterInnen anwachsen),[12]<\/a> bleibt unklar, ob sich diesem strukturellen Problem mit mehr Personal und besserer Hard- und Software entgegenwirken l\u00e4sst. Europol wird voraussichtlich weiter Katz-und-Maus spielen, wenn auch mit immer gr\u00f6\u00dferen Computern. Denn auch die Kapazit\u00e4ten und Methoden der SenderInnen entwickeln sich kontinuierlich weiter.<\/p>\n Ein Ansatz, die Arbeit der Meldestelle effektiver zu machen, sind so genannte Upload-Filter. Sie sollen verhindern, dass einmal entfernte In\u00adhalte leicht ver\u00e4ndert erneut hochgeladen werden. Langfristig will Europol seine reaktive Rolle ablegen und ins Prognosegesch\u00e4ft einsteigen. Dann soll der \u201eMissbrauch\u201c von Social Media antizipiert und das Verbreiten von terroristischer Propaganda bereits im Voraus unterbunden werden.[13]<\/a> Diese \u201eVision\u201c ist noch Zukunftsmusik, ihre Verwirklichung ist aber nicht ausgeschlossen. Denn technisch ist eine pr\u00e4ventive Filte\u00adrung von Inhalten m\u00f6glich, und der Einsatz von Vorhersagetechnik f\u00fcr die Polizeiarbeit liegt generell im Trend.<\/p>\n Deswegen sollte nicht nur nach der technischen, sondern auch nach der politischen und sozialen Effektivit\u00e4t gefragt werden. Denn das L\u00f6schen(-lassen) von Internetinhalten behandelt nur die Symptome. Die Sicherheitsbeh\u00f6rden m\u00fcssen sich selbst in die Gleichung mit einrechnen: Wenn ein Inhalt entfernt wird, welche Botschaft sendet das an den oder die SenderIn? Werden selbst-referenzielle Filterblasen dadurch nicht verst\u00e4rkt und Verschw\u00f6rungsideologien zus\u00e4tzlich befeuert?<\/p>\n Wenn gel\u00f6scht wird, muss sichergestellt sein, dass die gleichen Standards f\u00fcr alle gelten. Die bisherige Arbeit der EU IRU fokussiert sich sehr stark auf das Thema Islamismus und Radikalisierung durch jihadistische Ideologien. Wenn es z.B. um Rechtsterrorismus in der Uk\u00adraine geht, werden deutlich weniger Mittel auf das Entfernen von Inhalten verwendet. Auch \u201eillegale Migration\u201c mit der Meldestelle zu bek\u00e4mpfen, \u00fcberdehnt die klassischen Kompetenzen einer Polizeibeh\u00f6rde. Die Einrichtung der Meldestelle wurde vordergr\u00fcndig mit dem Kampf gegen Terrorismus und Radikalisierung begr\u00fcndet. Ein \u00fcberzeugendes Narrativ: Wer will schon das L\u00f6schen von brutalen Enthauptungsvideos kritisieren? Doch wenn die L\u00f6sch-Infrastruktur einmal geschaffen ist, kann deren Einsatzbereich sukzessive erweitert werden.<\/p>\n Auch wenn die Entscheidungshoheit \u00fcber die Frage \u201el\u00f6schen oder nicht l\u00f6schen?\u201c bis auf weiteres bei den Plattformen verbleiben wird, ist die EU IRU trotzdem keine symbolische Initiative. Sie ver\u00e4ndert das Zu\u00adsammenspiel von \u00f6ffentlichen und privaten AkteurInnen bei der Regulierung von Medieninhalten und richtet sie nach neuen Kriterien aus. Es geht nicht mehr darum, ob ein konkreter Inhalt legal ist, sondern ob er kommerziell und (sicherheits-)politisch w\u00fcnschenswert ist. Auch wenn der Vergleich hinkt: Man stelle sich vor, die EU IRU w\u00e4re nicht f\u00fcr Face\u00adbook und Youtube, sondern f\u00fcr gro\u00dfe Tageszeitungen zust\u00e4ndig. Der Aufschrei \u00fcber die politische Einflussnahme w\u00e4re immens.<\/p>\n von Kilian Vieth Europol l\u00e4sst Inhalte aus dem Internet entfernen. Der Ansatz geht \u00fcber den<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[152,117],"tags":[374,477,523,533,569],"class_list":["post-13276","post","type-post","status-publish","format-standard","hentry","category-artikel","category-cilip-112","tag-check-the-web","tag-ectc","tag-eu-internet-forum","tag-eu-iru","tag-europol"],"_links":{"self":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/posts\/13276","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=13276"}],"version-history":[{"count":0,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=\/wp\/v2\/posts\/13276\/revisions"}],"wp:attachment":[{"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=13276"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=13276"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wp-dev.daten.cool\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=13276"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\u00dcberwachen und L\u00f6schen lassen<\/h4>\n
Weitreichendes Doppelmandat<\/h4>\n
Bewusste Privatisierung des Regelwerks<\/h4>\n
Ein effektiver Ansatz?<\/h4>\n
[1]<\/a>\u00a0\u00a0 EUCO 18\/15 v. 23.4.2015 v. 23.4.2015<\/h6>\n
[2]<\/a>\u00a0\u00a0 Ratsdok. 7266\/15 v. 16.3.2015, S. 3<\/h6>\n
[3]<\/a>\u00a0\u00a0 Ratsdok. 1035\/15 v. 17.1.2015, S. 3<\/h6>\n
[4]<\/a>\u00a0\u00a0 Ratsdok. 14244\/15 v. 23.11.2015, S. 11<\/h6>\n
[5]<\/a>\u00a0\u00a0 COM (2016) 230 endg. v. 24.4.2016, S. 7<\/h6>\n
[6]<\/a>\u00a0\u00a0 EUCO 18\/15 v. 23.4.2015<\/h6>\n
[7]<\/a>\u00a0\u00a0 BT-Drs. 18\/9764 v. 26.9.2016<\/h6>\n
[8]<\/a>\u00a0\u00a0 Ratsdok. 14260\/16 v. 20.12.2016, S. 22<\/h6>\n
[9]<\/a>\u00a0\u00a0 Europol: EU Internet Referral Unit. Year One Report Highlights v. 22.07.2016 (www.statewatch. org\/news\/2016\/sep\/eu-iru-one-year.htm)<\/h6>\n
[10]<\/a>\u00a0 Ratsdok. 1035\/15 v. 17.1.2015, S. 3<\/h6>\n
[11]<\/a>\u00a0 Ratsdok. 7266\/15 v. 16.3.2015, S. 4<\/h6>\n
[12]<\/a>\u00a0 Ratsdok. 14260\/16 v. 20.12.2016, S. 22<\/h6>\n
[13]<\/a>\u00a0 Ratsdok. 7266\/15 v. 16.3.2015, S. 5f.<\/h6>\n","protected":false},"excerpt":{"rendered":"