EU Verordnung zur Verhinderung terroristischer Online-Inhalte

Der Kampf um das neue EU Urheberrecht und Artikel 13 ist noch nicht mal richtig angelaufen, da kommt schon die nächste Verordnung mit Upload-Filtern um die Ecke. Und die, liebe Kollegen, hat es so richtig in sich. Dem Kampf gegen den Terror ist ja jedes Mittel recht, sogar Mittel, die es gar nicht gibt.

EU Verordnung zur Verhinderung terroristischer Online-Inhalte

Da es sich um ein 40 Seiten Dokument handelt, nehmt es mir nicht übel, wenn ich hier nicht alles präsentiere oder kommentiere. Es wird ausreichen, glaubt es mir einfach.

Vorweg ein Hinweis:

Eine EU Verordnung hat Gesetzeswirkung ( wie die DS GVO ) und muß nicht von den Mitgliedsstaaten in nationales Recht umgesetzt werden. Lediglich der in der Verordnung gegebene Spielraum steht jedem Staat offen. Meint: geht das durch, gilt es überall ohne wenn und aber.

Schauen wir uns erst einmal die Begriffsbestimmungen an :
Artikel 2
Begriffsbestimmungen
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
(1) „Hostingdiensteanbieter“ einen Anbieter von Diensten der Informationsgesellschaft, die darin bestehen, die durch einen Inhalteanbieter bereitgestellten Informationen im
Auftrag des Inhalteanbieters zu speichern und die gespeicherten Informationen Dritten zur Verfügung zu stellen;
(2) „Inhalteanbieter“ einen Nutzer, der Informationen bereitgestellt hat, die in seinem Auftrag von einem Hostingdiensteanbieter gespeichert wurden oder gespeichert
werden;

(1) klingt toll, oder? Wißt Ihr, wer das ist ? Ihr. (2) seid auch Ihr oder Eure Besucher, wenn die einen Kommentar im Blog lassen. Ihr merkt schon, dieser Beitrag richtet sich nicht primär an normale Webkonsumenten, sondern an „Urheber“, „Selbsthoster“, „Plattformbetreiber“ oder einfach jeden, der einem Dritten erlaubt, irgendetwas ins Netz zustellen und sei es nur ein Kommentar.

Und um was geht es dabei ?

Artikel 1
Gegenstand und Anwendungsbereich
1.
In dieser Verordnung werden einheitliche Vorschriften zur Verhinderung des Missbrauchs von Hosting-Diensten zur Verbreitung terroristischer Online-Inhalte festgelegt. Insbesondere werden festgelegt:
(a) Vorschriften über Sorgfaltspflichten, die von den Hostingdiensteanbietern anzuwenden sind, um die Verbreitung terroristischer Inhalte durch ihre Dienste zu verhindern und erforderlichenfalls die rasche Entfernung solcher Inhalte zu gewährleisten;
(b) eine Reihe Maßnahmen, die von den Mitgliedstaaten umzusetzen sind, um terroristische Inhalte zu ermitteln, deren rasche Entfernung durch die Hostingdiensteanbieter zu ermöglichen und die Zusammenarbeit mit den zuständigen Behörden der anderen Mitgliedstaaten, Hostingdiensteanbietern und gegebenenfalls den zuständigen Einrichtungen der Union zu erleichtern.

Wem von Euch kam jetzt spontan der Gedanke: „Na dann hoste ich meinen Server halt in Russland?“ Pech gehabt:
2.
Diese Verordnung gilt für Hostingdiensteanbieter, die unabhängig vom Ort ihrer Hauptniederlassung Dienstleistungen in der Union anbieten.

Und das ist jeder, der einen Text in einer Sprache anbietet, die in der EU amtlich gesprochen wird. Falls Ihr also nicht schon immer einen Hang dazu hattet, in Hindi über OpenSource zuschreiben, bleibt Euch nur die Flucht aus der EU. Hindi hätte allerdings den Vorteil, daß Ihr eine Milliarde Menschen als Zielgruppe hättet und nicht nur 80 Millionen.
Artikel 3
Sorgfaltspflichten
1. Die Hostingdiensteanbieter ergreifen geeignete, angemessene und verhältnismäßige Maßnahmen im Einklang mit dieser Verordnung, um die Verbreitung terroristischer Inhalte zu verhindern und die Nutzer vor terroristischen Inhalten zu schützen. Sie handeln dabei mit der gebotenen Sorgfalt, verhältnismäßig und ohne Diskriminierung sowie unter gebührender Berücksichtigung der Grundrechte der Nutzer und tragen der grundlegenden Bedeutung der Meinungs- und Informationsfreiheit in einer offenen und demokratischen Gesellschaft Rechnung.

Die Parlamentarier oder wer auch immer das geistig verbrochen hat, meint es nur gut mit Euch, denn Ihr dürft den Spagatt machen, den diese Leute nicht hinbekommen haben: Ihr dürft Filtern und dabei die Meinungsfreiheit schützen ( zu Filtern kommen wir noch, keine Sorge ). Ist doch super!

Das Einzige was Euch davor bewahrt Uploadfilter einzusetzen, ist das Wörtchen „verhältnismäßige“. Nur, welches Verhältnis ist gemeint? Die Größe ? (Ich greif mal voraus: Auch 1 Mann Privatpersonen müssen das leisten und zwar „binnen 1 Stunde“ ! Und was sollen die leisten ?
Artikel 4
Entfernungsanordnungen
1. Die zuständige Behörde ist befugt, Entscheidungen zu erlassen, mit denen Hostingdiensteanbieter verpflichtet werden, terroristische Inhalte zu entfernen oder zu sperren.
2. Die Hostingdiensteanbieter entfernen die terroristischen Inhalte innerhalb einer Stunde nach Erhalt der Entfernungsanordnung oder sperren den Zugang dazu.

Oh, da steht nichts von Wochenende oder Bürozeiten ? Echt nicht? Tja, das Internet schläft nicht und hat auch kein Wochenende oder gar Urlaub! Ihr dürft das also auch im Schlaf löschen oder wenn Ihr in Malle seid.
Artikel 4
Entfernungsanordnungen
4. Auf Antrag des Hostingdiensteanbieters oder des Inhalteanbieters legt die zuständige Behörde eine ausführliche Begründung vor, unbeschadet der Verpflichtung des Hostingdiensteanbieters, der Entfernungsanordnung innerhalb der in Absatz 2 genannten Frist nachzukommen.

Immerhin, es muß Euch gesagt werden, was daran Terror ist ( das Gesetz ist auch schon Online-Terror, das werde ich dann mal als erstes melden 😉 ) Löschen müßt Ihr trotzdem. Das ist natürlich für Forenbetreiber, Blogger oder überhaupt Webseitenbetreibern gar nicht leistbar. Aber vielleicht muß es das gar nicht :
Artikel 4
Entfernungsanordnungen
7. Kann der Hostingdiensteanbieter der Entfernungsanordnung wegen höherer Gewalt oder einer faktischen Unmöglichkeit, die dem Hostingdiensteanbieter nicht angelastet werden kann, nicht nachkommen, so teilt er dies der zuständigen Behörde mit und legt unter Verwendung des Formulars in Anhang III die Gründe hierfür dar. Die in Absatz 2 genannte Frist findet Anwendung, sobald die angeführten Gründe
nicht mehr vorliegen.

„Höhere Gewalt“ ist etwas, daß außerhalb Eures Einflußbereiches liegt und zumindest Schlafen muß jeder mal von uns.
Artikel 4
Entfernungsanordnungen
9. Die zuständige Behörde, die die Entfernungsanordnung ausgestellt hat, unterrichtet die für die Überwachung der Durchführung proaktiver Maßnahmen nach Artikel 17
Absatz 1 Buchstabe c zuständige Behörde, wenn die Entfernungsanordnung rechtskräftig wird. Eine Entfernungsanordnung wird rechtskräftig, wenn innerhalb
der nach anwendbarem nationalem Recht geltenden Frist kein Rechtsbehelf gegen sie eingelegt oder sie nach Einlegung eines Rechtsbehelfs bestätigt wurde.
Artikel 5
Meldungen
2. Die Hostingdiensteanbieter richten betriebliche und technische Maßnahmen ein, die eine rasche Beurteilung von Inhalten erleichtern, die von den zuständigen Behörden
und gegebenenfalls den zuständigen Einrichtungen der Union zur freiwilligen Prüfung übermittelt wurden.

Zumindest in dem Punkt kann man beruhigt sein, daß meint nur, daß wenn man Facebook ist, eben auf wirkliches alles Zugriff haben muß, um es zeitgerecht zu prüfen. Das Ihr Euren Blog im Blick habt, davon kann man ausgehen, wenn man z.b. WordPress einsetzt. Inwieweit das für selbstgehäkelte Blogsoftware gilt, müßt Ihr selbst beurteilen.

Kommen wir mal dazu was passiert, wenn Ihr so etwas bekommen habt:
Artikel 5
Meldungen
6. Der Hostingdiensteanbieter unterrichtet die zuständige Behörde oder die zuständige Einrichtung der Union unverzüglich über das Ergebnis der Prüfung und den Zeitpunkt etwaiger aufgrund der Meldung ergriffener Maßnahmen.

Ergo, Ihr habt sofort Rapport zu erstatten, was Eure Prüfung ergeben hat. Jetzt kommt es:
Artikel 6
Proaktive Maßnahmen
1. Die Hostingdiensteanbieter ergreifen gegebenenfalls proaktive Maßnahmen, um ihre Dienste vor der Verbreitung terroristischer Inhalte zu schützen. Die Maßnahmen müssen wirksam und verhältnismäßig sein, wobei dem Risiko und Ausmaß der möglichen Beeinflussung durch terroristische Inhalte, den Grundrechten der Nutzer sowie der grundlegenden Bedeutung der Meinungs- und Informationsfreiheit in einer offenen und demokratischen Gesellschaft Rechnung zu tragen ist.

„verhältnismäßig“ ist bei einem Blog z.b. die Kommentare zu moderieren. Das dürften wir alle noch hinbekommen. Aber:
Artikel 6
Proaktive Maßnahmen
2. Im Fall einer Unterrichtung nach Artikel 4 Absatz 9 (irgend eine andere Behörde und Widerspruchsfristen) fordert die in Artikel 17 Absatz 1 Buchstabe c genannte zuständige Behörde den Hostingdiensteanbieter auf, innerhalb von drei Monaten nach Eingang der Aufforderung und danach mindestens einmal jährlich einen Bericht über die von ihm ergriffenen spezifischen proaktiven Maßnahmen, einschließlich der Verwendung automatisierter Werkzeuge, vorzulegen, um
(a) ein erneutes Hochladen von Inhalten, die zuvor entfernt oder gesperrt wurden, weil sie als terroristische Inhalte erachtet werden, zu verhindern;
(b) terroristische Inhalte zu erkennen, zu ermitteln und unverzüglich zu entfernen oder zu sperren.

Wie, Ihr habt keinen Uploadfilter parat ? was dachtet Ihr, was „automatisierte Werkzeuge“ meint ? Und das wagt Ihr in Eurem Transparenzbericht auch noch öffentlich zuzugeben ?
Artikel 8
Transparenzanforderungen
1. Die Hostingdiensteanbieter legen in ihren Nutzungsbedingungen ihre Strategie zur Verhinderung der Verbreitung terroristischer Inhalte dar, gegebenenfalls mit einer aussagekräftigen Erläuterung der Funktionsweise proaktiver Maßnahmen, einschließlich der Verwendung automatisierter Werkzeuge.
2. Die Hostingdiensteanbieter veröffentlichen jährliche Transparenzberichte über die gegen die Verbreitung terroristischer Inhalte ergriffenen Maßnahmen.

Habt Ihr ein Glück! Die EU wäre so gnädig in Betracht zuziehen, daß Ihr keine automatischen Werkzeuge einsetzen müßt. Wer kennt sich von Euch eigentlich mit Arbeitsrechts aus? Könnte sein, daß sich das Gesetz positiv auf den Harz IV Haushalt auswirkt… Wie Ihr wollt keinen einstellen ?
Artikel 9
Schutzvorkehrungen in Bezug auf die Anwendung und Durchführung proaktiver Maßnahmen
1. Verwenden Hostingdiensteanbieter nach dieser Verordnung automatisierte Werkzeuge für die von ihnen gespeicherten Inhalte, so treffen sie wirksame und geeignete Schutzvorkehrungen, um sicherzustellen, dass Entscheidungen, die diese Inhalte betreffen, insbesondere Entscheidungen zur Entfernung oder Sperrung von Inhalten, die als terroristische Inhalte erachtet werden, zutreffend und fundiert sind.
2. Die Schutzvorkehrungen bestehen, soweit angemessen, insbesondere in einer Aufsicht und Überprüfung durch Menschen, aber in jedem Fall immer dann, wenn eine eingehende Beurteilung des betreffenden Kontexts erforderlich ist, um feststellen zu können, ob ein Inhalt als terroristischer Inhalt zu erachten ist.

Wie bitte soll ein Filterprogramm jemals den Unterschied zwischen einem Film und einem „echten“ Aufruf zum Hass erkennen können? An der Musik etwa? Das geht nicht. KI ist nämlich nicht intelligent, sondern nur eine quantifizierte statistische Analysegrundlage. Mehr als ML haben wir nämlich noch gar nicht, und bis die über den Witz lachen kann, gehen noch locker 50 Jahre ins Land.

Dann dürft Ihr das auch noch dem Kommentator mitteilen, also wenn der das nicht wüßte, wenn es echter Terror wäre 😀 (Was passiert eigentlich, wenn…)
Artikel 11
Unterrichtung der Inhalteanbieter
1. Entfernen oder sperren Hostingdiensteanbieter terroristische Inhalte, so stellen sie dem Inhalteanbieter Informationen über die Entfernung oder Sperrung der terroristischen Inhalte zur Verfügung.

Wir spielen das mal durch:

  1. Der Terrorist macht einen Account auf.
  2. Er bekommt an die OneDay Emailadresse einen Link zur Anmeldungsbestätigung
  3. Er lädt ein Köpfvideo vom IS hoch
  4. Er schreibt noch irgendeinen Schwachsinn über heiligen Krieg dazu und legt sich dann schlafen.
  5. Der Anbieter bekommt die Meldung und sperrt den Account
  6. Der Anbieter schickt der Emailadresse, die es nicht mehr gibt, den Hinweis, daß sein Terrorvideo nicht mehr verfügbar ist mit einem Link zum Beschwerdeportal(das müßt Ihr übrigens auch haben).
  7. 550 MAILBOX NOT FOUND! oder viel wahrscheinlicher 550 ADMIN PROHIBITED MAILBOX 😉

Mal ernsthaft, wenn das echter Terror ist, den da einer hochlädt, dann lasse ich den doch nicht wieder auf die Plattform, nicht mal um Ihm ein letztes mal die Plattform zugeben, Terror zu verbreiten!

Das klappt also bestenfalls, falls da eine Satire fehlerhaft erkannt wurde. Ergo fehlt da der Zusatz: „falls es automatisch erfolgte“. Wenn Ich das gesperrt oder gelöscht habe, dann purge ich den Account ohne Wiederkehr aus dem System mit Backup an den Verfassungsschutz. Wollt Ihr noch mehr Unsinn lesen ?
Artikel 13
Zusammenarbeit zwischen Hostingdiensteanbietern, zuständigen Behörden und gegebenenfalls zuständigen Einrichtungen der Union
4. Verfügen Hostingdiensteanbieter über Nachweise für terroristische Straftaten, so unterrichten sie unverzüglich die für die Untersuchung und Verfolgung von Straftaten in dem betreffenden Mitgliedstaat zuständigen Behörden oder die Kontaktstelle nach Artikel 14 Absatz 2 in dem Mitgliedstaat, in dem sie ihre Hauptniederlassung haben oder über einen gesetzlichen Vertreter verfügen. Im Zweifelsfall können die Hostingdiensteanbieter diese Informationen an Europol zur weiteren Bearbeitung übermitteln.

Ob die § 138 StGb kennen ?
§ 138 StGb – Nichtanzeige geplanter Straftaten
(1) Wer von dem Vorhaben oder der Ausführung
1. (weggefallen)
2. eines Hochverrats in den Fällen der §§ 81 bis 83 Abs. 1,
3. eines Landesverrats oder einer Gefährdung der äußeren Sicherheit in den Fällen der §§ 94 bis 96, 97a oder 100,
4. einer Geld- oder Wertpapierfälschung in den Fällen der §§ 146, 151, 152 oder einer Fälschung von Zahlungskarten mit Garantiefunktion und Vordrucken für Euroschecks in den Fällen des § 152b Abs. 1 bis 3,
5. eines Mordes (§ 211) oder Totschlags (§ 212) oder eines Völkermordes (§ 6 des Völkerstrafgesetzbuches) oder eines Verbrechens gegen die Menschlichkeit (§ 7 des Völkerstrafgesetzbuches) oder eines Kriegsverbrechens (§§ 8, 9, 10, 11 oder 12 des Völkerstrafgesetzbuches) oder eines Verbrechens der Aggression (§ 13 des Völkerstrafgesetzbuches),
6. einer Straftat gegen die persönliche Freiheit in den Fällen des § 232 Absatz 3 Satz 2, des § 232a Absatz 3, 4 oder 5, des § 232b Absatz 3 oder 4, des § 233a Absatz 3 oder 4, jeweils soweit es sich um Verbrechen handelt, der §§ 234, 234a, 239a oder 239b,
7. eines Raubes oder einer räuberischen Erpressung (§§ 249 bis 251 oder 255) oder
8. einer gemeingefährlichen Straftat in den Fällen der §§ 306 bis 306c oder 307 Abs. 1 bis 3, des § 308 Abs. 1 bis 4, des § 309 Abs. 1 bis 5, der §§ 310, 313, 314 oder 315 Abs. 3, des § 315b Abs. 3 oder der §§ 316a oder 316c
zu einer Zeit, zu der die Ausführung oder der Erfolg noch abgewendet werden kann, glaubhaft erfährt und es unterläßt, der Behörde oder dem Bedrohten rechtzeitig Anzeige zu machen, wird mit Freiheitsstrafe bis zu fünf Jahren oder mit Geldstrafe bestraft.

Ich wette, das gibt es in jedem Land auf die eine oder andere Weise.

Kleiner Tipp: Wenn Ihr erfahrt, daß ein anderer Staat Kriegshandlungen gegen die Bundesrepublik plant, habt Ihr das dem Staatsschutz(oder der Bundeswehr, je nach Fachkunde) zu melden!

und jetzt zum Geld …
Artikel 18
Sanktionen
1. Die Mitgliedstaaten erlassen Vorschriften über Sanktionen, die bei Verstößen der Hostingdiensteanbieter gegen die Verpflichtungen aus dieser Verordnung zu verhängen sind, und treffen alle für die Anwendung der Sanktionen erforderlichen Maßnahmen. Diese Sanktionen beschränken sich auf Verstöße gegen die Verpflichtungen aus
(a) Artikel 3 Absatz 2 (Nutzungsbedingungen von Hostingdiensteanbietern);
(b) Artikel 4 Absätze 2 und 6 (Ausführung von Entfernungsanordnungen und diesbezügliche Rückmeldungen);
(c) Artikel 5 Absätze 5 und 6 (Prüfung von Meldungen und diesbezügliche Rückmeldungen);
(d) Artikel 6 Absätze 2 und 4 (Berichte über proaktive Maßnahmen und Ergreifung von Maßnahmen aufgrund einer Entscheidung zur Auferlegung spezifischer proaktiver Maßnahmen);
(e) Artikel 7 (Aufbewahrung von Daten);
(f) Artikel 8 (Transparenz);
(g) Artikel 9 (Schutzvorkehrungen in Bezug auf proaktive Maßnahmen);
(h) Artikel 10 (Beschwerdeverfahren);
(i) Artikel 11 (Unterrichtung der Inhalteanbieter);
(j) Artikel 13 Absatz 4 (Informationen über Nachweise für terroristische Straftaten);
(k) Artikel 14 Absatz 1 (Kontaktstellen);
(l) Artikel 16 (Benennung eines gesetzlichen Vertreters).

2. Die Sanktionen müssen wirksam, verhältnismäßig und abschreckend sein. Die
Mitgliedstaaten teilen der Kommission diese Vorschriften und Maßnahmen
spätestens bis [sechs Monate nach Inkrafttreten dieser Verordnung] mit und melden ihr unverzüglich alle diesbezüglichen Änderungen.
3. Die Mitgliedstaaten stellen sicher, dass die zuständigen Behörden bei der Festlegung von Art und Höhe der Sanktionen alle relevanten Umstände berücksichtigen,
darunter
(a) Art, Schwere und Dauer des Verstoßes;
(b) die Frage, ob der Verstoß vorsätzlich oder fahrlässig begangen wurde;
(c) frühere Verstöße der haftbaren juristischen Person;
(d) die Finanzkraft der haftbaren juristischen Person;
(e) die Bereitschaft des Hostingdiensteanbieters, mit den zuständigen Behörden zusammenzuarbeiten.

4. Die Mitgliedstaaten stellen sicher, dass bei einem systematischen Verstoß gegen die
Verpflichtungen aus Artikel 4 Absatz 2 finanzielle Sanktionen in Höhe von bis zu
4 % des weltweiten Jahresumsatzes des Hostingdiensteanbieters im vorangegangenen Geschäftsjahr verhängt werden.

Ok, 4. trifft ja nur auf kommerzielle Anbieter zu oder Private, die Werbung gegen Moneten auf der Seite haben und auch nur wenn der sich störrisch zeigt, daß dürfte eher auf keinen von uns zutreffen, aber hey, wer weiß schon was da als systematisch gilt 🙁

Und jetzt schaut Euch mal Seite 25 . Anmerkung (33) an :

…Um zu gewährleisten, dass terroristische Inhalte innerhalb einer Stunde nach Eingang der Entfernungsanordnung entfernt oder gesperrt werden, sollten die
Hostingdiensteanbieter sicherstellen, dass die Kontaktstelle ständig rund um die Uhr erreichbar ist. In den Informationen über die Kontaktstelle sollte die Sprache
angegeben werden, in der die Kontaktstelle angeschrieben werden kann. Um die Kommunikation zwischen den Hostingdiensteanbietern und den zuständigen Behörden
zu erleichtern, wird den Hostingdiensteanbietern empfohlen, die Kommunikation in einer der Amtssprachen der Union, in der ihre Nutzungsbedingungen verfügbar sind,
zu ermöglichen….

Da merkt man ja mal wieder, daß da keiner nachgedacht hat.

Eine Frau hat aber glücklicherweise nachgedacht und Julia Reda hat zusammen mit dem zuständigen Binnenausschuss erst einmal pauschal „Nein“ zu dem Entwurf gesagt. Das heißt aber nicht, daß der vom Tisch ist, sondern nur, daß die Entwürfler nachbessern sollen. Am 21.3.2019 sollte darüber eigentlich abgestimmt werden, daß ist wohl erst mal vom Tisch.

Kommentare

Ausnahmsweise, weil es so wichtig ist, darf wieder kommentiert werden . Aber bitte keine terroristischen Inhalte posten, auch nicht zum Spaß 😉

Quelle:

https://eur-lex.europa.eu/resource.html?uri=cellar:dc0b5b0f-b65f-11e8-99ee-01aa75ed71a1.0003.02/DOC_2&format=PDF

One thought on “EU Verordnung zur Verhinderung terroristischer Online-Inhalte

Schreibe einen Kommentar