Kontosperrung, NCMEC und Criminal Content

Ob Google, Apple, Microsoft, Meta oder Telegram: Die großen Cloud- und Messaging-Anbieter setzen zunehmend auf KI-gestützte Überwachungssysteme, um Inhalte auf ihren Servern zu scannen. Während bei verdächtigten Missbrauchsdarstellungen automatisiert Behörden eingeschaltet und Konten gesperrt werden, gelten bei Gewaltvideos, Drogenhandel oder allgemeinen Richtlinienverstößen völlig andere Regeln. Dieser Beitrag von Rechtsanwalt Johannes von Rüden gibt einen umfassenden Überblick über die Funktionsweise der Anbieter, die rechtlichen Hintergründe und das richtige Verhalten im Ernstfall.

1. Kinderpornografie (§ 184b StGB) und das NCMEC-Meldesystem

Der mit Abstand strengste und automatisierteste Überwachungsmechanismus betrifft den Verdacht auf Kinder- oder Jugendpornografie.

Was ist das NCMEC?

Das NCMEC (National Center for Missing & Exploited Children) ist die offizielle US-amerikanische Meldestelle für vermisste und ausgebeutete Kinder. Nach US-Bundesrecht (18 U.S.C. § 2258A) sind alle US-Tech-Konzerne gesetzlich verpflichtet, jeden begründeten Verdacht auf Missbrauchsdarstellungen über das Meldeportal CyberTipline an das NCMEC zu melden.

Der Weg vom KI-Scan bis zur Hausdurchsuchung in Deutschland

1. Automatisiertes Scanning: Anbieter scannen hochgeladene oder gespeicherte Dateien mittels PhotoDNA (Hash-Abgleich bekannter Bilddateien) sowie visueller KI-Scanner.
2. Sofortige Kontosperrung (Sperrquote > 98 %): Bei einem Treffer wird das Nutzerkonto (z. B. Google-Konto, Apple-ID, OneDrive) im Regelfall sofort und ohne Vorwarnung deaktiviert. Ausnahmen gibt es fast nur bei verdeckten behördlichen Ermittlungen (Law Enforcement Hold).
3. NCMEC-Report: Der Anbieter erstellt einen CyberTipline Report mit Inhaltsdaten, IP-Adressen, Zeitstempeln und Kontodaten.
4. Weiterleitung an das BKA: Das NCMEC leitet den Vorgang über US-Behörden und Interpol an das deutsche Bundeskriminalamt (BKA) weiter.
5. Ermittlungen und Durchsuchung: Das BKA gibt den Fall an das zuständige Landeskriminalamt (LKA) und die örtliche Staatsanwaltschaft ab. Über den deutschen Internetanbieter wird der Anschlussinhaber ermittelt, woraufhin in der Regel ein richterlicher Durchsuchungsbeschluss (§ 102 StPO) vollstreckt wird.

2. Gewaltdarstellungen (§ 131 StGB) und sensible Inhalte

Bei gewalttätigen, verstörenden oder grausamen Videos ohne sexuellen Bezug (Gore, Extremismus, Unfälle) unterscheidet sich das Vorgehen grundlegend:

• Kein NCMEC-Automatismus: Es existiert keine weltweite Meldebehörde für allgemeine Gewaltdarstellungen. Ein Upload führt nicht automatisch zu einem BKA-Report.
• Stufenmodell der Anbieter (Strikes): Statt sofortiger Kontosperrung arbeiten Anbieter meist mit Verwarnungen, Inhaltslöschungen oder temporären Upload-Sperren. Erst bei wiederholten Verstößen oder extremem Content (z. B. Terrorismus) erfolgt die permanente Kontodeaktivierung.
• Strafrecht in Deutschland: Der reine Besitz von Gewaltvideos ist nach § 131 StGB – anders als nach § 184b StGB – nicht strafbar. Strafbar ist erst das aktive Verbreiten oder öffentliche Zugänglichmachen.

3. Drogenhandel und sonstige illegale Geschäfte über Messenger und Social Media

Bei Drogengeschäften, Waffenhandel oder gefälschten Dokumenten auf Plattformen wie Instagram, Telegram, Snapchat oder WhatsApp läuft die Erkennung anders ab:

• Keine automatischen Hash-Datenbanken: Die Anbieter nutzen Text- und Keyword-Filter (KI-Erkennung von Emojis, Preisen, Signalwörtern) sowie Nutzermeldungen.
• Ermittlungsansatz der Behörden: Hier melden in der Regel nicht die Anbieter der Polizei, sondern die Polizei ermittelt aktiv auf den Plattformen – etwa durch verdeckte Ermittler, Testkäufe, Post- und Paketbeschlagnahmen oder die Auswertung beschlagnahmter Händler-Smartphones.
• Datenherausgabe: Auf richterlichen Beschluss verpflichten deutsche Behörden die Anbieter zur Herausgabe von Bestands- und Verkehrsdaten (IP-Adressen, Telefonnummern). Auch Plattformen wie Telegram kooperieren bei schweren Straftaten mittlerweile mit Ermittlungsbehörden.

4. Zwischenmeldungen von Google Drive: Was bedeuten Warnungen wie „Criminal Content“?

Erheblich zugenommen haben automatisierte Warnhinweise in Cloud-Diensten wie Google Drive. Nutzer erhalten E-Mails oder sehen Warnbanner mit Hinweisen wie „Item restricted due to a violation of Google's Abuse Policy“ oder „Kriminelle oder gefährliche Aktivitäten“ (Dangerous or Illegal Activities / Criminal Content).

Was bedeutet ein solcher Hinweis?

• Datei gesperrt, Konto (noch) aktiv: Sie erhalten diesen Hinweis nur, wenn das Gesamtkonto noch erreichbar ist, aber eine konkrete Datei indiziert und das Teilen blockiert wurde.
• Auslöser: Neben tatsächlichen Richtlinienverstößen führen insbesondere Fehltreffer der KI (False Positives) zu solchen Meldungen, etwa bei verschlüsselten Archiven, Skripten, medizinischen Dokumenten oder harmlosen Familienfotos.
• Einfluss des Digital Services Act (DSA): Durch EU-Vorgaben ist Google seit 2023/2024 verpflichtet, Nutzer genauer darüber zu informieren, aus welchem rechtlichen oder richtlinienbezogenen Grund Inhalte eingeschränkt wurden.

5. Verhaltensempfehlungen für Betroffene

Wenn Sie eine Warnung von Ihrem Cloud-Anbieter erhalten haben oder Ihr Konto gesperrt wurde, gelten folgende Verhaltensregeln:

• Keinen unüberlegten Einspruch einlegen („Request Review“): Klicken Sie in Warn-E-Mails nicht voreilig auf „Prüfung beantragen“. Dadurch leiten Sie eine manuelle Überprüfung durch Mitarbeiter des Anbieters ein. Handelt es sich um potenziell strafbares Material, kann dies die Einleitung behördlicher Schritte beschleunigen.
• Unbedenkliche Daten umgehend lokal sichern: Solange der Zugang besteht, sollten wichtige private oder geschäftliche Dokumente, E-Mails und Kontakte auf externen Datenträgern gesichert werden, bevor eine Vollsperrung droht.
• Keine Beweismittel vernichten oder Spuren löschen: Das nachträgliche Löschen von Dateien in der Cloud beseitigt keine Protokolldaten (Logfiles) auf den Servern der Anbieter.
• Frühzeitig rechtlichen Rat einholen: Liegt der Verdacht einer Straftat vor oder wurde Ihr Konto unberechtigt gesperrt, empfiehlt sich die umgehende Einschaltung eines spezialisierten Rechtsanwalts für Strafrecht.

Fazit und Vertretung durch Rechtsanwalt Johannes von Rüden

Automatisierte Kontosperren und Warnhinweise von US-Anbietern sind hochentwickelte Prozesse, die tief in die digitale Existenz von Nutzern eingreifen. Während bei Fehltreffern zivilrechtliche Schritte zur Wiederfreischaltung des Kontos geprüft werden können, erfordern strafrechtlich relevante Vorwürfe eine konsequente und strategische Verteidigung von Beginn an.

Als Strafverteidiger berät und vertritt Rechtsanwalt Johannes von Rüden Mandanten bundesweit bei Kontosperrungen, Ermittlungsverfahren nach § 184b StGB sowie allen Fragen des digitalen Strafrechts.

Beiträge dienen der allgemeinen Information und ersetzen keine individuelle Rechtsberatung. Für Ihren konkreten Fall sprechen Sie mit unseren spezialisierten Anwältinnen und Anwälten.