Wie TikTok betrügerischem Verhalten entgegen tritt

Während wir weiterhin daran arbeiten, unsere rumänische Community während der Präsidentschaftswahlen und darüber hinaus zu schützen, möchten wir genauer darüber informieren, wie wir betrügerische Aktivitäten bekämpfen. TikTok steht für authentische Erlebnisse, und wir gehen konsequent gegen alle Versuche vor, die Integrität der Plattform zu gefährden, Nutzer*innen in die Irre zu führen oder unsere Systeme zu manipulieren. Betrügerisches Verhalten im Netz ist vielfältig und betrifft oft gesellschaftlich relevante Themen wie Wahlen - von Spam und Identitätsdiebstahl bis hin zu verdeckter Einflussnahme. TikTok handelt proaktiv gegen diese unauthentischen Aktivitäten, die unseren Richtlinien widersprechen. Heute zeigen wir, wie wir die Verantwortlichen identifizieren, entfernen und ihnen stets einen Schritt voraus sind.

Definition verdeckter Einflussnahme

Verdeckte Einflussnahme ist eine der größten Herausforderungen für unsere Branche, weshalb wir spezielle Teams, Richtlinien und Transparenzberichte eingerichtet haben, die sich ausschließlich damit befassen. Unsere Richtlinien definieren verdeckte Einflussnahme als koordiniertes, inauthentisches Verhalten, bei dem Netzwerke von Konten zusammenarbeiten, um Menschen oder unsere Systeme irrezuführen und die öffentliche Diskussion über wichtige gesellschaftliche Themen, einschließlich Wahlen, zu beeinflussen.

Obwohl Versuche der Einflussnahme oft die größte öffentliche Aufmerksamkeit erregen, sind sie im Vergleich zu anderen betrügerischen Verhaltensweisen wie Spam oder vorgetäuschtem Engagement relativ selten - diese sind in der Regel viel umfangreicher und verwenden offensichtlichere Taktiken, die leichter zu erkennen sind. Verdeckte Einflussnahme zielt jedoch auch darauf ab, unverhältnismäßigen gesellschaftlichen Schaden anzurichten, und bedient sich besonders ausgeklügelter Taktiken. Aus diesem Grund investieren wir stark in die Entwicklung gezielter Strategien, Richtlinien und Taskforces, um diesen spezifischen Akteuren einen Riegel vorzuschieben.

Aufbau einer Taskforce für verdeckte Einflussnahme

Wir haben internationale Teams für die Sicherheit der Plattform (Trust & Safety) aufgebaut, die über Fachkenntnisse in Bereichen wie Bedrohungsaufklärung, Sicherheit, Strafverfolgung und Datenanalyse verfügen. Diese Teams widmen sich rund um die Uhr der Aufdeckung und Bekämpfung verdeckter Einflussnahmen. Sie überwachen und analysieren kontinuierlich Signale für betrügerisches Verhalten auf der Plattform sowie Informationen aus externen Quellen. Zusätzlich kooperieren sie mit externen Partner*innen, um spezifische Untersuchungen gezielt zu unterstützen.

Im Jahr 2024 haben wir bisher über 40 neue Netzwerke zur verdeckten Einflussnahme zerschlagen - darunter 3 in Rumänien - und über 70.000 Konten wegen Verstoßes gegen unsere Richtlinien gegen verdeckte Einflussnahme entfernt. Dazu gehören zehntausende Konten, die wir entdeckt haben und die versuchten, erneut auf unserer Plattform zurückzukehren, was wir als "wiederkehrende" Konten bezeichnen.

Bekämpfung inauthentischer Äußerungen

Konten, die an Versuchen verdeckter Einflussnahme beteiligt sind, vermeiden es oft, Inhalte zu veröffentlichen, die an sich schon gegen die Richtlinien der Plattformen verstoßen würden. Deshalb konzentrieren wir uns bei der Analyse dieser Konten auf ihr Verhalten und ihre technischen Verknüpfungen und suchen insbesondere nach Hinweisen darauf, dass:

1. Sie sich untereinander abstimmen. Sie werden beispielsweise von derselben Entität betrieben, weisen technische Ähnlichkeiten auf, wie die Verwendung derselben Geräte, oder arbeiten zusammen, um dasselbe Narrativ zu verbreiten.
2. Sie täuschen unsere Systeme oder Nutzer*innen. Beispielsweise versuchen sie, ihren tatsächlichen Standort zu verbergen, oder verwenden falsche Identitäten, um sich als jemand auszugeben, der sie nicht sind.
3. Sie versuchen, die öffentliche Debatte zu manipulieren oder zu korrumpieren, um die Entscheidungsfindung, Überzeugungen und Meinungen einer Community zu beeinflussen. Beispielsweise versuchen sie, den Diskurs im Zusammenhang mit einer Wahl oder einem Konflikt zu beeinflussen.

Diese Kriterien basieren auf Branchenstandards und den Empfehlungen von Expert*innen, mit denen wir regelmäßig zusammenarbeiten. Sie sind entscheidend, um böswillige, nicht-authentische Koordination von echten Interaktionen zu unterscheiden, die Teil lebendiger und offener Gemeinschaften sind. Beispielsweise verstoßen authentische Gruppenaktionen, wie das gemeinsame Fördern eines sozialen Anliegens oder das Äußern einer gemeinsamen Meinung - auch zu politischen Themen - nicht gegen unsere Richtlinien. Dagegen ist die koordinierte Zusammenarbeit mehrerer Konten, die betrügerisch ähnliche Botschaften verbreiten, um öffentliche Diskussionen zu manipulieren, untersagt und wird aktiv unterbunden.

Netzwerke aushebeln

Die Bekämpfung verdeckter Einflussnahme ist eine sich ständig weiterentwickelnde Herausforderung für jede Plattform, da die gegnerischen Akteure dahinter ihre Taktiken und ihre Versuche, diese zu verbergen, ständig ändern. Aus diesem Grund entwickeln wir unsere Erkennungssysteme für plattforminterne Aktivitäten kontinuierlich weiter, arbeiten mit Anbieter*innen von Bedrohungsdaten zusammen, um zusätzliche Signale zu erhalten, und ermutigen Behörden, uns proaktiv über potenzielle Hinweise zu informieren. Wir betrachten auch Aktivitäten außerhalb der Plattform und nutzen Open-Source-Informationen, um damit zusammenhängendes betrügerisches Verhalten auf TikTok zu identifizieren. Zum Beispiel haben wir im September ein Netzwerk aus 42 Konten ausgeschaltet, das auf den politischen Diskurs in Deutschland abzielte und sich über eine Messaging-Plattform außerhalb von TikTok koordinierte.

Nachdem wir Netzwerke entfernt haben, überwachen wir sie auch aufmerksam, um zu verhindern, dass sie auf unsere Plattform zurückkehren. Im September meldeten wir 9.743 Konten, die wir entfernt hatten, die mit zuvor zerschlagenen Netzwerken in Verbindung standen und versuchten, ihre Präsenz innerhalb dieses Berichtszeitraums wiederherzustellen.

Unterscheidungen bei betrügerischen Verhaltensweisen

Verhaltensweisen oder Inhalte, die gegen unsere Richtlinien zu betrügerischem Verhalten verstoßen - etwa Spam oder gefälschte Interaktionen - überschneiden sich manchmal mit Themen wie verdeckter Einflussnahme. In der Branche ist es nicht ungewöhnlich, dass finanziell motivierte Akteure versuchen, sensible Themen wie Wahlen auszunutzen, um Interaktionen für ihren eigenen Profit zu steigern. Solche Fälle gelten jedoch nicht als verdeckte Einflussnahme, es sei denn, sie erfüllen die oben genannten Kriterien. Sie weisen in der Regel nicht dieselben strategischen Ziele, technischen Merkmale oder Täuschungsmethoden auf (weitere Informationen dazu gibt es hier). Dennoch sind sie nach wie vor streng verboten und werden durch die Maßnahmen gegen betrügerisches Verhalten, die weiter unten beschrieben werden, konsequent unterbunden.

In den meisten Fällen handelt es sich bei nicht-authentischem Verhalten auf der Plattform nicht um den Teil eines Netzwerks für verdeckte Einflussnahme. Solche Netzwerke gehen deutlich raffinierter vor, verschleiern ihre Verbindungen gezielt und erfordern meist umfassende technische Analysen, um aufgedeckt zu werden.

Gegen gefälschte Interaktionen vorgehen

Neben der Bekämpfung verdeckter Einflussnahme verbieten wir eine Vielzahl anderer betrügerischer Verhaltensweisen, die darauf abzielen, unsere Plattform zu manipulieren, oft zum persönlichen oder finanziellen Vorteil. Zum Beispiel:

• Wir erlauben keine Nutzung von Konten zur Manipulation der Plattform, wie z. B. die Verwendung von Automatisierung zur Massenregistrierung oder zum Massenbetrieb von Konten.
• Wir erlauben keinen Spam, einschließlich der Manipulation von Interaktionssignalen, um die Reichweite bestimmter Inhalte zu erhöhen.
• Wir erlauben keinen Identitäsdiebstahl, einschließlich Konten, die sich als eine andere reale Person oder Entität ausgeben (mit Ausnahme von Parodiekonten, die eindeutig als solche gekennzeichnet sind).
• Wir erlauben nicht, sich als Fake-Person oder Entität auszugeben, die nicht existiert (eine falsche Persona), mit der Absicht, andere auf der Plattform in die Irre zu führen.
• Wir untersagen jede Form von gefälschter Interaktion, einschließlich der Förderung oder Vermarktung von Diensten, die eine künstliche Steigerung der Interaktionen bewirken. Dazu zählen der Verkauf von Follower*innen oder Likes sowie das Anbieten von Anleitungen, wie Interaktionen auf TikTok manipuliert werden können.
• Wir erlauben keine Verbreitung von gehacktem Material, das erheblichen Schaden anrichten würde.

Wir investieren kontinuierlich in fortschrittliche Technologien, um diese betrügerischen Verhaltensweisen zu blockieren und zu unterbinden, und informieren über unsere Bemühungen in unserem Bericht zur Durchsetzung der Community-Richtlinien. Im zweiten Quartal 2024 wurden über 94 % der Videos, die gegen unsere Richtlinien für gefälschte Interaktionen verstoßen haben, proaktiv entfernt. Allein in der ersten Hälfte dieses Jahres haben wir durch automatisierte Moderation weltweit außerdem:

• Die Erstellung von über 700 Millionen Fake-Accounts verhindert und über 940 Millionen Videos von Fake-Accounts entfernt.
• Über 36 Milliarden gefälschte Likes verhindert und weitere 379 Millionen gefälschte Likes entfernt.
• Über 15 Milliarden gefälschte Follow-Anfragen verhindert und über 207 Millionen gefälschte Follower*innen entfernt.

Allein seit September haben wir in Rumänien proaktiv fast 45 Millionen gefälschte Likes und mehr als 27 Millionen gefälschte Follow-Anfragen verhindert und die Erstellung von über 400.000 Spam-Konten blockiert.

Schutz authentischer Erfahrungen

Diese Arbeit zur Bekämpfung betrügerischer Verhaltensweisen ist nur ein Aspekt unseres umfassenden Ansatzes zum Schutz authentischer Erfahrungen auf TikTok. Zu diesen Maßnahmen gehören unter anderem:

• Wir untersagen schädliche Fehlinformationen, schränken die Verbreitung nicht verifizierter Inhalte in den "Für dich"-Feeds ein und arbeiten weltweit mit 20 Factchecking-Organisationen - darunter Lead Stories in Rumänien - zusammen, um diese Richtlinien konsequent durchzusetzen. Dabei entfernen wir 98 % der Fehlinformationen, die gegen unsere Richtlinien verstoßen, proaktiv."
• Nicht verifizierte Inhalte werden gekennzeichnet, Nutzer*innen mit zuverlässigen Informationsquellen innerhalb der App verbunden und Verifizierungsabzeichen bereitgestellt, um die Echtheit eines Kontos zu bestätigen. TikTok zählt zu den wenigen Plattformen, bei denen Verifizierungsabzeichen ausschließlich auf Basis von Authentizitätskriterien verliehen und nicht käuflich erworben werden.
• Wir kennzeichnen Medienkonten, die mit staatlichen Stellen verbunden sind, schränken ihre Werbemöglichkeiten auf Zielgruppen in ihrem registrierten Land ein und schließen sie von Empfehlungen im "Für dich"-Feed aus, wenn sie versuchen, ausländische Zielgruppen zu aktuellen Themen zu beeinflussen. Darüber hinaus haben wir über 150 Konten entfernt, die mit Rossiya Segodnya und TV-Novosti in Verbindung standen und verdeckte Einflussnahme auf TikTok betrieben.

Weiter investieren und uns weiterentwickeln

Zusätzlich zu unseren proaktiven Maßnahmen zur Erkennung von Verstößen geben wir unserer Community die Möglichkeit, Inhalte oder Konten, die sie beunruhigen, unkompliziert zu melden. Innerhalb der App können Nutzer*innen betrügerisches Verhalten, Spam, schädliche Fehlinformationen und andere Verstöße melden. Darüber hinaus bearbeiten wir Hinweise, die über unseren Community Partner Channel sowie von Regierungsbehörden und Regulierungsstellen eingehen, und entfernen Inhalte, die gegen unsere Richtlinien verstoßen.

Der Schutz der Integrität unserer Plattform ist eine fortwährende Aufgabe. Wir werden weiterhin gezielt in diese Maßnahmen investieren, sie ausbauen und transparent darüber informieren, um den Zugang zu zuverlässigen Informationen, die Entdeckung authentischer Inhalte und echte Interaktionen zu fördern - sowohl während der rumänischen Wahlen als auch darüber hinaus.

Über TikTok
TikTok ist die führende Plattform für mobile Kurzvideos. Unsere Mission ist es, Menschen zu inspirieren und zu bereichern, indem wir ihnen ein kreatives Zuhause geben und ihnen ein authentisches, unterhaltsames und positives Erlebnis bieten. TikTok hat seine globalen Hauptsitze in Los Angeles sowie Singapur und weltweit Büros unter anderem in New York, London, Dublin, Paris, Berlin, Dubai, Jakarta, Seoul und Tokio. www.tiktok.com

Pressekontakt TikTok
Kommunikationsteam für Deutschland, Österreich und die Schweiz
[email protected]

Public link

Please use the above public link if you want to share this noodl on another website.