Toxisches Netz: Es gibt einige Wesen, die es wert sind, ignoriert zu werden

Trotz aller Schwüre und Versprechen, Hassrede, Anstiftung und unethische Inhaltsverbreitung zu verhindern, taucht immer ein neuer troll auf. Jetzt können sie sich ziemlich clever in deepfake verstecken, mit einer künstlich erzeugten Stimme einer angesehenen (lebenden oder verstorbenen) Person sprechen und letztendlich Marken und Individuen das Leben zur Hölle machen. Es gibt immer mehr Trolle in der virtuellen Welt, und sie sind zunehmend schwer zu erkennen, sodass sie leicht deinen Tag ruinieren können.

Bevor wir jedoch in die Geschichte der Trolle eintauchen, sollten wir definieren, was sie eigentlich sind. Obwohl sie nach mystischen Wesen aus Märchen benannt sind und an einen relativ beliebten Kinder-Cartoon erinnern, sind Internet- oder digitale Trolle keineswegs nett, lustig oder interessant.

– In einfachsten Worten sind sie Individuen, die absichtlich andere Internetnutzer mit unangemessenen oder oft falschen Informationen und Kommentaren beleidigen und provozieren wollen, und versuchen, Streitigkeiten, negative Reaktionen und Emotionen zu schüren und jede konstruktive Diskussion zu stören. Viele von ihnen nutzen natürlich die Anonymität des Internets oder präsentieren sich falsch, um ihre wahre Identität zu verbergen und so den Konsequenzen solcher Handlungen zu entkommen – erklärt Diana Dumanić, Direktorin von Red View Media.

Klare Verhaltensregeln

Dumanić fügt hinzu, dass es entscheidend ist, dass die breitere Gemeinschaft Internetnutzer häufiger und lauter darüber aufklärt, wie man Trolle erkennt, wie man nicht auf ihre Provokationen hereinfällt und sie somit nicht weiter nährt, indem man sich an Diskussionen beteiligt.

—

—

– Digitale Marketingexperten sollten, um das Markenimage zu schützen und eine qualitativ hochwertige Kommunikation mit dem Publikum sicherzustellen, zunächst klare Verhaltensregeln aufstellen und veröffentlichen, die beleidigende Kommentare verbieten. Es ist etwas möglich, Trolle zu ignorieren und die Kommunikation auf positive Aspekte zu lenken, aber wenn das nicht ausreicht, ist es ratsam, unangemessene Kommentare manuell oder mit Moderationstools zu entfernen. Schließlich ist es auch möglich, Trolle auf Plattformen zu blockieren und zu melden – sagt Dumanić.

Koordinierte Kampagnen

In den letzten Jahren hat sich gezeigt, wie künstliche Intelligenz zur Verbreitung von Fehlinformationen beiträgt, zum Beispiel in Wahlkampagnen oder im Kontext von Gesundheitskrisen. Inzwischen sind Internet-Trolle immer raffinierter und organisierter geworden und führen koordinierte Kampagnen durch, um Individuen anzugreifen oder falsche Informationen zu verbreiten. Das Problem wird dadurch verschärft, dass Anonymität im Internet so wichtig ist. Die meisten online Nutzer möchten anonym in online Communities bleiben, was es den Plattformen erschwert, Trolle und Bots zu erkennen und zu moderieren.

Internet-Trolle können für die psychische Gesundheit von Inhaltsanbietern kritisch sein und unangenehm für digitale Experten, und während wir uns in geopolitisch unsicheren Zeiten befinden, können sie auch gefährlich für die nationale Sicherheit sein. In diesem Jahr wurde bekannt, dass russische Internet-Trolle künstliche Intelligenz von westlichen Technologieunternehmen genutzt haben, um Fehlinformationen über Moskaus Invasion in der Ukraine zu verbreiten. In den letzten drei Monaten hat OpenAI, der Schöpfer von ChatGPT, fünf geheime Kampagnen aufgedeckt, von denen zwei direkt aus Russland durchgeführt wurden, und da russische Tools nicht erlaubt sind, Informationen über den Krieg bereitzustellen, mussten sie über andere Plattformen ‚trollen‘. Mit anderen Worten, Trolle sind nicht harmlos, auch wenn sie so erscheinen mögen, und künstliche Intelligenz dient sowohl als Werkzeug für Trolling als auch als Waffe gegen Trolle.

Köder für die leicht Entflammbaren

Wir hören oft Geschichten von Menschen, die unangenehme Erfahrungen mit Trollen gemacht haben, aber nie eine Geschichte von einem echten (oder zumindest einigermaßen echten) Troll. Ein Reddit-Nutzer entschied sich, mit Internetnutzern zu interagieren und teilte dann seine Trolling-Erfahrungen.

– Ich kann nicht beschreiben, wie viele Nerds im Internet ich mit sogar grundlegenden ChatGPT dazu gebracht habe, ausgeklügelte Troll-Posts zu erstellen. Es macht Spaß und ist besorgniserregend, wie leicht Menschen im Internet getäuscht werden können, wenn sie denken, sie sprechen mit einem Menschen. Mit nur wenigen gut formulierten Sätzen, die in ein benutzerdefiniertes python Skript eingefügt werden, kann ich KI-Brüder in hitzige Debatten verwickeln oder Menschen, die Angst vor Maschinen haben, dazu bringen, ihre Überzeugungen ernsthaft zu überdenken. Es ist wie ein psychologisches Kriegsführungsspiel, bei dem ich strategisch meine Worte verschiebe, um Reaktionen zu provozieren und zu beobachten, wie die Leute den Köder nehmen. Das Internet ist wie ein verfluchter inzestuöser Brutplatz für die verrücktesten Arten von Persönlichkeiten, und es ist erstaunlich, wie viele von ihnen ihre kostbare Zeit mit meinem dummen Kram verschwenden. Die Leute sind so in ihr eigenes melodramatisches Zeug vertieft, dass sie das größere Bild des Lebens nicht sehen und warum, ehrlich gesagt, das alles keine Rolle spielt, weil das Leben eines jeden ein Ablaufdatum hat. Es ist nicht so, dass ich es genieße, ihre Zeit zu verschwenden, aber ich war neugierig, wie viele Menschen tatsächlich erkennen können, wann etwas von künstlicher Intelligenz generiert wurde und wann eine echte Person hinter dem Bildschirm sitzt – schrieb der Reddit-Nutzer.

—

—

Effektive Waffe

So kreativ der Schreibstil und die Absicht dieses Reddit-Nutzers auch sein mögen, die Tatsache ist, dass Trolle mit der Nutzung von künstlicher Intelligenz, die jetzt für jeden verfügbar ist, immer schlauer werden und gleichzeitig zu einem erheblichen Vorteil, aber auch zu einem Problem der modernen Zeit geworden sind. Allerdings ist nicht alles düster. Es gibt bereits viele Tools zur Erkennung von Internet-Trollen, die verschiedene Ansätze kombinieren, von Textanalyse über maschinelles Lernen bis hin zu Datenanalyse, die einige digitale Marketingexperten bereits nutzen, erzählt uns Dumanić.

– Sprout Social, Hootsuite, Buffer und Agora Pulse bieten Tools zur Überwachung und Moderation von sozialen Medien und zum schnellen Taggen und Entfernen von Troll-Kommentaren. Brandwatch analysiert Reaktionen auf Kampagnen, indem es Stimmungen verfolgt und negative Kommentare, d.h. potenzielle Troll-Aktivitäten identifiziert, während Socialbakers die Interaktion mit Posts überwacht, negative Kommentare identifiziert und Trolle verwaltet – listet Dumanić auf und fügt hinzu, dass es zwar nicht ganz möglich ist, aber sicher ist, dass wir durch die Aufklärung der breiteren Gemeinschaft, die Etablierung klarer Verhaltensregeln und Konsequenzen für deren Verletzung in sozialen Medien und Foren, die Moderation von Diskussionen sowie das Blockieren und Melden, einen gewissen Einfluss auf die Verringerung solcher Phänomene ausüben können.

—

—