foto freepik

TrollWall AI, ein Start-up-Unternehmen aus der Slowakei, das Software zum Schutz sozialer Profile vor Hassreden und Internet-Troll-Attacken anbietet, gab heute seinen Markteintritt in Deutschland bekannt. Das Produkt ist seit März 2024 für den deutschsprachigen Markt verfügbar.

TrollWall AI ist eine Software, die künstliche Intelligenz in Echtzeit nutzt, um Troll-Aktivitäten auf Profilen in sozialen Medien automatisch zu erkennen und zu blockieren. Das von TrollWall AI bereitgestellte Tool ist in der Lage, Hasskommentare auf Basis des sprachlichen Kontexts und der verwendeten Emoticons zu erkennen.

Die Software verwendet ausgefeilte Algorithmen, um beleidigende, fremdenfeindliche, sexistische oder andere Formen von Gewalt enthaltende Kommentare zu erkennen. Zusätzlich zur Verwendung fortschrittlicher Datensätze, mit der die Software Hasskommentare erkennen kann, können die Nutzer den Algorithmus des Tools auch durch Hinzufügen eigener Schlüsselwörter anpassen. TrollWall AI versteckt erfasste Kommentare, so dass sie für andere Nutzer nicht sichtbar sind.

Das Ausblenden von Hasskommentaren in sozialen Medien bietet viele Vorteile, unter anderem:

Schaffung eines sichereren und nutzerfreundlicheren Raums: Das Ausblenden von Hasskommentaren kann dazu beitragen, einen einladenden und sicheren Raum für die Nutzer zu schaffen. Menschen, die zuvor Gewalt oder Hassreden in sozialen Medien ausgesetzt waren, fühlen sich ggf. wohler, wenn sie wissen, dass sie von solchen Inhalten verschont bleiben.
Schutz des Rufs von Unternehmen oder Institutionen: Das Ausblenden von Hasskommentaren kann dazu beitragen, den Ruf von Unternehmen oder Institutionen zu schützen. Wenn ein Unternehmen oder eine Institution ins Visier von Trollen gerät, kann ein Tool, das die Anzeige schädlicher Inhalte verhindert, dazu beitragen, den Schaden für die Reputation des Unternehmens zu begrenzen.
Einfachere Moderation von Inhalten: Das automatische Ausblenden von Hasskommentaren kann die Moderation von Inhalten leichter machen. Moderatoren müssen keine Zeit damit verschwenden, Hasskommentare zu löschen, weil TrollWall AI sie für sie ausblendet.
Die KI-Software TrollWall wird bereits in mehreren Ländern erfolgreich eingesetzt, darunter in Polen, der Tschechischen Republik und der Slowakei. In der Tschechischen Republik wurde das Tool zum Schutz der Wahlkampagne von Präsident Petr Pavel eingesetzt. TrollWall AI hat es geschafft, die Menge der Hasskommentare auf Pavels Profil um 98 % zu reduzieren.

TrollWall AI wird auch im Präsidentenpalast von Zuzana Čaputová eingesetzt, der ersten Frau, die zur Präsidentin der Slowakei gewählt wurde.

Der Markteintritt von TrollWall AI in den deutschsprachigen Ländern ist eine wichtige Nachricht für Unternehmen und Institutionen. Die Software kann dazu beitragen, einen sichereren und freundlicheren Raum für soziale Medien zu schaffen und die Bilder und Kampagnen von Marken zu schützen.

Weitere Informationen sind auf der Website des Unternehmens zu finden:

https://trollwall.ai/
https://www.linkedin.com/company/trollwall/

Schutz vor Hassrede im Internet

Das Internet ist ein mächtiges Werkzeug für die Kommunikation und den Informationsaustausch, aber es kann auch ein dunkler Ort sein, an dem Hassrede gedeiht. Hassrede im Netz kann viele Formen annehmen, von beleidigenden Kommentaren bis hin zu bedrohlichen Nachrichten, und sie kann ernsthafte psychologische Auswirkungen auf die Betroffenen haben. Glücklicherweise gibt es Maßnahmen, die jeder ergreifen kann, um sich vor Hassrede im Internet zu schützen.

Zunächst ist es wichtig, sich der eigenen digitalen Umgebung bewusst zu sein. Nutzer sollten ihre Privatsphäre-Einstellungen auf sozialen Netzwerken überprüfen und anpassen, um zu kontrollieren, wer ihre Beiträge sehen und darauf antworten kann. Es ist auch ratsam, persönliche Informationen wie Adresse oder Telefonnummer nicht online zu teilen.

Wenn man mit Hassrede konfrontiert wird, ist es entscheidend, Beweise zu sichern. Dies kann durch Screenshots oder das Speichern von Chatverläufen geschehen. Diese Beweise können nützlich sein, wenn man sich entscheidet, die Angelegenheit bei den Plattformbetreibern oder sogar bei der Polizei zu melden.

Das Netzwerkdurchsetzungsgesetz (NetzDG) in Deutschland verpflichtet Betreiber sozialer Netzwerke dazu, ein wirksames Beschwerdemanagement einzurichten, um Hassrede und andere strafbare Inhalte zu bekämpfen. Nutzer sollten sich dieser Rechte bewusst sein und die Beschwerdeverfahren nutzen, um Hassrede zu melden.

Es ist auch hilfreich, sich mit Organisationen zu vernetzen, die Unterstützung und Beratung im Umgang mit Hass im Netz bieten. Solche Organisationen können praktische Tipps geben und helfen, eine Strategie zum Umgang mit Hassrede zu entwickeln.

Letztendlich ist es wichtig, eine Kultur des Respekts und der Zivilcourage zu fördern. Das bedeutet, Hassrede nicht zu ignorieren, sondern ihr entgegenzutreten, wenn man sich sicher fühlt. Das kann bedeuten, in Kommentarspalten zu widersprechen oder Unterstützung für die Betroffenen zu zeigen.

Der Schutz vor Hassrede im Internet erfordert ein proaktives Vorgehen und das Wissen um die verfügbaren Ressourcen und Rechte. Durch die Nutzung der richtigen Werkzeuge und die Zusammenarbeit mit der Gemeinschaft kann jeder Einzelne dazu beitragen, das Internet zu einem sichereren und freundlicheren Ort für alle zu machen.

Hassrede im Internet ist ein ernstes Problem, das nicht ignoriert werden darf. Es gibt mehrere Anlaufstellen, an die man sich wenden kann, um Hassrede zu melden. Eine zentrale Rolle spielt dabei die Zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) des Bundeskriminalamts, die seit dem 1. Februar 2022 in Betrieb ist. Diese Meldestelle hat das Ziel, Hass und Hetze im Netz konsequent zu bekämpfen und eine effektive Strafverfolgung zu ermöglichen.

Neben der ZMI gibt es auch andere Organisationen und Plattformen, die sich dem Kampf gegen Hass im Netz widmen. Die Polizeiliche Kriminalprävention der Länder und des Bundes bietet auf ihrer Website Informationen darüber, wie man Hass im Netz melden kann. Sie betonen die Wichtigkeit, Hasskommentare zu dokumentieren und an die zuständigen Stellen weiterzuleiten.

Des Weiteren gibt es Initiativen wie Respect!, die bei Verstößen gegen deutsches Recht die Löschung von Beiträgen beim Netzwerkbetreiber beantragen und strafbare Inhalte anzeigen. Auch das Demokratiezentrum Baden-Württemberg bietet mit der Meldestelle „REspect!“ eine Möglichkeit, Hass-Botschaften zu melden und zur Überprüfung weiterzuleiten.

Es ist wichtig, dass jeder Einzelne aktiv wird und Hassrede nicht unkommentiert lässt. Durch das Melden von Hassrede tragen wir dazu bei, das Internet zu einem respektvolleren Ort zu machen. Jeder kann einen Unterschied machen, indem er Hassrede nicht toleriert und die entsprechenden Stellen informiert.

Genki Absmeier

616 Artikel zu „Hass Internet“

NEWS | TRENDS SECURITY | TRENDS KOMMUNIKATION | DIGITALISIERUNG | TRENDS 2016 | IT-SECURITY | KOMMUNIKATION | TIPPS

Soziale Netzwerke: Gemeldete Hassbeiträge im Internet nehmen rasant zu

19. Februar 2017

Es ist inzwischen bekannt, dass sich extremistische Inhalte vor allem über soziale Netzwerke verbreiten. Immer öfter nutzen User jedoch auch die Möglichkeit, diese Inhalte zu melden. Die Organisation »jugendschutz.net« bietet unter »hass-im-netz.info« eine digitale Beschwerdestelle. Da sich extremistische Gruppen in ihrer Ansprache immer stärker an Jugendliche richten, prüft die Stelle, ob die Inhalte als jugendgefährdend…