Wenn Sie in verschiedenen sozialen Netzwerken etwas berühmt sind, sind Sie wahrscheinlich in Ihren Antworten oder Kommentaren Hassreden ausgesetzt. Das französische Startup Bodyguard hat kürzlich seine App und seinen Service auf Englisch gestartet, damit es giftige Inhalte vor Ihren Augen verbergen kann. Es ist seit einigen Jahren auf Französisch erhältlich und das Unternehmen hat bisher 50.000 Benutzer angezogen.

“Wir haben eine Technologie entwickelt, die Hassreden im Internet mit einer Genauigkeit von 90 bis 95% und nur 2% von falsch positiven Ergebnissen erkennt”, sagte mir Gründer und CEO Charles Cohen.

Das Unternehmen hat mit einer mobilen App begonnen, die jeder nutzen kann. Nachdem Sie die App heruntergeladen und mit Ihren bevorzugten sozialen Netzwerken verbunden haben, wählen Sie die Moderationsstufe. Es gibt verschiedene Kategorien wie Beleidigungen, Körperbeschämung, moralische Belästigung, sexuelle Belästigung, Rassismus und Homophobie. Sie können für jede Kategorie auswählen, ob es sich um eine niedrige oder eine hohe Priorität handelt.

Danach müssen Sie die App nicht mehr öffnen. Bodyguard scannt Antworten und Kommentare von seinen Servern und trifft eine Entscheidung, ob etwas in Ordnung ist oder nicht. Beispielsweise können Kommentare ausgeblendet, Benutzer stummgeschaltet, Benutzer blockiert usw. Wenn Sie Instagram oder Twitter erneut öffnen, haben diese hasserfüllten Kommentare nie existiert.

Die App unterstützt derzeit Twitter, YouTube, Instagram und Twitch. Leider können Inhalte auf Snapchat und TikTok aufgrund von API-Einschränkungen nicht verarbeitet werden.

Hinter den Kulissen stützen sich die meisten Moderationsdienste stark auf maschinelles Lernen oder schlüsselwortbasierte Moderation. Bodyguard hat einen anderen Ansatz gewählt. Es bereinigt einen Kommentar algorithmisch und versucht, den Inhalt eines Kommentars kontextuell zu analysieren. Es kann feststellen, ob ein Kommentar für Sie, eine dritte Person, eine Gruppe von Personen usw. anstößig ist.

In jüngerer Zeit hat das Startup ein B2B-Produkt auf den Markt gebracht. Andere Unternehmen können eine Bodyguard-basierte API verwenden, um Kommentare in Echtzeit auf ihren sozialen Plattformen oder in ihren eigenen Apps zu moderieren. Das Unternehmen berechnet seinen Kunden einen traditionellen Software-as-a-Service-Ansatz.