Jigsaw geht mit KI gegen Internet-Trolle vor

23. Februar 2017, 15:02
  • innovation
  • künstliche intelligenz
  • software
image

Die Google-Schwester will mit dem Dienst "Perspective" gehässige Kommentare im Internet identifizieren.

Die Google-Schwester will mit dem Dienst "Perspective" gehässige Kommentare im Internet identifizieren.
Big Data gegen Hass-Rede und Online-Pöbelei: Die Google-Schwester Jigsaw hat heute den Dienst "Perspective" gestartet, mit dem im Netz leichter Kommentare identifiziert werden können, die als gehässig, unfreundlich, bösartig, gemein oder verletzend empfunden werden. Im Rahmen der Digitalen News Initiative (DNI) werde Jigsaw eine Schnittstelle zur Verfügung stellen, mit der Verlage "Perspective" kostenlos nutzen können. Wer möchte, kann den Dienst online testen. Der Dienst steht vorerst nur für englischsprachige Diskussionsforen zu Verfügung. Im Rahmen der DNI könne das Projekt aber auf andere Sprachen erweitert werden.
Mehr als nur eine Blacklist
Der Ansatz bei "Perspective" gehe deutlich über den Abgleich mit einer Liste verdächtiger Schlüsselbegriffe hinaus, sagte Jigsaw-Manager Jared Cohen. Das System von Jigsaw stelle auf einer Skala zwischen 0 und 100 fest, wie giftig ("toxic") ein Kommentar sei.
Perspective wurde zuvor in Projekten mit der Wikimedia-Stiftung, der 'New York Times' und weiteren Partnern erprobt. Dabei wurde unter anderem ein Datensatz aus insgesamt mehr als 115'000 Nachrichten von Wikipedia-Diskussionsseiten ausgewertet. Diese Kommentare wurden auch jeweils von einer Gruppe von Menschen, die Jigsaw online rekrutierte, beurteilt. Diese Ergebnisse dienten als Trainings-Grundlage für das Machine-Learning-Modell.
Beim Schreiben auf Toxizität hinweisen
Was mit den Kommentaren dann passiere, liege in der Hand der Verleger oder den Administratoren einer Social-Media-Seite.
So könne das System einen Mitarbeiter auf Kommentare aufmerksam machen, der sich dann in die Konversation einschalten könnte.
Man könne den Anwendern aber auch schon beim Schreiben des Kommentars anzeigen, wie ihr Text eingeschätzt wird, um zu einem besseren Umgangston beizutragen. Ausserdem könnten Leser die Kommentare so sortieren lassen, dass besonders gehässige Beiträge ausgeblendet werden. (kjo/sda)

Loading

Mehr zum Thema

image

100 Millionen Dollar für zwei Schweizer Krypto-Startups

Zwei Firmen mit offiziellem Sitz in Zug konnten je 50 Millionen sammeln. Eine verspricht "grüne" Blockchain-Infrastruktur, die andere umfassende Möglichkeiten für Krypto-Investments.

publiziert am 23.9.2022
image

Verstärkung für ETH kommt aus Kopenhagen

Die Hochschule beruft einen neuen Professor im Departement Mathematik, der auf Statistik und Machine Learning spezialisiert ist. Ein anderer KI-Spezialist verlässt die Uni.

publiziert am 23.9.2022
image

Drohnenschwarm erledigt Bauarbeiten und Reparaturen

In Zukunft sollen Drohnen wie Bienen zusammenarbeiten können, um Bauten zu errichten. Wie ihre tierischen Vorbilder würden sich die Fluggeräte die Arbeit teilen.

publiziert am 22.9.2022
image

Zühlke ist neuer Partner des LowCodeLabs

Zühlke und das Lab der OST machen gemeinsame Sache: Im Bereich Low Code gehen die beiden eine strategische Partnerschaft ein, um Lehre, Forschung und Wirtschaft zu verknüpfen.

publiziert am 20.9.2022