Facebook: Unsere Anti-Hate-Speech-KI wirkt

18. Oktober 2021, 14:56
  • international
  • künstliche intelligenz
  • facebook
image

Ein 'Wall-Street-Journal'-Artikel hatte kritisiert, dass Facebooks KI-Systeme nur sehr wenige Posts mit aufstachelnden und problematischen Inhalten eliminiere.

In einem Blogpost hat Guy Rosen, Vice President Integrity bei Facebook erklärt, dass die KI-Systeme, welche das soziale Netzwerk zur Unterdrückung von Hate-Speech, also rassistischen, sexistischen oder anderen zu Gewalt anstachelnden Aussagen, durchaus wirksam seien und zudem dauernd verbessert würden. Rosen widerspricht damit einem Artikel des 'Wall Street Journals'.
Laut dem 'WSJ'-Artikel (Paywall) sagen Facebook-Angestellte, dass die von Facebook selbst hochgelobten KI-Systeme nur einen tiefen einstelligen Prozentsatz der Inhalte, die gegen die offiziellen Nutzungsbestimmungen von Facebook verstossen, löschen würden. Das System habe beispielsweise Mühe damit, Videoclips von Schiessereien zu erkennen, die aus der Sicht eines Schützen aufgenommen wurden. Auch rassistische Texte könne es nicht zuverlässig identifizieren. Es habe sogar eine Zeit lang Mühe damit gehabt, den Unterschied zwischen Hahnenkämpfen und Autounfällen zu erkennen. Das 'WSJ' stützte sich bei seinem Bericht auf Facebook-interne Dokumente, die ihm zugespielt wurden
Rosen sagt zwar nicht, dass die automatischen Systeme in Wirklichkeit einen viel höheren Anteil der heiklen Inhalte direkt löschen, als das 'WSJ' geschrieben hat. Aber die Technologie reduziere die Weiterverbreitung von Inhalten, bei denen sie sich nicht sicher sei. Gruppen, Seiten oder Menschen, die Inhalte posten, die wahrscheinlich die Nutzungsbestimmungen verletzen, würden beispielsweise vom System nicht weiterempfohlen. Bevor man etwas lösche, müsse man sich schliesslich sicher sein, dass es tatsächlich den Bestimmungen widerspricht. Und Technologie sei nur ein Mittel, mit dem man solche Inhalte bekämpfe.
Als Beweis dafür, dass die Massnahmen bei Facebook insgesamt Wirkung zeigen würden, nennt Rosen die "Prävalenz" von Hate-Speech-Inhalten. Diese sei in den letzten 12 Monaten von 0,10% auf 0,05% gesunken. Als Prävalenz bezeichnet Facebook die Anzahl der Views, die eine bestimmte Art von Inhalten erhält, gemessen an der Gesamtzahl aller Views auf Facebook und Instagram. Gegenwärtig würden User also bei 5 von 10'000 von ihnen generierten Views Hate-Speech-Inhalte vorfinden, die Facebook nicht eliminiert hat.
Gemäss dem "Transparency Center" von Facebook wird der Prävalenzwert aufgrund von Stichproben hochgerechnet.
Laut Rosen ist auch die Zuverlässigkeit, mit der die KI-Systeme heikle Inhalte erkennen, deutlich gestiegen. Als Beweis nennt er diese Zahl: 2016 sei noch die grosse Mehrheit aller Löschungen von Inhalten aufgrund von Meldungen von Usern erfolgt. Mittlerweile würden 97% dieser Löschungen durchgeführt, weil die eigenen Systeme die Inhalte gemeldet hätten.
Auch das 'WSJ' erwähnt, dass Facebook nach eigener Aussage die Verbreitung von Inhalten, die von den KI-Systemen als verdächtig eingestuft, aber nicht gelöscht wurden, unterdrückt. Aber, so kritisiert der Artikel, die Accounts, von denen diese Inhalte gepostet wurden, würden nicht bestraft.
Das Hin und Her zwischen dem 'Wall Street Journal' und Facebook erfolgt im Nachgang der scharfen Anschuldigungen, welche eine Ex-Angestellte vorgebracht hatte. Frances Haugen, eine ehemalige Produktmanagerin von Facebook, sagte dem US-Kongress, dass Facebook zwar vorgebe, User schützen zu wollen, aber in Wirklichkeit oft das Gegenteil tue, um seine Geschäfte zu fördern. 

Loading

Mehr zum Thema

image

Gartner zur Zukunft: NFTs und Metaverse sind ungewiss, bieten aber viel Potential

Die Marktforscher haben den neusten "Hype Cycle" publiziert, spannend finden sie vor allem Technologien im frühen Entwicklungsstadium. Ausgang der Experimente: strittig.

publiziert am 12.8.2022
image

Report: Githubs KI-Tool Copilot macht Code unsicherer

Das einst gross angekündigte Tool von Github schreibe eine Menge Lücken in Software, erklären Forscher aus den USA. Sie haben ihre Befunde an der Black-Hat-Konferenz präsentiert.

publiziert am 12.8.2022
image

Mac-Netzteile sind knapp

Je höher die Leistung, desto wahrscheinlicher verspätet sich die Lieferung der Mac-Netzteile.

publiziert am 5.8.2022
image

Infoblox hat neuen europäischen Channelchef gefunden

Ashraf Sheet hatte das Unternehmen Anfang Jahr verlassen. Sein Nachfolger Aric Ault will das Geschäft über den Channel weiter ausbauen.

publiziert am 5.8.2022