AWS-Tool soll Bias bei ML-Modellen mindern

10. Dezember 2020, 15:15
  • aws
  • künstliche intelligenz
  • developer
  • channel
image

Das Problem von Vorurteilen könne man nicht allein mit Software beheben, sagt AWS. Ein neues Tool aber soll zumindest dabei helfen.

Unternehmen, die sich zunehmend auf Machine-Learning-Modelle verlassen, benötigen Massnahmen, um zu verhindern, dass es zu Verzerrungen kommt. Sie müssen sicherstellen können, dass ihre ML-Modelle keine irreführenden Annahmen treffen und dass sich keine Vorurteile einschleichen oder Bias verstärkt wird.
An seiner Konferenz hat der Cloud Provider AWS eine Reihe von Tools rund um die ML-Plattform Sagemaker vorgestellt. Diese sollen Unternehmen bei ihren Machine-Learning-Schritten unterstützen.
Sagemaker Data Wrangler mache es einfacher, gewünschte Daten zu importieren. Ein Repository soll dabei helfen, Daten zu organisieren, zu finden und auszutauschen.
Mit Sagemaker Jumpstart bietet AWS ein Portal mit vortrainierten Modellen und vorgefertigten Workflows. Als Beispiel nennt das Unternehmen die Use Cases Betrugserkennung oder Vorhersagen zur Kundenabwanderung.

Bias in Daten und Modellen besser erkennen

Zu den Ankündigungen gehört auch Sagemaker Clarify. Dies ermögliche es den Anwendern, über den gesamten ML-Lebenszyklus Einblicke in die Daten und Modelle zu erhalten, erklärt das Unternehmen. Clarify lasse sich in Sagemaker Data Wrangler integrieren, wo es eine Reihe von Algorithmen ausführt, um Verzerrungen während der Datenvorbereitung zu erkennen. So sollen Probleme gefunden werden, bevor Anwender mit der Erstellung eines Modells beginnen, erklärt der Chef von AWS Machine Learning, Bratin Saha, gegenüber 'Tech Crunch'.
User könnten so erkennen, ob der Datensatz beispielsweise die gleiche Anzahl von verschiedenen Klassen – etwa Männer und Frauen – beinhaltet. Und auch nach der Erstellung eines Modells könne eine Analyse durchgeführt werden. Denn Bias könne sich auf verschiedene Arten in ein ML-Modell einschleichen. Etwa aufgrund des Hintergrunds der Datenwissenschaftler, die das Modell erstellen, der Art der Daten sowie der Art und Weise, wie diese Daten vom Modell interpretiert werden. Bekanntlich können so Stereotypen verstärkt werden.
Sagemaker Clarify würde zeigen, ob es Bias in den Daten und im Modell gebe. Die Visualisierungen würden eine Beschreibung der Quellen und des Schweregrads möglicher Verzerrungen enthalten, heisst es in der AWS-Ankündigung. Ausserdem erleichtere es die Erklärbarkeit der Analysen. Der AWS-Manager betont aber gegenüber 'Tech Crunch', dass das Tool zwar helfen, aber nicht alle Bias-Probleme in Machine-Learning-Modellen verhindern könne. Weitere Unterstützung biete man den Anwendern mit Dokumentationen und Best Practices.  

Loading

Mehr zum Thema

image

All for One legt Schweizer Töchter zusammen

Die beiden SAP-Dienstleister Process-Partner und ASC werden zu All for One Switzerland.

publiziert am 29.9.2022
image

EU plant Haftungsregeln für künstliche Intelligenz

Die EU-Kommission will Private und Unternehmen besser vor "Schäden" durch KI schützen. Gleichzeitig soll das Vertrauen in neue Technologien gestärkt werden.

publiziert am 28.9.2022
image

Geopolitische Lage dämpft Erwartungen der Schweizer ICT-Branche

Der Swico-Index zur Stimmung in der ICT-Branche ist erneut rückläufig. Die Anbieter glauben aber, dass sich die Auftragslage positiv entwickelt.

publiziert am 28.9.2022
image

Der CTO von Microsoft Azure will künftig auf Rust setzen

Weil die Programmiersprache sicherer und zuverlässiger als C und C++ ist, soll sie in Zukunft vermehrt zum Einsatz kommen. Der C++-Erfinder hingegen sieht die Ablösung als "gewaltige Aufgabe".

publiziert am 28.9.2022