Walliser Forscher wollen Gesichtserkennung "gerechter" machen

12. August 2020, 15:04
  • innovation
  • schweiz
  • künstliche intelligenz
image

Am Idiap wird eine Datenbank mit Millionen von Bildern aufgebaut, die nach ethischen Regeln erfasst werden.

Um Verzerrungen bei der Gesichtserkennung zu vermindern, seien Datensätze mit repräsentativen Bildern erforderlich, schreibt das Forschungsinstitut Idiap in einer Mitteilung. In Martigny wolle man aber noch einen Schritt weitergehen und bei der Erstellung eines "ethischen Bilddatensatzes" mithelfen.
Bei der Erkennung von weissen Männern seien die Algorithmen zur Erkennung eines Gesichts in der Regel sehr leistungsfähig. Bei Frauen oder Menschen mit einer anderen Hautfarbe seien die Erfolgsraten viel geringer. Dies liege aber nicht daran, dass die KI darauf programmiert sei, "zu diskriminieren", schreibt das Idiap. "Die Programme werden mit Beispielen von Gesichtern trainiert, die nicht die menschliche Vielfalt widerspiegeln."
Um diese Ungleichheit zu überwinden und die Sicherheit von Gesichtserkennungssystemen zu verbessern, erstelle die Forschungsgruppe Biometrische Sicherheit und Datenschutz eine neue, zuverlässigere Datenbank. Diese sei Teil einer Partnerschaft mit einem im Sicherheitsbereich tätigen Unternehmen, das nicht genannt wird.
"Normalerweise wird diese Art von Bildbeschrieben zur Erstellung von Metadaten, wie zum Beispiel Geschlecht oder Augenfarbe, an Crowdsourcing-Plattformen wie Amazon Mechanical Turk (MTurk) ausgelagert", sagt Sébastien Marcel, Leiter der Forschungsgruppe. Um mehr Vertraulichkeit zu schaffen, würden nun mehrere Studenten des Idiap Millionen von Bildern beschriften und so eine ethisch repräsentative Datenbank erstellen. Diese Daten würden anschliessend beim Idiap bleiben und nicht verteilt werden.
Auch in Amsterdam wird neuerdings an einem "gerechteren Einsatz von KI" geforscht. Dafür sei eine neue Forschungseinrichtung namens "Civic Al Lab" eröffnet worden, teilt die Stadt mit. Auch hier wird Gesichtserkennung als ein Feld von "Ungleichbehandlungen" genannt. Weiter sollen im Civic Al Lab die Vor- und Nachteile der KI in den Bereichen Bildung, Wohlfahrt, Umwelt, Mobilität und Gesundheit untersucht werden.

Loading

Mehr zum Thema

image

Bruce Schneier: "Man wird nie sicher sein, dass E-Voting nicht manipuliert wurde"

Kryptographie-Guru Schneier war kürzlich in Zürich. Wir haben mit ihm über E-Voting, Cybersicherheit und die US-Zentralbank gesprochen.

publiziert am 6.10.2022 3
image

Microsoft hostet E-Mail-Adressen des Schweizer Parlaments

Die Datenhaltung in der Schweiz ist von Microsoft vertraglich zugesichert. Die Lizenzen kosten 600 Franken pro Ratsmitglied und Jahr.

publiziert am 6.10.2022 1
image

Rechnen sich die Milliarden-Investitionen in das Metaverse?

Insgesamt 70 Milliarden Dollar will Meta für die Entwicklung seiner immersiven Techplattform aufbringen. So viel wie nie ein Tech-Konzern zuvor in neue Technologien investiert hat.

publiziert am 5.10.2022
image

Studien zeigen Trägheit bei der Digitalisierung in der Schweiz

Die neuen Technologien werden zwar als Chance verstanden, aber Menschen haben Mühe, beim digitalen Fortschritt mitzuhalten.

publiziert am 4.10.2022