Wegen eines Algorithmus-Fehlers in Handschellen gelegt

26. Juni 2020, 12:51
image

Erstmals ist ein Fall dokumentiert, in dem ein Unschuldiger wegen Facial Recognition verhaftet wurde. Es traf nicht zufällig einen schwarzen Menschen.

Der Afroamerikaner Robert Julian-Borchak Williams lebt in einem Vorort der Stadt Farmington Hills im US-Bundesstaat Michigan. Im Januar wurde er vor den Augen seiner Frau und seiner Kinder in Handschellen abgeführt und musste eine Nacht in der Zelle verbringen. Erst 30 Stunden nach seiner Verhaftung wurde er auf Kaution auf freien Fuss gesetzt.
Die Polizisten hielten dem korpulenten Mann bei der Verhaftung lediglich ein Foto von ihm unter die Nase. Der Afroamerikaner ist möglicherweise der erste, der wegen eines Fehlers einer Gesichtserkennungs-Software verhaftet und eingesperrt wurde. Zumindest ist es der erste Fall, der dokumentiert und aufgearbeitet worden ist. Er wurde in der 'New York Times' veröffentlicht und dürfte die Diskussion um Gesichtserkennungs-Software weiter anheizen.
Die Technologie wurde in den letzten Wochen heiss diskutiert. Als Folge der Black-Lives-Matter-Demonstration gaben IBM, Microsoft und AWS bekannt, dass sie sich aus der Entwicklung von Facial Recognition zurückziehen oder die Zusammenarbeit mit Strafverfolgern sistieren – zumindest teilweise. Als einer der Gründe wurde der mögliche rassistische Bias von KI genannt. Eine Studie des MIT und des NIST hatte zudem zu Tage gefördert, dass Facial Recognition zwar bei weissen Menschen relativ gut funktioniert, aber bei anderen Hautfarben weniger zuverlässig ist.
Das war offenbar auch im Fall von Williams das Problem. In einem Überwachungsvideo ist zu sehen, wie ein schwarzer, ebenfalls korpulenter Mann mit Baseballmütze einen Luxusladen um drei Uhren im Wert von 3800 Dollar bestiehlt. Bei der Polizei in Michigan glich eine KI die Bilder der Überwachungskamera mit einer Gesichtsdatenbank ab - und spuckte das Bild von Williams mit einem bestimmten Treffer-Score aus.
Zwar wurde das Foto von der Polizei in Michigan von Williams mit dem Verweis "Dieses Dokument ist keine positive Identifikation" an eine örtliche Dienststelle in Detroit geschickt. Diese leitete aber offenbar keine weiteren Ermittlungen ein, sondern nahm das Bild von Williams in eine Fotoreihe auf, welche einer Sicherheitsbeauftragten des Luxusladens vorgelegt wurde. Diese identifizierte Williams wiederum auf Grundlage des Videos. Und so klickten die Handschellen.
Im Einsatz war bei der Polizei eine 5,5 Millionen Franken teure Lösung, die von DataWorks Plus geliefert worden war. Beim Unternehmen gab man sich gegenüber der 'New York Times' einsichtig: Man habe "ziemlich viel Müll ausprobiert" und sich mit der Zeit zu einem "Pseudo-Experten" auf dem Gebiet entwickelt – ohne die Resultate je wissenschaftlich zu prüfen.
Für Williams hatte das Konsequenzen, auch wenn er ein Alibi für den Tatzeitpunkt hat. Er musste schliesslich vor einem Gericht erscheinen. Dort wurde er zwar ohne Verhandlung entlassen, allerdings ohne Urteil, so dass er später erneut angeklagt werden könnte. 

Loading

Mehr zum Thema

image

Google will ChatGPT-Konkurrenz öffentlich zugänglich machen

OpenAI hat mit Microsoft den Kampf um die Zukunft des Internets eröffnet, nun zieht Google nach. Das bedeutet ein Umdenken im Suchmaschinenkonzern.

publiziert am 3.2.2023
image

Das Wachstum der Hyperscaler verlangsamt sich

Bei AWS, Azure und Google Cloud ist es jahrelang nur steil bergauf gegangen. Jetzt aber macht sich der Spardruck der Kunden bemerkbar.

publiziert am 3.2.2023
image

APIs bei Twitter werden kostenpflichtig

Schon in weniger als einer Woche werden Entwicklerinnen und Entwickler zur Kasse gebeten. Ein Preismodell gibts noch nicht.

publiziert am 3.2.2023
image

DXC hofft auf Turnaround im kommenden Jahr

Der Umsatz des IT-Dienstleisters ist im abgelaufenen Quartal erheblich geschrumpft. Im nächsten Geschäftsjahr soll es aber wieder aufwärts gehen, sagt der CEO.

publiziert am 2.2.2023