New York engagiert einen Chief Algorithm Officer

Der Einsatz von Automatisierung nehme innerhalb der Regierung von New York City wie auch in den Gemeinden des ganzen Landes zu. Dienstleistungen sollen schneller erbracht werden und Entscheidungsprozesse rationalisiert werden. Dies schreibt eine Task Force zum Hintergrund ihrer Arbeit, in der der Einsatz automatisierter Entscheidungssysteme (Automated Decision Systems, ADS) untersucht wurde. ADS treffen Entscheidungen beispielsweise über Ressourcen, die den Bürgern zur Verfügung gestellt werden.
 
Damit diese Entscheidungen nachvollziehbar und möglichst frei von Vorurteilen bleiben, empfiehlt die Task Force nach 18 Monaten Arbeit der Stadt, ihre Kapazitäten so auszubauen, dass ein "gerechter und verantwortungsbewusster Umgang mit ADS" erreicht werde. Eine konkrete Empfehlung ist die Formalisierung der ADS-Management-Funktionen.
 
Basierend auf dem Bericht der Task Force habe nun New Yorks Bürgermeister, Bill de Blasio, eine entsprechende Stelle in der Regierung geschaffen, berichtet 'Ars Technica'. Dabei handelt es sich um einen "Algorithms Management and Policy Officer". Der Algorithmus-Chef werde im Wesentlichen für die Entwicklung von Richtlinien und Best Practices im Umgang mit automatisierten Entscheidungen verantwortlich sein. Ziel sei es, faire und transparente Entscheidungen zu fällen.
 
Das Thema, dass Algorithmen (unbewusste) Vorurteile aufrechterhalten oder gar verstärken und somit diskriminierend sein können, ist nicht neu. Deshalb empfiehlt die Task Force einen Prozess zu etablieren, um zu untersuchen, ob eine automatisierte Entscheidung eine Person unverhältnismässig stark betrifft, basierend etwa auf deren Hautfarbe, Religion, nationaler Herkunft, Geschlecht, Familienstand oder sexueller Orientierung. Zudem sollen Abläufe entwickelt werden, um Fälle zu bewältigen, in denen Personen aufgrund oben genannter Kategorien benachteiligt wurden.
 
"Mit jeder neuen Technologie kommt zusätzliche Verantwortung hinzu, und ich freue mich darauf, einen Algorithms Management und Policy Officer in meinem Team zu begrüssen, um sicherzustellen, dass die Instrumente, mit denen wir Entscheidungen treffen, fair und transparent sind", sagt Bürgermeister de Blasio in einer Mitteilung der Stadt New York.
 
Weitere Empfehlungen der Task Force sind Transparenz gegenüber der Öffentlichkeit, welche Entscheidungen automatisiert gefällt werden. Zudem sollen die Entscheidungen der Algorithmen nachvollziehbar sein. Und auch eine Kosten-Nutzen-Analyse dürfe nicht fehlen, wie weiter aus dem Bericht hervorgeht. Die Task Force besteht aus Vertretern der städtischen Behörden sowie externen Experten zu den Themen Recht, Daten und Technologie, Wissenschaft und Menschenrecht. Den vollständigen Bericht gibt es online als PDF. (kjo)