New York engagiert einen Chief Algorithm Officer

26. November 2019, 10:52
  • security
image

Der Einsatz von Automatisierung nehme innerhalb der Regierung von New York City wie auch in den Gemeinden des ganzen Landes zu.

Der Einsatz von Automatisierung nehme innerhalb der Regierung von New York City wie auch in den Gemeinden des ganzen Landes zu. Dienstleistungen sollen schneller erbracht werden und Entscheidungsprozesse rationalisiert werden. Dies schreibt eine Task Force zum Hintergrund ihrer Arbeit, in der der Einsatz automatisierter Entscheidungssysteme (Automated Decision Systems, ADS) untersucht wurde. ADS treffen Entscheidungen beispielsweise über Ressourcen, die den Bürgern zur Verfügung gestellt werden.
Damit diese Entscheidungen nachvollziehbar und möglichst frei von Vorurteilen bleiben, empfiehlt die Task Force nach 18 Monaten Arbeit der Stadt, ihre Kapazitäten so auszubauen, dass ein "gerechter und verantwortungsbewusster Umgang mit ADS" erreicht werde. Eine konkrete Empfehlung ist die Formalisierung der ADS-Management-Funktionen.
Basierend auf dem Bericht der Task Force habe nun New Yorks Bürgermeister, Bill de Blasio, eine entsprechende Stelle in der Regierung geschaffen, berichtet 'Ars Technica'. Dabei handelt es sich um einen "Algorithms Management and Policy Officer". Der Algorithmus-Chef werde im Wesentlichen für die Entwicklung von Richtlinien und Best Practices im Umgang mit automatisierten Entscheidungen verantwortlich sein. Ziel sei es, faire und transparente Entscheidungen zu fällen.
Das Thema, dass Algorithmen (unbewusste) Vorurteile aufrechterhalten oder gar verstärken und somit diskriminierend sein können, ist nicht neu. Deshalb empfiehlt die Task Force einen Prozess zu etablieren, um zu untersuchen, ob eine automatisierte Entscheidung eine Person unverhältnismässig stark betrifft, basierend etwa auf deren Hautfarbe, Religion, nationaler Herkunft, Geschlecht, Familienstand oder sexueller Orientierung. Zudem sollen Abläufe entwickelt werden, um Fälle zu bewältigen, in denen Personen aufgrund oben genannter Kategorien benachteiligt wurden.
"Mit jeder neuen Technologie kommt zusätzliche Verantwortung hinzu, und ich freue mich darauf, einen Algorithms Management und Policy Officer in meinem Team zu begrüssen, um sicherzustellen, dass die Instrumente, mit denen wir Entscheidungen treffen, fair und transparent sind", sagt Bürgermeister de Blasio in einer Mitteilung der Stadt New York.
Weitere Empfehlungen der Task Force sind Transparenz gegenüber der Öffentlichkeit, welche Entscheidungen automatisiert gefällt werden. Zudem sollen die Entscheidungen der Algorithmen nachvollziehbar sein. Und auch eine Kosten-Nutzen-Analyse dürfe nicht fehlen, wie weiter aus dem Bericht hervorgeht. Die Task Force besteht aus Vertretern der städtischen Behörden sowie externen Experten zu den Themen Recht, Daten und Technologie, Wissenschaft und Menschenrecht. Den vollständigen Bericht gibt es online als PDF. (kjo)

Loading

Mehr zum Thema

image

Wilken nach Cyberangriff wiederhergestellt

Der ERP-Anbieter kann sein volles Portfolio wieder liefern. Kunden­daten sollen bei dem Hack keine abhandengekommen sein.

publiziert am 8.12.2022
image

Glutz nach Cyberangriff wieder im eingeschränkten Betrieb

Die Solothurner Firma wurde zum Ziel eines Ransomware-Angriffes. Spezialisten sowie IT-Forensiker arbeiten noch immer daran, die Systeme gänzlich wiederherzustellen.

publiziert am 8.12.2022
image

Apple riegelt seine Cloud ab und wirft den Schlüssel weg

Der Konzern plant ein rigides Verschlüsselungssystem für den hauseigenen Cloudspeicher. Usern gefällt das, den US-Straf­verfolgungs­behörden hingegen nicht.

publiziert am 8.12.2022
image

San Francisco: Vorerst doch keine Roboter zum Töten

In einer zweiten Abstimmung hat sich das kommunale Gremium doch noch gegen die Richtlinie entschieden.

publiziert am 7.12.2022