New York engagiert einen Chief Algorithm Officer

26. November 2019, 10:52
  • security
image

Der Einsatz von Automatisierung nehme innerhalb der Regierung von New York City wie auch in den Gemeinden des ganzen Landes zu.

Der Einsatz von Automatisierung nehme innerhalb der Regierung von New York City wie auch in den Gemeinden des ganzen Landes zu. Dienstleistungen sollen schneller erbracht werden und Entscheidungsprozesse rationalisiert werden. Dies schreibt eine Task Force zum Hintergrund ihrer Arbeit, in der der Einsatz automatisierter Entscheidungssysteme (Automated Decision Systems, ADS) untersucht wurde. ADS treffen Entscheidungen beispielsweise über Ressourcen, die den Bürgern zur Verfügung gestellt werden.
Damit diese Entscheidungen nachvollziehbar und möglichst frei von Vorurteilen bleiben, empfiehlt die Task Force nach 18 Monaten Arbeit der Stadt, ihre Kapazitäten so auszubauen, dass ein "gerechter und verantwortungsbewusster Umgang mit ADS" erreicht werde. Eine konkrete Empfehlung ist die Formalisierung der ADS-Management-Funktionen.
Basierend auf dem Bericht der Task Force habe nun New Yorks Bürgermeister, Bill de Blasio, eine entsprechende Stelle in der Regierung geschaffen, berichtet 'Ars Technica'. Dabei handelt es sich um einen "Algorithms Management and Policy Officer". Der Algorithmus-Chef werde im Wesentlichen für die Entwicklung von Richtlinien und Best Practices im Umgang mit automatisierten Entscheidungen verantwortlich sein. Ziel sei es, faire und transparente Entscheidungen zu fällen.
Das Thema, dass Algorithmen (unbewusste) Vorurteile aufrechterhalten oder gar verstärken und somit diskriminierend sein können, ist nicht neu. Deshalb empfiehlt die Task Force einen Prozess zu etablieren, um zu untersuchen, ob eine automatisierte Entscheidung eine Person unverhältnismässig stark betrifft, basierend etwa auf deren Hautfarbe, Religion, nationaler Herkunft, Geschlecht, Familienstand oder sexueller Orientierung. Zudem sollen Abläufe entwickelt werden, um Fälle zu bewältigen, in denen Personen aufgrund oben genannter Kategorien benachteiligt wurden.
"Mit jeder neuen Technologie kommt zusätzliche Verantwortung hinzu, und ich freue mich darauf, einen Algorithms Management und Policy Officer in meinem Team zu begrüssen, um sicherzustellen, dass die Instrumente, mit denen wir Entscheidungen treffen, fair und transparent sind", sagt Bürgermeister de Blasio in einer Mitteilung der Stadt New York.
Weitere Empfehlungen der Task Force sind Transparenz gegenüber der Öffentlichkeit, welche Entscheidungen automatisiert gefällt werden. Zudem sollen die Entscheidungen der Algorithmen nachvollziehbar sein. Und auch eine Kosten-Nutzen-Analyse dürfe nicht fehlen, wie weiter aus dem Bericht hervorgeht. Die Task Force besteht aus Vertretern der städtischen Behörden sowie externen Experten zu den Themen Recht, Daten und Technologie, Wissenschaft und Menschenrecht. Den vollständigen Bericht gibt es online als PDF. (kjo)

Loading

Mehr zum Thema

image

Die Schatten-IT ins Licht setzen

Leuchten Sie die Schatten-IT in Ihrem Unternehmen bis in den letzten Winkel aus und schaffen Sie Transparenz über alle Ihre IT-Systeme, -Anwendungen und -Prozesse.

image

Jetzt hat ein grosser Krypto-Hack Harmony getroffen

Hacker haben Coins im Wert von rund 100 Millionen Dollar aus einem Schlüsselprodukt der US-Kryptofirma gestohlen.

publiziert am 24.6.2022
image

NCSC mahnt: Bitte keine Privatgeräte im Homeoffice

Der Zugriff aufs Firmennetzwerk mit privaten Geräten ist mit erheblichen Risiken verbunden. Das zeigt ein aktueller Ransomware-Angriff.

publiziert am 24.6.2022 6
image

Bericht zeigt russische Cyber­aktivitäten seit Kriegs­beginn

Mit dem russischen Angriffskrieg gehen massive Cyber­kampagnen einher. Diese betreffen die Ukraine, aber auch weitere Länder, darunter die Schweiz, zeigt ein Report.

publiziert am 23.6.2022