Eine globale Koalition will Regeln für die Nutzung von Facial Recognition in Städten und den KI-Einsatz in Behörden. Welche Projekte gibt es in der Schweiz?
"In Schweizer Städten spielt digitale Ethik noch keine so grosse Rolle wie in einigen Grossstädten in der EU oder den USA", sagt Stefan Metzger, Chief Digital Officer der Stadt Luzern. Die technologische Entwicklung in Sachen Smart City sei noch nicht so weit, häufig fände man für die Problemstellungen nicht-technische Lösungen. Deshalb würden sich ethische Fragestellungen nicht aufdrängen.
Stefan Metzger.
Ansätze gibt es dennoch: In der Stadt Zürich wird ein Pilot-Projekt für digitale Transparenz aufgegleist. Via QR-Code sollen Passanten sehen können, welche Daten von Sensoren in der Stadt aufgenommen werden. Auch im Smart City Hub Schweiz, in dessen Vorstand Metzger sitzt, wird über Ethik und Transparenz diskutiert. Der Fokus liegt aber nicht auf dem Thema und es gibt keine Arbeitsgruppe dazu, räumt Metzger gegenüber inside-it.ch ein. Der Verband zählt unter anderem die Städte Aarau, Bern, Luzern, Schaffhausen, St. Gallen, Winterthur, Zug, Zürich sowie die SBB, die Post und Swisscom zu seinen Mitgliedern.
KI und Ethik: Global eine kontroverse Debatte
Über Ethik für künstliche Intelligenz und über digitale Rechte wird derzeit viel gesprochen und geforscht, die potenziell negativen Auswirkungen sind vielfältig. In den letzten drei Jahren wurden nicht weniger als 96 KI-Ethikrichtlinien publiziert, wie Wissenschaftler der Universität Stanford kürzlich nachgerechnet haben. Allerdings hielten sie auch fest, dass kaum konkrete Schritte ergriffen wurden.
"Städte haben mit zunehmenden Konsequenzen zu kämpfen, wenn es um die Verletzung digitaler Rechte geht", hiess es kürzlich von der Cities Coalition for Digital Rights. Das Netzwerk wurde 2018 von den Städten New York, Amsterdam und Barcelona gegründet. Es umfasst mittlerweile 50 Mitglieder rund um den Globus, die sich bei rechtlichen und ethischen Fragen zu Digitalisierung und Smart City unter die Arme greifen wollen. Zu den Beteiligten zählen etwa Wien, München und Berlin.
Die Initiative hat nun mit dem "Global Observatory on Urban AI" ein Projekt lanciert, das weiteren Städten helfen soll, künstliche Intelligenz effektiv und ethisch korrekt einzusetzen. Noch dieses Jahr soll ein Bericht publiziert werden, der Grundlagen zu politischen Standards und eine ethische Governance schaffen soll. Zwei Prioritäten sind der Einsatz von Facial Recognition sowie von KI bei der Entscheidungsfindung etwa in Behörden.
Dass beim behördlichen KI-Einsatz auch hierzulande Handlungsbedarf besteht, zeigte kürzlich eine Studie des Kantons Zürich: In dieser wurde ein KI-Tool namens Dyrias untersucht. Dieses soll auf Grundlage von Antworten zu einem Fragekatalog die Gefährlichkeit von Personen abschätzen. Dabei verfährt es offenbar deutlich zu rigide: Nur gerade 28% der von Dyrias als gefährlich eingestuften Personen verübten tatsächlich ein Gewaltdelikt. Das Tool wird in den Kantonen Glarus, Luzern, St. Gallen, Solothurn, Thurgau und Zürich eingesetzt.
Edy Portmann.
Foto: Georges Eberle unter CC BY-SA 2.0.
Auch Partizipations-Tools können bedenklich sein
Eine Schweizer Stadt sucht man auf der Mitglieds-Liste der Cities Coalition for Digital Rights vergeblich. Neben den von Stefan Metzger erwähnten Anstrengungen gebe es aber auch hierzulande Diskussionen und Projekte, sagt Edy Portmann zu inside-it.ch. Der Ethik- und Digitalisierungs-Spezialist ist Informatik-Professor am Forschungszentrum Human-IST der Universität Freiburg und der Schweizerischen Post. Vor allem an Hochschulen werde das Thema diskutiert, sagt er. Es habe aber noch nicht den gewünschten Einfluss in den Städten.
Dem digitalen Fortschritt werde heute noch ein deutlich höherer Stellenwert eingeräumt als ethischen Bedenken, moniert Portmann. Es gebe aber hierzulande bis jetzt auch kaum heikle Smart-City-Projekte. Man müsse dabei allerdings nicht nur an Facial Recognition oder undurchsichtige Entscheidungen von Algorithmen denken. So seien etwa digitale Partizipations-Projekte genau zu bewerten. Bei diesen müsse sichergestellt werden, dass alle Berechtigten Zugang und eine Stimme hätten, etwa wenn es um Budgets und Geldverteilung gehe, sagt Portmann. Er schlägt vor, dass die Städte Ethikboards einsetzen, die fragliche Projekte unter die Lupe nehmen können.