Wenn der Roboter entscheidet

30. April 2020, 15:05
image

Eine Schweizer Studie bietet Empfehlungen für den Einsatz von KI und warnt vor einer Polarisierung und prekären Arbeitsverhältnissen.

Eine Gruppe von schweizerischen und österreichischen Wissenschaftlern hat eine Studie zu den Chancen und Risiken von Künstlicher Intelligenz erstellt. Entstanden ist ein 360 Seiten dickes Buch. Federführend war die Digital Society Initiative der Universität Zürich, deren Mitglieder sich regelmässig in einer Kolumne auf inside-it.ch äussern. 
Die Grundfragen, die die Forschenden in der Studie beantworten wollten, lauten: Welche Folgen sind wegen der Nutzung von KI bei Entscheidungsprozessen zu erwarten? Und wie sind diese Veränderungen zu bewerten?
Eine nüchterne Untersuchung der Technologie und ihrer Folgen sehen die Studienautoren deshalb als wichtig an, weil KI derzeit ein Hype-Thema ist, aber auch, weil etwa der Begriff der Künstlichen Intelligenz im öffentlichen Diskurs sehr unscharf verwendet wird. Dem wollen die Forscher in der umfangreichen Studie mit vielen erläuternden Kapiteln entgegenwirken. 
Angesichts der breiten internationalen Debatte über die ethische und rechtliche Dimension von KI haben sich die Wissenschaftler darauf fokussiert, diese abzubilden und einzuordnen. Über 30 Richtlinien haben sie untersucht und dabei fast 50 Prinzipien vorgefunden.
Der grosse Konsens, den die Forschenden entdeckt haben: Man müsse "den Menschen in den Mittelpunkt stellen und darauf abzielen, die Kontrolle des Menschen über die Maschinen sicherzustellen und seine Würde zu schützen."
image
In die nationalen KI-Strategien sind Ethik und Gemeinwohl nicht immer integriert. Grafik: TA Swiss

Höhere Anforderungen an staatliche Akteure beim KI-Einsatz

An den gemeinsamen Werten orientieren sich auch grob die sieben Handlungsanleitungen, die die Studienautoren aus ihren umfangreichen Untersuchungen destilliert haben.
  • Die Gesetzgeber sollen eine technologieneutrale aber bereichsspezifische Herangehensweise verfolgen. Sprich: Die Forschenden möchten kein allgemeines KI-Gesetz, sondern regelmässige Analysen verschiedener Bereiche, in denen nach Bedarf Recht erlassen werden soll. Dabei sei die Entwicklung in der EU zu berücksichtigen.
  • Der Einsatz von KI-Systemen soll nicht ausschliesslich als Problem des Datenschutzes verstanden werden. Es brauche neue Ansätze, da Risiken durch die Nutzung von Sachdaten entstehen würden oder da es durch KI-Einsatz zur Diskriminierung kommen könne.
  • Die Anforderungen an staatliche Akteure wie Gerichte, Polizei oder die Verwaltung beim Einsatz von KI sollen höher sein als für Private. So müssten etwa Private die Rechtmässigkeit des staatlichen Handelns beurteilen können, auch wenn dieses auf KI beruht.
  • Private Firmen und Organisationen wiederum müssten neben der aktiven Information über ihren KI-Einsatz auf Nachfrage auch die Transparenz sicherstellen. So sollen etwa Institutionen der Zivilgesellschaft Informationen zur Einschätzung von Fehlentwicklungen erhalten, wobei zugleich das Geschäftsgeheimnis angemessen gewährleistet werden soll.
  • Organisationen etwa des Konsumentenschutzes sollen staatliche Unterstützung bei der Prüfung privater KI-Zertifizierungen erhalten. Grundsätzlich seien private Labels aber zu begrüssen, die rechtliche und ethische Normen versprechen.
  • Bildungsinstitutionen, die KI-Fachleute ausbilden, sollen nicht nur technische Kompetenzen fördern, sondern auch rechtliche, ethische und soziale Aspekte in die Ausbildung integrieren.
  • Bund, Hochschulen, Unternehmen und Zivilgesellschaft sollen einen Dialog über Chancen und Risiken von KI führen und fördern. Wenn das Risiko in gewissen Bereichen nicht klar sei, müsse die Forschung hier intensiviert und durch Förderung unterstützt werden.
Bei diesen generellen Empfehlungen bleibt es aber in einer so umfangreichen Studie naturgemäss nicht. Darum haben die Forschenden verschiedene Bereiche genauer unter die Lupe genommen: Arbeit, Bildung / Forschung, Konsum, Medien, Verwaltung / Gerichtsbarkeiten.

Die Arbeitsplätze: instabiler und stärker überwacht

In den letzten Jahren ist eine Vielzahl von Studien erschienen, die den Ersatz menschlicher Arbeitskraft durch KI zum Gegenstand hatten. Ihre Prognosen hätten unterschiedlicher nicht ausfallen können: Vom Verlust von 50 Prozent der Arbeitsplätze bis hin zum grossen Jobwunder war alles vertreten.
Die Schweizer Forschenden sind hier bescheidener. Sie gestehen vor allem ein, dass genauere Voraussagen mit grossen Unsicherheiten behaftet seien. Darum fokussiert sich die Studie stärker auf die Entzweiung des Arbeitsmarktes in stark spezialisierte Arbeitende und prekär Beschäftigte mit tiefen Löhnen. Die Studienautoren erwarten nach den Interviews mit Experten eine Zunahme der Polarisierung des Arbeitsmarktes und der Löhne bei steigender Produktivität.
image
So beurteilten die rund 300 befragten Experten die Entwicklung des Arbeitsmarktes. Grafik: TA Swiss
Zudem schauten sich die Forschenden die potentielle Veränderung der Arbeit selbst an. Die beiden Ebenen hängen aber natürlich zusammen: Etwa wenn Automatisierung die Arbeit selbst, aber auch die Anforderungen und den Arbeitsmarkt verändern. Oder wenn die Arbeit flexibler gestaltet werden kann, was sowohl die Tätigkeit oder zumindest den Ort als auch das Arbeitsverhältnis wandeln kann: In der Studie wird eine stärkere Kontrolle der Arbeitenden, instabilere Arbeitsverhältnisse sowie eine Zunahme von KI bei Einstellungsentscheidungen erwartet.
Die Studienautore schlagen nun vor, dass der Bund die Auswirkungen auf die Wirtschaft zum Anlass nimmt, gesellschaftliche Debatten anzustossen. Besonders in Sachen Arbeitszeitverkürzung, Flexibilisierung der Arbeit, ökonomischer Polarisierung und Weiterbildung.
Zudem soll der Gesetzgeber die Mitsprache der Mitarbeitenden sicherstellen, wenn Firmen KI-Systeme für deren Überwachung und Kontrolle einsetzen. Die Arbeitsinspektorate müssten mit den entsprechenden Mitteln ausgestattet werden, fordern sie.
Das Studien-Konsortium bestand aus Forschenden der Universität Zürich, der Eidgenössischen Materialprüfungs- und Forschungsanstalt (Empa) und der Österreichischen Akademie der Wissenschaften. Die Wissenschaftler haben für die Studie einschlägige Literatur studiert, Workshops durchgeführt und rund 300 Fachpersonen befragt. Die gesamte Studie kann von der Website des Hochschulverlags an der ETH Zürich kostenlos heruntergeladen werden.

Loading

Mehr zum Thema

image

Rechnen sich die Milliarden-Investitionen in das Metaverse?

Insgesamt 70 Milliarden Dollar will Meta für die Entwicklung seiner immersiven Techplattform aufbringen. So viel wie nie ein Tech-Konzern zuvor in neue Technologien investiert hat.

publiziert am 5.10.2022
image

EU-Staaten stimmen Digital Services Act zu

Nach dem Europarlament nehmen auch die EU-Länder das Gesetz an. Online-Plattformen dürfen damit strenger reguliert werden.

publiziert am 5.10.2022
image

Studien zeigen Trägheit bei der Digitalisierung in der Schweiz

Die neuen Technologien werden zwar als Chance verstanden, aber Menschen haben Mühe, beim digitalen Fortschritt mitzuhalten.

publiziert am 4.10.2022
image

Intel bringt Mobileye die Börse

Durch den Börsengang des Auto-Zulieferers soll eine Bewertung von 30 Milliarden Dollar erreicht werden. Dies ist deutlich weniger als früher erwartet wurde.

publiziert am 3.10.2022 1