Wenn der Roboter entscheidet

30. April 2020 um 15:05
image

Eine Schweizer Studie bietet Empfehlungen für den Einsatz von KI und warnt vor einer Polarisierung und prekären Arbeitsverhältnissen.

Eine Gruppe von schweizerischen und österreichischen Wissenschaftlern hat eine Studie zu den Chancen und Risiken von Künstlicher Intelligenz erstellt. Entstanden ist ein 360 Seiten dickes Buch. Federführend war die Digital Society Initiative der Universität Zürich, deren Mitglieder sich regelmässig in einer Kolumne auf inside-it.ch äussern. 
Die Grundfragen, die die Forschenden in der Studie beantworten wollten, lauten: Welche Folgen sind wegen der Nutzung von KI bei Entscheidungsprozessen zu erwarten? Und wie sind diese Veränderungen zu bewerten?
Eine nüchterne Untersuchung der Technologie und ihrer Folgen sehen die Studienautoren deshalb als wichtig an, weil KI derzeit ein Hype-Thema ist, aber auch, weil etwa der Begriff der Künstlichen Intelligenz im öffentlichen Diskurs sehr unscharf verwendet wird. Dem wollen die Forscher in der umfangreichen Studie mit vielen erläuternden Kapiteln entgegenwirken. 
Angesichts der breiten internationalen Debatte über die ethische und rechtliche Dimension von KI haben sich die Wissenschaftler darauf fokussiert, diese abzubilden und einzuordnen. Über 30 Richtlinien haben sie untersucht und dabei fast 50 Prinzipien vorgefunden.
Der grosse Konsens, den die Forschenden entdeckt haben: Man müsse "den Menschen in den Mittelpunkt stellen und darauf abzielen, die Kontrolle des Menschen über die Maschinen sicherzustellen und seine Würde zu schützen."
image
In die nationalen KI-Strategien sind Ethik und Gemeinwohl nicht immer integriert. Grafik: TA Swiss

Höhere Anforderungen an staatliche Akteure beim KI-Einsatz

An den gemeinsamen Werten orientieren sich auch grob die sieben Handlungsanleitungen, die die Studienautoren aus ihren umfangreichen Untersuchungen destilliert haben.
  • Die Gesetzgeber sollen eine technologieneutrale aber bereichsspezifische Herangehensweise verfolgen. Sprich: Die Forschenden möchten kein allgemeines KI-Gesetz, sondern regelmässige Analysen verschiedener Bereiche, in denen nach Bedarf Recht erlassen werden soll. Dabei sei die Entwicklung in der EU zu berücksichtigen.
  • Der Einsatz von KI-Systemen soll nicht ausschliesslich als Problem des Datenschutzes verstanden werden. Es brauche neue Ansätze, da Risiken durch die Nutzung von Sachdaten entstehen würden oder da es durch KI-Einsatz zur Diskriminierung kommen könne.
  • Die Anforderungen an staatliche Akteure wie Gerichte, Polizei oder die Verwaltung beim Einsatz von KI sollen höher sein als für Private. So müssten etwa Private die Rechtmässigkeit des staatlichen Handelns beurteilen können, auch wenn dieses auf KI beruht.
  • Private Firmen und Organisationen wiederum müssten neben der aktiven Information über ihren KI-Einsatz auf Nachfrage auch die Transparenz sicherstellen. So sollen etwa Institutionen der Zivilgesellschaft Informationen zur Einschätzung von Fehlentwicklungen erhalten, wobei zugleich das Geschäftsgeheimnis angemessen gewährleistet werden soll.
  • Organisationen etwa des Konsumentenschutzes sollen staatliche Unterstützung bei der Prüfung privater KI-Zertifizierungen erhalten. Grundsätzlich seien private Labels aber zu begrüssen, die rechtliche und ethische Normen versprechen.
  • Bildungsinstitutionen, die KI-Fachleute ausbilden, sollen nicht nur technische Kompetenzen fördern, sondern auch rechtliche, ethische und soziale Aspekte in die Ausbildung integrieren.
  • Bund, Hochschulen, Unternehmen und Zivilgesellschaft sollen einen Dialog über Chancen und Risiken von KI führen und fördern. Wenn das Risiko in gewissen Bereichen nicht klar sei, müsse die Forschung hier intensiviert und durch Förderung unterstützt werden.
Bei diesen generellen Empfehlungen bleibt es aber in einer so umfangreichen Studie naturgemäss nicht. Darum haben die Forschenden verschiedene Bereiche genauer unter die Lupe genommen: Arbeit, Bildung / Forschung, Konsum, Medien, Verwaltung / Gerichtsbarkeiten.

Die Arbeitsplätze: instabiler und stärker überwacht

In den letzten Jahren ist eine Vielzahl von Studien erschienen, die den Ersatz menschlicher Arbeitskraft durch KI zum Gegenstand hatten. Ihre Prognosen hätten unterschiedlicher nicht ausfallen können: Vom Verlust von 50 Prozent der Arbeitsplätze bis hin zum grossen Jobwunder war alles vertreten.
Die Schweizer Forschenden sind hier bescheidener. Sie gestehen vor allem ein, dass genauere Voraussagen mit grossen Unsicherheiten behaftet seien. Darum fokussiert sich die Studie stärker auf die Entzweiung des Arbeitsmarktes in stark spezialisierte Arbeitende und prekär Beschäftigte mit tiefen Löhnen. Die Studienautoren erwarten nach den Interviews mit Experten eine Zunahme der Polarisierung des Arbeitsmarktes und der Löhne bei steigender Produktivität.
image
So beurteilten die rund 300 befragten Experten die Entwicklung des Arbeitsmarktes. Grafik: TA Swiss
Zudem schauten sich die Forschenden die potentielle Veränderung der Arbeit selbst an. Die beiden Ebenen hängen aber natürlich zusammen: Etwa wenn Automatisierung die Arbeit selbst, aber auch die Anforderungen und den Arbeitsmarkt verändern. Oder wenn die Arbeit flexibler gestaltet werden kann, was sowohl die Tätigkeit oder zumindest den Ort als auch das Arbeitsverhältnis wandeln kann: In der Studie wird eine stärkere Kontrolle der Arbeitenden, instabilere Arbeitsverhältnisse sowie eine Zunahme von KI bei Einstellungsentscheidungen erwartet.
Die Studienautore schlagen nun vor, dass der Bund die Auswirkungen auf die Wirtschaft zum Anlass nimmt, gesellschaftliche Debatten anzustossen. Besonders in Sachen Arbeitszeitverkürzung, Flexibilisierung der Arbeit, ökonomischer Polarisierung und Weiterbildung.
Zudem soll der Gesetzgeber die Mitsprache der Mitarbeitenden sicherstellen, wenn Firmen KI-Systeme für deren Überwachung und Kontrolle einsetzen. Die Arbeitsinspektorate müssten mit den entsprechenden Mitteln ausgestattet werden, fordern sie.
Das Studien-Konsortium bestand aus Forschenden der Universität Zürich, der Eidgenössischen Materialprüfungs- und Forschungsanstalt (Empa) und der Österreichischen Akademie der Wissenschaften. Die Wissenschaftler haben für die Studie einschlägige Literatur studiert, Workshops durchgeführt und rund 300 Fachpersonen befragt. Die gesamte Studie kann von der Website des Hochschulverlags an der ETH Zürich kostenlos heruntergeladen werden.

Loading

Mehr zum Thema

image

Google veröffentlicht kostenlos verwendbare KI-Modelle

Sowohl Unternehmen als auch Individuen sollen die "Gemma"-Modelle für eigene KI-Applikationen verwenden können.

publiziert am 21.2.2024
image

OpenAI sichert sich in der Schweiz "GPT" als Markenname

Die USA haben die Eintragung als Marke nicht akzeptiert, in der EU ist ein Löschungsverfahren hängig. Eine Einschätzung.

publiziert am 20.2.2024
image

KI darf mit Reddit-Inhalten lernen

60 Millionen Dollar zahlt ein KI-Entwickler, um die Inhalte der Plattform für das Training seiner Software verwenden zu dürfen. In der Schweiz ringen Medienhäuser mit dem Umgang mit KI.

publiziert am 19.2.2024
image

Andy's AI Almanac: Technology Trilogy Engineer – die Köche der Zukunft

Alle reden von KI. Doch hinter den Kulissen braut sich etwas Grösseres zusammen, schreibt Andy Fitze in seiner ersten Kolumne.

publiziert am 19.2.2024