"Automated Decision-Making-Systems (ADM-Systeme) haben einen wachsenden Einfluss auf unseren Alltag und unser Leben. Sie können die Entwicklungschancen von Individuen beeinträchtigen und die Grundrechte verletzen. Darüber hinaus können ADM-Systeme einen gesellschaftlichen Einfluss haben, beispielsweise aufgrund einer algorithmischen Verzerrung (Bias), die bestimmte Personen oder Gruppen benachteiligt oder bevorzugt."
Die EU habe diese Herausforderungen erkannt und den
"AI Act" beschlossen. Auch der Europarat habe eine
Konvention zu KI-Systemen verabschiedet, schreibt die Digitale Gesellschaft. Mit ihrem aktualisierten Positionspapier will sie deshalb zur Auslegeordnung in der Schweiz beitragen und einen konkreten Vorschlag für einen möglichen rechtlichen Rahmen aufzeigen.
Technologieneutraler Ansatz
Die Position der Digitalen Gesellschaft besteht aus einer Mischform zwischen einem schaden- und risikobasierten Ansatz. "Die Regeln richten sich nach dem vom System ausgehenden Risiko für Einzelpersonen und für die Gesellschaft", hält die Organisation fest. Dabei sollen die einzelnen Systeme in Risikoklassen eingeteilt werden.
So gelten für Systeme mit "tiefem Risiko" keine weiteren Einschränkungen. Der Einsatz von Systemen mit "inakzeptablem Risiko" sollte dem Papier zufolge hingegen absolut verboten werden. Dazwischen finden sich die Systeme mit "mittlerem oder hohem Risiko", für die besondere Transparenz- und Sorgfaltspflichten gelten sollten.
Der Vorschlag soll technologieneutral sein und einem auf den Menschen bezogenen (human-centered) Ansatz folgen. So sollen ADM-Systeme der Menschheit nützen. Um Innovationen aber nicht zu verhindern, "setzt der Vorschlag auf Selbstdeklaration". Die Regulierung soll sicherstellen, dass Nutzen und Risiken in einem guten Verhältnis stehen.
Neben der Digitalen Gesellschaft hat sich auch der ICT-Branchenverband Swico bereits
zur KI-Regulierung geäussert. Der Verband fordert eine pragmatische und chancenorientierte Herangehensweise.
