Für Health und Pharma stellt KI ein besonderes Risiko dar

27. Mai 2024 um 12:29
image
Foto: Lucian Alexe / Unsplash

Der Rückversicherer Swiss Re versucht zu bewerten, welche Risiken sich aus KI-Anwendungen ergeben und welche Branchen davon besonders stark betroffen sein werden.

"Die potenziellen Vorteile von künstlicher Intelligenz sind immens", schreibt Swiss Re einleitend zu einer Studie, in der es genau um das Gegenteil geht: die Risiken. Wie jede Technologie könne es auch bei KI zu Pannen kommen, heisst es darin. Sie könne beispielsweise im produktiven Einsatz schlechter abschneiden, als in Tests, sei Angriffen ausgesetzt oder könnte Diskriminierung verstärken.
Derzeit sei vor allem der IT-Sektor den Risiken von KI ausgesetzt, was angesichts seiner Rolle als Entwickler der KI-Systeme nicht überraschen sollte, schreibt Swiss Re. Daneben sieht die Studie das Problem, dass Unternehmen geistiges Eigentum verlieren könnten. Dies betreffe aktuell unter anderem die Medien- und Kommunikationsbranche, da ihre Inhalte für das Training von Modellen verwendet werden.
Weiter nennt Swiss Re Voreingenommenheit, Ethik und Datenschutz als Risiken, die kurzfristig von KI-Systemen ausgehen. Gehe man Probleme nicht an, bestehe die Gefahr, dass Voreingenommenheit und Diskriminierung mit der Zeit zunehmen. Dies betreffe von der fairen Kreditvergabe bis hin zur pharmazeutischen Forschung eine Vielzahl von Bereichen, wie es weiter heisst.

Datenschutz und Leistung der KI-Systeme

Wenn die Modelle dereinst etabliert seien, könnte es sein, dass sich Lücken bei der Datenspeicherung und -analyse manifestieren. Branchen, die über sensible personenbezogene Daten verfügen, seien besonders anfällig. Dazu gehören etwa die Finanzbranche oder das Gesundheitswesen.
Ein weiteres Risiko, das längerfristig grösser wird, hängt mit der Performance der Systeme zusammen, führt die Studie aus. Wenn die Leistung schlecht sei oder ein System ausfalle, könne dies erhebliche nachgelagerte Auswirkungen haben.

Gesundheitssektor, Verkehr und Energie

Die Gesundheits- und Pharmabranche stehe bereits heute im Fokus von Cyberkriminellen, führt Swiss Re aus. KI könne zwar helfen, die Cyberabwehr zu verbessern. Gleichzeitig aber bietet sie auch Angreifern neue Möglichkeiten. Da es im Health-Bereich eine Vielzahl von Use Cases für KI gebe, der Sektor mit sensiblen Daten zu tun habe und Vorfälle potenziell weitreichende Folgen hätten, sieht der Rückversicherer den Bereich als besonders gefährdet.
Als einen weiteren, potenziell stark gefährdeten Bereich nennt die Studie die Mobilität, genauer gesagt die autonome Mobilität. Autonome Fahrzeuge finden sich in geschlossenen Systemen wie Autobahnen relativ gut zurecht. Aber im Chaos von Städten komme es immer wieder zu Problemen, so Swiss Re. Die zunehmende Vernetzung von Fahrzeugen berge weitere Risiken, falls es zu Netzausfällen kommt. Darüber hinaus sind die Systeme Cyberangriffen ausgesetzt.
Der dritte Bereich in der Liste des Rückversicherers ist der Energiesektor, der vor einem radikalen Wandel stehe. Beim Streben nach dem Netto-Null-Ziel werde KI eine wichtige Rolle spielen, so die Studie. Mögliche Anwendungsfälle reichen von der Effizienzverbesserung über die Nachfrageprognose hin zur vorausschauenden Wartung der Infrastruktur. Damit gehe ein besonders hohes Risiko in Sache Performance der KI-Systeme einher, wie es weiter heisst, da Ausfälle oder Störungen sehr drastische Folgen haben könnten. Ähnlich wie der Gesundheitssektor sind die Energiebranche darüber hinaus besonderen Cyberrisiken ausgesetzt.

Loading

Mehr erfahren

Mehr zum Thema

image

Schluss mit schwachen und kompromittierten Passwörtern in Active Directory

Passwörter sind immer noch die wichtigste Methode zur Authentifizierung von Nutzern und zur Absicherung des Zugriffs auf Daten Ihrer Organisation. Das macht sie aber auch zu beliebten Zielen der Cyberkriminellen. Doch es gibt Tools und Methoden, um die Passwortsicherheit wirkungsvoll zu verbessern.

image

Sichere dir jetzt dein Cyber Security-Know-how!

Starte jetzt deine zukunftssichere Karriere mit einer Weiterbildung in Cyber Security bei IFA, der Höheren Fachschule aus dem Bereich «Informatik und Security».

image

Neuer Leitfaden für den M365-Einsatz in Gemeinden

Die Zürcher Datenschutzbeauftragte erklärt, was bei der Einführung von Microsoft 365 berücksichtigt werden sollte, etwa mit Blick auf den Cloud Act.

publiziert am 7.6.2024 2
image

Vogt am Freitag: Serviette

Die Aufarbeitung des Xplain-Falls ist eine Farce. Es scheint, als wollten die Verantwortlichen zur Tagesordnung übergehen.

publiziert am 7.6.2024 2