Digi, Nano, Bio, Neuro – was konvergierende Technologien können

7. Mai 2024 um 12:49
  • innovation
  • ETH
  • Medtech
  • datenschutz
  • Regulierung
image
Illustration: Erstellt durch inside-it.ch mit Midjourney

Forschende rechnen damit, dass Technologien künftig auch den menschlichen Körper durchdringen werden. Sie schlagen deshalb eine internationale Regulierung vor.

Dirk Helbing beschäftigt sich in seiner Forschung mit den Folgen der Digitalisierung für Mensch, Gesellschaft und Demokratie. "Dabei muss man die Konvergenz in den Computer- und Biowissenschaften im Blick haben – also das, was möglich wird, wenn digitale Technologien immer mehr mit Biotechnologie, Neuro- und Nanotechnologie zusammenwachsen", schreibt der Professor für Computational Social Science in einem Blogbeitrag für 'ETH News'.
Konvergierende Technologien gelten als Nährboden für tiefgreifende Innovationen. Doch sie lassen die Grenzen zwischen der physischen, biologischen und digitalen Welt zunehmend verschwinden. Herkömmliche fachspezifische Regulierungen werden dadurch unwirksam. In der Studie hat er zusammen mit Marcello Ienca die Risiken und Herausforderungen der technologischen Konvergenz untersucht.
Die beiden Forschenden sind zum Schluss gekommen, dass die Auswirkungen für Individuen und die Gesellschaft einschneidend sind. Es sei ihnen ein Anliegen, auf diese Herausforderungen und Risiken konvergierender Technologien hinzuweisen. Zudem erklärten sie, dass sie eine starke internationale Regulierung als notwendig erachten.

Datenmissbrauch als Gefahr

2015, vor fast 10 Jahren, erschien das Digital-Manifest. Darin warnten neun europäische Expertinnen und Experten – unter ihnen auch Dirk Helbing – eindringlich vor Scoring, also der Bewertung von Menschen, sowie vor "Big Nudging", einer subtilen Form der digitalen Manipulation.
Letztere beruht auf Persönlichkeitsprofilen, die mithilfe von Cookies und anderen Überwachungsdaten erstellt werden. Wenig später führte der Cambridge-Analytica-Skandal der Welt vor Augen, wie die Datenanalyse-Firma mittels Microtargeting und personalisierter Anzeigen versuchte, das Stimmverhalten bei den Wahlen in den USA zu beeinflussen.
Inzwischen stehen die Demokratien weltweit unter Druck. Propaganda, Fake News und Hassrede polarisieren und säen Zweifel, während die Privatsphäre schwindet. Wir befinden uns in einer Art Informationskrieg um unsere Köpfe, in dem Werbefirmen, Tech-Konzerne, Geheimdienste und Militärs um Einfluss auf unser Denken und Verhalten ringen. Indessen versucht der gerade beschlossene AI Act der Europäischen Union die zuvor genannten Gefahren zu bändigen.
Doch digitale Technologien entwickeln sich rasant weiter, und es zeichnen sich bereits neue Manipulationsmöglichkeiten ab. Wenn Computer- und Nanotechnologie weiterhin mit moderner Bio- und Neurotechnologie verschmelzen, eröffnen sich revolutionäre Anwendungen, die zuvor kaum vorstellbar waren.

Zum Autor:

image
Foto: ETH Zürich

Dirk Helbing ist Professor für Computational Social Science am Departement Geistes-, Sozial- und Staatswissenschaften sowie am Department Informatik der ETH Zürich assoziiert.

Digitale Pillen und KI im Gehirn

Etwa in der personalisierten Medizin: Die fortschreitende Miniaturisierung der Elektronik erlaubt es zusehends, lebende Organismen und Menschen mit vernetzten Sensoren und Rechenleistung zu erschliessen.
Ein Beispiel dafür sind digitale Pillen, die herkömmliche Medikamente mit einer Überwachungsfunktion kombinieren. Diese könnten die Medikation kontrollieren und physiologische Daten der Patientinnen und Patienten aufzeichnen.
Fachleute erwarten, dass Sensortechnologie früher oder später auch die Nanoskala erreicht. Damit könnte man Krankheiten mit Sensoren bereits im Frühstadium erkennen und personalisiert behandeln. Man spricht auch oft von High Precision Medicine.
Miniaturisierte Elektroden, die gleichzeitig die Aktivität von tausenden Neuronen messen und manipulieren können, sowie immer bessere KI-Werkzeuge für die Analyse von Hirnsignalen sind zwei weitere Ansätze, die aktuell zu viel diskutierten Fortschritten an der Gehirn-Computer-Schnittstelle führen.
Dank Nano-Neurotechnologie, so die Idee, liessen sich vielleicht schon bald das Smartphone und andere KI-Anwendungen direkt mit Gedanken steuern. Für eine dauerhafte Verbindung zwischen Zellen und Elektronik sind klassische Elektroden allerdings nicht geeignet – dazu braucht es langlebige und biokompatible Schnittstellen. An möglichen Lösungen dafür wird ebenfalls bereits geforscht.

Die Kehrseite der Konvergenz

Die genannten Anwendungen mögen futuristisch klingen. Noch sind es überwiegend Visionen oder sie befinden sich in frühen Entwicklungsstadien. Doch weltweit wird daran mit Hochdruck geforscht. Auch militärische Kreise sind daran interessiert, konvergierende Technologien für ihre Zwecke zu nutzen.
Gleichzeitig birgt die Technologie die Gefahr, dass staatliche oder private Akteure an hochsensible Daten gelangen und diese missbräuchlich verwenden, um Menschen zu überwachen und zu beeinflussen.Je vernetzter unsere Körper, desto anfälliger werden wir auch für Cyberkriminalität und Hacking.
Ferner ist auch nicht auszuschliessen, dass bereits militärische Anwendungen existieren. Sicher ist jedoch: Lange bevor Präzisionsmedizin und Neurotechnologie zuverlässig funktionieren, werden diese Technologien bereits gegen Menschen einsetzbar sein.
Das Problem dabei ist, dass die bisherigen fachspezifischen Regelwerke nicht ausreichen, um die technologische Konvergenz im Zaum zu halten. Wie sollen wir die Kontrolle über unser Leben behalten, wenn es zunehmend möglich wird, unser Denken, Fühlen und Entscheiden mit digitalen Mitteln zu beeinflussen?

Zehn Governance-Prinzipien vorgeschlagen

In ihrer Studie kommen die beiden Forschenden zum Schluss, dass konvergierende Technologien eine ebenso konvergierende internationale Regulierung erfordern. Sie skizzieren deshalb einen neuen globalen Rechtsrahmen und schlagen zehn Governance-Prinzipien vor, um die drohende Regulierungslücke zu schliessen.
Der Rahmen betont die Notwendigkeit von Schutzmassnahmen, um die Körper- und Geistesfunktionen vor unbefugten Eingriffen zu bewahren und die persönliche Integrität und Privatsphäre zu gewährleisten, etwa durch Neuro-Rechte.
Um Risiken zu mindern und Missbrauch vorzubeugen, sollten künftige Regulierungen inklusiv, transparent und vertrauenswürdig sein. Zentral ist auch das Prinzip der partizipativen Governance, welche alle relevanten Gruppen einbezieht und sicherstellt, dass auch die Anliegen betroffener Minderheiten in Entscheidungsprozesse einfliessen.
Schliesslich braucht es echte informationelle Selbstbestimmung – Menschen müssen die Kontrolle über ihre persönlichen Daten zurückgewinnen. Das gilt auch für die digitalen Zwillinge unseres Körpers und unserer Persönlichkeit. Denn damit lässt sich unsere Gesundheit und unser Denken hacken – im Guten wie im Bösen.
Mit dem Beitrag soll eine öffentliche Diskussion über konvergierende Technologien angestossen werden. Denn trotz der grossen Relevanz findet das Thema nach Ansicht der beiden Forschenden noch zu wenig Beachtung. Ein kontinuierlicher Diskurs über Nutzen, Risiken und sinnvolle Regeln sollen dabei helfen, die technologische Konvergenz so zu lenken, dass sie den Menschen dient und nicht schadet.

Loading

Mehr erfahren

Mehr zum Thema

image

Microsoft krebst zurück und macht Recall freiwillig

Die Kritik war offensichtlich zu stark: Microsoft schaltet das Screenshot-Feature Recall standardmässig aus.

publiziert am 10.6.2024
image

Neuer Leitfaden für den M365-Einsatz in Gemeinden

Die Zürcher Datenschutzbeauftragte erklärt, was bei der Einführung von Microsoft 365 berücksichtigt werden sollte, etwa mit Blick auf den Cloud Act.

publiziert am 7.6.2024 2
image

UBS und Swisscom gründen Stiftung für Deep-Tech-Förderung

Ziel der Gründungspartner ist es, in den nächsten zehn Jahren 50 Milliarden Franken zu mobilisieren, um die Innovations- und Wettbewerbsfähigkeit der Schweiz zu stärken.

publiziert am 7.6.2024
image

Avaloq beteiligt sich an Fintech Kaspar&

Das Schweizer Startup hat in einer Finanzierungsrunde 2,5 Millionen Franken eingesammelt. Investor Avaloq will die App von Kaspar& in seine Core-Plattform integrieren.

publiziert am 7.6.2024