Wissenschaftler von McAfee haben die Kamerasysteme von Teslas getäuscht, indem sie Temposchilder verändert haben. Die Folge: Die Autos beschleunigten um 50 Meilen pro Stunde. Die Veränderungen der Schilder seien so subtil gewesen, dass sie das menschliche Auge selten bemerken würde, schreiben die Forscher in einem Blogbeitrag.

In den betroffenen Teslas sind EyeQ3-Kamerasysteme von Mobileye, einem führenden Hersteller von Advanced Driver Assist Systems für Autonome Autos, verbaut. Diese "lesen" die Schilder mit der Geschwindigkeitsbegrenzung und speisen die Informationen ins Tesla-System. Die McAfee-Forscher haben nach eigenen Angaben winzige schwarze Kleber auf die 35-Meilen-pro-Stunde-Schilder aufgebracht, so dass die Kamera 85 Meilen zu erkennen glaubten.

Die McAfee-Forscher untersuchen systematisch mögliche Lücken von Machine-Learning-Systemen. Dazu nutzen sie das sogenannte "Model Hacking", bei dem Schwächen, die allgemein in ML-Algorithmen vorhanden sind, ausgenutzt werden. Die Wissenschaftler gaben die Erkenntnisse nach eigenen Angaben vor 90 Tagen an Tesla und Mobileye weiter. Beide Firmen hätten sich dankbar gezeigt, aber keine konkreten Pläne zur Behebung des Problems genannt, so McAfee.

Ein Mobileye-Sprecher spielte die Erkentnisse von McAfee herunter, indem er behauptete, dass das manipulierte Verkehrschild auch das menschliche Auge trügen würde. Dies berichtet die 'MIT Technology Review'.

Die Technologie für autonome Fahrzeuge verlasse sich nicht nur auf die Sensorik, sondern werde auch durch verschiedene andere Technologien und Daten unterstützt werden, erklärte der Sprecher weiter. Tesla ist mittlerweile auf proprietäre Kameras umgestiegen und Mobileye hat neue Versionen des Systems herausgebracht, die offenbar nicht mehr anfällig sind für den Angriff. 

Es sind aber laut McAfee-Forscher noch eine beträchtliche Anzahl von Teslas mit der anfälligen Hardware unterwegs. Insgesamt sollen die Kameras von Mobileye noch in rund 40 Millionen Fahrzeugen eingesetzt werden.

Die 'MIT Technology Review' berichtet davon, dass dies nur die jüngste Entdeckung in einer ganzen Reihe von Hacks sei, die ML-Systeme in lebensbedrohliche Situationen manövrieren könnten. So habe etwa eine Professorin der UC Berkeley einen Aufkleber benutzt, damit autonome Autos ein Stoppschild für ein Temposchild der Limite 45 Meilen pro Stunde hielten. Letztes Jahr hätten zudem Hacker einen Tesla mit Aufklebern auf der Strasse dazu gebracht, auf die falsche Fahrbahnspur zu wechseln.

"Wenn wir nicht sehr vorausschauend sind, was die Angriffe sind, und sehr sorgfältig darauf achten, wie die Systeme konzipiert sind, dann haben sie eine rollende Flotte von miteinander verbundenen Computern, die eine der wirkungsvollsten und verlockendsten Angriffsflächen da draussen sind", so McAfee-Forscher Steve Povolny.