Chinesische Tesla-Fahrer tricksen Autopilot mit Mini-Puppenköpfen aus

Funktionsweise der Täuschung durch physische Attrappen

Die Methode basiert auf der Art und Weise, wie Teslas Fahrerüberwachungssystem (Driver Monitoring System, DMS) funktioniert. Das System nutzt eine im Innenraum installierte Kamera, die über dem Rückspiegel positioniert ist, um die Kopfhaltung und die Blickrichtung des Fahrers zu analysieren. Ziel ist es, Müdigkeit oder Ablenkung zu erkennen und den Fahrer durch akustische oder visuelle Warnungen zur Interaktion mit dem Fahrzeug aufzufordern.

In den auf sozialen Medien verbreiteten Videos platzieren Nutzer kleine, menschenähnliche Kunststoffköpfe in das Sichtfeld der Kamera. Diese Attrappen werden so ausgerichtet, dass sie die Geometrie eines menschlichen Kopfes imitieren, der nach vorne auf die Fahrbahn blickt. Die KI-Algorithmen des Fahrzeugs interpretieren diese statischen Objekte als einen aufmerksamen Fahrer. Dadurch wird der sogenannte „Nag“ – die regelmäßige Aufforderung, das Lenkrad zu berühren oder die Aufmerksamkeit zu bestätigen – unterdrückt.

Dieser Ansatz ist Teil von Teslas übergeordneter „Tesla Vision“-Philosophie, bei der das Unternehmen konsequent auf Hardware-Sensoren wie Radar oder Ultraschallsensoren verzichtet und stattdessen ausschließlich auf kamerabasierte Daten und neuronale Netze setzt. Das DMS ist somit die einzige interne Instanz, die sicherstellt, dass der Fahrer trotz der teilautomatisierten Steuerung die Kontrolle behält.

Schwachstellen in der kamerabasierten Fahrerüberwachung

Der Vorfall verdeutlicht eine grundlegende Schwachstelle in der rein visuellen Erkennung ohne zusätzliche Sensorik. Tesla setzt primär auf eine Kamera, die Muster erkennt, anstatt eine präzise Iris- oder Pupillenverfolgung (Eye-Tracking) in Echtzeit durchzuführen.

Ein rein bildbasiertes System ist anfällig für sogenannte Spoofing-Angriffe. Dabei wird dem Sensor ein Signal oder ein Objekt präsentiert, das wie die gewünschte Eingabe aussieht, aber keine tatsächliche Aktivität darstellt. Während hochentwickelte Systeme in anderen Fahrzeugklassen Infrarotsensoren nutzen, um die Tiefe und die tatsächliche Bewegung des Augapfels zu messen, verlässt sich das System in den betroffenen Tesla-Modellen auf eine Analyse der Kopfposition und grober Gesichtszüge.

Infrarot-basierte Systeme können die Pupillenbewegung unabhängig von den Lichtverhältnissen im Fahrzeug erfassen und so feststellen, ob ein Auge tatsächlich blinzelt oder sich bewegt. Die Mini-Puppenköpfe nutzen die Vereinfachung des RGB-Kamerasystems aus, indem sie das erforderliche visuelle Muster liefern, ohne dass eine echte biologische Präsenz vorhanden ist. Da das System auf die Erkennung von Merkmalen wie Augen- und Nasenposition optimiert ist, reicht eine statische Form oft aus, um die KI zu überzeugen.

Vergleich der Überwachungsstandards bei Elektrofahrzeugen

Die Sicherheitsphilosophie von Tesla unterscheidet sich deutlich von anderen Herstellern, die ebenfalls teilautomatisierte Fahrsysteme anbieten. Während Tesla auf eine minimale Hardware-Ausstattung und maximale Software-Optimierung setzt, implementieren Wettbewerber oft redundante Systeme.

Einige Hersteller nutzen Lenkradsensoren, die nicht nur Druck, sondern auch die Art der Berührung messen, kombiniert mit Infrarot-Kameras, die auch bei völliger Dunkelheit die Blickrichtung auf Millimeter genau bestimmen können. Diese Systeme sind deutlich schwerer mit einfachen physischen Objekten zu täuschen, da sie eine aktive biologische Reaktion (wie das Blinzeln oder die Sakkaden der Augen) erwarten.

Zudem setzen Organisationen wie Euro NCAP zunehmend strengere Kriterien für die Bewertung von Fahrerüberwachungssystemen. In ihren Sicherheitstests wird bewertet, wie effektiv ein System verschiedene Arten von Ablenkung erkennt und wie schnell es den Fahrer warnt. Während Level-2-Systeme wie der Tesla Autopilot die volle Verantwortung beim Fahrer belassen, nutzen Level-3-Systeme (wie beispielsweise der Mercedes-Benz Drive Pilot) weitaus komplexere Überwachungsmechanismen, da in bestimmten Situationen die rechtliche Haftung auf den Hersteller übergeht.

Die in China beobachtete Praxis zeigt, dass die Abhängigkeit von einer einzigen Kameraquelle ein Sicherheitsrisiko darstellt, wenn Nutzer gezielt nach Wegen suchen, um die Überwachung zu umgehen.

Risiken für die Verkehrssicherheit und rechtliche Folgen

Die Deaktivierung oder Umgehung des Fahrerüberwachungssystems führt dazu, dass die Verantwortung für die Fahrzeugführung de facto aufgegeben wird, während das Auto weiterhin im Autopilot-Modus operiert. Dies erhöht die Gefahr von schweren Unfällen, da die Reaktionszeit des Fahrers bei einem Systemversagen oder einer unerwarteten Situation auf der Straße massiv verlängert wird.

Um solche Missbräuche zu verhindern, hat Tesla ein System von „Autopilot Strikes“ eingeführt. Dabei wird die Nutzung der automatisierten Fahrfunktionen für einen bestimmten Zeitraum gesperrt, wenn das System wiederholt feststellt, dass der Fahrer nicht aufmerksam ist oder die Warnungen ignoriert. Die Verwendung von Attrappen zielt direkt darauf ab, diese Sperren zu vermeiden, indem sie das System künstlich in einem Zustand der „Aufmerksamkeit“ halten.

In vielen Gerichtsbarkeiten wird die Nutzung solcher Hilfsmittel als grobe Fahrlässigkeit eingestuft. Sollte es zu einem Unfall kommen, während eine solche Attrappe verwendet wird, könnte dies die Haftungsfrage grundlegend verschieben. Versicherungen könnten die Leistung verweigern, da die Sicherheitsvorkehrungen des Herstellers vorsätzlich manipuliert wurden.

Tesla hat in der Vergangenheit Software-Updates veröffentlicht, um die Erkennung der Fahreraufsicht zu verbessern. Es bleibt abzuwarten, ob das Unternehmen spezifische Algorithmen einführt, die statische Objekte von echten menschlichen Bewegungen unterscheiden können, etwa durch die Analyse von Mikro-Bewegungen des Kopfes oder die Integration weiterer Sensordaten.

Find more reporting in our Technik und Wissenschaft section.