News Consumer Reports: Tesla Autopilot lasse sich ohne Fahrer zu einfach austricksen

[Kleiner69]

Fast jedes Auto hat heute Drucksensoren in den sitzen. Warum Verwendet Tesla die nicht?

Warum wird folgendes nicht gemacht:
Gurtschlusserkennung zeigt geschlossen
Drucksensor zeigt kein Gewicht auf dem Sitz
Ergebnis: Autopilot verweigert Dienst

Warum macht man so etwas nicht?

Als ob dies ein Hinderniss wäre, für Leute, die es darauf anlegen.

 

[HighDefinist]

Ich frag mich so ein bisschen was das eigentlich soll... ja man kann auch sich selber oder andere mit einem Kuechenmesser umbringen.

Testen wir ab jetzt auch alle Messer, ob sie automatisch stumpf werden, wenn man mit ihnen irgendwie rumfuchtelt oder sowas?

Ergänzung (23. April 2021)

Ziemlich schlechter Vergleich.

Nein, ziemlich guter Vergleich. Warum ist es denn ueberhaupt legal, Bohrmaschinen im Baumarkt ohne entsprechende Lizenz zu kaufen? Die Dinger sind schliesslich sehr gefaehrlich, wenn man sie nicht korrekt verwendet!

 

[Hayda Ministral]

Consumer Reports bemängelt in einem jüngst durchgeführten Versuch, dass die Sicherheitsmechanismen des „Autopilot“ von Tesla nicht ausreichend seien, um das Fahren ohne Fahrer hinter dem Steuer zu verhindern.

Hierzu hätte ich mal eine Detailfrage: Wieviele Dritte (also nicht im Fahrzeug des Selbstmörders sitzende) sind denn bisher dadurch umgekommen?

 

[Weyoun]

Das Lenkrad reagiert trotzdem auf die Jeans, Hände am Lenkrad nicht nötig. Klappt man den Sitz zurück und nimmt den Kopf aus dem Kamerasichtfeld kommt zwar eine Meldung "Kamerasystem verdeckt" - der Wagen fährt aber trotzdem munter weiter im autonomen Modus, solange ihn nichts strecken-technisches raus bringt.

Das sollte nicht passieren. Wenn ich bei meinem Superb (ACC plus Spurhalte-Assistent) den Piepstönen bei verlorenem Kontakt zum Lenkrad nicht Folge leiste, gibt es zuerst einen kurzen "Brems-Stoß" und wenn ich dann immer noch nicht reagiere, bremst das Auto komplett bis zum Stillstand ab.

Letztlich darf man aber davon ausgehen, dass alle Führerschein-Besitzer drei-mal-sechs sind und entsprechend wissen sollten, wie sie sich zu verhalten haben.

Im konkreten Fall bei Tesla muss man in den USA aber zwei-mal-acht sein.

 

[Loro Husk]

"Consumer Reports bemängelt, dass keine aufwendigeren Sicherheitsmechanismen wie etwa die Überwachung des Fahrers mittels Kameras ein solches illegales Verhalten unterbinden."

Was für eine lächerliche, hinterlistige Argumentation. Wer den Willen hat, proaktiv ein System zu überlisten und dabei die Sicherheit aller gefährdet, handelt idiotisch und asozial. Solch ein Verhalten gehört bestraft. Nicht aber die Allgemeinheit oder der Hersteller.

Auf Kosten dieser weniger Individuen, die gefährlich handeln, sollten nicht sämtliche Nutzer unter Generalverdacht gestellt werden und höchst problematische Technologien wie Gesichterkennung in Autos Einzug erhalten. Es gibt wenige Gründe, Kameras im Auto zu verbauen. Und wenn, dann sollten diese nicht mit außen kommunizieren können (Internet).

 

[Hayda Ministral]

Tesla nennt das System seit Jahren "Autopilot"

So wie Boeing, Airbus und andere Hersteller auch ihre Systeme nennen.
Und guess what - es kann in etwa vergleichbares. Es schaltet sich in nicht sicher beherschbaren Situationen ab und die Verantwortung hat (afaik) zu jedem Zeitpunkt der Pilot.

und weckt damit Assoziationen in der Normalbevölkerung die das System aber noch lange nicht erfüllen können wird.

Und genau dafür gibt es dann die Automatik[en] die Abschalte[t|n] wenn der Fahrer seine Händer nicht am Steuer hat. Ist Dir oder jemand anderem ein Fall bekannt wo diese Abschalt-Automatik versagt hätte ohne vorher manipuliert worden zu sein?

 

[HighDefinist]

Was für eine lächerliche, hinterlistige Argumentation. Wer den Willen hat, proaktiv ein System zu überlisten und dabei die Sicherheit aller gefährdet, handelt idiotisch und asozial. Solch ein Verhalten gehört bestraft. Nicht aber die Allgemeinheit oder der Hersteller.

Danke, wenigstens einer versteht noch, was fuer ein Unfug das ganze Aufgerege ist...

Und selbst wenn man als Gesellschaft bereit ist, die Menschen zu gaengeln, um fuer mehr "Sicherheit" zu sorgen, gibt es wesentlich effektivere Moeglichkeiten. Z.B. koennte man Autos doch so konstruieren, dass sie erst losfahren, wenn der Fahrer einen Alkoholtest erfolgreich bestanden hat! Denn das wuerde wirklich viele Menschenleben retten - aber dass noch nicht einmal so eine einfache, jedoch effektive Massnahme im Gesetz verankert ist, zeigt doch, dass am Ende eben doch niemand ein Auto haben moechte, das seinen Fahrer ueberwacht.

 

[efferman]

In dem Zusammenhang würde es mich interressieren was bei den anderen Herstellern nötig wäre um den Assistenten am laufen zu halten.

Z.B. koennte man Autos doch so konstruieren, dass sie erst losfahren, wenn der Fahrer eine Alkoholtest erfolgreich bestanden hat!

Gibt es bei LKWs schon.

 

[416c]

[...] dass die Sicherheitsmechanismen des „Autopilot“ von Tesla nicht ausreichend seien, um das Fahren ohne Fahrer hinter dem Steuer zu verhindern

Das kann so nicht stimmen.

 

[Tom_top]

Müdigkeit wird z. B. über Lenkwinkelsensoren festgestellt.

Müdigkeitserkennung anhand des Lenkverhaltens des Fahrers

Es gibt schon seit Jahr(zehnt)en andere (bessere?!) Möglichkeiten Müdigkeit zu erfassen. Kopfbewegungen, Lidschlussverhalten, Pupillometrie ...

Das nächste Mal setzt jemand eine mit Wassergefüllte Gummipuppe auf den Fahrersitz

Lässt sich mittels Kameras die z.B. den Kopf, die Augen, die Blickbewegungen beobachten verh ... minimieren.

Sonnenbrille oder dunkler Innenraum bringen die bestimmt schnell ans Limit.

Du würdest dich wundern was heute techn. möglich ist. Selbst Sonnenbrillen stellen keine unlösbare Herausforderung mehr dar

 

[Knaecketoast]

@mtheis1987 hat sich aber auch gebessert, VW setzt nun auf kapazitive Lenkräder.

 

[Odysseus277]

Was für eine lächerliche, hinterlistige Argumentation. Wer den Willen hat, proaktiv ein System zu überlisten und dabei die Sicherheit aller gefährdet, handelt idiotisch und asozial. Solch ein Verhalten gehört bestraft. Nicht aber die Allgemeinheit oder der Hersteller.

Genau so ist es. Wer ein System mutwillig überlisten will - und was hier gezeigt wurde, ist ganz sicher nicht "einfach", sondern erfordert sehr expliziten Wissen und Vorbereitung! - der wird das auch irgendwie schaffen.

Schade ist, dass die Medien kaum Follow-Ups zum Unfall in Texas bringen. Inzwischen sind nämlich ein paar weitere Details bekannt:

1) Die Löscharbeiten des Feuers dauerten nach Angaben des Feuerwehrhauptmanns keine 4+ Stunden, sondern waren in 2-3 Minuten erledigt. Danach wurde - wie bei E-Autos üblich - der Akku weiter mit Löschwasser gekühlt, um erneutes, thermisches Durchgehen zu verhindern. (Warum kein Wasser-Container genutzt wurde: Weil Leichen im Fahrzeug festgestellt wurden, und man einen möglichen Tatort ja nicht einfach mutwillig verändern darf.)

2) Der Unfall ereignete sich kaum 100 Meter von der Einfahrt des einen Todesopfers entfernt! Es handelt sich um eine Siedlungsstraße, die durchgängig (und v.a. auf dem gesamten Weg zwischen Start- und Endpunkt der Unglücksfahrt) keine Fahrbahnmarkierungen hat, und sich das Autopilot-System somit gar nicht einschalten lässt.

Möglicher, und für mich wahrscheinlichster Ablauf des Unfallgeschehens:
Die Ehefrauen der Todesopfer haben ja bezeugt, dass die Männer eine Fahrt planten, bei denen das Auto selbst fahren sollte. (Ich meine, dass es ein Leihwagen war, bin jetzt aber nicht mehr 100% sicher.) Sie stiegen also ein: Einer auf dem Beifahrersitz, einer hinten. Der Beifahrer wollte das mit dem "selbst fahren" wohl dem Fonds-Passagier vorführen. Völlig in Unkenntnis des Umstandes, dass es sich dabei um ein System handelt, das überhaupt erst mal eingeschaltet werden muss, hat der Beifahrer sich dann wohl nach links gebeugt, um das Gaspedal mit der Hand zu drücken. So ein Model S hat eine irrwitzige Beschleunigung, und wenn man gerade nach unten guckt um das Gaspedal mit der Hand zu treffen und einfach mal durchdrückt, wird man im Nu die 100 Meter bis zum Baum, der den Endpunkt der Fahrt darstellte, nach vorne katapultiert...

Das ist jetzt natürlich nur meine persönliche Theorie. Da die Behörden ermitteln, werden die Telemetriedaten des Wagens früher oder später an die Öffentlichkeit gelangen, und dann werden wir ja sehen, ab es sich um eine solche simple, unkontrollierte Beschleunigung gehandelt hat. Ich wette, dass es so oder ganz ähnlich abgelaufen ist.

Tragisch ist es allemal, es sind immerhin zwei Menschen gestorben. Ich gehe von bedauerlicher Naivität als Todesursache aus, und nicht von einem echten technischen Problem.

 

[HighDefinist]

Gibt es bei LKWs schon.

Na bitte. Warum nicht bei allen Autos?

Vielleicht sollten sich die Gesetze, und die allgemeine Aufregung der Bevoelkerung ersteinmal mit diesen low-hanging fruits beschaeftigen, also verpflichtende Alkoholtests in allen Autos einfuehren, anstatt mit so bizarren Details wie "die automatische Ueberwachung waehrend dem Fahren laesst sich mit etwas Aufwand austricksen" ihre Zeit zu verschwenden...

 

[Weyoun]

Naja, auf einer Bohrmaschine steht auch nicht explizit drauf dass man sich das Ding im Betrieb nicht an die Schläfe halten soll, sollte jetzt Bosch auch Kameras in die Bohrmaschinen einbauen die sicherstellen dass diese nur richtig verwendet werden?

Es geht auch darum, dass man Fehlbedienungen von vorn herein ausschließen muss. Stell dir vor Du fährst mit deinem Nachwuchs zum Supermarkt und lässt ihn auf dem Beifahrersitz sitzen. Jetzt spielt das experimentier- und lernfreudige Kind ein paar Knöpfe, schließt den Gurt des Fahrersitzes und plötzlich setzt sich das Auto in Bewegung. Ich kann mir vorstellen, in den klagefreudigen USA kommt jetzt eine ungemütliche Zeit auf Tesla zu.

Das schlimme ist ja, der Sensor zum Ermitteln, ob jemand auf dem Fahrersitz sitzt, ist anscheinend vorhanden, er wird nur nicht vom Autopiloten ausgewertet. Eine drastische Fehlentscheidung des zuständigen Projektleiters.

Ergänzung (23. April 2021)

Versteh den Auslöser für die Aufregung nicht? Das Problem hat sich doch offenbar beim Aufprall von selbst geregelt. Es wird klar kommuniziert, dass ein Fahrer aufmerksam am Steuer zu sein hat. Wer dann Bemühungen unternimmt um das System auszutricksen ist selbst schuld. Froh sein kann man eigentlich nur dass niemand anderes verletzt wurde, Mitleid kann ich da keines aufbringen.

Siehe mein Posting darüber. Es gibt Szenarien, in denen nicht der "Trickser", der "selbst schuld" ist, einen bösen Unfall auslösen kann, sondern u.U. Kinder beim Herumspielen den Autopiloten unbeabsichtigt starten können.

 

[Fuchiii]

Na bitte. Warum nicht bei allen Autos?

Weils niemanden juckt und Geld kostet....

Beispiel: Im LKW hat man ein eingeschränktes Sichtfeld - sollte bekannt sein. Man hätte nun die Fahrraderkennung in LKW`s verpflichtend machen können, ist nämlich ne tolle Sache, die sehen das Fahrrad auch im toten Winkel.

Was hat man gemacht..? -> LKW`s dürfen innerorts nur noch mit 8km/h abbiegen. Das ändert den toten Winkel halt leider nicht. Darf ja bloß kein Geld kosten.

 

[HighDefinist]

Jetzt spielt das experimentier- und lernfreudige Kind ein paar Knöpfe, schließt den Gurt des Fahrersitzes und plötzlich setzt sich das Auto in Bewegung. Ich kann mir vorstellen, in den klagefreudigen USA kommt jetzt eine ungemütliche Zeit auf Tesla zu.

Der experimentierfreudige Nachwuchs klaut die Autoschluessel von Mama, und faehrt los. Und zwar ohne Autopilot. Das geht mit jedem Auto.

Und trotzdem gibt es irgendwie keine massenweisen Klagen... vielleicht weil sogar die amerikanische Justiz versteht "wenn sich Mama die Schluessel vom Nachwuchs klauen laesst, ist Mama daran Schuld"?

Also wirklich, dein Beispiel ist doch Unfug... insbesondere weil in deinem Fall ein Autopilot das meiste Unheil wohl sogar verhindern wuerde!

 

[efferman]

Na bitte. Warum nicht bei allen Autos?

Dann sagt Papi/Mami eben zum/zur Lütten: willst du auch mal reinpusten?

 

[Zornica]

die Innenraumkameras sind eben nur zum spionieren da, dafür muss man schon Verständnis haben.

Versteh den Auslöser für die Aufregung nicht? Das Problem hat sich doch offenbar beim Aufprall von selbst geregelt. Es wird klar kommuniziert, dass ein Fahrer aufmerksam am Steuer zu sein hat. Wer dann Bemühungen unternimmt um das System auszutricksen ist selbst schuld. [...]

es wird eben nicht klar kommuniziert, weil Tesla mit dem "Autopiloten" Autos verkauft, indem das Marketing suggeriert, dass das mehr könnte als es eigentlich kann, ergo auch der Name "Autopilot".
Die Schuld dann nur bei den Kunden zu suchen greift da viel zu kurz und grenzt eigentlich schon an Victimblaming.
Tesla und deren irreführendes und fahrlässiges Marketing ist da nicht um sonst seit einigen Wochen Ziel einer Untersuchung

 

[HighDefinist]

Dann sagt Papi/Mami eben zum/zur Lütten: willst du auch mal reinpusten?

Naja... also wenn man zumindest schonmal alle betrunkenen Nicht-Eltern ausschliessen wuerde, wuerde das schonmal viel helfen. Und sonstige volljaehrige Reinpuster wuerden sich im Zweifelsfall strafbar machen.

Also um es nochmal klarzumachen: Ich bin nicht notwendiger Weise fuer so eine Massnahme - aber dass sie im Zweifelsfall wirklich helfen wuerde, und inbesondere viel sinnvoller sein sollte, als das Aufgerege ueber Teslas austrickbare automatische Ueberwachung, sollte schon klar sein.

 

[Weyoun]

In dem Zusammenhang würde es mich interressieren was bei den anderen Herstellern nötig wäre um den Assistenten am laufen zu halten.

Gibt es bei LKWs schon.

Volvo hat das System und die EU wollte (oder will immer noch), das alle Neuwagen einen "Alk-o-mat" besitzen.