News Consumer Reports: Tesla Autopilot lasse sich ohne Fahrer zu einfach austricksen

[flappes]

Was genau wird da bemängelt?
Dass man für den Darwin-Award vorgeschlagen ist, wenn man einem Tesla vortäuscht am Steuer zu sitzen?

 

[pmkrefeld]

Warum macht man so etwas nicht?

Warum sollte man? Diese sind für die Funktion "Autopilot" keineswegs notwendig.
Das nächste Mal setzt jemand eine mit Wassergefüllte Gummipuppe auf den Fahrersitz und dann beschweren sich Leute wieder, oder wie?

 

[iSight2TheBlind]

Tesla nennt das System seit Jahren "Autopilot" und weckt damit Assoziationen in der Normalbevölkerung die das System aber noch lange nicht erfüllen können wird.
Auch ist seit Jahren - eben auch besonders wegen Tesla - das "selbstfahrende Automobil" in der Presse und der Normalo zählt dann eben 1:1 zusammen und denkt das Auto kann komplett von alleine fahren - Elon Musk verspricht ja auch jedes Jahr erneut, dass es ab Ende des Jahres endlich losgehen wird und man von seiner Wohnung mitten in Manhattan bis Downtown Los Angeles vollkommen automatisiert fahren können wird.

Tesla und besonders Elon Musk sind deshalb imho absolut schuld daran, dass sie Erwartungen schüren, die das System aber noch gar nicht erfüllen kann.
Vielleicht sollte man einem professionellen Bullshitter wie Musk (ich bin auch ein Fan von Tesla und SpaceX, aber der Typ verspricht halt andauernd das Blaue vom Himmel) nicht die Firmenkommunikation zu sicherheitskritischen Funktionen wie eben dem Autopilot überlassen.

Natürlich kann man auch ein gut durchdachtes System irgendwie austricksen und wenn man das bewusst machen will wird es irgendwie klappen - aber hier hat es Tesla verpasst wirklich simpelste, grundlegende Methoden anzuwenden um ein Exploiten des "Autopilot" zu verhindern!

 

[Endless Storm]

Wenn ich einen Stein auf das Gaspedal lege und dann aus dem Auto springe, ist dann auch der Hersteller schuld?

Nein, der Gesetzgeber. Der hat es ja schließlich versäumt, zu veranlassen, dass die Hersteller das tun müssen.

So oder so ähnlich könnte es sich tatsächlich zugetragen haben.

 

[7hyrael]

Warum wird folgendes nicht gemacht:
Gurtschlusserkennung zeigt geschlossen
Drucksensor zeigt kein Gewicht auf dem Sitz
Ergebnis: Autopilot verweigert Dienst

Warum macht man so etwas nicht?

Weils nix bringt? Es gibt idioten die auch noch so weit gehen würden eine Schaufensterpuppe auf den Sitz zu schnallen, mit entsprechenden Gewichten. Das Problem ist nicht, dass das Auto nicht blockiert so eine scheiße zu veranstalten, sondern dass diese Idiotie in manchen Ländern wie den USA noch belohnt wird, durch das bekloppte Justizsystem.

Es müsste einfach jedem der sowas auch nur ausprobiert direkt eine Verurteilung für etwas wie "Versuchter, grob-Fahrlässiger Tötung" angehängt werden, denn was anderes als eine fahrlässige Gefährdung anderer ist es nicht. Soll sich meinetwegen jemand auf seinem Privatgelände in die Luft jagen beim versuch nen Tesla zum Fliegen zu bringen...

Aber solange die Autonomen Fahrassistenten noch nicht klar dafür zugelassen sind ohne jegliche Aufmerksamkeit des Fahrers zu agieren, gehört solcher Kram einfach in etwa so hart bestraft wie fahrlässige Tötung. Denn bis es passiert ist nur ne Frage der Zeit, dann den Schwachmaten lieber direkt schon mal zur Vorbeugung wegsperren.

 

[v_ossi]

@pmkrefeld

Darum habe ich auch "0815 Max Mustermann Definition" geschrieben. Ich bin mir nämlich relativ sicher, dass ein nicht zu vernachlässigen großer Nutzerteil Autopilot nicht nach der englischen Wikipedia Definition versteht, sondern mit vollständig selbstfahrend assoziiert; wie damals KITT in Knight Rider.

Der deutsche Wikipedia Eintrag ist auch wesentlich weniger eindeutig.

Als Autopilot wird eine automatische, üblicherweise programmierbare Steuerungsanlage bezeichnet, welche Fortbewegungsmittel auf Wunsch automatisch lenkt, ohne dass Menschen, während der Autopilot aktiv ist, in die Steuerung eingreifen müssen. In der Regel handelt es sich um einen Computer, der Umgebungsinformationen von den Instrumenten des Fortbewegungsmittels verarbeitet, um zu ermitteln, wie das Fortbewegungsmittel gesteuert werden soll.

Allein das sollte schon ausreichen, um aufzuzeigen, dass die Definition nicht universell so verstanden wird, wie man sich das erhofft.

 

[Lübke82]

Danke für den Tipp mit der Kette und den Klebeband. Werd mal testen ob der adaptive Spurhalter in meinem Corolla sich auch so austricksen lässt.

 

[LukS]

@pmkrefeld
Nein, um das geht es mir nicht.

Mir geht es einfach nur darum, warum die Sensoren nicht verwendet werden, wenn sie doch scheinbar im Auto sind. Jeder scheiß wird überwacht, aber Verwendung finden sie dann trotzdem nicht.
Das ist eine einfache Abfrage, die man in 10-20 Zeilen Code einbauen kann. Warum macht man das nicht einfach?

Dann kann ich die ganzen Sensoren doch gleich weglassen. Für was brauch ich dann ein Anschnallerkennungn usw. Da kann ich es doch gleich bleiben lassen, wenn ich das für so etwas wichtiges wie den Autopiloten nicht verwende.

 

[7hyrael]

Vielleicht sollte man einem professionellen Bullshitter wie Musk (ich bin auch ein Fan von Tesla und SpaceX, aber der Typ verspricht halt andauernd das Blaue vom Himmel) nicht die Firmenkommunikation zu sicherheitskritischen Funktionen wie eben dem Autopilot überlassen.

Sorry, wer anstatt die Betriebsanleitung zu lesen und zu befolgen, die Marketingkampagnen als Anleitung nimmt, sollte wohl bei sowas wie einem Fahrzeug am besten so schnell wie möglich ohne Beteiligung Dritter an einem Baum enden... Ein Fahrzeug zu führen erfordert Verantwortungsbewusstsein da es sehr einfach ist damit andere schwer zu verletzen bis hin zu töten.

 

[LukS]

sondern dass diese Idiotie in manchen Ländern wie den USA noch belohnt wird, durch das bekloppte Justizsystem.

Das mutwillige Auserkraftteten einer Sicherheitseinrichtung sollte eigentlich bestraft werden. Wird das in den USA so nicht gehandhabt? In Europa wäre das grob Fahrlässiges handeln und damit strafbar.

 

[Maggolos]

Natürlich kann man auch ein gut durchdachtes System irgendwie austricksen und wenn man das bewusst machen will wird es irgendwie klappen - aber hier hat es Tesla verpasst wirklich simpelste, grundlegende Methoden anzuwenden um ein Exploiten des "Autopilot" zu verhindern!

Leider so viel wahres in diesem Kommentar. Es ist im Moment nur gutes Marketing. Ähnlich wie andere "AI" oder "Big Data/Data Science" Projekte. Real nur "eine komplexe Blackbox + If-Schleifen", aber nichts was das Wort Intelligenz beschreibt. Des öfteren mal, polemisch gesagt, gibt es Inselbegabungen alá Dota2/Schach Ki.

 

[slrzo]

Als ich die Meldung das erste Mal gelesen hatte, dass sich kein Fahrer auf dem Fahrersitz befand dachte ich mir nur WTF. Wie kann man so etwas nur konstruieren und nicht wie im Artikel angemerkt bereits bei den Airbags mit dem Gewichtssensor arbeiten.
Das ist doch vermutlich das erste was mit einem autonom fahrenden Auto gemacht wird, dass versucht wird den Fahrersitz zu verlassen. Soviel hätten die Entwickler doch vorausschauen müssen.

 

[iSight2TheBlind]

@7hyrael Ich sehe auch ständig Leute mit dem Handy am Steuer, obwohl sie definitiv ein Auto fahren welches Bluetooth oder gar Apple CarPlay und Android Auto besitzt.
Die Strafen dafür könnten imho nicht hoch genug sein und generell sehe ich Autofahren eher als ein Privileg als ein Recht, es gibt genug Leute die sich eindeutig disqualifiziert haben und trotzdem ihren Führerschein behalten.

Aber: Wie @LukS schon sagt: Die Sensoren sind vorhanden und Tesla sollte wissen welche Gefahr von ihrem Marketing ausgeht (ich meine hier wurde auch mal gewitzelt, als irgendein Depp ein gefaktes Bild mit Wasserdichtigkeit bei iPhones durch ein iOS-Update versprochen hat, da gingen also Leser des Forums davon aus, dass genug Leute drauf reinfallen - hier nicht?!) - dann können sie doch verdammt noch Mal auch alle Sensoren verwenden um ein Exploiten zu verhindern.
Wenn sie es schon nicht tun um Menschen vor ihrer eigenen Dummheit zu schützen sollten sie es doch tun um ihren eigenen Arsch zu schützen, denn nun geht wieder so eine Nachricht durch die Presse und Tesla steht dumm da...

 

[LukS]

Ein Fahrzeug zu führen erfordert Verantwortungsbewusstsein da es sehr einfach ist damit andere schwer zu verletzen bis hin zu töten.

Das sieht man ja schon daran, wie man in den USA eine Lenkerberechtigung bekommt. Die Prüfung ist ein Witz. Ausbildung dafür wird auch nicht wirklich benötigt. Dementsprechend fahren die Amis auch auf ihren Straßen...

 

[jackii]

Versteh den Auslöser für die Aufregung nicht? ... Froh sein kann man eigentlich nur dass niemand anderes verletzt wurde

Dass dir das Leben des Fahrers egal ist, kann ich noch einigermaßen teilen. Allerdings hatte er und sein Beifahrer auch Familie.. die jetzt womöglich auch noch zehntausende Dollar Autokredit abzahlen kann. Aber der wichtigste Punkt, warum Aufregung nicht verwunderlich ist und man deine Selektion auf die Art nicht gutheißen kann, hast du selber genannt. Mit bisschen weniger Glück, mäht man dabei nämlich versehentlich völlig Unbeteiligte um. Das ist der große Unterschied zu deinen anderen Beispielen in denen man natürlich auch nicht vor seiner eigenen Dummheit geschützt wird.

 

[Lee Monade]

Ich könnte nie einem Stück Software mein Leben anvertrauen wenn man bedenkt wie Fehleranfällig so was ist verstehe ich die Leute einfach nicht.

Software macht keine Fehler! Computer auch nicht!
Fehler machen Menschen, beim Entwickeln der Software.
Würden alle PKW und LKW auf der Welt autonom fahren würde die Zahl der Verkehrstoten stark reduziert.
Man darf nur nicht erwarten das ein autonomes System keine Unfälle produziert, weil manchmal lassen sich diese einfach nicht mehr vermeiden.

 

[Be0w0lf]

Wenn man es darauf anlegt kann man jedes System überlisten. Der Fahrer, ähm sorry, eher der Beifahrer des Teslas hat es geschafft und den ultimativen Preis gewonnen. Gratulation

 

[LukS]

Mit bisschen weniger Glück, mäht man dabei nämlich versehentlich völlig Unbeteiligte um. Das ist der große Unterschied zu deinen anderen Beispielen in denen man natürlich auch nicht vor seiner eigenen Dummheit geschützt wird.

Da kann ich dir nur zustimmen. Wer mit einem 2 Tonnen Ziegel in der Gegend rumfährt, muss auch auf andere Acht geben. Mir egal ob der Fahrer durch sein Handeln verletzt wird oder stirbt. Wenn aber unbeteiligte verletzt werden, dann hört sich der Spaß auf.

 

[Dre@mc@st]

Da ist mein Rasenmähertraktor besser gesichert. Will der 6 jährige damit fahren, geht nicht zu leicht. Legt man einen Ziegelstein aufs Gaspedal, fährt auch nix und wenn ich während der Fahrt runter falle, bleibts Teil stehen. Hightech im Garten, aber Tesla schafft das nicht für die Straße.

 

[squadric]

Naja, auf einer Bohrmaschine steht auch nicht explizit drauf dass man sich das Ding im Betrieb nicht an die Schläfe halten soll, sollte jetzt Bosch auch Kameras in die Bohrmaschinen einbauen die sicherstellen dass diese nur richtig verwendet werden?

Ziemlich schlechter Vergleich.