News Autonomes Fahren: Haftungsfrage in der Koalition noch nicht geklärt

[updater14]

Ich seh es kommen, eine Black Box für jedes autonome Fahrzeug.
Damit nachher ganz klar gesagt werden kann wer was wann wie wo gesteuert hat.

 

[M@rsupil@mi]

@TrueAzrael *lach*
Stimmt. Irgendwie nicht mein Tag.

Ein Computer ist nicht Intelligent.

Menschen handeln oft auch nicht wirklich viel besser / intelligenter.

 

[TrueAzrael]

Eben.

Denkbares Szenario: Auf dem Gehweg läuft eine Schulklasse - ein Fußgänger springt gedankenlos auf die Straße - keine Zeit mehr zum bremsen.

Was tun? Ausweichen und die Schulklasse mitnehmen oder den Fußgänger überfahren?

Wir würde wohl einfach ne Vollbremsung machen und dem Typ vor uns viel Glück wünschen. Aber wie soll ein Programm sowas entscheiden können?

Ich sehe in dem Beispiel keinen wirklichen Konflikt. Ein Leben gegen das von vielen unabhängig davon ob es Schulkinder sind. Anders herum wäre das eher ein Problem. -> Menschenmenge gegen ein Schulkind

@ZeT und JenZor:

Genau!
Es gibt vieles (mehr) zu bedenken.
Wie das Auto mit Situationen umgeht.

Beispielsweise fährt das Auto auf eine Menschenmenge zu. Hangböschung links, Fußweg mit einem kleinen Kind rechts. Bremsen nicht mehr möglich. Was jetzt?
a) In die Menge Fahren
b) Nach Rechts ausweichen und das eine Kind überfahren
c) Nach Links ausweichen und die Böschung herunterstürzen (damit die Insassen hopps gehen lassen)

Ein Computer ist nicht Intelligent. So etwas muss irgendwie einprogrammiert werden. Und jemand muss sowas entscheiden..


Sehr philosophische Fragen die aufkommen.

Ich kann mir bei einem funktionierendem System nicht vorstellen, dass es zu einem Fall kommt bei dem ein autonomes Auto auf eine Menschenmenge zurast. Und wenn doch, dann hat das System die Menschenmenge nicht als solche erkannt, ergo keine Entscheidung nötig, da kein Hindernis vorhanden.

Auch hier kann ich mir allerdings vorstellen das ein Kind auf die Straße rennt und die einzige Möglichkeit auszuweichen Böschung oder Menschenmenge sind. Nicht anders herum.

Klar die Systeme treffen bestimmt auf Probleme die mit reiner Logik nicht zu lösen sind, aber wenn man sich darüber Gedanken macht, dann auch richtig und nicht mit konstruierten Beispielen die nie zu Stande kommen.

 

[JenZor]

@updater14: genau! Die Black Box wird dann ergeben, dass kein technischer Defekt vorlag und ank Windows 10 und Google weiß die Regierung, dass du die Nacht vorher nicht ausreichend Schlaf hattest, weil dein WoW Raid bis um 5 Uhr morgens vorm Boss ständig verreckt ist und du nach einer Lösung gegooglet hast.
Aus deinem Bestellvorgängen bei Amazon wird man außerdem feststellen, dass du deinen Vitamine schon seit 2 Wochen nicht mehr bestellt hast, was darauf schließen lässt, dass du nicht 100% fit warst.

Und die Regierung wird diese Totalüberwachung als Sensation und Meilenstein verkaufen und nach noch mehr Überwachung schreien!

 

[cor1]

wenn ich ein vollautonomes Fahrzeug habe will ich auch, dass das Fahrzeug vollautonom fährt. Ich will weder eingreifen müssen noch eingreifen können. Die Technik muss sich noch ein wenig entwickeln, aber das dauert nicht mehr lange.

Ah echt? Ich behaupte, das dauert noch eine ganze Weile, denn es geht nicht nur um die Technik. Ganz im Gegenteil, denn die Technik ist nur ein vergleichsweise triviales Teilproblem wenn es um autonomes Fahren geht.

Es gibt ausserdem Situationen, die sind nicht so einfach lösbar. Nicht aus technischen Gründen, sondern weil wir keine eindeutige Lösung haben. Das berühmte Beispiel ist die Entscheidung zwischen zwei Übeln. Diese kann der Computer übernehmen, klar. Aber wir haben noch gar keinen gesellschaftlichen Konsens dafür, was denn ethisch vertretbar ist und was nicht. Erst wenn wir den haben, kann dies überhaupt in den Algorithmus eingebaut werden.

Ah ja... übrigens brauchen wir für die momentan "teilautonomen" Autos ja noch den Nachweis, ob Mensch oder Maschine schuld ist. Sprich, die Fahrdaten müssen aufgezeichnet werden und zack, schon ist die die nächste Büchse offen, die da Datenschutz heisst!

Ich behaupte, das dauert noch eine ganze Weile, bis wir uns wirklich zurücklehnen können und irgendwas andere machen können im Auto. Es gibt viele offene Fragen, denn der Teufel steckt im Detail!

 

[ZeT]

Ich sehe in dem Beispiel keinen wirklichen Konflikt. Ein Leben gegen das von vielen unabhängig davon ob es Schulkinder sind. Anders herum wäre das eher ein Problem. -> Menschenmenge gegen ein Schulkind.

Drei Leute laufen über die Straße - 2 Kinder stehen am Rand und warten.

Ausweichen und die Kids über den Haufen fahren oder die drei Erwachsenen vor dir?

 

[TrueAzrael]

Ah ja... übrigens brauchen wir für die momentan "teilautonomen" Autos ja noch den Nachweis, ob Mensch oder Maschine schuld ist. Sprich, die Fahrdaten müssen aufgezeichnet werden und zack, schon ist die die nächste Büchse offen, die da Datenschutz heisst!

Ich behaupte, das dauert noch eine ganze Weile, bis wir uns wirklich zurücklehnen können und irgendwas andere machen können im Auto. Es gibt viele offene Fragen, denn der Teufel steckt im Detail!

Welche Büchse öffnet man mit einer Blackbox im Auto, die die letzten x Kilometer bzw. Stunden alle Sensordaten speichert und alles darüber hinaus verwirft. Auslesbar nur wenn ausgebaut. Also vermutlich nur im Falle eines Unfalls.

 

[JenZor]

@ZeT:
Dann ist immer noch die quantative Betrachtung "logisch". Bei Qualitativer Betrachtung von Leben und Gesundheit wird es dann verrückt.
Um es noch auf die Spitze zu treiben könnte man das Beispiel aus dem einen SAW Film reinbringen:

Wer soll sterben/ geopfert/ verletzt werden:

verheiratete kranke alte Frau, die beim Ableben von vielen vermisst und betrauert wird
oder
junger gesunder Single Mann ohne Familie oder Freunde, der niemandem fehlen wird?

 

[TrueAzrael]

Drei Leute laufen über die Straße - 2 Kinder stehen am Rand und warten.

Ausweichen und die Kids über den Haufen fahren oder die drei Erwachsenen vor dir?

Wie gesagt ich versteh das Ansinnen, wollte nur aufzeigen das die Beispiele unglücklich gewählt wurden.

Ich bin übrigens immer noch der Meinung ein paar ethisch falsche Entscheidungen durch autonome Fahrzeuge in solchen Fällen sind allemal besser als Millionen Tote durch mensch-gesteuerte Fahrzeuge.
Natürlich setzt das funktionierende Systeme voraus die dem Fahrer keine Möglichkeit zum Eingriff lassen und dass alles flächendeckend. Ich rechne irgendwo um 2025-2030 mit den ersten Exemplaren die dafür stabil genug laufen. Solange noch Menschen im dazwischen Pfuschen wird sich an den Unfällen nicht viel ändern.

 

[Gizmo0815]

Ich würde mich nie in ein autonomes Fahrzeug setzten, das entscheiden kann, mein Leben in der Liste der Erhaltungswürdigkeit hinter das eines anderen zu setzten. Kurz gesagt mein Auto muss immer den anderen überfahren, bevor es mich tötet.

 

[Bl4cke4gle]

Ich gehe davon aus, dass die Verkehrstoten durch autonomes Fahren dermaßen stark sinken werden (bessere Reaktionszeit, kein aggressives Fahren, weniger Übersehen etc pp), dass die paar Toten im Vergleich zu heute kaum noch ins Gewicht fallen, egal ob nun Kind, Böschung oder Menschenmenge.
Wäre also so oder so ein Schritt in die richtige Richtung. Leider ist es immer wieder ein Hindernis, dass in Sicherheitsdiskussionen die Anzahl der Toten auf 0 gesetzt werden soll, weil sich keiner traut, öffentlich zu sagen, dass es Tote geben wird.

EDIT: @ true: warst schneller

 

[ZeT]

@JenZor

Exakt. Quantitativ kann man es noch logisch berechnen lassen. Bei Qualitativ wirds ganz schwierig. Links und rechts steht jeweils ein Erwachsener und das Kind springt auf die Straße.... da lassen sich noch endlose Szenarien erstellen wo eine Entscheidung nicht mehr aus logischen Gründen getroffen werden kann.

Und Quantitativ kann auch Böse enden.... Alleine im Auto - Drei stehen am linken Straßenrand - zwei laufen über die Straße - rechts steht ein Baum. Logisch wäre dann, das Auto gegen den Baum zu lenken weil man selbst ja den quantitativen niedrigsten Wert darstellt.

Und um Leute aus dem Weg zu räumen würde sich das auch hervorragend eignen. Man springt einfach zu zweit vor ein Auto und des Auto fährt gegen die nächste Betonwand.

 

[FAT B]

Ich sehe in dem Beispiel keinen wirklichen Konflikt. Ein Leben gegen das von vielen unabhängig davon ob es Schulkinder sind. Anders herum wäre das eher ein Problem. -> Menschenmenge gegen ein Schulkind

ahja.

situation: auto muss entscheidung treffen: kind auf straße, betonpfeiler, menschengruppe.

menschngruppe = mehr menschen als im fahrzeug + mehr menschen als alternative kind = nein.

betonpfeiler = 1-3 tote im fahrzeug > kind alternative menschengruppe auch > kind = nein.

kind = ein toter = gogogo.

wie denkst du da jetzt drüber wenn dich die polizei anruft und dir mitteilt, dass dein kind von einem autonomen auto überfahren wurde, weil es die insassen nicht gefährden wollte und die vier kriminellen die am strassenrand ne oma abgezogen haben für eine menschengruppe gehalten hat?

wer trägt die schuld? was wiegt den tot deines kindes auf? würde eine diskussion losbrechen die das autonome fahren in frage stellt?

vor zwei jahren hat sich bereits der spiegel in einem vielseitigen artikel mit dem ganzen thema auseinandergesetzt. zu einer finalen erkenntnis sind sie trotz guter recherchen nicht gekommen. man war sich allerdings einig, dass das autonome fahren im besten falle erst dann einigermassen gut geregelt werden kann, sobald alle autos miteinander kommunizieren und am besten auch noch alle autos autonom in die fahrt eingreifen können (auf basis der kommunikation untereinander). bis dahin bleiben viele fragen offen und ungelöst. gesetze, haftungspflichten, verkehrsordnung, da muss alles in frage gestellt werden.

die haftungsfrage ist nur ein teilbereich. da kommen noch themengebiete die wir uns heute nicht im entferntesten vorstellen können.

ich betrachte das autonome fahren sehr kritisch. das wird nicht gut gehen, jedenfalls nicht im moment.

 

[JenZor]

Im Endeffekt streiten sich die Menschen seit Jahrhunderten darüber. Es ist auszuschließen, dass wir hier spontan dafür mal eine Lösung für dieses Problem erarbeiten. Andererseits... der Nobelpreis winkt.^^

 

[Black_Eagle]

Ja, ich weiß mein Beispiel war schlecht gewählt. Ich hatte das auch beim Schreiben noch zwei mal umgestellt die Sätze.
Und als ichs dann Editieren wollte waren schon 5 Beiträge mehr, da hab ich es gelassen.
Aber ich glaube wie du auch, versteht jeder was ich sagen wollte.

Aber was Gizmo sagt stimmt auch. Das würde sicherlich wenige bis keine Leute hinnehmen, wenn denen klar ist, dass das Auto einen absichtlich töten kann um zwei andere zu retten (Beispielsweise).

Ich denke bis die Systeme so weit sind, wird es noch ein paar Jahrzehnte dauern.
Bis die Menschen so weit sind - wesenltich länger.

 

[Malar]

Da kommt mir die Hintergrundgeschichte von iRobot in den Sinn.

"Ich war die LOGISCHE Wahl"

 

[Wolfsrabe]

Immer schön für jede Bequemlichkeit die Verantwortung abgeben wollen (das autonome Autofahren), aber vorher darüber herumphilosophieren, wann welche moralischen Entscheidungen zu treffen wären in Falle eines Falles.

Ich geh echt kaputt an der Faulheit und Arroganz der Menschheit - wobei das schlimme ist, daß es schwer bis beinahe unmöglich ist, sich 24 Stunden am Tag gegen die Ansteckung zu wehren...


P.S. Nicht persönlich zu nehmen.

 

[Eisbrecher99]

Wenn wir schon bei "falschen" Entscheidungen sind, dann ist dieses Video hier interessant, in dem ein Tesla Model S in der Schweiz einen Auffahrunfall verursacht.

[video=youtube;qQkx-4pFjus]https://www.youtube.com/watch?v=qQkx-4pFjus[/video]


Die Hintergründe sind leider etwas undurchsichtig, da die Dashcam des Fahrers leider nicht auch das Amaturenbrett erfasst hat. In der Situation hat die Software das Problem, welche Entscheidung jetzt die "richtige" ist. Folgt man dem zuvor davor fahrenden Insignia, der den Fahrstreifen wechselt, oder bremst auf das dahinterliegende Hindernis. Der Fahrer ging hier fest davon aus, dass das Fahrzeug auf jedem Fall eine vollständige Notbremsung hinlegen würde.

Leider wird hier auch im Video verkannt, dass der Tesla kein vollautonomes Fahrzeug ist, sondern eine Kombination von Assistenzsystemen.

Bezüglich der Hintergründe wäre ein Blick auf das Fahrer-Display interessant gewesen, da dort ja visuell angezeigt wird, welche Fahrzeuge in der Umgebung von der Sensorik erkannt werden. Laut dem Fahrer hätte das Fahrzeug kurz vor dem Hindernis zudem auch noch beschleunigt. Die Positionierung für die Überholfunktion auf dem Blinkerhebel ist auch nicht optimal. Ergo könnte der Fahrer genau so gut auch in der Hektik der Situation den Spurwechsel selbst eingeleitet haben.

Viel wichtiger ist hingegen der Punkt der Einstellung des AEB-Systems. Dabei kann der Fahrer selbst im System festlegen, wie "schnell" das AEB reagieren soll. Ist halt fragwürdig, warum der Hersteller so eine Möglichkeit überhaupt einräumt.

 

[Madman1209]

Hi,

Ich bin übrigens immer noch der Meinung ein paar ethisch falsche Entscheidungen durch autonome Fahrzeuge in solchen Fällen sind allemal besser als Millionen Tote durch mensch-gesteuerte Fahrzeuge.

exakt so sieht es aus!

Ihr redet alle mit euren Beispielen so, als würde ein Mensch in diesen Situationen grundsätzlich richtig und ethisch vertretbar handeln bzw. reagieren. Dem ist absolut nicht so. Man braucht sich nur einmal Unfallstatistiken ansehen und man erkennt schnell, dass der Mensch mit unheimlich großem Abstand das schwächste Glied in der Kette ist. Die Entscheidungen, die hier immer wieder gefordert werden, würden wahrscheinlich 90% der Leute hier auch falsch oder fragwürdig treffen oder gar nicht reagieren. Keinen Deut besser!

@Eisbrecher99

erstens ist der Tesla kein vollautonomes Fahrzeug und zweitens steht ganz klar im Handbuch, dass solche Situationen nicht durch die KI geregelt werden können!

Tesla Model S owners manual page 69

Warning: Traffic-Aware Cruise Control can not detect all objects and may not brake/decelerate for stationary vehicles, especially in situations when you are driving over 50 mph (80 km/h) and a vehicle you are following moves out of your driving path and a stationary vehicle or object, bicycle, or pedestrian is in front of you instead. Always pay attention to the road ahead and stay prepared to take immediate corrective action. Depending on Traffic-Aware Cruise Control to avoid a collision can result in serious injury or death. In addition, Traffic-Aware Cruise Control may react to vehicles or objects that either do not exist or are not in the lane of travel, causing Model S to slow down unnecessarily or inappropriately.

VG,
Mad

 

[estros]

So kompliziert ist es nicht. Jeder muss sich für das verantworten, was er getan hat. Wenn das Computersystem den Unfall begangen hat, kümmert sich der Hersteller(dessen Versicherung) drum. Andere Vorfälle übernimmt die Haftpflicht. Entsprechende Analysedaten werden die autonomen Fahrzeuge ohnehin bereitstellen.

Ich bitte aber drum, entsprechende Gesetze mit Amerika abzusprechen. Sonst wird das ein großes Wirr-Warr.