News Autonomes Fahren: Wer bei Unfällen haften soll, bleibt umstritten

[Aduasen]

Die Frage (Wer haftet bei einem Unfall) ist meiner Meinung nach zu einfach gestellt.

Auch heute ist es doch so, dass auch der Hersteller z.B. eines Airbag Systems in die Haftung genommen werden kann, wenn es durch Fehler in seinem System zu Toten/Verletzten kommt.

Insofern darf sich die Frage in Bezug auf die Haftung der KI Entwickler bei einen Unfall nicht generell stellen, sondern erst dann, wenn nachgewiesen werden kann, dass die KI den Unfall entgegen der vereinbarten Verhaltensweise verursacht hat.

Wenn man eine KI so programmiert, dass sie in eine Mauer fährt, anstelle einen Fußgänger zu überfahren, kann man schlecht den KI Entwickler verantwortlich machen, wenn das Auto genau das tut.

Meiner Meinung nach muss hier nach wie vor ermittelt werden, wer im Einzelfall Schuld hat:

KI Fehler ->
Hier muss dann ggf. sogar weiter untersucht werden, ob vielleicht fahrlässig vom Autohersteller in der QS der Fehler übersehen wurde...
Abgenommen und in das jeweilige Modell eingebaut wurde das System ja vom Hersteller.

'Normaler' Unfall mit korrektem Verhalten der KI ->
Der Halter, wenn er den Unfall verursacht hat.
Der Hersteller, wenn die KI den Unfall verursacht hat.

 

[swoptrok]

extrem spannend auch, ob der Algorithmus im Falle eines unvermeidbaren Unfalles mit alternativen Ausweichrouten z.b. Kinder verschonen sollte - und dafür das Auto in einen "Alten" rast. Oder programmiert man einen Zufallsgenerator ein? oder was ist ethisch?

*gähn*

Schon wieder dieses Uralt-nicht-Argument.
Was würde ein menschlicher Fahrer machen? Vermutlich in lauter Panik nichts, bzw. viel zu spät reagieren.
Ein selbstfahrendes Auto reagiert immer schneller als ein menschlicher Fahrer und der Schaden in so einem Fall wird immer geringer sein. Wo also ein Mensch entweder das Kind oder die alte Frau überfahren "muss", schafft es ein selbstfahrendes Auto womöglich noch rechtzeitig zu bremsen. Falls nicht wird der Aufprall, mit wem auch immer, deutlich geringer Ausfallen.

Generell bin ich in der Debatte immer wieder erstaunt über die Leute die meinen sie könnten besser fahren und schneller reagieren als ein Computer. (nicht gegen icetom gerichtet)

Zur Fragestellung an sich würde ich dem hier zustimmen:

KI Fehler ->
Hier muss dann ggf. sogar weiter untersucht werden, ob vielleicht fahrlässig vom Autohersteller in der QS der Fehler übersehen wurde...
Abgenommen und in das jeweilige Modell eingebaut wurde das System ja vom Hersteller.

'Normaler' Unfall mit korrektem Verhalten der KI ->
Der Halter, wenn er den Unfall verursacht hat.
Der Hersteller, wenn die KI den Unfall verursacht hat.

Wer schon mal in einem der neuesten Prototypen saß wird ganz schnell merken, wie überlegen die Technik ist.
Wenn sich das umsetzt, dann wird es deutlich weniger Unfälle geben, da bin ich sicher. Darum muss hier rechtliche Eindeutigkeit her, denn es kann nicht sein, dass dieser gesellschaftliche Benefit an solchen Kleinigkeiten scheitert.

 

[h00bi]

Für mich ganz simpel:
Fahrer hat die Wahl ob er den Autopilot Knopf drückt oder nicht.
Damit ist er verantwortlich. Ohne seinen Auftrag würde die KI nicht fahren.
Ob er dem System vertraut oder eine KI-Fahrerversicherungspolice abschließt muss er selbst wissen.

Eine solche Police pegelt ich mit der Zeit automatisch auf einem vernünftigen Preis ein, wenn die Versicherungen merken dass mit KI weniger Unfälle passieren. Dann können es sich in den ersten paar Jahren halt nur Reiche leisten, so what?

 

[rob-]

Der Fahrer drückt den Knopf aber in Erwartung dass die KI auch 100% fahren kann.
Theoretisch dürfte da nie etwas passieren, wenn doch, dann weil der Hersteller nicht richtig programmiert hat.

Die Waschmaschine mache ich auch mit einem Knopf an, wenn sie dann kaputt geht fällt es unter Garantie.

 

[Aduasen]

Schwierig wird es halt bei Unfällen, in denen eine KI (die ja auf korrektes Verhalten getrimmt ist) auf einen menschlichen Fahrzeuglenker trifft.
Wobei ich mir da eigentlich fast keine Situation vorstellen kann, in denen die KI den Unfall verursacht

Ich bin da im Grunde nur darauf gespannt, wie unsere kriminellen Geister solche Situationen mit fingierten Unfällen auszunutzen versuchen werden, wenn erstmal die diversen Schwachstellen der unterschiedlichen KIs bekannt werden.

 

[Shoryuken94]

Die Sicherheit der KI wird solange überschätzt, bis ein signifikanter Anteil des Verkehrs automatisiert ist. Sie wird zudem immer hinter den Möglichkeiten bleiben, solange jeder Hersteller sein eigenes Süppchen kocht.

Die Haftung ist schwierig. Das hängt von der Situation ab. Hätte sich ein Unfall nachweislich durch das eingreifen des Fahrers verhindern lassen, dann sollte dieser meiner Meinung nach auch dafür haften.

Ansonsten sollte meiner Meinung nach der Automobilhersteller haften. Schließlich stellt er das Gesamtprodukt zur Verfügung. Die Software ist ja auch nur ein Teil des Autonomen Fahrens. Sensorik, Kameras, Steuerelemente etc. sind auch beteiligt.

Durch erste Regelung sollten viele Fälle abgedeckt sein.

 

[68000]

Die Industrie, also auch die Automobilindustrie, arbeitet nach ISO 9000, also ist der Verursacher des Fehlers verantwortlich.

Um mal etwas emotionales in die Runde zu werfen:
Ein autonom Fahrendes Fahrzeug erkennt ein 3 jähriges Kind auf der Straße und ermittelt nicht mehr rechtzeitig bremsen zu können, am linken Fahrbahnrand steht eine Mutter mit ihrem Kinderwagen und am rechten Rand eine Kindergartengruppe mit samt Kindergärtnerin.

Wie soll sich das System entscheiden?

 

[TheLastHotfix]

Halte ich aus juristischer Sicht für eine klare Sache: Gegenüber Konsumenten haftet der Fahrzeughersteller.
Was sich der im Schadensfall von seinen Lieferanten bzw. KI Programmierern holt kann nicht das Problem vom Verbraucher sein.

 

[Aduasen]

Um mal etwas emotionales in die Runde zu werfen:
Ein autonom Fahrendes Fahrzeug erkennt ein 3 jähriges Kind auf der Straße und ermittelt nicht mehr rechtzeitig bremsen zu können, am linken Fahrbahnrand steht eine Mutter mit ihrem Kinderwagen und am rechten Rand eine Kindergartengruppe mit samt Kindergärtnerin.

Das ist ein rein ethisches Problem, welches einheitlich geregelt werden muss.
Hat aber mit Haftung und Schuldfrage eher weniger zu tun.

 

[Corros1on]

Generell bin ich in der Debatte immer wieder erstaunt über die Leute die meinen sie könnten besser fahren und schneller reagieren als ein Computer. (nicht gegen icetom gerichtet)

Ich glaub, dass ich nicht mehr erwähnen muss wie schnell sich die Bedingungen im Straßenverkehr ändern kann bzw. dass es nicht immer eindeutige und oder Bilderbuchsituationen gibt und ein Mensch kann immer noch besser mit unbekannte Situationen umgehen, ob die Reaktion darauf jetzt immer die Richtige ist/ war lass ich mal offen.

Es geht nicht nur ums reagieren, sondern auch ums einschätzen und beurteilen einer Situation.

 

[Dr. MaRV]

Richtig, haften sollte eine neutrale Kasse in die alle einzahlen. ...

Bitte nur die, die so eine Karre mit Autonomer Fahrfunktion besitzen. Ich sehe nicht ein, für andere die sich so eine Luxuskarre hinstellen auch noch die Versicherungsbeiträge zahlen zu sollen. Der normale Bürger, der sich so einen Luxus nicht so schnell wird leisten können, zahlt schon genug für Wohlhabende mit.

 

[xexex]

Wie soll sich das System entscheiden?

Vollbremsung und das Kind überfahren.

Ein menschlicher Fahrer wäre sowieso nicht in der Lage, alles im Voraus berechnen zu können. Außerdem hätte man sonst eine "tolle" Waffe entwickelt. Überall könnten Kinder einfach so auf die Straße laufen, um "ihre" Erwachsenen in der Nähe umzubringen.

Das eigentliche "Problem" ist hier nur die Reaktion der Medien. Obwohl letztes Jahr 3200 Menschen bei Verkehrsunfällen ums Leben kamen und diese Zahl mit KIs rapide sinkt, wird man jedes tote Kind durch die Medien jagen.

Es geht nicht nur ums reagieren, sondern auch ums einschätzen und beurteilen einer Situation.

Viele Menschen können heutzutage ohne ABS, ASR und ESP auf einer glatten Straße, nicht einmal mehr durch eine Kurve fahren. Bei komplexen Situationen würde/sollte ein menschlicher Fahrer das gleiche tun wie eine KI - Vollbremsung!

 

[psYcho-edgE]

Aus praktischer Sicht etwas ernüchternd, denn wenn die Entwickler haften sollen, wird es keiner mehr entwickeln wollen, soll der Fahrer haften, werden sich die Autos nichts durchsetzen... zumal es ja nur ein Zwischenschritt zum vollautomatisierten Fahren sein wird...​

Als Entwickler würde ich das Spiel auch nicht mitmachen. Zumindest nicht in DE. Würde da ein Verkaufsverbot meiner Technologie in Ländern mit Entwicklerhaftung als Bedingung für die Lizenzabnahme ansetzen und fertig ist der Lack.

Um mal etwas emotionales in die Runde zu werfen:
Ein autonom Fahrendes Fahrzeug erkennt ein 3 jähriges Kind auf der Straße und ermittelt nicht mehr rechtzeitig bremsen zu können, am linken Fahrbahnrand steht eine Mutter mit ihrem Kinderwagen und am rechten Rand eine Kindergartengruppe mit samt Kindergärtnerin.

Wie soll sich das System entscheiden?

Vollbremsung und im Zweifel das Kind mitnehmen. Da das Auto schon mal eine deutlich geringere Reaktionszeit aufweist als ein normaler Fahrer, wird es einen längeren Entschleunigungsweg zurückgelegt haben und dementsprechend langsamer auf das Kind aufprallen. Überlebenschance des Unfallteilnehmers erhöht ohne Unbeteiligte in Gefahr zu bringen, Problem gelöst, wenn auch mit evtl. unschönem Ausgang.

Man kann einen Assistenzsystementwickler (und nichts anderes ist autonomes Fahren) nicht dazu zwingen, moralisch-philosophische Probleme zu lösen, die Aufgabe ist, ein exaktes System zu entwickeln um Risiken zu minimieren.

 

[Marcel55]

Wer haftet sollte relativ wurscht sein. Einfach eine Versicherung für autonome Fahrzeuge einrichten, in die jeder der so ein Fahrzeug besitzt einzahlen muss, dafür übernimmt die Versicherung alle Kosten, wenn mal was passieren sollte.
Man muss doch nicht immer einen Schuldigen suchen, auf dem man mit dem Finger zeigen kann...passiert ist passiert, die Entwickler des Fahrzeugs erhalten anonymisiert alle Unfalldaten um dafür zu sorgen dass es in Zukunft nicht mehr passiert und gut ist.

 

[DJMadMax]

Noch 'ne Frage,

was wenn kluge Köpfe mit krimineller Energie Autos ferngesteuert auf der Autobahn lahmlegen und es zu mehreren Toten kommt, wie weist man dann die Schuld 3. nach?

Um solchen Problemen direkt aus dem Weg zu gehen, müsste es in jedem autonomen (und mit dem Internet verbundenen) Fahrzeug einen Killswitch geben, der die autonomen Funktionen des Fahrzeuges lahmlegt, sodass der Fahrer wieder selbständig und ohne mögliche Störeingriffe von aussen fahren kann.

Dieser Killswitch kann ja irgendwo verdeckt verbaut werden, sodass er nicht stört oder aus Versehen betätigt werden kann.

Cya, Mäxl

 

[SteffenXK]

Ich finde das die Menschheit immer mehr die Verantwortung ab gibt, für alles eine Versicherung braucht und die schuld immer auf andere abwälzt. Keiner will heute mehr die Verantwortung für seine eigenen Handlungen übernehmen. Es ist kein wunder das wir immer weniger Freiheiten haben und immer mehr in ein Kontrollsystem geraten.

 

[urglflagga]

Eine Überlegung vorweg:
Ich nehme mal stark an, dass die Haftpflichtversicherungen aufgrund der stark zurückgehenden Unfallrate sehr viel günstiger angeboten werden können.

Was spricht jetzt also dagegen, die Haftung da zu lassen, wo sie jetzt auch schon ist?

Hier geht es weniger um die Frage wer für die Blechbeule zahlt, sondern darum, wer ins Gefängniss geht wenn die KI ihres autonomes Fahrzeugs beschließt, das es die Schülergruppe niedermäht weil die Ampel ja schließlich auf grün für Fahrzeuge steht.

Folgende Möglichkeiten für die Haftung gibt es:
1) Einer der Passagiere des Fahrzeugs (Fahrer gibt es ja bei den autonomen Autos keinen mehr).
Es wird also darauf hinauslaufen, das einer immer die Augen am Verkehr haben muss, die Hände am Lenkrad und den Fuß am Bremspedal. Getrunken darf man dann natürlich auch nichts haben.
Nur...wenn es dann eh wieder darauf hinausläuft das es de fakto einen Fahrer geben muss, wozu brauch ich den Krempl dann?

2) Der Fahrzeughalter
Egal welche Passagiere das Fahrzeug befördert, es ist immer der Halter des Fahrzeugs der haftet. Eine Situation die es jetzt schon bei Flugzeugen gibt, hier haftet bei einem Unfall auch erstmal die Airline, die dann versucht entweder eine Fahrlässigkeit des Piloten nachzuweisen( -> Pilot ins Gefängnis), oder einen Konstruktionsmangel nachzuweisen -> selbes Spiel beim Hersteller

3) Der Erzeuger des Fahrzeugs
Bei einem Unfall wäre dann VW oder Peugeot o.ä. schuld, in dem Fall würden die Preise für Fahrzeuge wohl deutlich nach oben gehen, denn die Versicherungskosten würden exorbitant sein. Zusätzlich wäre es wohl kaum möglich irgendwas am Fahrzeug zu ändern und sei es nur andere Reifen als die gelieferten aufzuziehen ohne das der Erzeuger aus der Haftung geht.

 

[DAASSI]

Derjenige, der für den Fehler verantwortlich ist haftet.

Wenn die Software fehlerhaft programmiert ist: Programmierer
Wenn die Technik falsch verbaut wurde: Autobauer

usw.

 

[Wehrwolf]

Sinnlose Umfrage. Das Ergebnis hätte ich für ne Kiste Bier vorhergesagt.

Frage: Wer zahlt?
Antwort: Ich nicht. Die anderen.

 

[AncapDude]

Ich bin für den Fahrzeughalter. Wer meint so ein Ding auf die Straße lassen zu müssen, soll auch dafür haften. Versicherungen können das gerne per Vertrag abnehmen. Das ist die marktwirtschaftlichste, freiheitlichste Lösung.