Autonome Waffensysteme verbieten

[nemesis0381]

Hallo, ich wollte mal eure Meinungen hören zur Benutzung von autonome Waffensysteme.

Sollte/muss man Autonome Waffensysteme verbieten?
Wird das Thema zu sehr gehyped und ist die aktuelle Entwicklung bedenkenlos?

Hier ein kleiner Ausschnitt aus einen Zeitungsartikel den ich gelesen habe:

"Autonome Waffen sind keine Zukunftsvisionen, neuartige Waffensysteme steuern nicht nur automatisch ihr Ziel an, sondern treffen auch eigenständig die Entscheidung für den tödlichen Schuss. Dabei sind sie theoretisch wie praktisch unfähig, allgemeinen anerkannten Regeln der Kriegführung wie Verschonung von Zivilisten einzuhalten. Wer die Folgen seines Tuns nicht abschätzen kann, ist unfähig, die Gesetzte einzuhalten. Forscher glauben, dass die künstliche Intelligenz auf verschiedene Weisen der Menschheit von Nutzen sein kann und dass dies auch ihr Ziel sein muss. Die Eröffnung eines Wettrüstens in Waffen der KI ist eine schlechte Idee und muss durch Verbot von autonomen Offensivwaffen, die sich jeglicher menschliche Kontrolle entziehen, verhindert werden."


Und noch ein Video zum Thema:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[Idon]

Es gibt Orte und Bereiche, an denen man keine Rücksicht auf Zivilisten zu nehmen braucht. Warum also, zumindest dort, nicht.

 

[Lübke]

naja automatische waffensysteme begehen zumindest keine kriegsverbrechen aus sadismus heraus, so wie es in jedem krieg durch soldaten üblich ist. auch wenn es nur eine minderheit der soldaten ist, sind die verbrechen dafür um so unmenschlicher (wie passend bei einem vergleich mensch vs. ki).
man muss bei der programmierung so einer ki schon sehr sorgsam vorgehen, aber wie in so vielen bereichen kann ich mir gut vorstellen, dass am ende die ki weniger fehler begehen wird als der mensch.

 

[Tom_Callaghan]

Eine KI ist doch eine Intelligenz, ob künstlich oder nicht. Also wird sie selbst lernend sein. Sie könnte erkennen, daß es für sie einfacher ist, alle Menschen umzubringen anstatt mühsam zwischen Freund und Feind zu unterscheiden.

Ich plädiere hier für die Implementierung der Asimov'schen Gesetze

 

[Smurfy1982]

Warum musste ich bei dem Titel sofort an Skynet denken...

Die Robotergesetze werden nur bedingt helfen, wie in I, Robot zu sehen war.

Wenn dann darf so ein System keinen Zugang zum Internet haben, sonst haben wir früher oder später den Salat.

 

[Lübke]

solche systeme sind für einen konkreten einsatzzweck hochspezialisiert und die aufgaben und ziele entsprechend klar definiert. da is nix mit "töte einfach alle menschen, werden schon die richtigen darunter sein". und übers internet dürften die imho wohl kaum vernetzt sein, weil man sonst dem feind die chance gibt, die systeme zu hacken und gegen sich selbst zu richten. das wäre in zeiten des cyberwar wohl nicht sonderlich klug. das werden vermutlich eher insellösungen sein, die vor ort mit ihren missionszielen programmiert werden. so würde ich das jedenfalls handhaben. warum sollte ich milliarden in die entwicklung und den kauf von hightechwaffen stecken, wenn ich für ein paar tausend hacker damit beauftragen kann mir so eine armee aus dem bestand des feindes zu liefern?

 

[_killy_]

Die Diskussion kann doch nur dann vernünftig geführt werden, wenn sich alle Beteiligten daran halten. Sprich, solange der Feind auch nicht davor zurückschreckt autonome Waffensysteme einzusetzen, limitiert man nur sich selbst. (und es sterben reale Menschen die als Soldat dienen) Ohne Erweiterung der Genfer Konventionen kommt man an der Stelle nicht weit. Und auch an die halten sich schon jetzt nicht alle Parteien die sie unterschrieben haben.

In den aktuellen Kriegen sehen wir doch zum Großteil einen unsymetrischen Einsatz von Waffen und Waffensystemen. Al-Qaida setzt auf "doofe" Bomben in Form einfacher Sprengfallen (IED) ... die töten alles was dem Auslöser zu nahe kommt. Weiterhin tragen sie keine militärische Uniform und verstecken sich unter den Zivilisten.
IS nimmt Menschen als Schutzschild vor Feindlichen Beschuss ...

@Lübke

Ferngesteuerte Drohnen werden schon heute übers Internet angesprochen. Du kannst sie immer dann einsetzen, wenn der Feind entsprechend nicht über die Mittel/Know-How verfügt, die Drohnen zu übernehmen. (siehe USA in Afghanistan) Außerdem kann man die Kommunikation auch absichern ... bspw. nur spezielle Satelliten für die Befehlssteuerung zulassen etc.

 

[Lübke]

Ferngesteuerte Drohnen werden schon heute übers Internet angesprochen. Du kannst sie immer dann einsetzen, wenn der Feind entsprechend nicht über die Mittel/Know-How verfügt, die Drohnen zu übernehmen. (siehe USA in Afghanistan) Außerdem kann man die Kommunikation auch absichern ... bspw. nur spezielle Satelliten für die Befehlssteuerung zulassen etc.

in dem moment wo die kommunikation über eigene sateliten läuft, ist es ja nicht mehr das internet sondern ein in sich geschlossenes system.
was die erforderlichen mittel/das know how angeht, da wäre ich vorsichtig. material ist nicht viel notwendig. ein alter rechner und ein handy, fertig. das know how kann auch ein afghane erwerben oder man kann sich einen hacker engagieren. würde mich nicht wundern wenn man sowas im darknet finden würde. klar kann man auch in öffentlichen netzen eine relative sicherheit erreichen, aber eben keine absolute. also ich wäre da sehr vorsichtig, öffentliche infrastrukturen für die kontrolle meiner armeewaffensysteme zu verwenden...

 

[_killy_]

@Lübke

Naja, wenn es dich beruhigt - die USA haben ein hohes Millitär-Budget, zahlen gut für ihre IT'ler, haben eine Behörde die das Internet entwickelt hat und eine andere Behörde die das Internet Live tracked.

Bei der Bundeswehr wird ja das Budget für IT Fachkräfte dann doch für fachfremde - nicht IT-Berater ausgegeben und keiner will es bemerkt haben.

 

[Discovery_1]

"Sarah Connor?" - "Ja?". Baller, Baller. Der "Terminator" wird Realität und die Meisten registrieren es nicht. Ist James Cameron ein Zeitreisender?

 

[_killy_]

Aktuell fühl ich mich deutlich stärker Bedroht durch einen Linken oder Rechten Aktivisten verletzt oder erschlagen zu werden als dass mich ein autonomes Waffensystem dahinrafft.

Habt ihr auch alle T2 1991 gesehen nur um dann am 29. August 1997 am Fenster zu stehen um zu warten dass die Bomben fallen??? Ich muss sagen, ein bisschen eintäuscht war ich schon am Abend als dann doch nichts passiert ist ... war halt aber auch noch jung

 

[Lübke]

naja hattest ja 2012 nochmal die chance einen weltuntergang zu erleben. achnee, der is ja auch ausgefallen... also die weltuntergänge sind in letzter zeit sehr unzuverlässig muss ich sagen...

 

[DerOlf]

Naja, wenn es dich beruhigt - die USA haben ein hohes Millitär-Budget, zahlen gut für ihre IT'ler, haben eine Behörde die das Internet entwickelt hat und eine andere Behörde die das Internet Live tracked.

Naja ... die Leute, die an den ersten A-Bomben mitgearbeitet haben, wurden auch ziemlich gut bezahlt, relativ komplett umsorgt und überwacht.
Trotzdem fanden die nötigen Informationen ihren Weg nach Moskau ... wie lange hatten die USA das Monopol auf diese Waffen?
Und wie viel Zeit haben die Russen durch diese Spionage gespart?
Man sollte nicht glauben, dass gute Bezahlung allein gegen Spionage hilft.

Ein Verbot autonomer Waffensysteme lehne ich ab ... denn sowas ist ohnehin nicht durchsetzbar.
Wenn es der erste einsetzt, werden es alle einsetzen, die es können ... egal ob es da irgendwelche Verträge gibt, oder nicht.
Momnentan sieht es eher so aus, dass sich z.B. die USA größte Mühe geben, um der erste Staat zu sein, der autonome Waffensysteme auch einsetzen kann. Einfach damit niemand ihnen zuvorkommt.
Der erste baut es, weil er kann und will ... und von da an glaubt der Rest, das auch zu brauchen (mit Recht nebenbei bemerkt).

Geheimdienste halten sich eh nicht gerne an Gesetze und Verträge ... und was die Armee nicht darf, ist den Geheimdiensten noch lange nicht unmöglich.

 

[_killy_]

@DerOlf

Ich stimme dir zu, Verbote bringen in Kriegen rein gar nichts.

Es ist laut Ottowa Konventionen verboten Anti-Personen-Minen zu verlegen ... die kriegstreibenden Staaten haben diese Klausel aber nicht unterschrieben. Die Minen sind halt:
-> hochgradig effektiv
-> extrem billig
-> schnell und einfach zu verlegen
... jeder Staat der gern Krieg führt lässt sich diese effektive Waffe nicht verbieten. Die Minen verletzen meist aber auch unschuldige Zivilisten ... auch Jahre/Jahrzehnte nach dem eigentlichen Krieg ...

Deshalb die Frage: wenn "wir" es noch nicht einmal schaffen Anti-Personen-Minen zu verbieten, wie will man da ein Verbot von autonomen Waffensystemen durchsetzen?

 

[nebulein]

In den Nachrichten kam da letztens auch ein Beitrag über Verbote dieser Systeme. Ich habe mir nur gedacht, haben diese Menschen noch nie was von Kriegsverbrechen oder Friendly Fire gehört? Beides würde unter einer KI entweder gar nicht existieren oder minimiert werden. Geht man sogar noch einen Schritt weiter und sagt irgendwann werden Kriege von beiden Seiten mit Robotern geführt, dann wäre das sogar äußerst human, wobei ich nicht glaube das wir solch einen technischen Fortschritt noch erleben werden.

 

[WutzDieSau]

Warum musste ich bei dem Titel sofort an Skynet denken...

Die Robotergesetze werden nur bedingt helfen, wie in I, Robot zu sehen war.

Wenn dann darf so ein System keinen Zugang zum Internet haben, sonst haben wir früher oder später den Salat.

Du willst doch nicht ernsthaft einen fiktiven Spielfilm als Begründung für eine Handlungsweise heranziehen?

 

[nemesis0381]

Eine KI ist doch eine Intelligenz, ob künstlich oder nicht. Also wird sie selbst lernend sein. Sie könnte erkennen, daß es für sie einfacher ist, alle Menschen umzubringen anstatt mühsam zwischen Freund und Feind zu unterscheiden.

Ich plädiere hier für die Implementierung der Asimov'schen Gesetze

ist halt (noch) nicht realisierbar, bezüglich der Asimov'schen Gesetzte

Ergänzung (25. April 2019)

Mit der Argumentation das es andere fragwürdige Waffen gibt oder sich die Länder sowieso nicht an international Abkommen halten, stellt man sich ja allgemein alle Abkommen (Atomare Waffen, biologische Waffen .....) in Frage, bzw. lehnt diese ab!?

 

[_killy_]

Ich lehne kein Verbot von autonomen Waffensystemen ab. Ich möchte nur darauf hinweisen, dass es schon sehr gefährlichere Kriegswaffen gibt, welche auch eingesetzt werden. Auch hier gibt es eine freiwillige Verzichtserklärung von Staaten diese Waffensysteme nicht einzusetzen und die Staaten die "gerne und viel" Krieg führen haben diese Verzichtserklärung nicht unterschrieben.

Für mich ist der Fokus auf autonome Waffensysteme von daher eher eine Nebelkerze, die von aktuellen Problemen ablenkt!
-> Anti-Personen-Minen töten schon heute Menschen
-> Minen sind sehr geduldig ... auch nach 20 Jahren funktionieren sind noch einwandfrei
-> Minen sind heimtückisch ... unter der Oberfläche verbuddelt sieht man die Bedrohung erst gar nicht
(alter BW Witz der Minensucher: "Wer suchet der findet, wer drauf tritt verschwindet ...")
-> sie sind in großer Anzahl verfügbar und spot billig
-> viele Staaten die gern Krieg führen, haben keine Verzichtserklärung unterschrieben ...