Autonome Tötungsmaschinen sind gefährlicher als man denkt
Ein ehemaliger Beamter des Pentagon warnt, dass autonome Waffen wahrscheinlich unkontrollierbar in realen Situationen durch Design-Fehler, hacking und externe Manipulation wäre. Die Antwort, sagt er, ist immer Menschen "in the Loop."
Der neue Bericht mit dem Titel "Autonome Waffen und operationelle Risiken" wurde von Paul Scharre, Direktor am Zentrum für eine neue amerikanische Sicherheit geschrieben. Scharre verwendet, um das Amt des Secretary Of Defense, wo er das US-Militär Handwerk half, arbeitest du für seine Politik auf die Verwendung von unbemannte und autonome Waffen. Nach der Bereitstellung wäre diese zukünftige Waffen in der Lage, die Wahl und Ziele ihrer Wahl, anheben eine Vielzahl von rechtlichen, ethischen und moralischen Fragen. Aber wie Scharre in dem neuen Bericht anmerkt, "sie auch kritisch wichtige Überlegungen bezüglich Sicherheit und Risiko."
Wie Scharre vorsichtig darauf hinweisen wird, gibt es ein Unterschied zwischen vollständig autonome und teilautonome Waffen. Mit semi-autonomen Waffen, ein menschlicher Controller bleiben würden "in the Loop," Überwachung der Aktivität der Waffe oder Waffensystem. Es sollte beginnen zu versagen, schlug der Controller nur Kill-Schalter. Aber mit autonomen Waffen, könnte der Schaden, den sein zugefügt werden, bevor ein Mensch in der Lage ist einzugreifen ist deutlich größer. Scharre sorgen, die diese Systeme anfällig sind für Störungen, hacking, spoofing und Manipulation durch den Feind zu entwerfen.
Künftige Waffensysteme der Mensch weniger könnte Antenne Drohnen ohne Betreiber, autonome bewaffnete Roboterfahrzeuge, automatisierte Maschine Selbstschussanlagen und autonomen Scharfschützen Systeme umfassen.
Scharre malt die möglichen Konsequenzen im düsteren Bedingungen:
Im extremsten Fall könnte eine autonome Waffe weiter unangemessene Ziele engagieren, bis es seine Zeitschrift, möglicherweise über einen weiten Bereich erschöpft. Wenn der Ausfallmodus in anderen autonomen Waffen des gleichen Typs repliziert wird, drohen ein Militär die beunruhigende Aussicht auf einer großen Anzahl von autonomen Waffen Mangels gleichzeitig, mit katastrophalen Folgen.
Aus operativer Sicht Gefahr autonomen Waffen eine Roman der Masse Brudermord, mit einer großen Anzahl von Waffen, die befreundete Truppen einschalten. Dies könnte wegen hacking, feindlichen Verhaltens Manipulation, unerwartete Wechselwirkungen mit der Umwelt, oder einfache Störungen oder Software-Fehler. Darüber hinaus bei zunehmender Komplexität des Systems wird es immer schwieriger, das Systemverhalten unter allen möglichen Bedingungen zu überprüfen; die Anzahl der möglichen Wechselwirkungen innerhalb des Systems und seiner Umgebung ist einfach zu groß.
Das klingt so wie das Zeug zu einem schrecklichsten dystopische Science-Fiction-Film. Scharre ist jedoch der Ansicht, dass einige dieser Risiken gemindert und reduziert werden können, aber das Risiko von Unfällen "nie kann vollständig beseitigt werden."
Wir sind immer noch viele Jahre davon entfernt, vollständig autonome Systeme im Feld zu sehen, aber es kann nicht früh genug anfangen, über die möglichen Risiken – und Vorteile. Zum Beispiel ist argumentiert worden, dass autonome Systeme Opfer und Leiden auf dem Schlachtfeld reduzieren könnten. Dies kann sehr gut der Fall sein, aber als Scharre und sein Team am Zentrum für eine neue amerikanische Sicherheit hinweisen, die Risiken sind ernst, in der Tat.
[Zentrum für eine neue amerikanische Sicherheit über New York Times]