Autonome Tötungsmaschinen sind gefährlicher als man denkt


Ein ehemaliger Beamter des Pentagon warnt, dass autonome Waffen wahrscheinlich unkontrollierbar in realen Situationen durch Design-Fehler, hacking und externe Manipulation wäre. Die Antwort, sagt er, ist immer Menschen "in the Loop."

Der neue Bericht mit dem Titel "Autonome Waffen und operationelle Risiken" wurde von Paul Scharre, Direktor am Zentrum für eine neue amerikanische Sicherheit geschrieben. Scharre verwendet, um das Amt des Secretary Of Defense, wo er das US-Militär Handwerk half, arbeitest du für seine Politik auf die Verwendung von unbemannte und autonome Waffen. Nach der Bereitstellung wäre diese zukünftige Waffen in der Lage, die Wahl und Ziele ihrer Wahl, anheben eine Vielzahl von rechtlichen, ethischen und moralischen Fragen. Aber wie Scharre in dem neuen Bericht anmerkt, "sie auch kritisch wichtige Überlegungen bezüglich Sicherheit und Risiko."

Wie Scharre vorsichtig darauf hinweisen wird, gibt es ein Unterschied zwischen vollständig autonome und teilautonome Waffen. Mit semi-autonomen Waffen, ein menschlicher Controller bleiben würden "in the Loop," Überwachung der Aktivität der Waffe oder Waffensystem. Es sollte beginnen zu versagen, schlug der Controller nur Kill-Schalter. Aber mit autonomen Waffen, könnte der Schaden, den sein zugefügt werden, bevor ein Mensch in der Lage ist einzugreifen ist deutlich größer. Scharre sorgen, die diese Systeme anfällig sind für Störungen, hacking, spoofing und Manipulation durch den Feind zu entwerfen.

Künftige Waffensysteme der Mensch weniger könnte Antenne Drohnen ohne Betreiber, autonome bewaffnete Roboterfahrzeuge, automatisierte Maschine Selbstschussanlagen und autonomen Scharfschützen Systeme umfassen.

Scharre malt die möglichen Konsequenzen im düsteren Bedingungen:

Im extremsten Fall könnte eine autonome Waffe weiter unangemessene Ziele engagieren, bis es seine Zeitschrift, möglicherweise über einen weiten Bereich erschöpft. Wenn der Ausfallmodus in anderen autonomen Waffen des gleichen Typs repliziert wird, drohen ein Militär die beunruhigende Aussicht auf einer großen Anzahl von autonomen Waffen Mangels gleichzeitig, mit katastrophalen Folgen.

Aus operativer Sicht Gefahr autonomen Waffen eine Roman der Masse Brudermord, mit einer großen Anzahl von Waffen, die befreundete Truppen einschalten. Dies könnte wegen hacking, feindlichen Verhaltens Manipulation, unerwartete Wechselwirkungen mit der Umwelt, oder einfache Störungen oder Software-Fehler. Darüber hinaus bei zunehmender Komplexität des Systems wird es immer schwieriger, das Systemverhalten unter allen möglichen Bedingungen zu überprüfen; die Anzahl der möglichen Wechselwirkungen innerhalb des Systems und seiner Umgebung ist einfach zu groß.

Das klingt so wie das Zeug zu einem schrecklichsten dystopische Science-Fiction-Film. Scharre ist jedoch der Ansicht, dass einige dieser Risiken gemindert und reduziert werden können, aber das Risiko von Unfällen "nie kann vollständig beseitigt werden."

Wir sind immer noch viele Jahre davon entfernt, vollständig autonome Systeme im Feld zu sehen, aber es kann nicht früh genug anfangen, über die möglichen Risiken – und Vorteile. Zum Beispiel ist argumentiert worden, dass autonome Systeme Opfer und Leiden auf dem Schlachtfeld reduzieren könnten. Dies kann sehr gut der Fall sein, aber als Scharre und sein Team am Zentrum für eine neue amerikanische Sicherheit hinweisen, die Risiken sind ernst, in der Tat.

[Zentrum für eine neue amerikanische Sicherheit über New York Times]

Per e-Mail des Autors auf [email protected] und folgen ihm @dvorsky.

Verwandte Artikel

6 Badass "Modernen" Waffen (sind so älter als man denkt)

Moderne Kriegsführung, mit all seinen Hightech-Spielereien, würde wie schwarze Magie technologisch minderwertigen Kriegstreiber nur vor einem Vierteljahrhundert... oder gewirkt haben, zumindest das ist, was wir annehmen. Aber es stellt sich heraus, dass e...

Diese Unterwasser-Berge sind gefährlicher als sie aussehen

Der Ozean blicken enorm friedlich, wie auf einer Postkarte von jemandem auf Xanax vom Himmel gesandt. Unter der Oberfläche, die Dinge sind nicht fast so ruhig und malerisch. Und auf der Küste von Nordafrika, der britischen Royal Navy fand ein weiterer sal...

7 moderne Annehmlichkeiten sind so älter als man denkt

Die meisten von uns denken der alten Zivilisationen als eine ungesunde Mischung aus übertragbarer Krankheiten, Außentoilette und fast giftigen Körpergeruch. Und das ist, wenn Sie Glück haben und nicht vor der Pubertät verhungern. Aber viele Zivilisationen...

5 moderne Technologien sind so älter als man denkt

Mit der modernen Wissenschaft am laufenden Band Erfindungen so schnell, dass unsere Telefone veraltete 48 Stunden sind, nachdem wir sie kaufen neigen wir dazu, anzunehmen, dass ziemlich genial alles in unserem Leben eine relativ neue Innovation ist. Und w...

11 moderne Technologien sind so älter als man denkt

// Für eine lange Zeit konnten wir stolz auf die Tatsache, dass wir schlauer als unsere primitiven Vorfahren sind. Sicher, sie machten Feuer und das Rad und erfundenen Sprache oder was auch immer, aber wir Technologie gebracht. Stellt sich heraus, eine Me...

6 "Neue" Gaming-Innovationen sind so älter als man denkt

Einige Ideen verändern Spiele für immer. Zum Beispiel war ein paar Jahre nachdem die Wii herauskam, alle anderen das Motion-Control tun. Das ist so wie die Branche funktioniert; die großen Ideen von anderen gebracht und bewegt das Medium nach vorne d...

Schlafanzug sind gefährlicher als ein Pitbull

Ich bin seit nunmehr fast zwei Jahrzehnten der stolze Besitzer von zwei verschiedenen Pitbulls, und ich habe gekämpft, den guten Kampf um den Scheiß (und unverdient) Ruf, die Pitbulls bösartig sind. Alle Hunde angreifen, unabhängig von Rasse und gewalttät...

Campingplatz Schlachtung von Wombats erinnert uns daran, dass Menschen weitaus gefährlicher als Schlangen oder Spinnen sind

Die mutwillige Tötung von 10 Wombats am Wochenende spiegelt unsere Angst vor den Busch zusammen mit unserer grundlegenden Unwissenheit über diese besondere Beuteltier An diesem Wochenende abscheulichen Mord an 10 Wombats auf einem großen und beliebten öff...

Sind Art und Weisezeitschriften gefährlicher als Drogen?

Frauen haben seit Jahrzehnten gegen die unrealistische Bilder in Modemagazinen Geländer wurde Besorgnis erregend, vor allem, wie diese unerreichbar ideale beeinflussbaren Mädchen beeinträchtigt. Aber dank der Macht der Technologie und ein sehr motiviertes...

Strahlenrisiko: Sind einige Handys mehr gefährlich als andere?

Im vergangenen Monat erklärt der International Agency for Research on Cancer, ein Zweig der World Health Organization, Handy-Strahlung "möglicherweise krebserregend für den Menschen." Die wissenschaftliche Erkenntnisse, die Handy-Nutzung mit Geh...

Mein Freund Li Heping ist ein Mann, wie, den China denkt "gefährlicher als Bin Laden"

Li ist Top Menschenrechtsanwältin, die fast vor einem Jahr in eine Unterwelt der verschwundenen nach einem politischen Durchgreifen schlüpfte Am 10. Juli letzten Jahres Mittagessen nur wenige Tage nachdem wir für kennengelernt hatte in einer gehobenen Bei...

Warum ist Plutonium gefährlicher als Uran?

Wissenschaftler sagen, dass Plutonium möglicherweise das Schlimmste die Kernspaltung Nebenprodukte, die als Folge der Atomkatastrophe von Fukushima in die Umwelt gelangen konnte. Thats, warum MOX-Brennelemente, die in abgebrannten Brennelementen-Pools in...

Exotische Haustiere sind gefährlich für die Gesundheit

Das Eigentum an exotische Haustiere eine Gefahr für die menschliche Gesundheit Befürworter sagen, und der jüngste Vorfall in Zanesville, Ohio, unterstreicht die Notwendigkeit für strenge Gesetze, den Besitz dieser Tiere von den gewöhnlichen Bürgern zu ver...

Ärzte warnen "Zimt Challenge" gefährlicher als gedacht

Es ist bekannt als die Zimt Herausforderung und ist seit mehreren Jahren. In der Tat, im Jahr 2010 berichtete Babble über das wachsende Phänomen, wo Menschen einen Löffel gemahlener Zimt in den Mund zu Schaufeln und versuchen, es für 60 Sekunden ohne Trin...