Tod durch Drohnenangriff, aufgetischt von Algorithmus

Der uns National Security Agency Skynet Projekt verwendet Metadaten, um zu entscheiden, wer ein Ziel – aber ist es technologisch solide genug, um Drohnenangriffen zu rechtfertigen?

"Waffen töten keine Menschen," ist der standard Refrain von der National Rifle Association, jedes Mal, wenn eine Masse schießen Gräueltat in den USA. "Menschen töten Menschen." Äh, ja, aber sie tun es mit Gewehren. Schusswaffen sind alte Technologie. Was ist mit Aktualisierung des Vorschlags aus dem Jahr 1791 (wenn die zweite Änderung der US-Verfassung, schützt das Recht, Waffen zu tragen, ratifiziert wurde) auf unserer Zeit? Wie wäre es damit, zum Beispiel: "Algorithmen töten Menschen"?

Klingt ein wenig übertrieben? Nun, im April 2014 auf einem Symposium an der Johns Hopkins University, sagte General Michael Hayden, ein ehemaliger Direktor der CIA und die NSA, dies: "Wir töten Menschen basierend auf Metadaten". Er qualifizierte dann Behauptung stark beruhigend dem Publikum, dass die US-Regierung nicht US-Bürger auf der Grundlage ihrer Metadaten umbringt. Sie töten nur Ausländer.

Pakistaner, speziell. Es stellt sich heraus, dass die NSA Hoovers die Metadaten von 55m Handy-Nutzer in Pakistan und dann speist ein maschinelles lernen-Algorithmus, der wahrscheinlich Kuriere arbeiten auf Shuttle-Nachrichten und Informationen zwischen Terroristen angeblich identifiziert. Wir wissen dies aufgrund eines die Snowden-Enthüllungen veröffentlicht durch das konstante Glied, die Online-Publikation, herausgegeben von Glenn Greenwald, Laura Poitras und Jeremy Scahill und eBay-Gründer Pierre Omidyar finanziert.

Das NSA-Programm auf diese Weise ist ist nicht zu verwechseln mit dem mörderischen intelligente Maschine-Netzwerk in die Terminator -Filme Skynet, genannt. Im Wesentlichen ist es ein Standard-Ausgabe-Machine-Learning-Projekt. Was passiert, ist, dass der Algorithmus die mobile Metadaten einer Reihe von bekannten Terrorverdächtigen gefüttert ist und dann den Angaben von 55m Usern sichtet zu versuchen und finden Muster, die denen der Trainingssatz entsprechen. Es ist die gleiche Art von Ansatz, der treibt Ihr Spam-Filter: Es hat Beispiele von bekannten Spam gefüttert, und verwendet, die dann entscheiden, ob eine bestimmte Nachricht Junk-Mail oder nicht ist. Der entscheidende Unterschied ist, dass wenn Ihr Filter es falsch ist wird, dann ist das Schlimmste, das was passieren kann, dass Sie verärgert oder amüsiert durch seine Ungeschicklichkeit sind; Wenn Skynet es falsch bekommt können Sie sich auf der Empfängerseite einer Hellfire-Rakete wird ausgelöst durch ein Raubtier oder ein Reaper-Drohne finden.

Für pakistanische Staatsbürger ist dies immer noch eine entfernte – aber keine ganz unwahrscheinliche-Möglichkeit. Nach dem Bureau of Investigative Journalism – die Drohnenangriffen überwacht – sind mehr als 2.400 Menschen in Pakistan, Jemen und Somalia durch solche Streiks in der fünf-Jahres-Zeitraum 2010-2014 getötet worden. Dies ist das scharfe Ende des so genannten Kriegs gegen den Terror, wie die USA seinen Gegnern den Krieg in Afghanistan, Pakistan und Jemen bringt, und es interessante Fragen über die Rechtmäßigkeit der extralegalen Tötung, die bisher nicht angezeigt wird wirft, die US-Regierung zu Unrecht die Störung.

Wir wissen ein wenig- aber nicht viel – über den Prozess durch welche Personen auf der "Kill-Liste" platziert werden, dass Präsident Obama persönlich jede Woche genehmigt. Laut einer durchgesickerten offizielle Studie in 2013 durchgeführt und veröffentlicht durch das konstante Glied, die berichtet, dass "das Personal der US-Nachrichtendienste sammeln Informationen über potenzielle Ziele... Regierung Watchlisten und die Arbeit der Intelligenz, Militär und Strafverfolgungsbehörden entnommen." Zum Zeitpunkt der Studie wenn jemand für die Kill-Liste bestimmt war Geheimdienstanalysten schuf ein Porträt eines Verdächtigen und die Bedrohung, die Person gestellt, Strang "in einem verkürzten Format bekannt als ein Baseball-Karte". Dann sei Informationen mit operativer Informationen gebündelt und verpackt in einem "Zielordner Informationen" "bis zu höheren Rängen Handlungsbedarf besetzt werden soll". Im Durchschnitt zeigt"Es dauerte 58 Tage für den Präsidenten, ein Ziel abzuzeichnen, eine Folie. US-Truppen hatten zu diesem Zeitpunkt 60 Tage, um den Streik durchzuführen."

Es ist dann wahrscheinlich, dass die Ausgabe des Skynet-Algorithmus ist nur eine der Überlegungen, die geht Identifizierens eines bestimmten Benutzers bei dem wem einen Drohnenangriff ausgerichtet sein könnte. So ist es im Moment wahrscheinlich falsch zu sagen, dass diese bestimmten Algorithmus Menschen tötet; die Entscheidung zu treffen ist noch ein menschliches Wesen. Dennoch ist es wichtig zu Fragen, wie gut der Algorithmus an seine Arbeit.

Nicht so toll, ist die Antwort zur Verfügung gestellt von Patrick Ball, ein Datenwissenschaftler und der Director of Research bei der Daten-Analyse Menschenrechtsgruppe, der zuvor Gutachten vor Kriegsverbrechertribunalen gegeben hat. Er untersuchte die Snowden Dokumente und entdeckt einen Fehler in wie die NSA Skynets Computerlernen Algorithmus die ihn trainiert um seine Ausgänge als "wissenschaftlich unsolide" und "lächerlich optimistisch" beschreiben läßt.

Also vielleicht töten Algorithmen keine Menschen – noch. Sie legte sie auf Kandidatenlisten für außergerichtliche Tötung. Vielleicht sollten wir solche Glück im Unglück sein.