Wie Algorithmen die Welt regieren

Das NSA Offenbarungen Highlight die Rolle Algorithmen spielen ausgefeilte in Massen von Daten sichten. Aber umso erstaunlicher ist ihre Verbreitung in unseren Alltag. Also sollten wir vorsichtiger ihrer Macht sein?

4. August 2005 erzielt die Polizei von Memphis, Tennessee, so viele Verhaftungen über einen Zeitraum von drei Stunden, den genügend Fahrzeuge zum transport der Häftlinge ins Gefängnis war. Drei Tage später verhaftet 1.200 Menschen quer durch die Stadt – ein neuer Rekord der Polizei-Abteilung. Operation Blue Crush war einen großen Erfolg gefeiert.

Larry Godwin, neue Polizeidirektor der Stadt schnell ausgerollt, die Regelung und Verbrechen in der ganzen Stadt waren 2011 um 24 % zurückgegangen. Als bekannt wurde, dass Blue Crush konfrontiert Haushaltskürzungen Anfang dieses Jahres, gab es öffentliche Aufschrei. "Crush" Polizeiarbeit wird jetzt als so erfolgreich, dass es angeblich auf der ganzen Welt, unter anderem in Ländern wie Polen und Israel nachgeahmt wurden. Im Jahr 2010 wurde berichtet, dass zwei Polizeikräfte im Vereinigten Königreich wurden auch benutzt, aber ihre Identität nicht offenbart wurden.

Crush steht für "Criminal Reduktion Nutzung statistischer Geschichte". Übersetzt bedeutet es prädiktive Polizeiarbeit. Oder mehr genau, Polizeibeamte durch Algorithmen geführt. Ein Team von Kriminologen und Daten Wissenschaftlern an der Universität von Memphis entwickelte zunächst die Technik mit IBM predictive Analytics Software. Einfach ausgedrückt, Kriminalstatistik aus quer durch die Stadt im Laufe der Zeit zusammengestellt und überzog ihn mit anderen Datensätzen – Sozialwohnungen Karten, Temperaturen usw. – dann angewiesen, Algorithmen zur Suche nach Zusammenhänge in den Daten zur Kriminalität "Hot Spots" zu identifizieren. Die Polizei überflutet dann die Bereiche mit zielgerichteten Patrouillen.

"Es die richtigen Leute an den richtigen Stellen am richtigen Tag zum richtigen Zeitpunkt setzt", sagte Dr. Richard Janikowski, Associate Professor in der Abteilung Kriminologie und Strafrecht an der Universität von Memphis, wenn das Programm gestartet. Aber nicht jeder ist wohl bei dem Gedanken. Einige Kritiker haben es nannte, "Minority Report" Polizeiarbeit, in Anlehnung an den Science-Fiction-Film, in dem Hellseher verwendet werden, um eine "PreCrime" Polizei-Einheit zu führen.

Die Verwendung von Algorithmen in der Polizeiarbeit ist ein Beispiel ihres wachsenden Einflusses auf unser Leben. Und wie ihre Allgegenwart ausbreitet, also nicht zu der Debatte um ob wir uns so abhängig von ihnen – werden lassen sollte und wer, wenn überhaupt, ist Polizeiarbeit ihre Verwendung. Solche Bedenken wurden geschärft durch die anhaltenden Enthüllungen über wie der US National Security Agency (NSA) Algorithmen verwendet hat um zu helfen, die riesigen Mengen von Daten zu interpretieren hat es aus seiner verdeckten Rasterfahndung der internationalen Telekommunikation gesammelt.

"Für die Größe von denen Datasets NSA sammeln, mithilfe von Algorithmen die einzige Möglichkeit, für bestimmte Aufgaben, arbeiten", sagt James Ball, der Guardian Dateneditor und Teil des Papiers NSA Dateien Berichterstattung Team. "Das Problem ist, wie die Regeln sind: Es ist unmöglich, das perfekt zu machen. Wenn Sie, sagen wir sind, suchen auf der Suche nach Terroristen, Sie nach etwas sehr seltenes. Legen Sie Ihre Regeln zu eng und Sie vermissen viele, wahrscheinlich die meisten, potentielle Terrorverdächtige. Aber sie breiter und ziehen viele völlig unschuldigen Menschen in Ihrem Schleppnetz, der dann weiter eindringen oder sogar förmliches konfrontiert sein wird. Wir wissen nicht genau wie die NSA oder GCHQ verwenden Algorithmen – oder wie umfangreich sie angewendet werden. Aber wir wissen, dass sie sie auch auf der großen Datenmengen Schleppnetze im Guardian enthüllt nutzen."

Von dating-Websites und Stadt Börsensälen durch Online-Handel und Internet Suche (Google Suchalgorithmus ist jetzt ein mehr streng gehütetes Geschäftsgeheimnis als das Rezept für Coca-Cola), bestimmen Algorithmen zunehmend unsere gemeinsame Zukunft. "Bank-Zulassungen, Kundenkarten, Job-Spiele und mehr alle run auf ähnlichen Prinzipien,", sagt Kugel. "Der Algorithmus ist der Gott aus der Maschine einschalten alle, zum guten oder schlechten."

Aber was ist ein Algorithmus? Dr. Panos Parpas, Dozent für die Quantitative Analyse und Entscheidung ("Quads") Wissenschaftsabschnitt des Department of computing am Imperial College London, sagt, dass überall dort, wo wir Computer verwenden, wir auf Algorithmen setzen: "Es gibt viele Arten, aber Algorithmen, erklärt einfach, folgen eine Reihe von Anweisungen, um ein Problem zu lösen. Es ist ein bisschen wie wie eine Rezept Ihnen hilft, einen Kuchen backen. Anstatt generische Mehl oder eine generische Ofentemperatur, versucht der Algorithmus eine Reihe von Variationen, die beste Kuchen von Optionen und Permutationen verfügbar zu produzieren."

Parpas betont, dass Algorithmen kein neues Phänomen: "sie haben seit Jahrzehnten – zurück zum Alan Turing und die Codebreakers verwendet und darüber hinaus – aber das gegenwärtige Interesse an ihnen ist die großen Mengen an Daten nun erzeugt und die Notwendigkeit zu verarbeiten und zu verstehen."_FITTED Sie sind jetzt in unser Leben integriert. Sie sind auf der einen Seite gut, weil sie unsere Zeit kostenlos und alltäglichen Prozesse in unserem Namen zu tun. Die Fragen über Algorithmen im Moment sind nicht per se über Algorithmen, aber über die Art und Weise Gesellschaft gliedert sich in Bezug auf die Nutzung von Daten und zur Datensicherheit. Es geht auch um wie Modelle eingesetzt werden, um die Zukunft vorauszusagen. Derzeit gibt es eine peinliche Verbindung zwischen Daten und Algorithmen. Im Zuge der Weiterentwicklung der Technologie werden Fehler, aber es ist wichtig zu bedenken, dass sie nur ein Werkzeug sind. "Wir sollten nicht unsere Werkzeuge Schuld."

Die "Fehler" Parpas bezieht sind Veranstaltungen wie die "Flash-Crash" von 6. Mai 2010, als der Dow Jones Industrial Average 1.000 Punkte in nur wenigen Minuten fiel, nur um zu sehen den Markt selbst 20 Minuten später wieder zu erlangen. Die Gründe für den plötzlichen stürzen nie vollständig erklären, aber die meisten finanziellen Beobachter Schuld ein "Race to the Bottom" durch die konkurrierenden quantitative trading (Quants) Algorithmen häufig verwendet, um die Hochfrequenz-Handel durchführen. Scott Patterson, ein Reporter des Wall Street Journals und Autor von The Quants, vergleicht die Verwendung von Algorithmen in Börsensälen fliegen Sie ein Flugzeug auf Autopilot. Die grosse Mehrheit der Abschlüsse in diesen Tagen werden von Algorithmen durchgeführt, aber Menschen können eingreifen, wenn etwas schief geht, wie bei den Flash-Crash passiert.

"Bei weitem die kompliziertesten Algorithmen gefunden werden, in der Wissenschaft, wo dienen sie zum design neuer Medikamente oder das Modell des Klimas," sagt Parpas. "Aber sie sind in einer kontrollierten Umgebung mit bereinigten Daten gemacht. Es ist leicht zu sehen, ob es ein Fehler im Algorithmus ist. Die Schwierigkeiten kommen, wenn sie in den Sozial- und Finanzhandel eingesetzt werden wo es weniger Verständnis dessen, was das Modell und die Ausgabe, und wo sie in einem dynamischen Umfeld tätig sind. Wissenschaftler dauert um ihren Algorithmus zu überprüfen Jahre muß ein Händler nur wenige Tage in einem volatilen Umfeld dazu."

Die meisten Investmentbanken haben jetzt ein Team von Wissenschaft PhDs Codierung Computeralgorithmen, sagt Parpas, wer verwendet, um an solch einem Team zu arbeiten. "Jeder läuft mit Stadt-trading, sehr ähnliche Algorithmen," sagt er. "sie alle folgen einander, was bedeutet, dass Sie Ergebnisse wie die Flash-Crash. Sie benutzen sie, um den Prozess zu beschleunigen und zu brechen, große Trades zu verschleiern sie von Wettbewerbern, wenn eine große Investition hergestellt wird. Es ist ein laufender, live-Prozess. Sie werden neue Algorithmen für ein paar Tage um sie zu testen, bevor Sie lassen sie laufen locker mit echtem Geld. Im Devisenhandel dauert ein Algorithmus für etwa zwei Wochen, bevor es beendet wird, weil es durch ein neues übertroffen wird. In Aktien, die einen weniger komplizierten Markt ist, läuft sie für ein paar Monate, bevor sie eine neue ersetzt. Es dauert einen Tag oder zwei, einen Währung-Algorithmus zu schreiben. Es ist schwer, Informationen über sie herauszufinden, weil aus verständlichen Gründen sie nicht mögen, werben, wenn sie erfolgreich sind. Goldman Sachs, hat jedoch einen sehr guten Ruf in der Investment-Banken dafür, dass ein brillantes Team von Wissenschaftlern der Algorithmus. PhD-Studenten in diesem Bereich werden in der Regel innerhalb von ein paar Monaten von einer Investmentbank eingesetzt werden."

Die Idee, dass die Welt die finanziellen Märkten – und somit das Wohlbefinden unserer Renten, Beteiligungen, Einsparungen etc. – sind jetzt weitgehend durch algorithmische Launen ist beunruhigend genug für einige. Aber, als die NSA-Enthüllungen ausgesetzt, größere Fragen im Zusammenhang mit Algorithmen im Mittelpunkt Governance und Privatsphäre. Wie werden sie verwendet und "unsere" Daten zu interpretieren? Und von wem?

Dr. Ian Brown, Vizedirektor des Oxford University Cyber Security Center, wir alle brauchen dringend zu prüfen, die Auswirkungen so dass Handelsinteressen und Regierungen Algorithmen verwenden, um unsere Gewohnheiten analysieren, sagt: "die meisten von uns gehen davon aus, dass"big Data"munificent. Die Gesetze in den USA und Großbritannien sagen, dass ein Großteil dieser [die NSA-Enthüllungen] ist erlaubt, es ist nur, dass die meisten Menschen noch nicht erkennen. Aber es gibt eine große Frage zu versehen. Wir verbringen jetzt so viel von unserer Zeit online, wir Chancen für Data-Mining schaffen. "

Brown sagt, dass Algorithmen nun programmiert sind, zu "indirekte, nicht offensichtliche" Zusammenhänge in Daten suchen. "Denn beispielsweise in den USA, Healthcare-Unternehmen können nun Einschätzungen über eine gute oder schlechte Versicherungsrisiko basiert zum Teil auf die Strecke, die Sie zur Arbeit pendeln, machen", sagt er. "sie Identität Niedrigrisiko Menschen und ihre Politik auf sie zu vermarkten. Im Laufe der Zeit dies schafft oder gesellschaftliche Gräben verschärft. Professor Oscar Gandy, an der University of Pennsylvania hat recherchiert in "sekundäre rassische Diskriminierung", wobei Kredit- und Krankenversicherung, die stützt sich stark auf Postleitzahlen, gegen rassische Gruppen unterscheiden kann, weil sie zu sehr in der Nähe von anderen ethnischen Gruppen dieser Hinsicht schlecht Leben passieren."

Braun birgt ähnliche Bedenken über die Verwendung von Algorithmen zur Unterstützung der Polizei, wie in Memphis gesehen wo Crush Algorithmen haben angeblich einige ethnische Gruppen mit bestimmten Verbrechen verbunden: "Haben Sie eine Gruppe, die überproportional von der Polizei angehalten, solche Taktiken konnte nur vergrößern die Wahrnehmung sie haben angestrebt."

Viktor Mayer-Schönberger, Professor für Internetgovernance und Regulierung an der Oxford Internet Institute, warnt auch vor Menschen, die Kausalität zu sehen, wenn ein Algorithmus eine Korrelation in riesigen Schwaden von Daten identifiziert. "Dieser Wandel stellt eine völlig neue Bedrohung: Strafen basierend auf Neigungen," schreibt er in seinem neuen Buch, Big Data: A Revolution, dass verwandeln wie wir wohnen, arbeiten und denken, die von Kenneth Cukier, der Ökonom Dateneditor Co-Autor ist. " Das ist die Möglichkeit der Nutzung von big Data Vorhersagen über Menschen zu urteilen und zu bestrafen, noch bevor sie gehandelt haben. Auf diese Weise negiert Vorstellungen von Fairness, Gerechtigkeit und freien Willen. Neben Datenschutz und Neigung gibt es eine dritte Gefahr. Wir drohen zum Opfer einer Diktatur der Daten, wobei wir die Informationen, die Ausgabe unserer Analysen, fetishise und landen missbrauchen. Große Daten ist verantwortungsvoll behandelt, ein nützliches Werkzeug der rationale Entscheidungsfindung. Unklugerweise ausgeübt, kann es ein Instrument der mächtigen, die es in eine Quelle der Repression, entweder durch einfach frustrierend Kunden und Mitarbeiter oder, schlimmer, durch Schaden Bürger wenden können werden."

Mayer-Schönberger präsentiert zwei sehr unterschiedliche realen Szenarien zur Veranschaulichung, wie Algorithmen verwendet werden. Er erklärt zunächst, wie das Analytik-Team arbeitet für US-Einzelhändler Target nun berechnen kann, ob eine Frau schwanger ist, und wenn ja, wann sie Geburtstermin ist: "sie bemerkte, dass diese Frauen viele unscented Lotion bei rund um den dritten Monat der Schwangerschaft kauften, und, dass ein paar Wochen später sie eher kaufen wie Magnesium Nahrungsergänzungsmittel , Kalzium und Zink. Das Team entdeckt schließlich rund zwei Dutzend Produkte, die als Proxys verwendet das Unternehmen eine "Schwangerschaft Vorhersage" Punktzahl für jeden Kunden zu berechnen, die mit einer Kreditkarte bezahlt oder verwendet eine Kundenkarte oder Gutscheine per Post. Die Korrelationen lassen Sie sogar den Einzelhändler das Fälligkeitsdatum innerhalb einer engen Spanne zu schätzen, so dass es für jede Phase der Schwangerschaft relevanten Gutscheine schicken könnte."

Harmlos an, man könnte argumentieren. Aber was passiert, da angeblich bereits aufgetreten ist, wenn ein Vater versehentlich Windel Rabattgutscheine statt seine Teenager-Tochter den Händler identifiziert hat schwanger ist gesendet wird, bevor ihr eigener Vater weiß?

Mayer-Schönberger zweite Beispiel auf das Vertrauen nach Algorithmen wirft noch mehr potenzielle Dilemmata und Fallstricke: "Parole Boards in mehr als der Hälfte aller US-Bundesstaaten verwenden Vorhersagen am Datenanalyse gegründet als ein Faktor bei der Entscheidung, ob jemand aus dem Gefängnis freizugeben oder um ihn in Haft zu halten."

Christopher Steiner, Autor von automatisieren: wie Algorithmen zu Regel unserer Welt, kam eine Vielzahl von Fällen wo Algorithmen verwendet werden, um vorausschauende Einblicke – oft innerhalb der Kreativwirtschaft identifiziert hat. In seinem Buch erzählt er, dass die Geschichte von einem Website-Entwickler namens Mike McCready, einen Algorithmus zu analysieren und bewerten entwickelt hat Aufzeichnungen getroffen. Mit einer Technik namens erweiterte spektrale Dekonvolution, der Algorithmus bricht oben jedes Lied in seine Bestandteile – Akkordfolge, Melodie, Tempo und so weiter – und dann nutzt diese, um gemeinsame Merkmale über eine Reihe von Nr. 1-Datensätze zu bestimmen. McCready Algorithmus korrekt vorhergesagt – bevor sie einmal veröffentlicht wurden –, dass die Debütalben von Norah Jones und Maroon 5 eine unverhältnismäßig hohe Anzahl von Hits enthielt.

Der nächste logische Schritt – für gewinnorientierte Unternehmen, ist vielleicht – Algorithmen verwenden, um die menschlichen Songwriter zu ersetzen. Aber ist das wirklich ein attraktives Angebot? "Algorithmen nicht noch Popmusik, schreiben", sagt Steiner. Er hält inne, dann lacht. "Nicht, die wir, wie auch immer kennen. Wäre ich eine Plattenfirma Führungskraft oder pop-Künstler, würde nicht ich jemand sagen, ob ich eine Nummer eins durch einen Algorithmus geschrieben hatte."

Steiner zufolge sollten wir nicht automatisch Algorithmen als sehen einen unheilvollen Einfluss auf unser Leben, aber wir sollten über ihre Allgegenwart und ihr breites Einsatzspektrum. "Wir sind bereits auf halbem Weg in Richtung einer Welt, wo Algorithmen fast alles laufen. Da ihre Kraft verstärkt, wird Reichtum ihnen gegenüber konzentrieren. Sie werden dafür sorgen, dass die 1 % - 99 % Kluft größer wird. Wenn Sie nicht Teil der Klasse mit Algorithmen verbunden sind, dann werden Sie zu kämpfen. Der Grund warum gibt es keine populären Empörung über die Wall Street von Algorithmen ausgeführt wird ist, weil die meisten Leute noch wissen oder es verstehen nicht. "

Aber Steiner sagt, dass wir ihre Verwendung begrüßen sollten, wenn sie entsprechend verwendet werden, um zu unterstützen und beschleunigen unser Leben. "Retail Algorithmen erschrecken mich nicht," sagt er. "Ich finde es nützlich, wenn Amazon sagt mir, was mir gefallen könnte. In den USA wissen wir, dass wir nicht genug GP-Ärzte in 15 Jahren haben da nicht genug ausgebildet werden. Aber Algorithmen können viele ihrer Aufgaben ersetzen. Apotheker sehen bereits einige ihrer Verschreibung Aufgaben durch Algorithmen ersetzt. Algorithmen könnte tatsächlich beginnen, neue, weltlichen Arbeitsplätze für Menschen zu schaffen. Beispielsweise werden Algorithmen noch ein Mensch Blut und Urin Proben für sie analysieren zu sammeln brauchen."

Es kann eine feine Linie allerdings sein, zwischen "guten" und "schlechten" Algorithmen, fügt er hinzu: "Ich finde nicht die NSA-Enthüllungen besonders beängstigend. Im Moment halten sie einfach die Daten. Sogar die besten Datenwissenschaftler hätten Schwierigkeiten, zu wissen, was mit Daten zu tun. Aber es ist der nächste Schritt, den wir im Auge behalten müssen. Sie könnte wirklich vermasseln jemandes Leben mit einer falschen Vorhersage darüber, was sie bis zu sein könnte."