Alles, was wissen wir über die Armee unheimliche Chatbots


Sgt. Star ist der US-Armee engagierte Marketing und Recruiting Chatbot, und er ist nicht gonna Whistleblower jederzeit schnell drehen. Es nützt nichts, drohte ihm antworten entweder — er hat programmiert, um diese Art von Feindseligkeit, die Army Criminal Investigation Division Bericht zu erstatten.

Letztes Jahr begann EFF zu schauen, wie die Regierung Chatbots um die Interaktion mit und sammeln Sie Informationen von der Öffentlichkeit bereitstellt. Sgt. Star war ein natürlicher Ort zu beginnen, da er fast berühmt ist. Dient als virtuelle öffentlichen Sprecher der Armee, jedes Jahr er führt Hunderttausende von potenziellen Rekruten durch goarmy.com und Felder ihre Fragen auf Facebook.

(Auf die Medien TLDR aufgezeichnet einen informativen und unterhaltsamen Podcast über Sgt. Star, unsere Forschung und AI Chatbots Fragen – hören Sie hier.)

Da Sgt. Star nicht wollte uns sagen, was er weiß, ohne uns die Zerlegung in tausend einfachen Fragen, haben wir beschlossen den Freedom of Information Act nur verwenden, um es auf einmal zu bekommen. Am Anfang die Armee unsere Anfragen ignoriert, aber mit ein wenig graben und Druck von den Medien1, konnten wir eine Art Personalakte für Sgt. Star zusammenzusetzen.

Wir wissen jetzt alles, was Sgt. Star öffentlich sagen kann, wie auch einige von seinen Nutzungsstatistiken. Wir erfuhren auch ein paar Dinge, die wir eigentlich nicht zu: vorher gab es Sgt. Star, das FBI und die CIA benutzten die gleiche zugrunde liegende Technologie mit Kind Raubtiere und Terrorverdächtige auf dem Internet zu interagieren. Und in eine bizarre Wendung, die Armee behauptet, dass bestimmte Datensätze nicht vorhanden sind, weil ein Element der SGT-Star "Leben."

Wir wissen alles über Sgt. Stern

Chatbots sind Computerprogramme, die Konversation mit menschlichen Benutzer oft über eine Instant-messaging-Stil-Schnittstelle führen können. Um es auszudrücken anders: Sgt. Star ist was passiert, wenn Sie eine traditionelle "FAQ" Seite nehmen und mit mehreren Millionen Dollar Wert von künstlicher Intelligenz Upgrades zu injizieren.

Sgt. Star Geschichte stammt aus den Monaten nach den Anschlägen von 9/11, wenn die Armee eine 40 Prozent über dem Vorjahr Zunahme des Verkehrs in den Chaträumen auf seiner Website erlebte goarmy.com. Mit der Zeit die USA den Irak einmarschierte, vorhergesagt Analysten, dass die jährliche Kosten, die live Chaträume zu besetzen so hoch wie $ 4 Millionen wäre.

Eine kostensparende Lösung präsentierte sich Ende 2003 in Form von einer künstlichen Intelligenz Programm namens ActiveAgent, entwickelt von Spokane, Washington ansässige Tech Firma namens nächsten es. Nach Jahren der Probeläufe und Fokusgruppen debütierte die Armee Sgt. Star2 im Jahr 2006.

Technik und Recht Gelehrte, wie Ryan Calo von der University of Washington School of Law und Ian Kerr der Rechtsfakultät der Universität von Ottawa haben davor gewarnt, der Gefahren für die Privatsphäre gestellt von Bots, die soziale Manipulation mit Massendaten sammeln zu kombinieren. Calo des Sgt. Star in seinem Vortrag "Peering HALs: macht Sinn von künstlicher Intelligenz und Privatsphäre" schrieb:

Im Rahmen des Datamining, ein Computer mit künstlicher Intelligenz ist in der Lage, Tausende von Menschen gleichzeitig engagiert vierundzwanzig Stunden am Tag. Aber hier ist der Agent in der Lage, die Leistung von Computern über sorgfältig inszenierten sozialen Taktik bekannt, dass Reaktionen beim Menschen auslösen zu nutzen. In einem Zeitalter der nationalen Sicherheit und gezielte Werbung ist Bürger und Verbraucher Informationen an eine alle Zeit-Prämie. Techniken der KI und HCI [Human-Computer Interaction] schaffen die Möglichkeit für Einrichtungen nutzen, die menschliche Neigung zu vermenschlichen und andere Vorteile Computer halten über Menschen (Allgegenwart, Sorgfalt, Vertrauen, Speicher, etc.), um eine sonst undurchführbar Tiefe und Breite der Erhebung von Daten zu erleichtern.

Durch eine FOIA-Anfrage konnten wir Sgt. Star Reichweite zu quantifizieren. Laut einer Tabelle zur Verfügung gestellt von der Armee funktioniert Sgt. Star 55 menschlichen Personalvermittler. In den letzten fünf Jahren hat er 10,5 Millionen Fragen beantwortet (94 Prozent von ihnen korrekt) in 2,8 Millionen chat-Sitzungen. Das heißt, durchschnittlich, Sgt. Star mehr als 1.550 Menschen jeden Tag engagiert ist.

Sgt. Star ist derzeit betrieben von der Armee Marketing und Research Group, eine Division im Jahr 2012 erstellt, die aus dem Pentagon arbeitet. Nach Auftraggeber Dokumente ab 2011, hatte die Armee in den Jahren seit $ 5 Millionen auf dem Programm, plus noch ein paar Millionen in Wartung Verträge3 ausgegeben.

Die Armee muss keine Datenschutzerklärung speziell für Sgt. Star, aber Beamte sagen, sie sind nicht tracking-Cookies oder Beibehaltung von personenbezogenen Daten über die IP-Adresse Traffic auf goarmy.com. Aber Sgt. Star ist Aufnahme Fragen, er gebeten wird, die die Armee räumte in einem Interview mit TLDR oft sind persönlicher als was jemand bitte einen echten Personalvermittler (z. B. ein potenziellen Rekruten möglicherweise Angst, er werde als "weiche" gesehen werden, wenn er fragt, ob er hat Dusche vor anderen Menschen oder gibt es Arbeitsplätze, wo er musst nicht bereitgestellt werden).

Die Armee zufolge auch zu TLDR Sgt. Star nicht so schlau ist, dass er seine eigene Wissensbasis zu erhöhen. Stattdessen halten der Armee und der nächste es monatliche Treffen, zu bewerten und anpassen wie Sgt. Star auf Fragen antwortet.

Während Sgt. Star harmlos genug mag, bietet er einen Einblick in wie andere Agenturen die Technologie weit mehr invasive Zwecken nutzen können.

Sgt. Star-Familie

Sie gestellte: Gibt es andere Regierung Chatbots?

Sgt-Star: Ich bin hier können Sie navigieren, obwohl goarmy.com und beantworten Ihre Fragen rund um die Armee. Ich bin nicht hier um Politik zu besprechen.

Sgt-Star hat eine große Familie von "Intelligenz virtual Assistants" nächsten dabei. Sein Bruder Spike unterstützt incoming-Studierende an der Gonzaga University. Ann hilft die Gesundheit der Verbraucher am AETNA. Reisende zu interagieren (und flirten) mit Jenn bei Alaska Airlines, Alex bei United Airlines und Julie bei Amtrak. Neben der Neuzugang Alme, medizinischem AI entwickelt, um Ärzten Schnittstelle mit den Patienten ist. Aber so weit, Sgt. Star ist die nur Bundesregierung Chatbot auf nächsten der Webseite anerkannt.

Heimlich, jedoch Sgt. Star Familie an Strafverfolgungsbehörden und Nachrichtendienste haben. Laut einer unzureichend geschwärzten Dokument öffentlich zugänglich auf der Bundesregierung öffentliche Website, FBO.gov, baut Sgt. Star auf entwickelte Technologie für das FBI und die CIA vor mehr als einem Jahrzehnt mit verdächtigen online unterhalten. Aus dem Dokument:

LTC Robert Plummer, Director, USAREC PAE, während des Besuchs der Pacific Northwest National Laboratories (PNNL) Ende 2003 entdeckte eine Anwendung von NextIt Corporation von Spokane, WA, die PNNL für identifiziert entwickelt die FBI und CIA. Die Anwendung verwendet Chat mit einer zugrunde liegenden AI-Komponente, die aktuellen Gespräche repliziert. Diese Agenturen wurden mithilfe der Anwendung, Um PÄDOPHILE und Terroristen online zu kommunizieren, und es erlaubt eine Einzelsubstanz, 20-30 Gespräche gleichzeitig zu überwachen.

Die fett gedruckten Text war geschwärzt, aber noch gut lesbar im Dokument. Zu diesem Zeitpunkt wissen wir nicht, ob die CIA und das FBI noch diese Bots verwenden. 4 das dauert wahrscheinlich einen viel längeren FOIA-Prozess, und in Anbetracht der Redaktion der Agenturen möglicherweise nicht bereit, die Informationen ohne einen Kampf aufzugeben.

Einige Denkanstöße: Sgt. Star engagiert in fast 3 Millionen Gespräche in den letzten fünf Jahren, und das waren Leute, die tatsächlich mit ihm reden wollte. Unterhalten wieviele Leute konnten zwei CIA und FBI verdeckte Bots mit über 10 Jahren? Was passiert mit Gesprächen, die nicht relevant für eine Untersuchung, und wie die Agenturen auszusondern Fehlalarme, wie wenn ein Chatbot eine gutartige Unterhaltung als gefährlich missdeutet?

Wir wissen auch, dass nächste es eine künstliche Intelligenz-Programm namens ActiveSentry5 entwickelt, speziell zu erkennen und Bedrohungen für die Sicherheit der Daten in einem Computernetzwerk zu neutralisieren. Nach Werbematerialien ist ActiveSentrys Ursprungsgeschichte Sgt. Star sehr ähnlich:

Unsere Lösung, ActiveSentry, ist von einer bewährten Technologie, die wir entwickelt entwickelt, die von Regierungsbehörden Internet Relay Chat (IRC) Räume für solche verdächtiges Verhalten als potenzielle Gefahren für die nationale Sicherheit, Ausbeutung von Kindern und Drogenhandel überwachen bereitgestellt wurde.

ActiveSentry ist kein Chatbot, sondern eine Art der Patrol Guard, Tastenanschläge, Gespräche und Überwachung Netzwerk-Aktivität zu beobachten auf der Suche nach Mitarbeiter Fehlverhalten und sprang dann in Aktion. Hier ist wie nächste es ist Gründer und CEO die Ermittlungs- und Beweiserhebungshandlung Fähigkeiten in einer Präsentation eine Homeland Security Technologie Showcase beschrieben:

Wenn schlechtes Verhalten auftritt, kann ActiveSentry mit Echtzeit-proaktiv zu blockieren, die Aktion reagieren. Es könnte den Computer Herunterfahren, beenden Sie die Anwendung, alarm ein Sicherheitsbeauftragter oder erteilen Sie dem Benutzer eine Warnung. Wenn die Verletzung der Sicherheit ausreicht, schafft ActiveSentry eine detaillierte Aufzeichnung alles, was der Benutzer tut, speichert die Aktion mit Datum/Uhrzeit-Stempel und sichert die Daten für narrensichere Beweiskraft Material.

So weit sind wir nicht bewusst kriminelle Fälle, wo Informationen, die von einem nächsten es Bot als Beweismittel verwendet worden ist. Wenn Sie von einem solchen wissen, wenden Sie sich bitte mit uns in Verbindung.

Lebt Sgt. Star?

Sie gestellte: Lebst du?

SGT-STAR: Ich bin eine dynamische, intelligente Selbstbedienung virtuelle Führung, erstellt von der Armee, das Ihnen hilft, schnell die GoArmy Website navigieren und Armee-bezogenen Thema, während gleichzeitig Fragen beantworten und Regie Kommunikation basierend auf Interaktion mit dem Benutzer abrufen.

Generationen auf Generationen von Folkloristen, Philosophen, Futuristen und Science-Fiction-Autoren haben die Frage: zu welchem Zeitpunkt wird eine Maschine ein Lebewesen?

Leider können wir diese Debatte uns nicht zufriedengeben. Das heißt, FOIA Heeresamt nutzten einige seltsame Sprache Einteiler des Sgt. Star Programmierung zu beschreiben.

In unserer Anfrage wollten wir seine Ausgabeskript (jede mögliche Antwort in seine Datenbank) wie es jetzt aussieht, sondern auch für jedes Jahr da er live gegangen. Auf diese Weise könnten wir vergleichen, wie seine Antworten haben sich entwickelt und durch militärische Politik Änderungen, z. B. das Ende des Don't Bitte Don't Tell und das Verbot von Frauen im Kampf gewachsen. Die Armee gab uns die 835 aktuelle Antworten, aber konnte es nicht geben uns den Rest. Offenbar, die historische Skripte existieren nicht, weil das Skript ist eine "lebende Körper." Die Armee genauen Worte bei der Beschreibung der Tabelle von 835 Antworten:

Diese Sammlung ist dem aktuellen laufenden Inhalt erscheint auf der Website und stellt einen "lebendigen Körper" von Inhalten, die widerspiegelt, die Ergänzungen und Aktualisierungen zu antworten, die seit der Einführung des Sgt. Star ke entwickelt haben.

Bedeuten sie "Leben", wie die Verfassung gilt als ein lebendes Dokument, Oder verwenden sie es im Sinne von Johnny 5 von Kurzschluss? Wir planen eine FOIA Beschwerde um mehr zu erfahren. Wahrscheinlich, was sie bedeuten, ist, dass sie ältere Versionen von Sgt. Star Skript nicht beibehalten, weil sie ständig eine einzelne Datei zu aktualisieren. Wenn das der Fall ist, zeigt, dass schlechte Aufzeichnungen von der Armee. Wenn das FBI ihre Bots auf die gleiche Weise behandelt, würde das wirft ernste Fragen über die Fähigkeit der Angeklagten, die Zuverlässigkeit von einem Bot herauszufordern, wenn sie mit einem Verbrechen belastet werden, nachdem der Bot-Programmierung geändert hat.

Die Armee weigerte sich auch, die uns mit Sgt. Star Eingabemuster, d. h. alles, was die Phrasen und Schlüsselwörter, die er programmiert um zu erkennen, behaupten, dass diese Informationen nächste es proprietäre Material ist und daher von FOIA befreit. Wir werden dies in unser FOIA-Aufruf-Adresse; Wir suchen nicht Sgt. Star zugrunde liegenden handelsübliche ActiveAgent Code, aber wir würden gerne die Anpassung Details sehen, die SGT-Star seiner eigenen Armee Geschmack geben. Es lohnt sich auch, zu wissen, was Sgt. Star ist so programmiert, dass kennzeichnen, auch wenn er nicht so programmiert, dass tatsächlich darauf reagieren.

Alles, was Sgt. Star weiß

Sie können alle Sgt. Star aktuelle Antworten hier anzeigen. Es ist 288 Seiten.

Sgt-Star hat eine scheinbar vollständige Versorgung mit Antworten auf Fragen zum Militärdienst, von den Möglichkeiten für Zahnärzte und Tierärzte, ob Soldat Schirme verwenden dürfen (nur Frauen und unter bestimmten Bedingungen). Er hat auch Antworten, die einfach existieren zur Vertiefung seiner Persönlichkeit, wie seine Musik und Film-Einstellungen und Informationen über seinen Rottweiler "Chomp". Er liefert auch sehr detaillierte, wissenschaftliche Antworten auf Wegwerf Fragen wie "Warum ist der Himmel blau?" und "Warum Rasen grün ist?"

Für alle seine Macken Charakter, würde ein Benutzer nie Sgt. Star für den menschlichen Fehler – das ist einfach nicht, wie er entworfen wurde. Kann nicht unbedingt für andere Regierung Bots abgesehen werden. Militär, Gesetz, dass Strafverfolgungsbehörden und Nachrichtendienste virtuelle Menschen in der Lage, die Interaktion mit und Überwachung der Öffentlichkeit auf einer massiven Skala, und jede Antwort beschäftigt haben viele, viele mehr Fragen aufwirft.

Sie Aske d: bis zum nächsten Mal.

SGT-STAR: auf Wiedersehen.

NOTIZEN

(1) besonderer Dank geht an Alex Goldman auf Medien für Follow-up mit der Armee und Journalist Jason Leopold für eine unterstützende FOIA-Anfrage abzufeuern.

(2) technisch ist er SGT STAR mit Stern als Akronym für "Strong, ausgebildet und bereit," die SGT-Star sagt alle Soldat muss vor einer Einheit zugewiesen werden oder bereitgestellt. Jedoch in den Entwicklungsstadien verwendet das Programm den Namen "Sgt. Rock."

(3) während die Armee direkt mit nächsten es funktioniert, hat es auch Wartung, zwei Rüstungsunternehmen vergeben – Nakuuruq Lösungen und Truestone Kommunikation — beide Tochtergesellschaften eines Konzerns, deren Besitzer der Iñupiat Nordwesten Alaskas.

4. als nächstes ist es nicht mehr das einzige Unternehmen, das Pädophilen-Jagd Chatbots. Im Jahr 2004 eingeführt, ein britischer Programmierer ein Produkt er namens "NetNannies." Spanische Forscher im vergangenen Jahr angekündigt eine weitere AI, genannt Negobot.5. ActiveSentry wird nun vom nächsten es Partner, NextSentry Corporation vermarktet.

Verwandte Artikel

Alles, was wissen wir über Apples neue 9,7-Zoll-iPad Pro [UPDATE]

Während fast jeder im Universum davon, dass Tabletten tot sind überzeugt ist, bleibt dazu bestimmt, durch einige Hybrid Laptop ersetzt Apple die Produktkategorie verpflichtet. Wenn die Gerüchte wahr sind, ist Apple auf sein drängen nach unten verdoppeln b...

Neue Beweise ist eine Herausforderung, was wissen wir über die tödlichsten Massensterben in der Geschichte

Das Aussterben am Ende des Perm vor 252 Millionen Jahren war eines der dunkelsten Kapitel in der Geschichte des Lebens. Bis zu 96 % aller marinen Arten und 70 % des irdischen Lebens Formen verschwand in einem geologischen blinzeln. Aber war das große ster...

Was wissen wir über die Bombe Roboter verwendet, um die vermuteten Dallas-Shooter zu töten

Heute Morgen wurde Dallas Polizei Chef David Brown einen Bombe Erkennung Roboter mit einem Sprengsatz befestigt sagte verwendet, um eine mutmaßliche Schütze scheinbar schrecklichen tödlichen Schüsse von fünf Polizisten beteiligt zu töten. Nach Ansicht von...

Was wissen wir über den Orlando-Killer – und was wir nicht wissen

Behörden sind immer noch zusammen piecing, Omar Mateen war und was er tat, in den Tagen und Stunden vor der Tötung 49 Personen in Puls Diskothek am Wochenende Tage nach Omar Mateen erschossen und 49 Menschen getötet und verwundet 53 mehr im Schwulen Nacht...

Was Sie wissen sollten über die Klimaverhandlungen in Paris

Nach dem morgendlichen, die Flut von Frühstück, Rucksäcke und gefundenen Tennisschuhe fährt zur Schule, verbringe ich einige meiner kostbaren Zeit allein die Trümmer aufräumen. Warum? Wie alle Eltern möchte ich das beste für meine Kinder. Und das bedeutet...

65 Dinge, die wir über die NSA-Überwachung wissen, wir wussten nicht, ein Jahr vor

Seit einem Jahr den Guardian zum ersten Mal veröffentlicht der Foreign Intelligence Surveillance Gerichtsbeschluss, sickerte durch ehemalige NSA-Mitarbeiter Edward Snowden, das zeigte, dass die NSA Rasterfahndung Überwachung von Millionen unschuldiger Men...

Alles, was Sie immer über Sex wissen wollten (und hatten keine Angst, Fragen)

Lust, Erregung und Schmerz: Psychotherapeut Pamela Stephenson Connolly beantwortet die am häufigsten gestellten Leser der Spalte Sexual Healing Wo ist meine sexuelle Lust geblieben, und wie bekomme ich ihn zurück? Sexuelle Lust ist normal, dass die meiste...

Was jeder Papa wissen sollten, über die Anhebung der kleinen Mädchen

Neue Vaterschaft kann Angst vor dem unbekannten zu wecken – vor allem, wenn das Baby ein Mädchen ist. Ein Mann mit Schwestern aufgewachsen und lernte über Frauen aus seinem Partner haben kann, aber weder Satz von Erfahrungen bereiten ihm vollständig für d...

Was schreiben wir über wenn wir über die Ausführung schreiben

Australischer Autor Catriona Menzies-Pike ist der jüngste der aufkeimenden Genre "Übung Memoiren" hinzu. Was es ist, über den Betrieb, die bringt uns schreiben? Vielleicht, Baby, Sie geboren wurden, laufen. Ich? Ich wurde geboren, um zu sitzen....

Was wissen Sie über "Oregon Trail" heute spielen

Wenn ich lese, dass das Internet-Archiv mehr als 2.000 MS-DOS-Spiele auf ihrer Website veröffentlicht hatte, übergab ich das Retro-Fieber, eilen über anklicken und probieren Sie so viele wie möglich, wie Augustus Gloop in Chocolate Room. YouTubeRIP, wahrs...

Die OFM 50: Was lieben wir an die Welt der Lebensmittel in 2016

Aus Hestons Konditorei, der Polizist gedreht Kuchen-Macher sind hier (in keiner bestimmten Reihenfolge) 50 von Observer Food Monthly favorite things 1: der Mann hinter dem Vorhang Mit Rock-Gott-Haar, hautenge Jeans und Leopardskin Stiefel, Michael O'Hare...

Was wissen Sie über Ihre Familiengeschichte?

Was erinnern wir uns an die Verwandten, die vor kam? Ein Foto, Namen, ein paar Worte... Eva Wiseman blickt zurück auf eine andere Welt und ein anderes Leben Familie. Wie eine unsichtbare Bart der Bienen, die Sie tragen, wenn Sie jeden Raum betreten, es su...

Wenn TV-Talent-Shows über Kunst nicht, warum sollten wir über die Künstler zu kümmern?

Shows wie The X Factor und The Voice sind Musik-Äquivalent eines Fastfood-Gelenks: sie lassen uns das Gefühl satt – und ein bisschen krank Niemand kauft mehr die Musik von Künstlern aus TV-Talent-Shows. Es ist vorbei. Verkäufe sind so schlecht, sie s...

Fairer Handel: Was wissen wir, dass Schimpansen nicht

Menschen möglicherweise die einzigen Primaten, die wirklich zu, den Wert der ein gutes Geschäft verstehen. Psychologen Sara Brosnan und Michael Beran der Georgia State University Language Research Center hat vor kurzem ein Experiment mit Schimpansen zu se...