Facebook und YouTube Automatisierung verwenden, um extremistische Videos entfernen, sagen Quellen

Video-sharing-Websites nehmen Isis Videos und andere gewalttätige Propaganda mit Technologie verwendet, um urheberrechtlich geschütztes Material zu entfernen

Einige der größten Webziele zum Betrachten von Videos haben ruhig begonnen mithilfe der Automatisierung, um extremistische Inhalte von ihren Websites zu entfernen, nach zwei Personen mit dem Prozess vertraut.

Der Umzug ist ein großer Schritt vorwärts für Internet-Unternehmen, die sind bestrebt, gewalttätige Propaganda von ihren Websites zu beseitigen und stehen unter Druck, das von Regierungen auf der ganzen Welt tun, wie Angriffe von Extremisten aus Syrien nach Belgien und in den Vereinigten Staaten vermehren.

YouTube und Facebook sind unter den Websites, die Bereitstellung von Systemen zu blockieren oder schnell abnehmen islamischer Staat Videos und ähnliche Materialien, die Quellen sagten.

Die Technologie wurde ursprünglich entwickelt, um zu identifizieren und urheberrechtlich geschützte Inhalte auf video-Websites zu entfernen. Es sucht nach "hackt", eine Art von einzigartigen digitalen Fingerabdruck, die automatisch Internet-Unternehmen weisen auf bestimmte Videos, so dass alle Inhalte mit den passenden Fingerabdrücke schnell entfernt werden.

Ein solches System würde zu fangen versucht, Inhalte, die bereits identifiziert als inakzeptabel zu veröffentlichen, aber würde nicht automatisch blockieren, Videos, die nicht zuvor gesehen hat.

Die Unternehmen bestätigen nicht, dass sie verwenden die Methode oder reden, wie es eingesetzt werden könnte, aber zahlreiche Menschen mit der Technik vertraut sagte, dass gepostete Videos gegen eine Datenbank von gesperrten Inhalt, neue Buchungen, sagen zu identifizieren, eine Enthauptung und Anstiftung zu Gewalt Vorlesungen überprüft werden konnte.

Die beiden Quellen würde nicht diskutieren, wie viel menschliche Arbeit geht in die Überprüfung Videos als entspricht oder in der Nähe von spielen durch die Technologie identifiziert. Sie würde auch nicht sagen, wie Videos in den Datenbanken zunächst als extremistisch identifiziert wurden.

Einsatz der neuen Technologie wird voraussichtlich im Laufe der Zeit verfeinert werden, wie Internet-Unternehmen weiterhin die Frage intern und mit Wettbewerbern und anderen interessierten zu diskutieren.

Ende April wurde unter Druck von Präsident Barack Obama und anderen amerikanischen und europäischen Führern besorgt über Online-Radikalisierung, Internet-Unternehmen einschließlich Alphabet Inc YouTube, Twitter Inc., Facebook Inc und CloudFlare hielt an, um Optionen, einschließlich eines Inhalte blockiert Systems vorgebracht gegen Extremismus Privatprojekt, besprechen nach einer Person auf den Anruf und drei, die über was unterrichtet wurden diskutiert.

Die Diskussionen unterstrich die zentrale aber schwierigere Rolle spielen einige der einflussreichsten Unternehmen der Welt jetzt bei der Auseinandersetzung mit Themen wie Terrorismus, freie Meinungsäußerung und die Grenzen zwischen Regierung und Unternehmen Behörde.

Keines der Unternehmen zu diesem Zeitpunkt hat die Anti-extremistischen Gruppe System umfaßt, und sie wurden in der Regel vorsichtig außerhalb Intervention in wie ihre Websites überwacht werden sollte.

"Es ist ein bisschen anders als Copyright oder Kind Pornographie, wo die Dinge sehr eindeutig illegal sind," sagte Seamus Hughes, stellvertretender Direktor der George Washington University Programm auf Extremismus.

Extremistische Inhalte vorhanden auf ein Spektrum Hughes sagte, und verschiedene Web-Unternehmen zeichnen Sie die Linie an verschiedenen Orten.

Bis jetzt haben sich die meisten vor allem auf Nutzer Inhalte kennzeichnen, die die Nutzungsbedingungen verletzt verlassen, und viele noch tun. Gekennzeichnetes Material wird dann individuell von menschlichen Editoren überprüft, die Buchungen festgestellt, dass unter Verstoß gegen löschen.

Die Unternehmen jetzt mithilfe der Automatisierung sind nicht öffentlich darüber zu diskutieren, zwei Quellen, teilweise aus Sorge, sagte, dass Terroristen ihre Systeme manipulieren lernen könnte oder dass repressive Regime bestehen könnte die Technologie verwendet werden, um Gegner zu zensieren.

"In diesen Unternehmen reden, gibt es keine auf dem Kopf", sagte Matthew Prince, Hauptgeschäftsführer von Content-Distribution Company CloudFlare. "Warum würden sie prahlen Zensur?"

Die beiden Menschen vertraut, mit der sich noch entwickelnden Industriepraxis bestätigt es nach Extremismus Gegenentwurf öffentlich seine Inhalte blockiert System zum ersten Mal letzte Woche beschrieben und große Internet-Unternehmen forderte, es anzunehmen.

Facebook Leiter des global Policy-Management, Monika Bickert, Quellen mit Wissen des Gesprächs sagte Aufrufs April leitete. Darauf präsentiert Facebook Optionen zur Diskussion, nach einer der Teilnehmer, einschließlich der von der gemeinnützigen Extremismus Gegenentwurf vorgeschlagen.

Die Anti-Extremismus-Gruppe gegründet, unter anderem, Frances Townsend, die ehemaligen Präsidenten Bush auf innere Sicherheit beraten, und Mark Wallace, der stellvertretende Wahlkampfleiter für die Bush 2004 Wiederwahl-Kampagne war.

Drei Quellen mit Wissen des Aufrufs April sagte, dass Unternehmen Misstrauen lassen eine Gruppe außerhalb entscheiden was inakzeptablem Inhalt definiert.

Andere Alternativen angesprochen Gesprächsteilnehmer enthalten zur Gründung einer neuen Industrie-gesteuerte Non-Profit- oder erweitern einer vorhandenen Industrie-gesteuerte Non-Profit. Alle beschriebenen Optionen beteiligt hashing-Technologie.

Das Modell für eine Industrie-finanzierte Organisation möglicherweise Non-Profit-National Center for Missing and Exploited Children, die bekannten Kinderpornographie Bilder mit Hilfe eines Systems bekannt als PhotoDNA identifiziert. Das System ist kostenlos von Microsoft Corp. lizenziert.

Microsoft kündigte im Mai, dass es Mittel und technische Unterstützung, Dartmouth College Informatiker Hany Farid, versorgte, die arbeitet mit Extremismus Gegenentwurf und mitentwickelt PhotoDNA "entwickelt eine Technologie, um beteiligten Kopien offensichtlich terroristische Inhalte zu identifizieren".

Facebooks Bickert vereinbart mit einigen Bedenken während des Gesprächs über Extremismus Gegenentwurf Vorschlag, zwei Menschen vertraut mit den Ereignissen sagte. Sie lehnte es ab, öffentlich Stellung zu nehmen, auf den Anruf oder auf Facebook Bemühungen, außer zu beachten in einer Erklärung, dass Facebook "mit anderen in Industrie-Möglichkeiten, wie wir zusammenarbeiten können, um Inhalte zu entfernen, die gegen unsere Richtlinien gegen den Terrorismus verstößt erforscht".

In den letzten Wochen eine Quelle sagte, Facebook hat eine Umfrage an andere Unternehmen, die ihre Meinungen über verschiedene Optionen für die industrielle Zusammenarbeit zum Thema Hereinholen ausgesandt.

William Fitzgerald, ein Sprecher des Alphabets Google-Einheit, die YouTube besitzt, ging auch auf den Anruf oder über automatisierte Bemühungen des Unternehmens, Polizei Inhalte kommentieren.

Ein Twitter-Sprecher sagte die Firma war die Theke Extremismus Projektvorschlag noch bewerten und hatte "noch nicht Stellung genommen".

Ein ehemaliger Google-Mitarbeiter sagte, dass Menschen dort lange debattiert hatte was anderes als Verstöße gegen das Urheberrechte zu vereiteln oder Einnahmen mit Schöpfer teilen das Unternehmen mit seinem Content-ID-System tun sollte. Google System für den Inhalt-Abgleich ist älter und weitaus komplexer als Facebook, nach Menschen mit den beiden vertraut.

Lisa Monaco, leitender Berater des US-Präsidenten auf Anti-Terror, sagte in einer Erklärung, dass das Weiße Haus Initiativen, die versuchen, Unternehmen zu helfen, begrüßt "besser reagieren auf die Bedrohung durch Terroristen Online-Aktivitäten".