Googles DeepMind sollte nicht saugen unsere NHS Aufzeichnungen im geheimen
Die Enthüllung, dass 1,6 Millionen Patienten Datensätze von der Firma künstliche Intelligenz Arm Ringe Alarmglocken verwendet werden
Als bekannt wurde, dass Google Unternehmen mit Sitz in London DeepMind wäre die NHS Aufzeichnungen über 1,6 Millionen Patienten zugreifen, die drei Londoner Krankenhäusern laufen vom Royal Free NHS Trust – Barnet, Chase Farm und Royal Free – nutzen klingelte es Alarmglocken.
Nicht nur, weil die Briten heftig ihre intimen Krankengeschichten bewachen. Nicht nur, weil Google, eine weitläufige Krake eines Unternehmens mit Tentakeln in unser aller Leben will "die weltweiten Informationen zu organisieren". Nicht nur, weil die Patienten unwahrscheinlich, dass Google diese Informationen zugestimmt haben sind.
Das Problem für viele ist die Verflechtung dieser Bedenken mit der Idee der künstlichen Intelligenz (KI). DeepMind ist kein gewöhnliches Unternehmen. Es ist spezialisiert auf AI, Technologieentwicklung, etwas wie intelligente Argumentation auszustellen.
Im letzten Jahr produziert seine Ingenieure eine Forschungsarbeit zeigt, dass es eine Programm erstellt hatte, die die Arbeit der "professionellen menschlichen Videospiele-Tester" repliziert werden konnten. Im März gehen Googles DeepMind Geschichte gemacht, indem Erstellen eines Programms, das die 3.000 Jahre alte chinesische Brettspiel bewältigt, gedacht, um über den aktuellen Stand der Technik aufgrund der Anzahl der möglichen Züge. AlphaGo-Programm des Unternehmens schlagen in was einen computing Meilenstein galt Go Weltmeister 4-1.
Solch ein Unternehmen hat jetzt eine Datenbank mit detaillierten, privat, wenn auch anonymisiert, Aufzeichnungen über diese Leute Anamnese, einschließlich HIV-Status, vorbei an Überdosierungen und Abtreibungen. DeepMind sagt, es braucht die Daten, medizinische Warnungen für Krankenhäuser versuchen zur akuten Nierenversagens Verletzungen zu produzieren.
Die Angst für einige ist, dass DeepMinds-Datenbank für viel mehr als den ursprünglichen angegebenen Zweck ermöglichen könnte. Die Öffentlichkeit ist kein Fremder in die Tatsache, dass NHS Patientendaten nicht gewahrt worden – im Jahr 2014 die Regierung gezwungen wurde, zu stoppen und wieder Skala ihre Vorschläge zum Erzeugen einer einzigen englischen medizinischen Datenbank über Bedenken, dass die ärztliche Schweigepflicht in Gefahr bringen könnten.
DeepMind hat seine Arbeit mit der NHS, Ankündigung im Februar, es mit der Health Service funktionierte, eine app namens Streams zu helfen, zu bauen, dass Ärzte und Krankenschwestern nierenkranken Patienten überwachen nicht verborgen. Was hat es nicht offenbart, das Ausmaß der seine Daten Hol, war die historische Patientenakten umfasst. Statt die wenigen tausend Patienten mit Verletzungen der Niere habe DeepMind alle Patientenakten aller drei Krankenhäuser. Das ist Millionen von vertraulichen Dokumenten.
Er sagt, dass es die gesamte Patientendatenbank Streams arbeiten zu machen braucht. Hintermänner solcher Datenbanken behaupten, dass mit solchen Daten leistungsstarke Software Pakete erstellt werden können, um Krankheiten früher erkennen.
Die Zeitschrift New Scientist erhalten die Daten-sharing-Vereinbarung zwischen DeepMind und dem NHS, die offenbart, wie viel Information zur Verfügung gestellt wurde. Des Unternehmens Google Fähigkeit ist zu erkennen, komplexe Muster in großen Mengen von Daten – und der NHS ist eine Fundgrube für solche "deep Learning".
In diesem Datenschatz sind Protokolle der täglichen stationäre Leistungen, wie Aufzeichnungen über den Standort und Status des Patienten – und wer sie besucht und wann. DeepMind erhalten auch Pathologie und Radiologie Test Patientenakten.
Sowie Echtzeitdaten hat DeepMind Zugang zu den historischen Aufzeichnungen von Intensivmedizin und Unfall- und Notaufnahmen. Diese Informationen, Knirschen, so die Theorie geht, ermöglicht DeepMind Vorhersagen basierend auf Daten, die zu breit für eine einzelne Person zu assimilieren und zu analysieren im Bereich zu entwickeln.
Durch den Vergleich der Patientendaten, DeepMind möglicherweise in der Lage, vorauszusagen, daß jemand in den frühen Stadien der Krankheit ist, die noch nicht deutlich geworden. Dies ist der medizinische Heilige Gral: nicht die Behandlung eines Patienten, wenn sie krank sind, aber sie zu behandeln, bevor sie krank werden.
Utopisch? Vielleicht. Hinter den Versprechen dieser Technologien liegt der Kern des Dilemmas im Zeitalter, in das wir leben. Google, Facebook und andere ernähren sich von der Tatsache, dass wir unser Recht auf Privatsphäre im Gegenzug für die neue Technologie mit unseren Daten sperren.
Wie Apple baut Google einen Ruf in medizinischen Anwendungen. Es ist auch wahr, dass die Nutzung des maschinellen Lernens in der Medizin von Akademikern nichts neues ist. Aber diese Daten übergeben und wird gesteuert von einem der weltweit größten und leistungsstärksten Unternehmen. Es wirft Fragen über ob es schnell der größte Spieler, ein de-facto-Monopol über NHS Gesundheit Analytics werden könnte.
AI ist auch etwas neues, ein Versprechen, dass eine Programm verbessern – und menschlichen Intellekt sehr schnell zu übertreffen könnte. Dies ist die so genannte "Intelligenzexplosion" – ein Punkt, wo Menschlichkeit seiner eigenen Zerstörung Gerichte. Wir sind noch weit daneben. Niemand hat eine Maschine gebaut, die soziale und ethische Normen, sogar auf Kosten ihrer Ziele respektiert. Es ist schwer genug, um Menschen zu tun bekommen.
Einige mögen sagen, dass solche Hochrechnung ist lächerlich. Nach alle Tay – dauerte die "intelligente" Twitter-Chatbot von Microsoft – ein paar Stunden, bis sie "gelernt", eine rassistische, Völkermord Hochtöner geworden und wurde getötet. Aber wie Elon Musk, der Erfinder, die ursprünglich in DeepMind, investiert sagte, war es Sorgen über "Terminator"-Technologie, die ihn über die Gefahren zu warnen fuhr.
Vielleicht klingen aus kommerziellen Gründen betreibt DeepMind unter dem Radar. Aber dies wirft oft mehr Fragen als Antworten. Googles AI-Ethik-Gremium eingerichtet, wenn Google DeepMind im Jahr 2014 für 400 Millionen Pfund erworben bleibt eines der größten Geheimnisse in der Technologie, mit beiden Firmen, die sich weigern zu offenbaren, wer darauf sitzt.
Künstliche Intelligenz benötigt Daten zu lernen. Damit diese Patientenakten durch Googles DeepMind aufsaugen. Warum also die Geheimhaltung? Wenn Patienten mitgeteilt hatte, was vor sich ging und warum könnte sie fundierte Entscheidungen. Wenn sie die möglichen Risiken der Google-Dominanz denken über eine neue kritische Technologie für den NHS werden durch die Vorteile überwogen, dann werfen wir diese Debatte. Aber wenn das Unternehmen nicht erklären und im geheimen weitermacht, die Öffentlichkeit zu Recht gehen nicht zusammen mit solchen Plänen.