Top-Ingenieur und Futurist: morgige Roboter könnte Barmherzigkeit-Kill Menschheit

Nell Watson ist ein Ingenieur, ein Futurist und der Gründer und CEO von Poikos. So weiß sie viel über die Maschinen, die wir heute benutzen, und die, die wir für die Zukunft planen. Und sie ist besorgt, dass die künstliche Intelligenz von der nahen Zukunft, ob dem wohlwollendsten für die Menschheit ist entscheiden, es zu zerstören.

Das ist die Sorge, die Watson auf der Konferenz, eine jährliche Zusammenkunft in Schweden mit Schwerpunkt auf Technik und menschliches Verhalten angesprochen. In ihrem Vortrag "Helfen Computer zu verstehen, Menschen," Watson holt oben einen erschreckend interessanten Punkt: das Machine learning-Versorgung der künstlichen Intelligenz, wir jetzt haben, kann nicht die nuancierte Lehren der menschlichen Ethik.

Sie sollten wirklich Watsons ganze Rede zu sehen – bei knapp 17 Minuten lang, es ist vollgepackt mit Einblicke in die aktuellen und zukünftigen Zustand des maschinellen Lernens und der künstlichen Intelligenz. Hier musst du noch irgendwohin zu gehen:

Hier ist die Hauptlast der Watsons Argument, für den Fall, dass Sie aus irgendeinem Grund das Video können nicht:

Wenn wir beginnen, superintelligenten künstliche Intelligenzen zu sehen, gehen sie freundlich zu sein, oder werden sie unfreundlich sein? [. . .] Eine Art Intelligenz reicht nicht ganz, denn in Anlehnung an Clarke, "hinreichend wohlwollende Zutun von Boshaftigkeit nisht zu unterscheidend ist." Wenn du wirklich, wirklich, wirklich Art, das als wirklich böse angesehen werden könnte. Eine wirklich freundliche Intelligenz kann beschließen, dass das netteste und beste, was für die Menschheit ist, uns zu beenden.

Yeesh. Vielleicht hatte Kubrick schließlich Recht über HAL-9000.

Es ist nicht alles Untergangsstimmung aber (das wäre ein echter Wermutstropfen eines Vortrags!). Watson beendet ihren Vortrag durch die Ausstellung einer Herausforderung, sagte: "vielleicht die wichtigste Arbeit aller unserer Lebenszeit kann um sicherzustellen, dass Maschinen in der Lage, menschliche Werte zu verstehen sind."

Besser ans Werk, Ingenieure. Wir haben nicht viel Vorsprung. [Die Konferenz; Wired über CNet]