Lassen Sie sich nicht von künstlicher Intelligenz übernehmen, Top-Wissenschaftler warnen

Künstliche Intelligenz hat das Potenzial, das Leben leichter machen, durch Verständnis menschlichen Wünsche oder Volks-Autos zu fahren, aber gäbe es unkontrolliert, die Technologie könnte eine ernsthafte Bedrohung für die Gesellschaft. Nun haben Stephen Hawking, Elon Musk und Dutzende von anderen Top-Wissenschaftlern und Technologieführer eine Brief-Warnung der möglichen Gefahren für die Entwicklung der künstlichen Intelligenz (KI) unterzeichnet.

Neben Schwergewichten wie Hawking und Moschus, die Physiker und Milliardär Gründer von SpaceX und Tesla Motors war das Schreiben von Top-Forscher am Massachusetts Institute of Technology, Google und anderen Institutionen unterzeichnet.

Der Brief wirbt die Vorteile von AI, aber auch die möglichen Risiken warnt.

"Aufgrund des großen Potenzials von AI, ist es wichtig zu untersuchen, wie, seine Vorteile zu nutzen, mögliche Fallstricke zu vermeiden", liest den Brief, die online veröffentlicht wurde Sonntag (Jan. 11) von der Zukunft der Life Institute, eine Freiwilligenorganisation konzentrierte sich auf Minderung existenzielle Bedrohungen für die Menschheit. Das heißt, dem Schreiben heißt es, "unsere KI-Systeme müssen was wir von ihnen wollen." [5 Gründe für Angst Roboter]

Von Spracherkennung, selbstfahrende Fahrzeuge dürfte bei AI haben einen zunehmenden Einfluss auf die Menschheit, in dem Schreiben heißt. "Die potenziellen Vorteile sind riesig... Die Beseitigung von Krankheit und Armut sind nicht unergründlich", sagt der Brief.

Die Erklärung geht auf Stresssituationen, dass Forschung in AI konzentrieren sollten, nicht nur auf AI handlungsfähiger zu machen, sondern auch auf ihren Nutzen für die Gesellschaft. Bis jetzt hat KI-Forschung in erster Linie auf "neutral" Zwecke, nicht vorteilhaft sind, konzentriert die Autoren sagen.

Der Buchstabe bezieht sich auf ein Dokument Forschungsprioritäten für AI, darunter Umgang mit den Auswirkungen der künstlichen Intelligenz auf die Beschäftigung, das ethische Verhalten der autonomen Maschinen und Waffen zu gewährleisten und gleichzeitig die entsprechende Kontrolle über AI.

Es ist nicht das erste Mal, Hawking, Moschus und andere über die Gefahren der künstlichen Intelligenz gewarnt haben. Im Dezember 2014 sagte Hawking die Entwicklung von künstlicher Intelligenz "das Ende der Menschheit bedeuten könnte."

Im Oktober letzten Jahres, sagte ein Publikum am MIT, dass AI ist der Menschheit "größte existenzielle Bedrohung." Anfang 2014 Moschus, Facebook-Gründer Mark Zuckerberg und Schauspieler Ashton Kutcher gemeinsam investiert $ 40 Millionen in Vicarious PFC, ein AI-Firma, die arbeitet, um eine künstliche Gehirn zu schaffen. Mitbegründer der Vicarious, Dileep George und Scott Phoenix, gehörten auch der offene Brief unterzeichnet.

Andere, die den Brief unterschrieben sind Peter Norvig, Director of Research bei Google; Martin Rees, emeritierter Professor für Kosmologie und Astrophysik an der Universität Cambridge; Vernor Vinge, emeritierter Professor für Informatik an der San Diego State University; Frank Wilczek, Nobelpreisträger und Physikprofessor am MIT; und viele andere.

Folgen Sie Tanya Lewis auf Twitter . Folgen Sie uns @livescience, Facebook & Google +.