5 Möglichkeiten der Superintelligenz Revolution passieren könnte

Dieser Artikel erschien ursprünglich in The Conversation. Die Publikation beigetragen Artikel Leben Wissenschaft Experten stimmen: Op-Ed & Einblicke.

Biologische Gehirne sind wahrscheinlich nicht die letzte Stufe der Intelligenz. Maschinen haben bereits übermenschliche Stärke, Schnelligkeit und Ausdauer – und eines Tages werden sie übermenschliche Intelligenz haben. Das ist natürlich nicht sicher auftreten – es ist möglich, dass wir zuerst eine andere gefährliche Technologie entwickeln wird, die uns zerstört, oder sonst etwas Existentielles Risiko zum Opfer fallen.

Aber unter der Annahme, dass wissenschaftliche und technologische Fortschritt geht weiter, Menschen-Ebene Maschinenintelligenz ist sehr wahrscheinlich entwickelt werden. Und kurz danach Superintelligenz.

Es ist schwierig, vorherzusagen, wie lange es dauern wird, um solche intelligenten Maschinen zu entwickeln. Im Gegensatz zu dem, was einige Kritiker meines Buches scheinen, zu glauben habe ich starke Meinung über die Rolle. (Es ist als wären nur zwei möglichen Ansichten, die jemand über die Zukunft der künstlichen Intelligenz halten könnte "Maschinen sind dumme und nie zu dem Hype gerecht werden!" und "Maschinen sind viel weiter fortgeschritten, als Sie sich vorstellen und wahre AI gleich um die Ecke ist!").

Eine Umfrage der führenden Forscher auf AI deutet darauf hin, eine 50 % Wahrscheinlichkeit, dass Menschen-Ebene Maschinenintelligenz 2050 erreicht wird (definiert als "die menschlichsten Berufe mindestens durchführen können, sowie ein typisch Mensch" hier). Dies scheint nicht ganz verrückt. Aber man sollte eine große Unsicherheit auf beiden Seiten davon platzieren: es könnte passieren, viel früher oder erst sehr viel später.

Genau wie wir es erhalten werden auch noch in Geheimnis eingehüllt. Gibt es mehrere Wege der Entwicklung, die schließlich dort bekommen sollten, aber wir wissen nicht, welche davon zuerst dorthin.

Biologische inspiration

Wir haben ein aktuelles Beispiel in der Regel intelligent Systems – das menschliche Gehirn – und eine naheliegende Idee ist, fahren Sie fort, indem Sie versuchen, herauszufinden, wie dieses System der Trick funktioniert. Ein umfassendes Verständnis des Gehirns ist ein sehr langer Weg, aber es könnte möglich sein, genug der rechnerischen Grundlagen zusammenzutragen, die das Gehirn benutzt, um erlauben, die sie für den Einsatz in Computern ohne unnötige Sorgen darum, die chaotisch biologische Details richtig anzupassen.

Wir wissen bereits, ein paar Dinge über die Funktionsweise des menschlichen Gehirns: Es ist ein neuronales Netzwerk, lernt durch Verstärkung lernen, es hat eine hierarchische Struktur zu bewältigen, Wahrnehmungen und so weiter. Vielleicht gibt es ein paar mehr Grundprinzipien, die wir noch zu entdecken – und das wäre dann jemand zusammen irgendeine Form von "neuromorphen AI" clobber ermöglichen: eins mit Elementen aus der Biologie abgeschaut, aber in einer Weise, die nicht vollständig biologisch realistisch umgesetzt.

Reine Mathematik

Ein anderer Weg ist die mehr mathematische "Top-Down"-Ansatz, der wenig oder gar keine Erkenntnisse aus der Biologie nutzt und stattdessen versucht, Dinge aus ersten Prinzipien funktionieren. Dies wäre ein wünschenswerter Entwicklungspfad als neuromorphen AI, denn es wäre eher zu zwingen, die Programmierer zu verstehen, was sie tun, auf einer tiefen Ebene – ebenso wie eine Prüfung durch die Arbeit, die Antworten selbst tun dürfte mehr Verständnis als eine Prüfung durch das Kopieren eines Ihrer Klassenkameraden Arbeit erfordern.

In der Regel wollen wir die Entwickler der ersten menschlichen Ebene Maschinenintelligenz oder die erste Saat AI, die bis zu Superintelligenz, sein wachsen wird zu wissen, was sie tun. Wir möchten in der Lage, mathematische Theoreme über das System und wie es sich verhält, wie es durch die Reihen der Intelligenz erhebt sich beweisen.

Brute-Force

Man könnte sich auch vorstellen, Pfade, die mehr auf Brute rechnerische zwingen, dies durch als die breite Nutzung von genetischen Algorithmen. Solch ein Entwicklungsweg ist unerwünscht, aus dem gleichen Grund, den der Weg der neuromorphen AI unerwünscht ist – denn es könnte mehr leicht gelingen, mit weniger als volles Verständnis von dem, was gebaut wird. Haben große Mengen an Hardware konnte, bis zu einem gewissen Grad ersetzen, dafür tief mathematische Einsicht.

Wir wissen bereits von Code, der ausreichend lächerliche Beträge der rechnenden Energie gegeben würde, einen superintelligenten Agent instanziieren. Das AIXI Modell ist ein Beispiel. Soweit wir das beurteilen können, würde es die Welt zerstören. Glücklicherweise sind die benötigten Mengen an Computerleistung physikalisch unmöglich.

Fremde Natur

Der Pfad des gesamten Gehirns Emulation, würde schließlich fortfahren, indem buchstäblich machen eine digitale Kopie eines bestimmten menschlichen Geistes. Die Idee wäre, Einfrieren oder vitrify eine Gehirn, in dünne Scheiben schneiden und die Scheiben durch eine Reihe von Mikroskopen zu ernähren. Automatisierte Bilderkennungssoftware würde dann der Kartenausschnitt der neuronalen Verbindungen des ursprünglichen Gehirns. Diese 3D Karte würde mit Neurocomputational Modellen die Funktionalität der verschiedenen Neuronen bilden das Neuropil kombiniert werden, und die ganze rechnerische Struktur würde auf einige ausreichend geräumig Supercomputer ausgeführt werden. Dieser Ansatz erfordert sehr ausgereifte Technologien, aber kein neues tief theoretischen Durchbruch.

Im Prinzip könnte man einen ausreichend hoher Wiedergabetreue Emulation Prozess vorstellen, dass der daraus resultierende digitale Verstand alle Überzeugungen, Wünsche und Persönlichkeit des hochgeladenen einzelnen behalten. Aber ich denke, dass es wahrscheinlich ist, dass bevor die Technologie dieses Maß an Perfektion erreicht, eine gröbere Form der Emulation ermöglichen würde, die eine verzerrte human-ish Sinn ergeben würde. Und bevor die Bemühungen um eine ganze Gehirn Emulation auch dieses Maß an Erfolg erreichen wäre, würde sie wahrscheinlich in neuromorphen AI übergreifen.

Kompetente Menschen bitte zuerst,

Vielleicht wäre der attraktivste Weg zur Maschine Superintelligenz eine indirekte, auf der wir zuerst der Menschheit biologische Kognition verbessern würde. Dies könnte durch die, sagen wir, Gentechnik sowie institutionelle Neuerungen zur Verbesserung unserer kollektiven Intelligenz und Weisheit erreicht werden.

Es ist nicht, dass dies irgendwie uns ermöglichen würde "zu halten mit den Maschinen" – die ultimative Grenzen der Informationsverarbeitung in Maschine Substrat weit die einer biologischen Rinde jedoch weit verbessert übersteigen. Das Gegenteil ist vielmehr der Fall: menschliche kognitive Verbesserung würde beschleunigen den Tag wann Maschinen überholen uns, da intelligentere Menschen in Informatik eine schnellere Fortschritte machen würde. Allerdings scheint es per Saldo vorteilhaft, wenn der Übergang zu der Maschine Intelligenz Ära wurden entwickelt und unter der Aufsicht einer kompetenteren Rasse von Menschen, auch wenn das den Übergang passiert etwas früher als sonst zur Folge hätte.

Unterdessen können wir die meiste Zeit zur Verfügung, stellen sei es lang oder kurz, indem man an Kontrolle, das Problem der wie Sie sicherstellen können, dass Superintelligenz Agenten sicher und vorteilhaft wäre zu arbeiten. Dies wäre eine angemessene Erwerbstätigkeit für einige mathematische Begabung unserer Generation.

Das Gespräch organisiert eine öffentliche Frage-und-Antwort-Sitzung auf Reddit, in denen Nick Bostrom, Direktor des Future of Humanity Institute an der University of Oxford, sprach über die Entwicklung von künstlicher Intelligenz und Verwandte Themen.

Nick Bostrom ist der Direktor des Future of Humanity Institute und des Oxford Martin-Programms auf die Auswirkungen des Future Technology, beide mit Sitz in der Oxford-Martin-Schule. Er ist der Autor von Superintelligenz: Pfade, Gefahren, Strategien.

Dieser Artikel erschien ursprünglich auf das Gespräch. Lesen Sie die