Googles AI Sicherheit Regeln sind so mehr langweilig als Asimovs

Gute Nachrichten, jeder: Google ist auf der Suche nach uns! Es will kein Reinigungsroboter, Omas Vase umzustoßen.

Das ist eines der potentiell gefährlichen Szenarien Google-Techniker untersucht in einem neuen Papier auf "konkrete Probleme in AI Sicherheit." Aus irgendeinem seltsamen Grund wählten die Forscher veranschaulichen diese Gefahren am Beispiel der Reinigungsroboter und keinem fühlenden Superintelligenz, die uns versklaven will.

In Bezug auf Eleganz sie keine Kerze halten, um Asimovs drei Gesetze der Robotik, aber ich vermute, das ist um zu erwarten, wenn Sie schreiben einer wissenschaftlichen Arbeit und keine spekulative Science Fiction-Roman, das eigentlich nicht den Gesetzen der Physik gehorchen.

Hier sind die fünf Probleme, die Google werden wichtige denkt zu konzentrieren:

1. Vermeidung von negativen Nebenwirkungen, oder "wie stellen wir sicher ein Reinigungsroboter keine Vase umstoßen, weil es schneller ist, dies zu tun?"
2. Vermeiden, Belohnung zu hacken, oder "wie können wir sicherstellen, dass der Reinigungsroboter nur Abdeckung Kasinos statt Reinigung nicht?"
3. Skalierbare zuständig sind, oder "wie stellen wir sicher Reinigungsroboter lernt schnell und fragt nicht allzu oft, wo die Mop ist?"
4. Sichere Exploration, oder "wie machen wir Sie sicher, dass der Roboter Reinigung Strategien untersucht, aber keinen Mopp in eine Steckdose und das ganze Haus niederbrennen?"
5. Robustheit gegenüber Verteilungswirkungen Verschiebung, oder "wie unterrichten wir den Roboter zu erkennen, wann seine Fähigkeiten nicht in einer anderen Umgebung nützlich sind?"

Vielleicht machen die Reinigung-Roboter-Beispiele Sinn, angesichts der Tatsache, dass Eric Schmidt nicht sehr hoch an AI Ängste denkt. (Dann wieder, wenn das der Fall ist, warum arbeitet Google ein Kill-Schalter an?)

Wie auch immer. Google, wenn Sie herausfinden, wie man all diese Dinge schnell beibringen kenne ich einige Eltern, die Ihr helfen wollen könnte und einige Kinder, die noch verbringen ihre ganze Zeit versuchen, ihre Verwirrung statt Aufräumen zu verbergen. Ich meine, Kinder, die noch nicht programmiert wurden zu "hacken Belohnung."