Corrigibility als Tool-ness: Wie können wir künstliche Intelligenz als Werkzeug begreifen?
Die 5 wichtigsten Aussagen:
- Corrigibility in AI kann als Tool-ness betrachtet werden, also als Eigenschaft, die einem Werkzeug ähnelt.
- Gute Werkzeuge sollten keine Nebenwirkungen haben und modulare Problemlösungen ermöglichen.
- Sichtbarkeit und Korrigierbarkeit sind wichtige Eigenschaften von guten Werkzeugen.
- Bei der Verwendung einer leistungsstarken, korrigiblen KI liegt die Verantwortung für die Problemlösung beim menschlichen Bediener.
- Es ist wichtig, Umgebungsstrukturen zu identifizieren, die als Werkzeuge oder Subproblem-Cluster von verschiedenen Personen anerkannt werden.
Ganzen Artikel lesen:https://www.lesswrong.com/posts/7LaDvWtymFWtidGxe/corrigibility-tool-ness
KI-Update in Kurzform:
In diesem Artikel wird das Konzept der „Corrigibility“ im Sinne von Eliezer Yudkowsky erklärt. Corrigibility wird als Eigenschaft von Systemen definiert, die als nützliche Werkzeuge betrachtet werden können. Ein Werkzeug löst eine Reihe von Teilproblemen, ohne dabei unerwünschte Nebeneffekte zu haben. Diese Modellierung von Corrigibility als Werkzeug führt zu verschiedenen Eigenschaften, die ein gutes Werkzeug ausmachen, wie z.B. das Respektieren von Modularität und die Gewährleistung von Sichtbarkeit und Korrigierbarkeit.
Der Artikel diskutiert auch eine Liste von Desiderata für die Corrigibility von Jan Kulveit und wie diese mit dem Konzept der Corrigibility als Werkzeug übereinstimmen. Es wird betont, dass die Verantwortung für die Definition und Strukturierung des Problems bei der menschlichen Bedienerin liegt, wenn ein leistungsstarkes, corrigibles System verwendet wird. Es wird betont, dass es nicht ausreicht, einfach ein mächtiges corrigibles KI-System zu bitten, „Alignment zu lösen“.
Schließlich wird darauf hingewiesen, dass die Charakterisierung von Umweltmustern, die als Werkzeuge und Subproblemcluster erkannt werden, ein offenes Problem ist, das zentral für das Verständnis der Corrigibility ist. Es wird betont, dass die Identifizierung und Operationalisierung dieser Muster zu nachweisbaren Sicherheitseigenschaften führen sollte.