ทันเอไอ

Forscher schlagen 'Plan A' vor: Superintelligenz bis 2040 verzögern, gesamte Forschung offenlegen

Das Forschungsprojekt AI Futures Project schlägt einen proaktiven Plan zur Risikobewältigung bei fortschrittlicher KI vor, der eine Verzögerung der Entwicklung bis 2040 und die Offenlegung aller Forschungsergebnisse zur Reduzierung gefährlichen Wettbewerbs fordert.

Die gemeinnützige Forschungsorganisation AI Futures Project hat einen wichtigen politischen Vorschlag mit dem Titel „AI 2040: Plan A“ veröffentlicht. Dieser präsentiert einen völlig neuen Ansatz zur Bewältigung der Risiken fortschrittlicher künstlicher Intelligenz in der Zukunft. Hauptautoren sind Daniel Kokotajlo, ehemaliger Forscher bei OpenAI, und Thomas Larsen, Mitautor des bereits viel beachteten Berichts „AI 2027“. Das Kernstück von „Plan A“ ist keine Vorhersage, sondern eine Empfehlung, die nach Ansicht des Forschungsteams „geschehen sollte“, um die Menschheit zu den bestmöglichen Ergebnissen zu führen. Der Plan fordert, die Entwicklung von Superintelligenz (künstliche Intelligenz, die in jeder Hinsicht intelligenter ist als der Mensch) mindestens bis 2040 zu verzögern. Eine zentrale vorgeschlagene Maßnahme ist die Verpflichtung für alle KI-Labore, sämtliche Forschungsergebnisse und Modelle öffentlich zu machen, um geheimen Wettbewerb zu eliminieren und Transparenz in der Branche zu schaffen. Der Vorschlag besagt weiterhin, dass die vollständige Offenlegung es Dutzenden von Unternehmen und Forschungsorganisationen weltweit ermöglichen würde, technologisch mit den führenden Gruppen gleichzuziehen. Dies würde zur Dezentralisierung führen und verhindern, dass eine einzelne Organisation die absolute Macht erlangt. Ein weiteres wichtiges Konzept ist die bewusste Schaffung eines Zustands, der als „mutually assured compute destruction“ bezeichnet wird. Dieses Prinzip ähnelt der „mutually assured destruction“ aus der Zeit des Kalten Krieges, ersetzt aber Nuklearwaffen durch Rechenleistung (compute power). Sollte eine Partei versuchen, die KI-Entwicklung heimlich zu beschleunigen, könnten die verbleibenden Parteien ihre öffentlich bekannten Rechenressourcen bündeln, um dies abzuschrecken oder darauf zu reagieren, wodurch niemand es wagen würde, die Vereinbarung zu verletzen. Dieser Bericht ist das dritte wichtige Werk des AI Futures Project, nach „AI 2027“ und dem „AI Futures Model“. Die Website des Projekts wurde zudem in Zusammenarbeit mit Lightcone Infrastructure entwickelt. Der Vorschlag wurde von führenden Nachrichtenagenturen wie Axios und Washington Post bestätigt und berichtet, was darauf hindeutet, dass er in der globalen Technologie- und Politikszene ernsthaft beachtet wird.