'AI 2040'-Plan zur Verzögerung der Superintelligenz bis 2040 von George Hotz als bloßer „Kult der Intelligenz“ kritisiert
Der bekannte Hacker George Hotz kritisiert den Vorschlag "AI 2040" eines ehemaligen OpenAI-Teams, der die Verzögerung der KI-Entwicklung und die Offenlegung aller Forschungsarbeiten fordert, als Konzept, das die physikalische Realität ignoriert.
Das heiße Thema in der Tech-Community diese Woche war ein kritischer Artikel von George Hotz (geohot), dem Hacker und Gründer von Comma.ai, zu dem Vorschlag "AI 2040: Plan A". Dieser Vorschlag präsentiert eine positive Vision für die Zukunft der Künstlichen Intelligenz und stammt von einer Gruppe Forschender, die zuvor bei OpenAI gearbeitet haben.
Der "AI 2040"-Vorschlag ist eine Weiterentwicklung des zuvor vom selben Team verfassten Berichts "AI 2027". In der früheren Ausgabe hatten sie eine besorgniserregende Zukunft prognostiziert, in der KI zum Aussterben der Menschheit oder zu einer totalitären Machtkonzentration führen könnte. In "Plan A" jedoch bieten sie eine idealistische Lösung an, deren Kernelemente die Verzögerung der Entwicklung von Superintelligenz bis 2040, die vollständige Offenlegung aller KI-Forschungsarbeiten zur Technologiediffusion und die Schaffung eines Systems sind, das allen Parteien ermöglicht, eine zu schnelle Entwicklung gemeinsam zu überwachen und zu stoppen. Das Autorenteam besteht aus wichtigen Persönlichkeiten im Bereich der KI-Sicherheit, darunter Daniel Kokotajlo, Thomas Larsen, Eli Lifland und Romeo Dean.
George Hotz konterte jedoch in seinem Blogartikel und bezeichnete das Konzept als Teil eines "Kultes der Intelligenz" (cult of intelligence). Er argumentierte, dass Intelligenz nicht das ultimative Ziel sei, sondern lediglich ein aktueller Engpass. Hotz wies darauf hin, dass die Weltherrschaft nicht allein mit "Tokens" (den grundlegenden Dateneinheiten, die KI-Modelle verarbeiten) erlangt werden könne, sondern die Kontrolle über reale Ressourcen und Lieferketten erfordere.
Hotz kritisierte auch die Illustrationen im "AI 2040"-Bericht, die riesige schwimmende Rechenzentren zeigen, als Vaporware (Software oder Hardware, die angekündigt, aber nie realisiert wurde). Solche Bilder seien zwar leicht zu erstellen, stünden aber in der Realität vor enormen technischen und logistischen Herausforderungen. Diese Punkte entfachten eine breite Debatte auf dem Hacker News Forum, mit über 103 Kommentaren und 75 Upvotes, was die extrem unterschiedlichen Ansichten über die zukünftige Richtung der KI-Entwicklung widerspiegelt.
Dieses Thema spiegelt eine wichtige Debatte in der KI-Branche wider: zwischen jenen, die die Entwicklung für Profit beschleunigen wollen, und jenen, die sich um Sicherheit sorgen und eine Verlangsamung anstreben. Das Ergebnis dieser Debatte wird die Richtung der KI-Technologie beeinflussen, die jeden in Zukunft betreffen wird.