Eric Schmidt warnt vor einem “Manhattan-Projekt” für AGI

MÜNCHEN (IT BOLTWISE) – In einem kürzlich veröffentlichten Strategiepapier warnen Eric Schmidt, ehemaliger CEO von Google, Alexandr Wang, CEO von Scale AI, und Dan Hendrycks, Direktor des Center for AI Safety, vor einem “Manhattan-Projekt” zur Entwicklung von Künstlicher Allgemeiner Intelligenz (AGI) in den USA.

Die Autoren des Papiers, das den Titel “Superintelligence Strategy” trägt, argumentieren, dass ein aggressives Streben der USA nach der exklusiven Kontrolle über superintelligente KI-Systeme zu heftigen Gegenreaktionen aus China führen könnte. Solche Reaktionen könnten in Form von Cyberangriffen erfolgen und die internationalen Beziehungen destabilisieren.

Schmidt und seine Mitautoren betonen, dass ein “Manhattan-Projekt” für AGI davon ausgeht, dass Rivalen eine dauerhafte Ungleichheit oder sogar eine globale Katastrophe hinnehmen würden, anstatt Maßnahmen zu ergreifen, um dies zu verhindern. Ein solches Streben nach einer Superwaffe und globaler Kontrolle birgt das Risiko feindlicher Gegenmaßnahmen und eskalierender Spannungen, was die Stabilität untergraben könnte, die die Strategie eigentlich sichern soll.

Das Papier wird von drei einflussreichen Persönlichkeiten der amerikanischen KI-Industrie verfasst und erscheint nur wenige Monate, nachdem eine US-Kongresskommission eine “Manhattan-Projekt-ähnliche” Initiative zur Finanzierung der AGI-Entwicklung vorgeschlagen hat. Diese Initiative soll nach dem Vorbild des amerikanischen Atombombenprogramms in den 1940er Jahren gestaltet werden. Der US-Energieminister Chris Wright erklärte kürzlich, dass die USA am Anfang eines neuen “Manhattan-Projekts” für KI stehen, während er vor einem Supercomputer-Standort neben dem OpenAI-Mitbegründer Greg Brockman sprach.

Die “Superintelligence Strategy” stellt die Idee in Frage, die von mehreren amerikanischen Politik- und Wirtschaftsführern in den letzten Monaten vertreten wurde, dass ein staatlich unterstütztes Programm zur Verfolgung von AGI der beste Weg sei, um mit China zu konkurrieren.

Schmidt, Wang und Hendrycks sehen die USA in einer Art AGI-Pattsituation, die der gegenseitig gesicherten Zerstörung ähnelt. In ähnlicher Weise, wie globale Mächte keine Monopole über Atomwaffen anstreben, die einen Präventivschlag eines Gegners auslösen könnten, argumentieren Schmidt und seine Mitautoren, dass die USA vorsichtig sein sollten, wenn es darum geht, extrem mächtige KI-Systeme zu dominieren.

Obwohl der Vergleich von KI-Systemen mit Atomwaffen extrem klingen mag, betrachten Weltführer KI bereits als einen entscheidenden militärischen Vorteil. Das Pentagon gibt an, dass KI bereits hilft, die militärische Entscheidungsfindung zu beschleunigen.

Schmidt und seine Mitautoren führen ein Konzept ein, das sie “Mutual Assured AI Malfunction” (MAIM) nennen, bei dem Regierungen proaktiv bedrohliche KI-Projekte deaktivieren könnten, anstatt darauf zu warten, dass Gegner AGI bewaffnen.

Sie schlagen vor, dass die USA ihren Fokus von “dem Rennen zur Superintelligenz gewinnen” auf die Entwicklung von Methoden verlagern, die andere Länder davon abhalten, superintelligente KI zu schaffen. Die Mitautoren argumentieren, dass die Regierung ihr Arsenal an Cyberangriffen erweitern sollte, um bedrohliche KI-Projekte zu deaktivieren, die von anderen Nationen kontrolliert werden, und den Zugang von Gegnern zu fortschrittlichen KI-Chips und Open-Source-Modellen einschränken sollte.

Die Mitautoren identifizieren eine Dichotomie, die sich in der KI-Politikwelt abspielt. Es gibt die “Doomer”, die glauben, dass katastrophale Ergebnisse aus der KI-Entwicklung unvermeidlich sind und dafür plädieren, dass Länder den KI-Fortschritt verlangsamen. Auf der anderen Seite gibt es die “Strauße”, die glauben, dass Nationen die KI-Entwicklung beschleunigen sollten und im Wesentlichen hoffen, dass alles gut ausgeht.

Das Papier schlägt einen dritten Weg vor: einen gemessenen Ansatz zur Entwicklung von AGI, der defensive Strategien priorisiert.

Diese Strategie ist besonders bemerkenswert, da sie von Schmidt kommt, der zuvor lautstark die Notwendigkeit betont hat, dass die USA aggressiv mit China bei der Entwicklung fortschrittlicher KI-Systeme konkurrieren müssen. Noch vor wenigen Monaten veröffentlichte Schmidt einen Meinungsartikel, in dem er erklärte, dass DeepSeek einen Wendepunkt im KI-Rennen Amerikas mit China markiere.

Die Trump-Administration scheint entschlossen, die KI-Entwicklung in Amerika voranzutreiben. Wie die Mitautoren jedoch anmerken, existieren die Entscheidungen Amerikas in Bezug auf AGI nicht im luftleeren Raum.

Während die Welt zusieht, wie Amerika die Grenzen der KI auslotet, schlagen Schmidt und seine Mitautoren vor, dass es klüger sein könnte, einen defensiven Ansatz zu verfolgen.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.903 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen