Technologische Wende: KI-Experten warnen vor nahender AGI

MÜNCHEN (IT BOLTWISE) – Führende Köpfe der KI-Branche wie Dario Amodei von Anthropic und Sam Altman von OpenAI warnen davor, dass leistungsstarke KI und sogar Superintelligenz in den nächsten zwei bis zehn Jahren Wirklichkeit werden könnten und unsere Welt grundlegend verändern könnten.

Amodei beschreibt in seinem Essay „Machines of Loving Grace“ die potenziellen Auswirkungen leistungsstarker KI, die nach seiner Einschätzung bereits ab 2026 Realität werden könnte. Altman erklärt in seinem Werk „The Intelligence Age“, dass es möglich sei, dass Superintelligenz in nur wenigen tausend Tagen, spätestens also bis 2034, erreicht wird. Sollten ihre Vorhersagen zutreffen, könnte sich die Welt in kürzester Zeit dramatisch wandeln.

Als führende Entwickler in der KI-Forschung und -Entwicklung sind Amodei und Altman maßgeblich daran beteiligt, die Grenzen des Möglichen auszuloten. Amodei definiert leistungsstarke KI als „intelligenter als ein Nobelpreisträger in den meisten relevanten Bereichen – von Biologie über Programmierung bis hin zu Mathematik und Ingenieurswesen“. Altman hingegen beschreibt Superintelligenz als KI, die das menschliche Intellektniveau in allen Disziplinen übersteigt.

Nicht alle Fachleute teilen diesen optimistischen Zeitplan. Dennoch bleibt das Interesse in der Tech-Welt ungebrochen. Ilya Sutskever, Mitgründer von OpenAI, gründete das Unternehmen Safe Superintelligence (SSI), um eine sichere Entwicklung der Superintelligenz zu fördern. „Wir werden sichere Superintelligenz direkt ansteuern, mit einem klaren Fokus und einem einzigen Ziel,“ erklärte Sutskever bei der Ankündigung des Unternehmens und sammelte bereits eine Milliarde US-Dollar für die Forschung.

Diese Prognosen stimmen mit denen von Elon Musk überein, der schätzt, dass KI bis 2029 alle menschlichen Fähigkeiten übertreffen wird. Auch der Futurist Ray Kurzweil bleibt bei seiner Vorhersage, dass AGI bis 2029 erreicht werden könnte. Die Frage, ob wir auf diese Veränderungen vorbereitet sind, bleibt jedoch offen.

Ein Kind, das heute geboren wird, könnte bereits in eine Welt eintreten, die von AGI geprägt ist. Szenarien wie in Kazuo Ishiguros Roman „Klara und die Sonne“, in dem Jugendliche KI-Begleiter haben, erscheinen auf einmal gar nicht so abwegig. AI-gestützte Begleiter und Betreuer könnten schon bald Realität werden, was tiefgreifende ethische und gesellschaftliche Fragen aufwirft.

Die möglichen Vorteile dieser Technologien sind enorm. Von Durchbrüchen in der Medizin bis zur Lösung globaler Energieprobleme könnten leistungsstarke KI und AGI eine Ära des Wohlstands einleiten. Doch die Herausforderungen sind ebenfalls gewaltig. Neben Arbeitsplatzverlust und Ungleichheit sind auch Risiken durch autonome Waffensysteme nicht zu unterschätzen.

Kurzfristig betrachtet, sieht der MIT-Forscher Andrew McAfee in KI eine unterstützende Rolle für menschliche Arbeit. Im Podcast „Pivot“ erklärte er, dass KI als „Armee von Kollegen“ verfügbar sein könnte, selbst wenn einige Tätigkeiten dabei verloren gehen. Elon Musk hingegen prognostiziert, dass „wahrscheinlich keiner von uns langfristig einen Job haben wird.“ Dieses Spannungsfeld verdeutlicht den immensen Wandel, der uns bevorstehen könnte.

Trotz all der Vorhersagen zur Leistungsfähigkeit zukünftiger KI bleibt der Weg zur echten AGI herausfordernd. Skeptiker wie Gary Marcus weisen darauf hin, dass heutige KI-Systeme oft überbewertet werden. In einem neuen Benchmark-Test von OpenAI, „SimpleQA“, zeigte sich, dass selbst fortgeschrittene KI-Modelle wie GPT-4o bei einfachen Fragen oft versagen. Die Ergebnisse werfen Zweifel auf, wie nah wir tatsächlich an echter AGI sind.

Die Lücke zwischen der derzeitigen KI und echter AGI ist also noch groß. Dennoch bleibt laut Branchenexperten wenig Zeit, um sich auf die bevorstehenden Veränderungen vorzubereiten. „Die meisten Fachleute sind sich einig, dass der Übergang zur AGI rasch kommen wird,“ sagte kürzlich der frühere OpenAI-Berater Miles Brundage. Es bleibt abzuwarten, ob wir vorbereitet sind, wenn der entscheidende Moment kommt.