Energieverbrauch von KI-Chatbots: Ein Blick hinter die Kulissen

MÜNCHEN (IT BOLTWISE) – In der heutigen digitalen Welt, in der Künstliche Intelligenz immer mehr an Bedeutung gewinnt, stellt sich die Frage nach dem Energieverbrauch dieser Technologien. Ein neuer Ansatz von Julien Delavande, einem Ingenieur bei Hugging Face, beleuchtet den Stromverbrauch von KI-Chatbots und regt zum Nachdenken über deren Umweltauswirkungen an.

Die Nutzung von Künstlicher Intelligenz (KI) hat in den letzten Jahren exponentiell zugenommen, und mit ihr auch der Energieverbrauch, der für den Betrieb dieser Technologien erforderlich ist. Besonders KI-Modelle, die auf leistungsstarken GPUs und spezialisierten Chips laufen, benötigen erhebliche Mengen an Strom, um die komplexen Berechnungen durchzuführen. Julien Delavande, ein Ingenieur bei Hugging Face, hat ein Tool entwickelt, das den Energieverbrauch von Chatbot-Nachrichten in Echtzeit schätzt und damit ein Bewusstsein für die Umweltauswirkungen dieser Technologien schafft.

Das Tool von Delavande ist darauf ausgelegt, mit der Chat UI zu arbeiten, einer Open-Source-Oberfläche für Modelle wie Metas Llama 3.3 70B und Googles Gemma 3. Es schätzt den Energieverbrauch von Nachrichten, die an ein Modell gesendet oder von ihm empfangen werden, und gibt diesen in Wattstunden oder Joule an. Zudem vergleicht es den Energieverbrauch der Modelle mit dem von Haushaltsgeräten wie Mikrowellen und LEDs, um die Zahlen greifbarer zu machen.

Ein Beispiel aus dem Tool zeigt, dass das Verfassen einer typischen E-Mail mit Llama 3.3 70B etwa 0,1841 Wattstunden verbraucht, was dem Betrieb einer Mikrowelle für 0,12 Sekunden oder einem Toaster für 0,02 Sekunden entspricht. Diese Schätzungen sind zwar nicht hochpräzise, verdeutlichen jedoch, dass jede Interaktion mit einem Chatbot einen Energieaufwand bedeutet.

Die steigende Nachfrage nach KI-Technologien hat einige Unternehmen dazu veranlasst, weniger umweltfreundliche Strategien zu verfolgen, um den Energiebedarf zu decken. Tools wie das von Delavande sollen auf diese Problematik aufmerksam machen und Nutzer dazu anregen, über die Wahl ihrer Modelle und die Länge der Ausgaben nachzudenken, um Energie zu sparen.

In der Zukunft könnte der Energieverbrauch von KI-Modellen ebenso transparent gemacht werden wie Nährwertangaben auf Lebensmitteln. Projekte wie der AI Energy Score und die Forschung zum Energie-Fußabdruck von KI treiben diese Transparenz in der Open-Source-Community voran. Dies könnte dazu führen, dass Nutzer bewusster mit den Ressourcen umgehen und umweltfreundlichere Entscheidungen treffen.

Die Diskussion um den Energieverbrauch von KI ist nicht nur eine technische, sondern auch eine gesellschaftliche Herausforderung. Während die Technologie unbestreitbare Vorteile bietet, ist es wichtig, die damit verbundenen Umweltauswirkungen zu berücksichtigen und Lösungen zu finden, die sowohl technologisch als auch ökologisch nachhaltig sind.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!