Training Künstlicher Intelligenz und Energieverbrauch: Ein aufkommendes Problem oder ‚Hype‘?

Es ist bekannt, dass das Training künstlicher Intelligenz viel Energie verbraucht. Die berüchtigten Chatbots und verschiedene andere KI-Modelle, die weltweit Hunderte von Millionen wöchentlicher Nutzer zählen und vielen bei der Durchführung verschiedener Aufgaben, der Erstellung realistischer Visualisierungen, Grafiken für soziale Medien oder Videos helfen – all diese erzeugen erhebliche Serverkosten, die in Megawatt pro Stunde gemessen werden.

Und es scheint, dass niemand, nicht einmal die Unternehmen hinter der Technologie, genau sagen kann, was die Kosten dieser Energie sind. Sicher ist jedoch, dass der Stromverbrauch in KI-Unternehmen exponentiell wächst, und einige glauben, dass dies zu einer neuen Energiekrise in den USA führt.

Genauer gesagt wird die USA in den nächsten fünf Jahren etwa 34 neue Kernkraftwerke oder zusätzliche 38 Gigawatt Strom benötigen, um die Nachfrage von Rechenzentren, Fabriken und Elektrofahrzeugen zu decken, schätzte die Beratungsfirma Grid Strategies in einem Bericht, der der Energieaufsichtsbehörde vorgelegt wurde.

Unternehmen, die künstliche Intelligenz nutzen, benötigen viel Strom, um Sprachmodelle zu trainieren, Chips und andere Hardware zu produzieren. Eine bedeutende Quelle der Nachfrage ist auch die künstliche Intelligenz, die in Suchmaschinen eingebettet ist, da sie mindestens zehnmal mehr verbraucht als reguläre Suchmaschinen.

Im Jahr 2022 verbrauchten Rechenzentren, Kryptowährungen und künstliche Intelligenz laut einer aktuellen Analyse der Internationalen Energieagentur (IEA) weltweit etwa zwei Prozent des Stroms, und dieser Anteil wird in Zukunft zunehmen. Die USA und ihre asiatischen Wettbewerber sind jedoch recht liberal, wenn es um die Entwicklung künstlicher Intelligenz geht, und werden wahrscheinlich alles tun, um deren Entwicklung zu beschleunigen. Und während die Titanen rennen, reguliert die Europäische Union, wie immer, vorsichtig.

– Der vorsichtige Ansatz Europas hat seine Vor- und Nachteile. Einerseits kann er sicherstellen, dass wir einige der potenziellen negativen Auswirkungen auf die Gesellschaft vermeiden, die die schnelle Anwendung jeglicher Technologie, einschließlich dieser, verursachen kann, aber natürlich ist es in der heutigen digitalen globalisierten Welt ohne Grenzen äußerst schwierig, den Eintritt dieser Technologie in Ihre Gesellschaft zu verhindern, die anderswo entwickelt wurde.

Andererseits, wenn die Regulierung zu restriktiv und bürokratisch und unzureichend flexibel wird, kann sie die Entwicklung der Technologie innerhalb der EU im Vergleich zu den USA ernsthaft verlangsamen, da die Vorstellung, dass das Regulierungssystem, das Jahre braucht, um regulatorische Pfeile zu starten, genau das richtige Ziel eines hochriskanten KI-Modells in einer Herde von KI-Modellen, die schnell über das Feld laufen, treffen wird, ziemlich optimistisch und nicht sehr realistisch ist. Dennoch glaube ich, dass Regulierung notwendig ist, und ich bin nicht der Einzige, der so denkt, wie meine aktuelle Umfrage auf LinkedIn zeigte, dass eine ähnliche Meinung von weiteren 57 Prozent der Menschen vertreten wurde – kommentierte Davor Aničić, Direktor des inländischen Technologieunternehmens Velebit.AI, das sich mit künstlicher Intelligenz beschäftigt.

Ist der Energiekosten kein Problem?

Vorhersagen, dass der Energieverbrauch eine Schlüsselbeschränkung für die weitere Entwicklung darstellt, sind sehr spekulativ, sagt Aničić, da es gleichzeitig starke Trends zur Optimierung der Modellarchitektur und der Trainingsmethoden sowie zunehmend leistungsfähige und effiziente GPU-Prozessoren gibt, die in die entgegengesetzte Richtung arbeiten.

Darüber hinaus haben Modelle die Fähigkeit, sich gegenseitig zu aktualisieren und zu kombinieren, und es ist ungewiss, ob die besten Modelle in Zukunft diejenigen sein werden, die von Grund auf neu trainiert werden (was den höchsten Energieverbrauch erfordert). Letztendlich verbrauchen einmal trainierte Modelle während der Nutzung mehrere Größenordnungen weniger Energie, und die Frage ist, ob der Energieverbrauch selbst bei sehr breiter Nutzung in kurzer Zeit signifikant steigen wird.

– Ich glaube nicht, dass die Energiekosten ein Problem sind. Sprachmodelle haben in den letzten Jahren in der Tat dramatisch an Komplexität und Energiekosten zugenommen, aber dieser Trend sollte aus mehreren Gründen nicht extrapoliert werden. Erstens wird das Modelltraining relativ selten durchgeführt. Ich erwarte, dass der Markt von einigen wenigen großen ‚benutzerbereiten‘ bereits trainierten Modellen dominiert wird, die optimiert werden, um lokal zu laufen, z.B. auf Mobiltelefonen, mit sehr niedrigen Energiekosten.

Zweitens besteht der Trend in der Branche auch in der Optimierung der Erstellung und des Trainings der Modelle selbst, die weniger Energie für die gleiche Qualität der Ausgabe benötigen. Ein dramatisches Beispiel sind Schachspiel-Algorithmen, die jetzt so optimiert sind, dass sowohl das Retraining als auch das Ausführen sehr wenig Energie erfordern. Die Evolution dieser Algorithmen war so, dass das ‚Brute Force‚-Neuronennetzwerk, das viel Energie und Parameter benötigte, allmählich durch eine Expertenalgorithmusstruktur ersetzt wurde, die für das gegebene Problem optimiert ist. Ich erwarte, dass dies auch mit Sprachmodellen geschehen wird, sagte Siniša Slijepčević, Mitbegründer und Direktor des kroatischen KI-Scaleups Cantab PI und ordentlicher Professor an der PMF der Universität Zagreb.

Er fügte hinzu, dass die Entwicklung von ‚Hardware‘ wie spezialisierten Chips für das Training und den Betrieb von KI-Modellen die Energiekosten ständig optimiert und dass er glaubt, dass dieser Trend anhalten wird. Energie- und algorithmische Optimierung von KI-Modellen ist eine Notwendigkeit, damit sie nutzbar sind, sagt Slijepčević, weshalb er glaubt, dass jede Diskussion über künstliche Intelligenz und Energie-Nachhaltigkeit unbegründet ist.

– Die Nachhaltigkeit der Entwicklung ist sicherlich ein wichtiges Thema, und die Entwicklung der künstlichen Intelligenz und ihrer Anwendungen in zahlreichen Branchen, der Energieproduktion und -verbrauch, dem Transport und fast allen Bereichen der Gesellschaft kann, wenn sie richtig genutzt wird, zu viel nachhaltigeren Gesellschaften und der gesamten Zivilisation führen, schließt Aničić.