Warum verbraucht KI so viel Strom?

Rechenzentren verbrauchen seit zwei Jahrzehnten erhebliche Mengen an Strom. Was sich mit KI geändert hat, ist die Dichte: wie viel Strom ein einzelnes Rack benötigt und was ein Gebäude daher liefern und abführen können muss.

Wohin die Energie tatsächlich fließt

Vier Orte, absteigend geordnet:

Die Beschleuniger. GPUs und speziell entwickelte KI-Chips sind darauf ausgelegt, Tausende von arithmetischen Einheiten gleichzeitig zu beschäftigen. Ein High-End-Beschleuniger verbraucht allein mehrere hundert bis über tausend Watt, und ein Trainingsknoten bündelt mehrere davon. Während ein herkömmliches Server-Rack möglicherweise 5–15 kW verbraucht, werden KI-Racks im Bereich von zehn Kilowatt und bei den neuesten Designs über 100 kW spezifiziert.

Daten bewegen. Große Modelle werden auf viele Chips aufgeteilt, die ständig Zwischenergebnisse austauschen müssen. High-Bandwidth-Speicher und das Interconnect-Fabric verbrauchen einen erheblichen Anteil des Gesamtbedarfs – und im Gegensatz zur Rechenleistung sinkt dieser Anteil mit jeder Generation nicht so schnell.

Kühlung. Jede Watt, die hineingeht, kommt als Wärme wieder heraus. Luftkühlung wird bei etwa 30–40 kW pro Rack unpraktisch, weshalb Flüssigkeitskühlung in neuen KI-Hallen von exotisch zu Standard geworden ist. Die Effizienz wird mit PUE (Power Usage Effectiveness) verfolgt: Gesamtenergieverbrauch der Anlage geteilt durch die IT-Energie. Eine gut geführte moderne Anlage liegt nahe 1,1–1,2; ältere luftgekühlte Standorte sind erheblich schlechter.

Alles andere. Stromwandlungsverluste, unterbrechungsfreie Stromversorgungen, Netzwerke, Speicher.

Training ist ein Spitzenbedarf, Inferenz ist eine Last

Das Training eines Spitzenmodells läuft wochenlang mit Tausenden von Beschleunigern auf Hochtouren. Es ist teuer, sichtbar und endlich.

Das Ausliefern dieses Modells ist anders. Jede Anfrage führt Berechnungen durch, und ein beliebtes Produkt bearbeitet täglich Millionen davon, und das über Jahre hinweg. Die Energie pro Anfrage ist gering; die Multiplikation ist es nicht. Für jedes Modell, das in der realen Produktion eingesetzt wird, übersteigt die kumulative Inferenzenergie die Trainingsenergie bei weitem innerhalb seiner Lebensdauer – und im Gegensatz zum Training endet die Last nie.

Zwei Dinge treiben die Inferenzenergie weiter in die Höhe:

• Längere Ausgaben. Die Generierung ist sequenziell – jedes Token erfordert einen vollständigen Durchlauf durch das Modell. Modelle im Stil von Schlussfolgerungen, die lange interne Ketten produzieren, bevor sie antworten, leisten proportional mehr Arbeit pro Anfrage.
• Agenten. Eine Benutzeranweisung kann zu Dutzenden von Modellaufrufen plus Tool-Aufrufen führen. Aus Sicht des Rechenzentrums sind das Dutzende von Anfragen, nicht eine.

Und eine Sache senkt sie stark: Modellauswahl. Energie skaliert mit der Rechenleistung, daher ist das Ausliefern einer Aufgabe mit einem kleinen Modell anstelle eines großen keine marginale Einsparung. Routing – zuerst ein günstiges Modell, nur bei Bedarf eskalieren – ist der wirksamste Hebel, den die meisten Teams haben.

Die Einschränkung hat sich von den Chips zum Stromnetz verlagert

Eine Zeit lang war der Engpass die Verfügbarkeit von Beschleunigern. Zunehmend ist es die elektrische Vernetzung: die Warteschlange zur Anbindung einer neuen großen Last an das Übertragungsnetz und die Vorlaufzeit für Transformatoren und Schaltanlagen. In mehreren großen Märkten werden diese Warteschlangen in Jahren gemessen.

Das verändert die Branche auf bemerkenswerte Weise:

• Standortwahl folgt der Stromversorgung. Betreiber bauen dort, wo Stromerzeugung und Netzkapazität vorhanden sind, anstatt in der Nähe der Nutzer – akzeptabel für das Training, schwieriger für latenzempfindliches Serving.
• Langfristige Stromabnahmeverträge. Mehrjährige Stromabnahmeverträge, auch mit Betreibern von Kern- und Geothermieanlagen, sind zu Standardnachrichten über Infrastruktur geworden, anstatt zu Nachhaltigkeitsankündigungen.
• Vor-Ort-Stromerzeugung und -speicherung. Stromerzeugung hinter dem Zähler, um die Anschlusswarteschlange vollständig zu vermeiden.
• Lokale Politik. Strompreiserhöhungen und Wasserverbrauch sind nun aktuelle kommunale Themen, wo immer große Anlagen vorgeschlagen werden.

Die Effizienz verbessert sich – und der Verbrauch steigt trotzdem

Beide Aussagen sind wahr, und die Spannung verwirrt viele Berichterstattungen.

Die Energie pro Token ist durch bessere Hardware, Quantisierung, Batching, Caching, spärliche Architekturen, die nur einen Teil des Modells pro Token aktivieren, und destillierte kleine Modelle, die Routinearbeiten erledigen, stark gesunken. Das sind keine marginalen Gewinne; sie sind groß.

Der Gesamtverbrauch ist trotzdem gestiegen, da die Nutzung schneller gewachsen ist als die Effizienz. Dies ist das übliche Rebound-Muster: Wenn eine Einheit von etwas billiger wird, wird mehr davon verbraucht. Effizienz ist notwendig und nicht ausreichend.

Was man tatsächlich messen sollte

Wenn Sie einen Dienst betreiben und eine belastbare Zahl anstelle einer Schlagzeile wünschen:

• Anlagen-PUE, vom Betreiber.
• CO2-Intensität des Stromnetzes, wo und wann Sie betreiben. Die gleiche Arbeitslast kann sich zwischen Regionen und Tageszeiten um ein Vielfaches unterscheiden.
• Pro Energieeinheit bediente Tokens, über die Zeit verfolgt. Dies erfasst Ihre Modell- und Routing-Entscheidungen, die die Teile sind, die Sie kontrollieren.
• Wassernutzungseffektivität, wenn Sie in einer wasserarmen Region tätig sind.

Die unbequeme Zusammenfassung: Die meisten Hebel, die den KI-Energieverbrauch senken, sind die gleichen, die die KI-Kosten senken – kleinere Modelle, wo sie ausreichen, Caching, Batching, kürzere Ausgaben. Diese Ausrichtung ist der Grund für moderate Optimismus hinsichtlich des Pro-Anfrage-Trends, und sie ist auch der Grund, warum die Gesamtnachfrage weiter steigt.