enerKI auf Tour: Energie erFahren!

Das Problem

Der Einsatz von KI prägt immer mehr Lebens- und Arbeitsbereiche mit enormem Potenzial für Innovation, aber auch mit erheblichen ökologischen Kosten. Der Energie- und Ressourcenverbrauch kann dabei in zwei Themenbereiche aufgeteilt werden:

Training von KI-Modellen

Bevor ein KI-Modell eingesetzt werden kann, muss es trainiert werden. Dafür rechnen riesige Supercomputer wochenlang. Detaillierte Informationen zum Energieverbrauch sind von den grossen KI-Firmen jedoch kaum öffentlich zu finden.

Für das Schweizer KI-Modell Apertus gibt es jedoch Schätzungen: für das Training wurden 5 Millionen Kilowattstunden Energie (aus Wasserkraft) verbraucht. Um diese Energie zu produzieren, müsste jede einzelne Person der Schweizer Wohnbevölkerung etwa fünf bis sechs Stunden Velo fahren: Das entspricht ungefähr der Strecke von Bern nach Zürich.

Inferenz: Die einzelnen Anfragen an die KI

Auch im Betrieb verbraucht KI Strom. Die Sprachmodelle laufen auf leistungsfähigen Servern, die die Anfragen bearbeiten und dafür Energie verbrauchen. Das interaktive Experiment von enerKI verwendet für die Berechnung der verbrauchten Energie eine Formel, basierend auf einer wissenschaftlichen Untersuchung.

Diese Schätzung hängt von der Anzahl Output Token ab. Dabei wird mit einem Energieaufwand von 3 - 4 Joule pro Output Token gerechnet. Eine komplexe Antwort verbraucht somit etwa eine halbe bis eine Wattstunde. Das mag auf den ersten Blick nicht nach viel klingen. Multipliziert auf abermillionen Abfragen, die täglich an KI-Modelle gestellt werden, summiert sich das aber auf.

Und wenn man auf dem Fahrradergometer sitzt und diese Energie selber erarbeiten muss, merkt man: Das ist doch gar nicht so wenig!

Strategien zur Reduzierung

Jede*r kann einen Beitrag leisten, um den Energieverbrauch von KI zu reduzieren:

• Bewusste Nutzung: Überlegen: Ist jede Anfrage wirklich notwendig?
• Effiziente Prompts: Präzise formulieren, das reduziert den Rechenaufwand
• Lokale Modelle: Kleinere, lokale Modelle für einfache Aufgaben nutzen
• Batch-Processing: Mehrere Anfragen zusammenfassen statt einzeln zu stellen
• Energieeffiziente Hardware: Geräte mit niedrigem Energieverbrauch bevorzugen
• Nachhaltige Cloud-Anbieter: Anbieter wählen, die erneuerbare Energien nutzen