Was das System im Betrieb kostet — in Energie statt in Euro
Die Frage kam aus dem Einkauf und nicht aus der Technik, wie die meisten nützlichen Fragen. Wie hoch ist der diesem System zurechenbare Energieverbrauch — und wir hatten eine Monatsrechnung und keine Möglichkeit, sie in etwas zu verwandeln, das ein Nachhaltigkeitsbericht verwenden kann.
Die Frage, die wir nicht beantworten konnten
Ihre Nachhaltigkeitsberichterstattung brauchte eine Zahl für die betriebenen Systeme, und unseres war eines davon. Wir hatten Kosten je Monat, Token je Monat und Anfragen je Monat — nichts davon lässt sich in Energie umrechnen, ohne Hardware, Auslastung und Rechenzentrumseffizienz zu kennen, die ein gehosteter Anbieter nicht je Aufruf veröffentlicht.
Bei den selbst betriebenen Teilen standen wir besser da, denn die Hardware gehört uns und ihr Verbrauch ist messbar. Diese Trennung zwischen dem, was wir messen können, und dem, was wir nur eingrenzen können, erwies sich als ehrliche Struktur für die gesamte Antwort.
Was die Forschung beisteuert
Rehman und Kollegen veröffentlichten Anfang 2025 eine Arbeit, die den Energieverbrauch beim Feintuning von Sprachmodellen für Zusammenfassungen analysiert und misst statt schätzt, was verschiedene Konfigurationen verbrauchen.
Solche Arbeiten machen eine vertretbare Schätzung überhaupt erst möglich. Den Energieverbrauch eines gehosteten Anbieters je Anfrage können wir nicht messen, und veröffentlichte Messungen an vergleichbarer Hardware und Modellgröße liefern eine Spanne, die wir als Spanne angeben können, statt eine Einzelzahl mit falscher Genauigkeit zu präsentieren.
| Komponente | Was wir berichten |
|---|---|
| Selbst betriebene Modelle auf eigener Hardware | Gemessen, über die Leistungsaufnahme |
| Vektorindex und Anwendungsserver | Gemessen, auf demselben Weg |
| Aufrufe gehosteter Modelle | Geschätzte Spanne, Methode angegeben |
| Modelltraining | Nicht zurechenbar. Wir trainieren nicht |
Wie wir es aufteilen
Gemessen, wo uns die Hardware gehört. Unsere selbst betriebene Inferenz, der Index und die Anwendungsserver laufen auf Maschinen, deren Verbrauch wir auslesen und nach Auslastung zurechnen können — dieser Teil der Zahl enthält keinerlei Schätzung.
Eingegrenzt, wo sie uns nicht gehört. Für gehostete Aufrufe geben wir eine Spanne aus veröffentlichten Messungen für vergleichbare Modellgrößen an, mit den Annahmen daneben. Der Prüfer eines Kunden kann unseren Annahmen widersprechen, und genau das wollen wir: Eine Zahl, die er nicht hinterfragen kann, ist schlechter als eine Spanne, die er hinterfragen kann.
Die Entscheidung, die sich dadurch geändert hat
Derselbe Hintergrundschritt zur Zusammenfassung, der sich als achtunddreißig Prozent unserer Modellkosten erwiesen hatte, war auch die größte Energieposition — aus demselben Grund: Er lief über jedes aufgenommene Dokument, ob jemand danach fragen würde oder nicht.
Aus der Retrieval-Messung wussten wir bereits, dass ein großer Teil des Bestands nie abgerufen wird. Der Schritt läuft heute bedarfsweise für tatsächlich abgerufene Dokumente, mit anschließend zwischengespeicherter Zusammenfassung. Gleiches Verhalten für Nutzer, ein Bruchteil der Arbeit — und die Senkung zeigt sich in der Rechnung wie in der Energiezahl.
Was sich nicht bewegt hat
Die Latenz und damit das Nutzererlebnis, denn die Zusammenfassung lag nie auf dem Weg von etwas, worauf ein Mensch wartete. Das machte die Änderung leicht — und ist zugleich eine Warnung: Die Schritte, die sich am leichtesten effizienter machen lassen, sind die, die niemand bemerkt. Genau deshalb wachsen sie unkontrolliert.
Wir sehen Hintergrundarbeit heute quartalsweise mit einer Frage durch. Läuft das, weil jemand das Ergebnis braucht, oder weil es billiger war, es über alles laufen zu lassen, als zu entscheiden, was es braucht? Die zweite Antwort war zweimal richtig.
Was im Bericht steht
Eine Zahl mit ihrer Methode, eine Spanne dort, wo eine Spanne ehrlich ist, und eine ausdrückliche Angabe des Ausgeschlossenen: Modelltraining, das wir nicht betreiben, und die Infrastruktur-Gemeinkosten des Anbieters, die wir nicht sehen.
Aufzuschreiben, was ausgeschlossen ist, schätzte die Berichtsfunktion des Kunden am meisten. Eine Zahl ohne Grenze lässt sich nicht prüfen, und mehrere solcher Zahlen hatten sie von anderen Lieferanten bereits bekommen.
Ob man es ungefragt tun sollte
Für die meisten Kunden noch nicht. Die Übung kostete etwa eine Woche, und nur zwei unserer Kunden haben sie gebraucht, beide in Sektoren mit Berichtspflichten. Wir drängen sie niemandem auf, denn eine Messung, die niemand nutzt, ist Aufwand im Gewand der Sorgfalt.
Was wir behalten, ist die Instrumentierung — ein Nebenprodukt der Kostenerfassung, die ohnehin über das Gateway läuft. Die Zahl für den nächsten Kunden zu erzeugen, der fragt, kostet heute einen Tag statt einer Woche, und das scheint das richtige Maß an Investition.
Was wir nicht behaupten
Wir behaupten nicht, unsere Schätzung für gehostete Aufrufe sei genau. Sie ist eine Spanne auf Annahmen, die wir angeben, und der wahre Wert könnte außerhalb liegen, wenn Hardware oder Effizienz des Anbieters deutlich von den herangezogenen veröffentlichten Messungen abweichen.
Wir behaupten auch nicht, unsere Senkung sei in erster Linie ökologisch motiviert gewesen. Es war eine Kostenoptimierung mit Energienutzen, und sie andersherum zu erzählen wäre genau die Rahmung, die dieses Thema anzieht und nicht braucht.