Ein KI-Review kostete Cloudflare 2,43 Dollar. Heute sind es 77 Cent

Illustration: Leitgrad

Im April kostete ein Durchgang 1,19 Dollar. Cloudflare nannte das «palatable», gut verdaulich. Ende August waren es rund 2,46 Dollar. Doppelt so viel (Cloudflare).

Der Prüfer ist selbst ein Programm. Er liest die Änderungen, die Entwickler im eigenen Haus einreichen, und sucht nach Fehlern, Sicherheitslücken und Bremsen. Mehrere spezialisierte KI-Prüfer arbeiten dabei nebeneinander, ein Koordinator verteilt die Arbeit.

Warum die Rechnung stieg, lässt sich nachzählen. KI-Anbieter rechnen in Tokens ab, Textbausteinen von grob der Grösse eines Wortteils. Die Zahl der Tokens pro Review hat sich mehr als verdreifacht, von 0,91 Mio. auf 2,99 Mio. Die Entwickler reichten grössere und komplexere Änderungen ein. Den grösseren Teil des Anstiegs erklärt aber ein Entscheid von Anfang August: Cloudflare stellte alle Prüfer auf die Modelle eines einzigen Anbieters um, weil diese in eigenen Tests besser abschnitten. Die Kosten pro Auftrag stiegen damit von 1,38 auf 2,03 Dollar (Cloudflare).

Mitte September setzte das Team seine eigenen KI-Agenten auf die Frage an, wohin die Tokens gingen.

Die erste Anfrage entscheidet

Jede Sitzung beginnt mit einem langen, immer gleichen Vorspann: Anweisungen, Regeln, Beschreibungen der Werkzeuge. Der Anbieter kann diesen Anfang zwischenspeichern, Fachleute sagen Prompt-Cache. Beginnt die nächste Anfrage mit exakt demselben Text, liest er ihn aus dem Speicher, statt ihn neu zu verarbeiten. Beim Anbieter, den Cloudflare nutzt, kostet das Schreiben in den Speicher das 1,25-Fache des normalen Preises, das Lesen nur das 0,1-Fache. Ein Eintrag verfällt nach fünf Minuten, wenn ihn niemand liest.

Die Messung zeigte ein Loch. Die erste Anfrage einer Sitzung fand nur in 14 bis 26 Prozent der Fälle einen gespeicherten Anfang. Der Grund war banal. Vor der einzigen Speichermarke standen Angaben, die sich ständig ändern: das Arbeitsverzeichnis und das Datum. Damit glich kein Vorspann dem anderen.

Am 16. September trennte das Team den gemeinsamen Teil vom wechselnden und gab ihm eine eigene Marke. Seither lesen die ersten Anfragen in 91 bis 99,5 Prozent der Fälle aus dem Speicher. Zusammen mit verwandten Änderungen sanken die Kosten pro Review von 2,47 auf 2,02 Dollar. Drei der Prüfer starten nun sogar mit identischer erster Anfrage: Einer schreibt in den Speicher, die beiden anderen warten kurz und lesen mit (Cloudflare).

Gleicher Preis pro Token, 62 Prozent billiger

Dazu kam Kleinarbeit. Die Prüfer erhielten keine Werkzeuge mehr, die sie gar nicht benutzen durften. Sie lesen Dateien parallel statt nacheinander. Abgebrochene Aufträge werden wirklich abgebrochen: In einer Stichprobe von 446 abgebrochenen Aufträgen liefen 358 einfach weiter (Cloudflare).

Noch mehr brachte die Wahl des Modells. Anfang Oktober liess Cloudflare zwei Versionen derselben Modellreihe je zur Hälfte der Fälle laufen. Die neuere war pro Durchgang 62 Prozent günstiger beim Prüfer für Codequalität, 58 Prozent bei der Leistung und 47 Prozent bei der Sicherheit. Der Preis pro Token war bei beiden gleich. Die Ersparnis kam allein daher, dass die neuere Version weniger Tokens brauchte.

In der Gesamtrechnung erklären Änderungen am Code 0,65 Dollar der Ersparnis, Modell und Rechenaufwand 1,06 Dollar. Das Team schreibt selbst, dies sei kein sauber kontrolliertes Experiment (Cloudflare).

Findet der billigere Prüfer noch die echten Fehler?

Genau hier wird der Bericht lehrreich. Viele Modelle lassen sich auf verschiedene Stufen des Rechenaufwands einstellen, also wie gründlich sie nachdenken, bevor sie antworten. Mittel ist billiger als hoch.

Beim Prüfer für Codequalität ging die Sparstufe schief. Auf mittlerer Stufe führte er nur zu rund einem Viertel so vielen umgesetzten Hinweisen wie auf hoher. Cloudflare schaltete ihn deshalb auf hoch. Das kostet pro Durchgang 61 Prozent mehr und bringt 58 Prozent mehr kritische Hinweise und Warnungen, gemessen nach einem Tag. Die 0,77 Dollar enthalten diese teurere Einstellung bereits.

Zur Kontrolle beurteilten zwei Modelle verschiedener Anbieter verblindet 657 Funde von drei Prüfern, ein drittes Modell entschied bei Uneinigkeit. Wichtige Funde pro Review: 0,28 vorher, 0,30 nachher, im Rahmen der Messunsicherheit gleich. Verschwunden sind vor allem Kleinigkeiten und Doppelungen. Hinweise mit übertriebener Dringlichkeit sanken von 0,46 auf 0,14 pro Review. Der Prüfer für Leistung fand auf mittlerer Stufe dagegen rund 64 Prozent weniger wichtige Probleme, etwa einen wichtigen Fund weniger alle 24 grossen Reviews. Er soll nun auf hoher Stufe getestet werden (Cloudflare).

Der Autor Ryan Skidmore fasst es so: Günstigere Reviews bedeuteten nicht automatisch schlechtere Qualität, aber auch nicht automatisch, dass alles in Ordnung sei (Übersetzung Leitgrad).

Billigere Tokens, teurere Rechnung

Leitgrad berichtete im September, dass KI jedes Jahr 13-mal billiger wird, gemessen von Epoch AI an den Kosten pro gelöster Aufgabe. Cloudflares Rechnung hat sich trotzdem verdoppelt, weil pro Aufgabe mehr als dreimal so viele Tokens anfielen und ein neues Modell dazukam. Der Preis pro Einheit ist nur die halbe Rechnung. Die andere Hälfte ist der Verbrauch.

Für Schweizer Firmen wird diese Rechnung bald konkret. In der KMU-Arbeitsmarktstudie 2026 von AXA und Sotomo setzen 35 Prozent der 336 befragten KMU KI gezielt ein, 39 Prozent testen sie (AXA). Wer KI im Abo nutzt, zahlt pauschal. Wer sie in eigene Abläufe einbaut, zahlt nach Verbrauch. Dort hilft Cloudflares Schlussrat: prüfen, ob die erste Anfrage jeder Sitzung tatsächlich aus dem Speicher liest. Und ob die Prüfer auf der bezahlten Stufe noch echte Probleme finden.

Häufige Fragen

Was ist ein Prompt-Cache?

Ein Zwischenspeicher beim KI-Anbieter. Er merkt sich den Anfang einer Anfrage, etwa feste Anweisungen. Beginnt die nächste Anfrage gleich, wird dieser Teil billiger verrechnet. Bei Cloudflares Anbieter kostet das Lesen ein Zehntel des normalen Preises, ein Eintrag verfällt nach fünf Minuten ohne Zugriff.

Wie kann ein KMU KI-Kosten senken, ohne Qualität zu verlieren?

Kosten pro Aufgabe messen, gleichbleibende Anweisungen an den Anfang stellen, günstigere Modelle oder Stufen im Parallelbetrieb testen und die Ergebnisse stichprobenweise prüfen. Cloudflare senkte so die Kosten pro Code-Review um 68 Prozent, ohne messbaren Verlust an wichtigen Funden.

Wird KI nicht ohnehin jedes Jahr billiger?

Pro Aufgabe ja, laut Epoch AI rund 13-mal pro Jahr. Die Rechnung kann trotzdem steigen, wenn der Verbrauch wächst. Bei Cloudflare verdoppelten sich die Kosten pro Review zwischen April und Ende August.

Sie lesen Leitgrad öfter? Bei Google als bevorzugte Quelle markieren