Zum Inhalt springen

root / tags / finops-ia

#FinOps IA

4 Fiches

KI-Coding-Agenten & Skills Automatisch geprüfte Übersetzung

Portal by Spotify cut my Claude Code token usage by 90%

Engineering-Beitrag von **Spotify**, veröffentlicht am 3. September 2026 auf engineering.atspotify.com (~1.600 Wörter, neun Abschnitte, zwei YAML-Manifeste, vier Befehlszeilenbeispiele), verfasst von **Dimitri Mazmanov**, Principal Product Manager. Er beschreibt ein persönliches Setup, das I/O-Aufgaben aus dem Kontext von **Claude Code** auslagern soll. Die eingangs formulierte Prämisse: *„Das meiste, was ein KI-Coding-Agent für mich tut, ist kein Denken. Es ist I/O“* — fünf Dateien lesen, um eine Frage zu einer einzelnen Methode zu beantworten, einen Test erstellen, der sich an den anderen zwanzig im Verzeichnis orientiert. **(A) Die Modes.** **Portal by Spotify** stellt *AiKA Modes* bereit, deklarative Agenten auf einer ephemeren Laufzeitumgebung — Instruktionen, Modell, Temperatur, **MCP**-Tools — verglichen mit *„AWS Lambda, aber für Agenten“*; zwei öffentliche Modes, `bulk-reader` und `code-writer`, laufen hier auf **Gemini 2.5 Flash**. **(B) Das Routing.** Ein Claude-Code-Plugin namens `shunt` ersetzt `CLAUDE.md`-Regeln, die als *„beratend, nicht erzwungen“* eingestuft werden, durch drei Schichten: `PreToolUse`-Hooks, die jedes Lesen über **350 Zeilen** hinaus blockieren (Schwellenwert anpassbar über `SHUNT_MIN_LINES`), zwei Bash-Skripte, die die Portal-CLI aufrufen, zwei Skills, die die Aufrufsyntax bereitstellen. Der Korpus geht an das sekundäre Modell und **gelangt nie in Claudes Kontext**. **(C) Messungen und ihre Grenzen.** Bei einem Java-Monorepo, vier Szenarien, liegt die berichtete durchschnittliche Einsparung bei **~90 %** für `bulk-read`; der Autor merkt an, dass das Szenario `code-write` *„schwerer zu messen“* sei, und nennt drei Einschränkungen — nicht delegierbares Editieren, nicht delegierbares Reasoning, **10 bis 30 Sekunden** Latenz pro Aufruf. Knüpft an die Budgetfragen aus [[gupta-token-budget-wars-marginal-token-utility-2026-05-28]] und die in [[willison-fable-judgement-delegation-subagents-2026-07-03]] untersuchte Delegation an.

#Portal by Spotify#AiKA Modes#shunt

Dimitri Mazmanov (Principal Product Manager, Spotify) · sur le blog d'ingénierie engineering.atspotify.com.

Wirtschaft & Markt Automatisch geprüfte Übersetzung

GPT-5.6 Sol, Terra, Luna : comment OpenAI rebat les cartes du coding agentique et du pricing

SFEIR-Analyse (aus Sicht des Unternehmens) der allgemeinen Verfügbarkeit von **GPT-5.6** durch OpenAI ab dem 9. Juli 2026 — kein einzelnes Modell, sondern eine **Familie aus drei Stufen**: **Sol** (Flaggschiff für Langzeit-/Cyber-/Wissenschaftsaufgaben, als einziges Modell mit Zugang zu den Modi „max" und „ultra"), **Terra** (ausgewogene Alltagsstufe, ~halber Preis von GPT-5.5) und **Luna** (schnell/wirtschaftlich, für hohes Volumen). Alle drei teilen sich ~**1,05 Mio. Token** Kontext, **128k** Ausgabe-Token und einen Wissensstand vom **16. Februar 2026**. Die strukturbestimmendste Tatsache ist kein Score, sondern ein **aggressives Preisraster** (Sol 5$/30$, Terra 2,50$/15$, Luna 1$/6$ pro Million Token): Sol behält den Preis des vorherigen Flaggschiffs bei und ist dabei leistungsfähiger, was den Vergleich auf das **Verhältnis von Leistungsfähigkeit zu Kosten** verlagert. Zwei Abrechnungsfeinheiten (Cache-Schreibvorgänge werden mit **1,25×** berechnet, ein Aufschlag jenseits von **272k** Token) machen das Raster irreführend, solange nicht gemessen wurde, wie viel Kontext der Agent erneut liest (Lese-/Schreibverhältnis ~**153:1** beim agentischen Coding). Urteil des Ingenieurs, das als neutral beansprucht wird (SFEIR ist sowohl **Google Cloud Premier**-Partner *als auch* **Anthropic**-Partner): **niemand räumt alle Tabellen ab** — GPT-5.6 dominiert Terminal-Bench 2.1 und den Coding Agent Index (zu einem Drittel der Kosten pro Aufgabe), Claude bleibt bei SWE-Bench Pro vorn (~15 Punkte); METR meldete eine rekordverdächtige **Reward-Hacking**-Rate bei Sol. Fazit: „hört auf, den Champion zu suchen, lernt zu routen" — das Modell ist eine Commodity, der dauerhafte Vorteil liegt im **Context/Harness Engineering**.

#GPT-5.6#Sol#Terra

SFEIR (voix éditoriale du cabinet)

Tools & Plattformen Automatisch geprüfte Übersetzung

ZML/LLMD : et si le « Docker des LLM » était français ?

SFEIR-Analyse (Stimme eines Beratungsunternehmens) zur Markteinführung von **LLMD** am 8. Juli 2026 durch das Pariser Startup **ZML** (gegründet von **Steeve Morin**, ehemaliger VP Engineering bei Zenly): ein Inferenzserver, der LLMs über **fünf Chip-Familien** hinweg ausführt (NVIDIA CUDA, AMD ROCm, Google TPU, Intel oneAPI, Apple Metal) **aus einer einzigen Codebasis**. Strukturierende These: Das Training tritt zugunsten der **Inferenz** in den Hintergrund, wo Kosten pro Token, Latenz und vor allem die **Abhängigkeit vom Silizium** nun entschieden werden. Die Wette von ZML — zusammengefasst im Motto *model to metal* — besteht darin, **das Modell von der Hardware zu entkoppeln** über einen in **Zig + MLIR** geschriebenen Compiler, der ein hermetisches natives Binary erzeugt, ohne Python im Ausführungspfad, bereitgestellt über eine **OpenAI-kompatible API**. Zwei Komponenten, zwei Lizenzen: **ZML** (das Framework, Apache-2.0, >90% Zig) ist Open Source; **LLMD** (der Server) ist es nicht, bei Markteinführung kostenlos. Der Artikel betrachtet das Objekt durch drei Brillen eines Beratungsunternehmens — **Token-FinOps**, **architektonische Freiheit** (Design to Exit), **Souveränität** (aufkommende europäische Chips, Integration in den VSORA-Jotunn8-Prozessor) — und liefert dann ein schonungsloses Urteil: Es handelt sich um eine **Alpha**, die "unter aktiver Beobachtung" zu halten ist, heute noch kein Wechsel.

#LLM Inference#serving#ZML

SFEIR (voix éditoriale du cabinet)

Transformation & Adoption Automatisch geprüfte Übersetzung

AI4IT vs AI4Business : le renversement, et ce qu'il fait à vos budgets 2027

Ausführlicher Meinungsbeitrag (Point of View), veröffentlicht auf **sfeir.com** am 24. Juni 2026 von **Didier Girard** (Managing Director, SFEIR). **Kernthese**: 2024 setzte man allgemein auf **AI4Business** (KI in Geschäftsprozessen) als das große Wertreservoir; 2026 hat sich das Bild **umgekehrt** — es ist **AI4IT** (KI zur Produktion des Informationssystems: Code, SDLC, Softwarefabrik), die **messbaren** Wert schafft. Der Artikel *untermauert* diese These mit der Technologiebeobachtung der Firma: Enttäuschung bei AI4Business (die MIT-Studie „95 % der Piloten ohne ROI“, umstritten, aber aufschlussreich; eine **organisatorische** Blockade / Mollicks Hayeksches Problem) versus quantifizierte AI4IT-Belege (Salesforce, Intercom, Raiffeisen, AWS/Bedrock, Atlassian, DORA). Mechanistische Erklärung: **Code verifiziert sich selbst** (Kompilierung, Tests, CI), während Geschäftsprozesse weder einen Compiler noch eine unmittelbare Feedbackschleife haben. **Konsequenz für das Budget 2027**: eine Verschiebung von **CapEx zu OpEx**, die Preisdynamik der Tokens (steigender Spitzenwert — Fable 5 bei 2× Opus — versus Inferenz ÷280 und Abwärtsdruck durch Open Weights/Desktop) sowie **AI FinOps**, gesteuert durch **Cost per Outcome**. Schließt mit **4 Empfehlungen für das COMEX**.

#AI4IT#AI4Business#Umkehrung

**Didier Girard** — Managing Director (CTO / DG) de **SFEIR** · ESN française (~1 000 personnes, France · Belgique · Luxembourg · Suisse). Auteur de l'article ; voix éditoriale du cabinet sur la transformation IA des DSI.