AWS zeigt: Die günstigste AI-Anfrage ist die, die gar nicht erst entsteht
TL;DR
Der AWS Machine Learning Blog beschreibt, wie Teams die Kosten generativer AI-Systeme senken können, indem sie vor jedem Workflow-Schritt prüfen, ob überhaupt ein Modellaufruf nötig ist. Für feste Regeln und eindeutige Abläufe empfiehlt AWS deterministischen Code, für begrenzte Auswahlprozesse eine kontrollierte Entscheidungsanfrage und für komplexe Aufgaben ein passend dimensioniertes Modell auf Amazon Bedrock.
Nauti's Take
Der erste Test gehört in den Workflow-Graphen: Markiert jeden Schritt als Regel, begrenzte Entscheidung oder offene Beurteilung und messt danach Kosten, Latenz und Fehlerrate. Besonders wichtig ist die Grenze zwischen deterministischem Code und Modellentscheidung, weil ein kleiner, kontrollierter Aufruf oft reicht und ein großes Modell dort unnötige Abhängigkeiten schafft.