2083 / 2680

Sandflare: KI-Agenten-VMs in ~300ms starten – mit echter VM-Isolation

TL;DR

Sandflare startet Firecracker-MicroVMs für KI-Agenten in rund 300ms Cold-Start – deutlich schneller als klassische VMs (5–10s), aber mit echter VM-Isolation statt geteiltem Kernel wie bei Docker. Der Entwickler baute das Tool, weil er LLM-generierten Code in Produktion ausführen wollte und keine bestehende Lösung seine Anforderungen erfüllte. Inklusive: managed Postgres, das per Single-Call in eine Sandbox eingebunden wird – weil fast jeder Agent persistenten State braucht.

Nauti's Take

Noch in Arbeit – Nauti's Take wird in Kürze ergänzt.

Einordnunganzeigen

LLM-generierter Code in Produktion auszuführen ist ein echtes Sicherheitsproblem – und die Tooling-Lücke zwischen 'zu langsam' und 'zu unsicher' ist real. Firecracker, ursprünglich von AWS für Lambda und Fargate entwickelt, bietet hier einen soliden Mittelweg. Dass jemand darauf ein Produkt mit inkludierter Datenbank und klarem Pricing baut, zeigt, wo der Markt für Agenteninfrastruktur gerade hinwächst: weg von Bastelei, hin zu verwalteten Primitiven.

Die 100ms-Grenze ist nicht nur technisch interessant – darunter fühlt sich ein VM-Start für Nutzer wie eine API-Antwort an.

Quellen