Gemini 4 könnte mit einem Kontextfenster von 10 Millionen Token kommen
TL;DR
Google hat das Pre-Training von Gemini 4 gestartet, wie im Q2-Earnings-Call von Alphabet bestätigt wurde. Konkrete Angaben zu Architektur, Leistungsdaten oder Veröffentlichungstermin fehlen bislang. Geeky Gadgets berichtet unter Berufung auf AI Master, dass Google das Kontextfenster auf bis zu 10 Millionen Token erweitern könnte und dabei frühere Fortschritte wie Multimodalität ausbauen will.
Nauti's Take
Zehn Millionen Token wären mehr als eine Zahl auf dem Datenblatt: Ganze Codebasen oder Archive ließen sich am Stück verarbeiten, ohne aufwendige RAG-Bastelei. Die Frage ist die Nutzbarkeit, denn nach mehreren Millionen Token entscheidet nicht die Kapazität, sondern wie zuverlässig Inhalte noch gefunden werden, dazu steigen Latenz und Preis.
Bis Limits, API-Preise und Datenverarbeitung bestätigt sind, lohnt sich kein Umbau bestehender Workflows.
Video
Quellen