696 / 3904

GPT-OSS-20B erreicht laut AWS 100 Prozent bei mehrsprachigem Reasoning

TL;DR

AWS beschreibt ein Fine-Tuning von GPT-OSS-20B auf SageMaker HyperPod für mehrsprachiges Reasoning. Supervised Fine-Tuning (SFT) steigerte die Genauigkeit bei der verwendeten Reasoning-Sprache laut Beitrag von 22 auf 100 Prozent. Zusätzlich brachte Reinforcement Learning mit GRPO messbare Verbesserungen, sofern noch Entwicklungsspielraum vorhanden war. Für Teams zeigt der Versuch, dass die Trainingsmethode stark vom Ausgangsniveau und vom Evaluationsdesign abhängt.

Nauti's Take

Der Fortschritt ist deutlich: Mit SFT lässt sich ein offenes Modell laut AWS dazu bringen, zuverlässig in der gewünschten Sprache zu denken. Die Grenze: Die Werte stammen aus einem einzigen Versuch, und eigene Sprachen und Daten können anders reagieren.

Teams mit mehrsprachigen Produkten sollten zuerst SFT mit eigenen Testfragen messen und GRPO nur einsetzen, wenn danach noch eine Lücke bleibt.

Quellen