Google beschleunigt Gemma 4 mit Multi-Token-Prediction um das Dreifache

Google hat für sein KI-Modell Gemma 4 eine Multi-Token-Prediction-Technologie entwickelt, die die Textgenerierung durch parallele Verarbeitung mehrerer Wörter um bis zu 300 Prozent beschleunigt. Ein kleines Hilfsmodell schlägt mehrere Token gleichzeitig vor, während das Hauptmodell diese gebündelt validiert, was die Effizienz erheblich steigert. Diese Optimierung kann für juristische und steuerliche Anwendungen von KI-Systemen zur schnelleren Dokumentenanalyse und Textgenerierung relevant werden.