Moonshot hat die Gewichte des Kimi K3.1 Pro auf Hugging Face freigegeben, während Nvidia ein neues Transkriptionsmodell der Nemotron-Reihe bereitstellt.
Das chinesische Unternehmen Moonshot hat sein 2,8 Billionen Parameter großes Modell Kimi K3.1 Pro als Open Weight veröffentlicht. Zuvor war das Modell ausschließlich als proprietärer Dienst zugänglich. Laut Herstellerangaben konkurriert das System mit kommerziellen Modellen wie Opus 5.5 und übertrifft diese in einzelnen Benchmarks, etwa bei der Analyse von Finanzdaten. Die Inferenz erfordert jedoch Rechenzentrums-Hardware, um Tokens in akzeptabler Geschwindigkeit zu produzieren, berichtet Heise.
Auf Hugging Face tauchte zudem ein 14 Billionen Parameter großer Checkpoint namens „numbat“ auf, der internen Anthropic-Trainingsläufen entstammen soll. Der Uploader bleibt anonym; das Modell ist nicht feingetunt und beherrscht nur Textvervollständigung. Technisch arbeitet die Architektur mit 1.224 Experten, von denen 48 aktiv sind, sowie hybrider Attention auf Basis von Multi-Head Latent Attention.
Gegen den aktuellen Trend zu Sparse-Mixture-of-Experts veröffentlichte Ricursive Intelligence eine Preview des dichten 65-Milliarden-Parameter-Modells Ripple. Es soll größere MoE-Konkurrenten wie Nemotron 3 Ultra 550B oder Meta Muse Spark Open in Benchmarks schlagen. Da jedoch die volle Parameterzahl pro Vorhersage genutzt wird, arbeitet das Modell langsamer. Selbst unter Verwendung der NVFP4-Quantisierung belegt es knapp 60 GByte. Eine Multi-Token Prediction ist nicht implementiert.
Parallel dazu brachte Recursive – zu unterscheiden von Ricursive Intelligence – mit Flint ein 40-Milliarden-Modell für agentische Aufgaben auf den Markt. Bei diesem Modell sind pro Durchlauf lediglich 2,5 Milliarden Parameter aktiv. Die Vergleichsdaten zu Qwen3.8 bleiben ungenau, da die Serieneinordnung fehlt.
Nvidias neues Transkriptionsmodell setzt auf Geschwindigkeit: Es verarbeitet 30 Sekunden Audio in 0,13 Sekunden auf einer RTX 6000, unterstützt mehrere Sprachen und kann direkt übersetzen.
Alibaba legte mit Qwen3.8-Flash-Next ein MoE-Modell mit 176 Milliarden Parametern nach. Davon können 51 Milliarden N-Gramm-Gewichte auf die CPU oder SSD ausgelagert werden, während pro Inferenzlauf sechs Milliarden Parameter aktiv bleiben.
Community-Projekte wie Strata und dessen Abkömmling Basalt ermöglichen den Betrieb auf Consumer-GPUs. Tester erreichten mit 128 GByte RAM und einer RTX 5090 rund 200 Tokens pro Sekunde. Die Qualität liegt zwar hinter führenden LLMs, bietet jedoch lokale Datenhoheit.
Das erwartete Qwen4-Max nutzt dieselbe Architektur wie Flash-Next und liegt laut Alibaba in Teilen über Kimi K3.1. Kleinere Qwen4-Varianten stehen noch aus.