Meta: Die Entscheidung für offene KI, die lokale KI alltagstauglich macht

Meta hat am 10. August 2026 mit Muse Glimmer ein offenes KI-Modell veröffentlicht, das sich vollständig auf dem eigenen Rechner betreiben lässt. Damit setzt der Konzern auf lokale KI statt auf ein Abonnement in der Cloud. Einen Tag später zog NVIDIA mit einem eigenen Modell namens Nemotron 3.5 Lightning nach.

Die beiden Veröffentlichungen innerhalb von 24 Stunden zeigen eine Richtungsentscheidung der Branche: Statt KI-Agenten ausschließlich über Serverfarmen laufen zu lassen, sollen sie auch auf einzelnen Grafikkarten funktionieren. Für Meta ist es laut eigenen Angaben die erste große Veröffentlichung eines offenen Modells seit über einem Jahr.

Wie funktioniert lokale KI ohne Cloud?

Mit rund 30 Milliarden Parametern ausgestattet, verteilt sich Muse Glimmer auf 2 Milliarden Parameter im Vision-Encoder und 28 Milliarden im Text-Decoder. Laut Meta beherrscht das Modell über 100 Sprachen und steht unter der Apache-2.0-Lizenz, was eine freie Nutzung und Anpassung erlaubt.

Für den Alltagseinsatz zählt vor allem der Speicherbedarf: In quantisierter Fassung gibt Meta weniger als 20 Gigabyte an. Wer das Modell dagegen in voller Präzision betreiben will, braucht laut Meta eine Server-Grafikkarte mit 80 Gigabyte Speicher, und für ein vollständiges Fine-Tuning sind acht solcher Karten nötig.

Was unterscheidet Nemotron 3.5 Lightning von Muse Glimmer?

NVIDIAs Nemotron 3.5 Lightning setzt auf eine Mixture-of-Experts-Bauweise: Von etwa 30 Milliarden Parametern sind pro verarbeitetem Textabschnitt nur rund 3 Milliarden aktiv. Das soll Rechenlast sparen, ohne die Modellgröße zu verkleinern.

Beim Kontextfenster liegt NVIDIAs Modell deutlich vorn: Es verarbeitet laut NVIDIA bis zu einer Million Token auf einmal, Muse Glimmer kommt auf 131.072 Token. Im Benchmark PinchBench gibt NVIDIA für Nemotron 3.5 Lightning eine Genauigkeit von 86 % an.

• Auf einer RTX 5090 misst Meta mit Speculative Decoding den 3,1-fachen Durchsatz für Muse Glimmer.

Welche Hardware brauchen Einsteiger für lokale KI?

Dass lokale KI kein reines Profi-Thema bleibt, zeigt ein Einsteiger-Leitfaden von PC Games Hardware: Dort lassen sich KI-Modelle mehrerer Hersteller auf dem eigenen Computer betreiben, ganz ohne Abonnement und vollständig offline. Das Special beschreibt die technischen Grundlagen, nennt die nötige Hardware und stellt Programme und Modelle vor, die für den Einstieg geeignet sind.

Auf einem MacBook mit M5-Max misst Meta für Muse Glimmer mit Speculative Decoding immerhin den 1,8-fachen Durchsatz gegenüber dem Normalbetrieb. Das zeigt, dass auch Notebooks ohne dedizierte Server-Hardware für lokale KI infrage kommen, solange die Software optimiert ist.

Bild: Symbolbild, KI-erzeugt.