Website-Suche

Kimi K3s offenen Gewichte sind hier, aber dein Mac kann sie wahrscheinlich nicht ausführen


Moonshot AI hat die vollständigen Gewichte von Kimi K3 veröffentlicht. Ollama bietet Cloud-Zugang, aber das 1,56-TB-Modell benötigt dennoch hardware auf Rechenzentrumsniveau, um es selbst zu hosten.

Moonshot AI hat die vollständigen Kimi K3-Modellgewichte veröffentlicht und macht damit sein Flaggschiff-KI-Modell für Downloads, private Bereitstellungen und Feinabstimmungen verfügbar. Die Veröffentlichung erfüllt das Versprechen des Unternehmens, die Gewichte bis zum 27. Juli zu veröffentlichen.

K3 erscheint auch in KI-Tools von Drittanbietern, aber es gibt einen wichtigen Haken. Ollama bietet es derzeit über die Cloud an, während LM Studio noch keine offizielle K3-Version listet. Dies ist kein Modell, das die meisten Menschen auf einem MacBook herunterladen und ausführen können.

Das vollständige Modell ist etwa 1,56 TB groß

Kimi K3 hat insgesamt 2,8 Billionen Parameter und aktiviert 104 Milliarden davon für jedes Token. Es unterstützt Text und Bilder, hat ein Kontextfenster von 1 Million Token und verwendet ein Mixture-of-Experts-Design, das jeweils 16 seiner 896 Experten auswählt.

Selbst mit nativer MXFP4-Kompression nimmt das offizielle Hugging Face-Repository ungefähr 1,56 TB ein. Die Bereitstellungsrichtlinien von Moonshot empfehlen vLLM, SGLang oder TokenSpeed und einen Superknoten mit mindestens 64 Beschleunigern.

Das setzt K3 in eine völlig andere Klasse als die kleineren Modelle, die Menschen normalerweise lokal auf einem Mac ausführen. Offene Gewichte machen das Modell für gut ausgestattete Teams inspizierbar und selbst hostbar; sie machen es nicht laptopfreundlich.

Der Zugriff auf Ollama läuft in der Cloud

Ollama listet jetzt kimi-k3:cloud auf, sodass Benutzer das Modell über die vertraute Ollama-Befehlszeile starten können. Die Inferenz erfolgt jedoch auf den Servern von Ollama und nicht auf dem Computer des Benutzers.

Die Auflistung erfordert derzeit ein Ollama Pro- oder Max-Abonnement und verbraucht zusätzliche Nutzungsguthaben. Ollama sagt, dass Kapazität hinzugefügt wird, was darauf hindeutet, dass der Zugang während der anfänglichen Einführung eingeschränkt bleiben könnte.

Der öffentliche Modellkatalog von LM Studio zeigt zum Zeitpunkt des Schreibens keinen offiziellen Kimi K3-Build. Community-Konvertierungen können erscheinen, aber die Größe von K3 und die neue Architektur bedeuten, dass das Finden eines Modells in einem Katalog nicht dasselbe ist wie es lokal ausführen zu können.

Zum Vergleich: Modelle wie gpt-oss-20B können offline auf einem entsprechend ausgestatteten Apple-Silicon-Mac ausgeführt werden, während Gemma 4 Modelle enthält, die für Consumer-Hardware entwickelt wurden. K3 ist auf den Einsatz im Rechenzentrumsmaßstab ausgerichtet.

Die Lizenz erlaubt eine breite Wiederverwendung unter bestimmten Bedingungen

Die benutzerdefinierte Kimi K3-Lizenz erlaubt es Personen und Unternehmen, das Modell zu verwenden, zu modifizieren, fein abzustimmen, zu verteilen, unterzulizenzieren und Kopien oder Derivate des Modells zu verkaufen.

Es fügt zusätzliche Bedingungen für große Model-as-a-Service-Geschäfte und kommerzielle Produkte mit mehr als 100 Millionen monatlichen Nutzern oder über 20 Millionen USD monatlichem Umsatz hinzu. Diese Details sind für KI-Anbieter wichtiger als für Forscher, die mit den Gewichten experimentieren.

Die Veröffentlichung sollte unabhängige Tests und private Bereitstellungen für Organisationen mit ausreichender Hardware ermöglichen. Für alle anderen bleiben Ollama Cloud, Kimi’s eigene Apps und gehostete APIs die praktischen Möglichkeiten, K3 auszuprobieren.