September 2026 – kaibel.net

Quantisierung und Mixture of Experts: Wie moderne LLMs effizienter werden

Wer Large Language Models lokal mit Programmen wie LM Studio, Ollama oder llama.cpp betreibt, stößt relativ schnell auf Bezeichnungen wie: Dahinter verbergen sich zwei besonders wichtige Techniken moderner Large Language Models: Beide Techniken verfolgen also das Ziel, große Modelle effizienter

Lokales Coding mit LM Studio und Bionic: Erfahrungen, Modellwahl und Performance-Tuning

Lokale Large Language Models werden für Softwareentwicklung zunehmend interessant. Mit LM Studio lassen sich aktuelle Open-Source-Modelle lokal betreiben, während Bionic direkt als Coding-Agent auf Projekte zugreifen, Dateien analysieren und Änderungen durchführen kann. In meinem Test ging es vor allem um