Station 01 · Was sich überhaupt lokal installieren lässt/Phase 2
Einen Modellnamen lesen
Vier Angaben stecken in einer Zeile wie „qwen3:8b-instruct-q4_K_M". Wer sie lesen kann, braucht keine Empfehlungsliste mehr.
Modellnamen sehen abschreckend aus und sind es nicht. Sie enthalten in fester Reihenfolge vier Angaben, und drei davon entscheiden darüber, ob das Modell auf Ihrer Maschine läuft.
Die Angabe, die am häufigsten fehlt und am meisten anrichtet
„instruct" (oder „chat", „it") ist keine Feinheit. Ein Modell ohne diese Zurichtung ist ein Basismodell: Es setzt Text fort, statt Anweisungen zu befolgen. Fragen Sie es „Fasse das zusammen", schreibt es womöglich weitere Aufgabenstellungen dazu. Für Arbeit brauchen Sie immer die zugerichtete Fassung.
Zwei weitere Zusätze, die Ihnen begegnen
| Zusatz | Was er bedeutet | Wann er wichtig ist |
|---|---|---|
-thinking, -reasoning | Das Modell denkt sichtbar vor, bevor es antwortet. Deutlich langsamer, bei mehrschrittigen Aufgaben besser. | Wenn Aufgaben mehrere Schritte haben. Für Umformulieren: unnötige Wartezeit. |
-vl, -vision | Kann zusätzlich Bilder ansehen — Rechnungen, Zeichnungen, Fotos. | Wenn Unterlagen als Bild vorliegen. Kostet mehr Speicher. |
-coder | Auf Programmtext zugerichtet. | Für Programmierarbeit. Für deutschen Fließtext eher schlechter. |
MoE, a3b | Von vielen Parametern rechnet nur ein Teil je Anfrage mit. Schneller, aber der ganze Satz muss trotzdem in den Speicher. | Vorsicht bei der Speicherrechnung — Station 02. |
Der Fallstrick bei „MoE": Ein Modell mit der Angabe „30b-a3b" rechnet je Anfrage nur mit etwa 3 Milliarden Parametern — es ist also schnell wie ein kleines. Für den Speicher zählt aber die große Zahl. Wer nach der kleinen rechnet, kauft zu wenig Arbeitsspeicher.
- Bevor Sie ein Modell holen — vier Fragen an den Namen
Zugang erhalten
Fortschritt merken?Mit Zugang bleiben Häkchen und erledigte Phasen am Konto — auf jedem Gerät.