7. Hardware Guide
Leitlinien
| Thema | Faustregel |
|---|---|
| CPU vs GPU | GPU fuer fluessige Interaktion, CPU fuer leichte Setups. |
| VRAM | Mehr VRAM erlaubt groessere Modelle und laengere Kontexte. |
| Quantisierung | 4-bit spart Speicher, 8-bit oft stabilere Qualitaet. |
Start
Ein 7B/8B Modell in quantisierter Form ist ein robuster Einstieg.