Sortiert nach praktischer Eignung für lokale KI: zuerst VRAM und Speicherbandbreite, dann Tensor-Cores, Effizienz, Multi-GPU-Tauglichkeit und Preis/Leistung. Für LLMs gilt: VRAM ist oft wichtiger als reine Gaming-FPS.
Bewertung aus Sicht einer lokalen KI-Workstation: LLM-Inferenz, RAG, Fine-Tuning/LoRA, Bildgenerierung, Video/3D und professionelle Dauerlast. Datacenter-Karten wie H100/B200 sind bewusst nicht im Fokus, weil die Seite Grafikkarten für Workstations und lokale Systeme vergleicht.
Die stärkste Workstation-Karte für lokale KI, wenn sehr große Modelle und professionelle Dauerlast wichtiger sind als Anschaffungskosten.
Große LLMs, mehrere Modelle parallel, RAG-Server, 3D/Rendering, Simulation, professionelle Produktivlast.
Sehr teuer; lohnt sich nur, wenn 48 GB/32 GB VRAM wirklich nicht reichen.
Sehr starke Profi-Karte mit 48 GB ECC-VRAM. Ideal für zuverlässige Workstations und größere Modelle ohne Datacenter-Hardware.
LLMs bis in große Quantisierungsbereiche, LoRA, CAD/Rendering plus KI, stabile Workstation-Treiber.
Langsamer als Blackwell/5090 bei neuen Low-Precision-Pfaden; Preis meist hoch.
Gebraucht oft interessant: 48 GB ECC-VRAM sind für lokale LLMs wertvoller als viele neuere Karten mit weniger Speicher.
Großer VRAM, stabile Workstation, 30B/70B-Quant-Experimente, große ComfyUI-Workflows.
Ältere Tensor-Generation; bei reiner Geschwindigkeit von Ada/Blackwell geschlagen.
Schnellste Consumer-Klasse mit 32 GB GDDR7. Sehr stark für lokale Inferenz, Bildgenerierung und neue Blackwell-KI-Funktionen.
Extrem schnelle Inferenz, 7B–34B komfortabel, große Bild-/Video-KI, sehr hohe Bandbreite.
32 GB bleiben die VRAM-Grenze; kein ECC, hoher Strombedarf, Consumer-Treiber.
Der bewährte Local-AI-Klassiker: 24 GB VRAM, sehr schnell, breit unterstützt, stark für Bild-KI und LLM-Inferenz.
7B/8B/13B sehr schnell, 30B quantisiert möglich, Stable Diffusion XL/Flux, Video- und Upscaling-Workflows.
24 GB limitieren große Modelle; kein NVLink, kein ECC.
Gebraucht weiterhin sehr attraktiv für lokale KI: 24 GB VRAM und breite CUDA-Unterstützung zu oft realistischen Preisen.
Lokale LLMs, RAG, Whisper, ComfyUI, Experimente mit Multi-GPU/NVLink bei passenden Karten.
Mehr Strom/Abwärme, ältere Tensor-Generation, Gebrauchtkauf sorgfältig prüfen.
Sehr schnelle moderne Consumer-Karte, aber mit 16 GB VRAM für LLMs deutlich enger als 24/32/48-GB-Karten.
7B/8B sehr schnell, Bildgenerierung, Gaming plus KI, moderne Tensor-Features.
16 GB VRAM bremsen größere LLMs und komplexe ComfyUI-Pipelines.
Effiziente 16-GB-Ada-Karte. Gut für Bild-KI und kleinere LLMs, aber nicht ideal als dedizierte LLM-Workstation.
Stable Diffusion, Video/Render, 7B/8B Inferenz, leiser und effizienter als ältere High-End-Karten.
Für 13B+ und größere Kontexte oft zu wenig VRAM.
Interessanter 16-GB-Mittelweg: solide für lokale Experimente, aber nicht die erste Wahl für große Produktionsmodelle.
7B/8B, SDXL, LoRA-Kleinexperimente, Entwickler-PC mit guter Effizienz.
Kein großer VRAM-Puffer; 24-GB-Karten sind für LLMs meist sinnvoller.
Günstiger Einstieg mit 16 GB VRAM. Gut zum Lernen und Testen, aber deutlich langsamer und speicherbandbreiten-limitiert.
Lernen, kleinere LLMs, einfache Bildgenerierung, sparsame Dauerläufe.
Speicherbandbreite und Rechenleistung deutlich niedriger; eher Einstieg als Profi-KI.
Für lokale KI sollte die Auswahl nicht nach Gaming-Rangliste erfolgen. Entscheidend ist, was in den VRAM passt und wie stabil die Karte unter Dauerlast läuft.