1. Was sind lokale LLMs?

Kernidee

Ein lokales LLM laeuft direkt auf deinem Rechner oder Server. Prompt, Antwort und ggf. eingebundene Dateien bleiben in deiner Umgebung.

Aspekt	Lokal	Cloud
Datenpfad	In deiner Infrastruktur	Zum Anbieter uebertragen
Kontrolle	Hoch (Setup, Logs, Updates)	Hoeherer Komfort, weniger Kontrolle
Betrieb	Eigene Hardware noetig	Keine lokale GPU zwingend

ollama pull mistral
ollama run mistral

Damit hast du lokal einen ersten Chat-Workflow ohne externe API-Aufrufe pro Anfrage.