Andr\u00e9 Heiner GenAI & LLM Expert Logo

Kanzlei-KI im Betrieb: lokale KI mit Fundstellen · Folge 1

Lokale KI ohne Grafikkarte installieren: Ollama auf einem Laptop von 2016 (Schritt für Schritt)

Do., 29. Oktober 2026 · 9:32 Minuten

Ollama live auf einem ThinkPad von 2016 installiert und ehrlich gemessen: Modelle auf Laufwerk D statt C, zwei Modelle geladen, erste Antwort in 3:58 Minuten, mit dem richtigen Modell in 17,6 Sekunden. Für Kanzleien, die Mandatsdaten nicht in eine fremde Cloud geben wollen.

Zum Mitnehmen

Die Reihenfolge, die Platz auf Laufwerk C spart

  1. 1Umgebungsvariable OLLAMA_MODELS für dein Benutzerkonto anlegen, Wert D:\ollama\models.
  2. 2Neues Terminal öffnen, dann installieren: OllamaSetup.exe /DIR="D:\ollama"
  3. 3Modelle laden: ollama pull qwen3:4b-instruct und ollama pull nomic-embed-text
  4. 4Prüfen: ollama list, im Browser localhost:11434, erste Antwort mit ollama run qwen3:4b-instruct --verbose

Ohne Grafikkarte die Instruct-Fassung nehmen: qwen3:4b denkt vor jeder Antwort nach (hier 3:58 Minuten je Satz), qwen3:4b-instruct antwortet in 17,6 Sekunden.

Kapitel

In diesem Video spricht mein KI-Avatar (HeyGen) mit meiner geklonten Stimme (ElevenLabs). Skript, Tests und Inhalte sind von mir und von mir geprüft.