1 bis 2 Tage
inhouse in Darmstadt, auch online
2.950 EUR
ein Tag je Gruppe, zwei Tage ab 2.950 EUR
Ollama + vLLM
für einzelne Rechner und für den Server
im eigenen Netz
Eingaben werden auf Ihrer Hardware verarbeitet
Wann lohnt sich ein lokales Sprachmodell?
Wenn Daten das Haus nicht verlassen dürfen oder sehr viele Routineanfragen anfallen. Wenn es dagegen um schwieriges Schlussfolgern geht, liegen die großen Cloud-Modelle oft vorn. Typische Gründe für den Eigenbetrieb:
- 01
Vertrauliche Daten
Konstruktion, Kundenprojekte, Personal oder Verträge, die in keine fremde Cloud sollen.
- 02
Forschung mit Auflagen
Daten aus Projekten, deren Förder- oder Kooperationsverträge die Verarbeitung regeln.
- 03
Sicherheitsrelevante Bereiche
Netze ohne oder mit stark eingeschränktem Internetzugang.
- 04
Viele Routineanfragen
Zusammenfassen, Extrahieren und Entwürfe in großer Zahl, mit planbaren Kosten.
Was baut Ihr Team im Workshop auf?
Jede Gruppe baut ein System auf, das am Ende läuft. Die Schritte:
- 01
Modell wählen
Nach Aufgabe, Lizenz, Sprache und Hardware; dazu Quantisierung, also verkleinerte Fassungen.
- 02
Hardware dimensionieren
Grafikspeicher, Arbeitsspeicher, eigener Rechner oder Server in Deutschland.
- 03
Ollama
Der schnelle Einstieg: Modelle laden und über die Schnittstelle ansprechen.
- 04
vLLM
Ein Server, der viele Anfragen gleichzeitig beantwortet.
- 05
Open WebUI
Die Oberfläche für das Team, mit Anmeldung, Rollen und Gruppen.
- 06
Dokumentensuche und Betrieb
RAG mit eigenen Dateien, dazu Netzwerkzugriff, Protokolle, Updates und Datensicherung.
Ablauf
Beispielagenda: zwei Tage, jeweils 09:00 bis 16:30 Uhr
Die eintägige Fassung konzentriert sich auf Ollama, Open WebUI und eine erste Dokumentensuche. Die Agenda wird an Ihre Umgebung angepasst.
Tag 1: Modell wählen und bereitstellen
- 09:00Offene Modelle, Lizenzen und Quantisierung
- 10:15Hardware dimensionieren, Server in Deutschland
- 11:15Ollama installieren, Modelle laden, Schnittstelle ansprechen
- 13:30vLLM als Server für viele gleichzeitige Anfragen
- 15:15Erste Messungen an eigenen Aufgaben
- 16:30Ende
Tag 2: Nutzbar und sicher betreiben
- 09:00Open WebUI mit Anmeldung, Rollen und Gruppen
- 10:30Dokumentensuche (RAG) mit eigenen Dateien
- 13:30Netzwerkzugriff, Protokolle, Updates, Datensicherung
- 15:00Ehrlicher Vergleich mit Cloud-Modellen, Plan für den Betrieb
- 16:30Ende
Welche Hardware braucht ein lokales Modell?
Das hängt vom Modell ab, und genau das üben wir. Ein Beispiel: Mistral Small 3.2 mit 24 Milliarden Parametern braucht laut Hersteller im Originalformat rund 55 GB Grafikspeicher, die verkleinerte Fassung in der Ollama-Bibliothek ist ein Download von 15 GB und läuft auf deutlich kleinerer Hardware.
Ob Ihre Rechner für den Workshop reichen oder wir gemietete GPU-Server in Deutschland nutzen, klären wir im Vorgespräch. Die Kosten dafür stehen vorher im Angebot.
Ist ein lokales Modell so gut wie ChatGPT oder Claude?
Nicht bei jeder Aufgabe. Offene Modelle sind stark bei Routine wie Zusammenfassen, Extrahieren und Entwürfen. Bei schwierigem Schlussfolgern und langen Ketten von Arbeitsschritten liegen die großen Cloud-Modelle oft vorn.
Im Workshop messen wir das an Ihren eigenen Aufgaben, statt uns auf Ranglisten zu verlassen. Grundlage sind meine Vergleiche offener und geschlossener Modelle im KI-Labor auf heiner.io.
Warum ist lokale KI in Darmstadt so gefragt?
In einer Stadt mit dem Nationalen Forschungszentrum für angewandte Cybersicherheit ATHENE, mehreren Fraunhofer-Instituten, dem Kontrollzentrum der Europäischen Weltraumorganisation ESOC und Industrie mit eigener Forschung sind die Anforderungen an Vertraulichkeit hoch. Für viele Teams ist ein lokales Modell deshalb keine Kür, sondern die Voraussetzung, KI überhaupt zu nutzen.
Der Workshop findet in Ihren Räumen statt, auf Ihrer Hardware oder einer vorbereiteten Umgebung. Die Anfahrt aus Wiesbaden ist im Preis enthalten.
Stimmen aus Schulungen
Was Teilnehmende sagen
„André Heiner hat uns bei der Einführung von AI Agents und n8n-Automatisierungen professionell und praxisnah unterstützt. […] Besonders geschätzt habe ich die schnelle Reaktionszeit, die DSGVO-konforme Herangehensweise und die konkreten, umsetzbaren Ergebnisse.“
„Der Kurs über KI-Agenten war für mich ein guter Einstieg in das Thema. Vorher hatte ich kaum Ahnung davon, danach war vieles deutlich verständlicher. Herr Heiner erklärt ruhig und nachvollziehbar.“
„War ein richtig guter KI-Workshop in kleiner Runde. Dadurch konnte man viele Fragen stellen und Herr Heiner ist auch direkt auf unsere Themen eingegangen. Alles locker und verständlich erklärt, ohne unnötiges Fachchinesisch.“
IHK Wiesbaden
Referent des Online-Seminars „Möglichkeiten der KI im Büro“, 14 Teilnehmende. Schriftliche Bestätigung der Kammer vom 21. September 2026.
Volkshochschule Frankfurt am Main
Kursleitung „Künstliche Intelligenz im Büroalltag“, Kurs 5521-42, zwei Abende. Schriftliche Bestätigung vom 15. September 2026.
Auszüge aus Bewertungen in meinem Google-Unternehmensprofil, Kürzungen mit […] markiert, Namen mit Zustimmung gekürzt. Alle zitierten Personen haben tatsächlich an einem Workshop teilgenommen oder mit mir zusammengearbeitet. Google selbst prüft Bewertungen nicht. Die Referenzbestätigungen von IHK Wiesbaden und Volkshochschule Frankfurt liegen im Original vor und sende ich auf Anfrage zu.
Wer schult
André Heiner
KI-Engineer und KI-Trainer aus Wiesbaden
- Diplom-Informatiker (Philipps-Universität Marburg), baut KI-Agenten und Automatisierungen im Produktivbetrieb
- Ausbildereignung nach AEVO, Prüfung bei der IHK Wiesbaden am 3. September 2026
- Referent des Online-Seminars „Möglichkeiten der KI im Büro“ der IHK Wiesbaden (2024)
- Kursleiter „Künstliche Intelligenz im Büroalltag“ an der vhs Frankfurt am Main (2024)
- 2026 Honorardozent bei einem AZAV-zugelassenen Bildungsträger: KI im Performance Marketing und Power BI, 80 Unterrichtseinheiten
- 17 Google-Bewertungen mit einem Schnitt von 5,0 (Stand Oktober 2026)
Nennen Sie mir Gruppengröße, Werkzeuge und Wunschtermin.
Das Erstgespräch ist kostenlos. Danach bekommen Sie eine Agenda für Ihr Team und einen festen Preis, schriftlich und bevor etwas beauftragt ist.
Weiterlesen
Passende Seiten zu Ihrer Frage
FAQ
Häufige Fragen
Bleiben die Daten bei einem lokalen Modell wirklich im Haus?
Bei lokalem Betrieb verarbeitet das Modell Ihre Eingaben auf Ihrer eigenen Hardware. Ollama ist nach der Installation nur auf diesem Rechner erreichbar und lässt sich so einstellen, dass Cloud-Funktionen abgeschaltet sind. Entscheidend sind danach Netzwerk, Zugänge und Protokolle, und genau das richten wir im Workshop ein.
Was kostet der Workshop zu lokalen Sprachmodellen?
Ein Tag kostet 2.950 Euro je Gruppe, zwei Tage beginnen bei 2.950 Euro, jeweils zuzüglich Umsatzsteuer. Werden gemietete GPU-Server gebraucht, stehen die Kosten vorher im Angebot.
Ollama oder vLLM: was nehmen wir?
Ollama ist der schnelle Einstieg für einzelne Rechner und kleine Teams. vLLM ist für einen Server gedacht, der viele Anfragen gleichzeitig beantwortet. Im Workshop setzen Sie beides auf und entscheiden mit eigenen Messwerten.
Ist ein lokales Modell so gut wie ChatGPT oder Claude?
Nicht bei jeder Aufgabe. Bei Routine wie Zusammenfassen und Extrahieren halten offene Modelle gut mit, bei schwierigem Schlussfolgern liegen große Cloud-Modelle oft vorn. Wir vergleichen beides an Ihren Aufgaben.
Für wen ist der Workshop gedacht?
Für IT-Teams und technisch versierte Fachleute, die ein Sprachmodell selbst betreiben wollen. Nötig sind sicherer Umgang mit der Kommandozeile und Grundkenntnisse in Linux und Docker. Wer KI nur anwenden will, ist in der KI-Schulung für Ingenieure und technische Teams richtig.