#04 – Ein Sprachmodell in 10 Minuten lokal

Episode von Lokale KI – kurz erklärt von JULITH GmbH · 20. Oktober 2026 · 7 min

Zehn Minuten, ein kostenloses Programm – und ein Sprachmodell läuft auf Ihrem eigenen Rechner. Auch dann, wenn Sie das WLAN ausschalten. In Folge 4 installieren wir gemeinsam Ollama, wählen das passende Modell für Ihren Arbeitsspeicher und testen es mit Aufgaben aus dem Alltag.

Anleitung

Ollama herunterladen: ollama.com/download (Mac ab macOS 14, Windows 10/11, Linux)

Installieren – Linux: curl -fsSL https://ollama.com/install.sh | sh

Modell starten – in der App auswählen oder im Terminal: ollama run gemma4:12b

WLAN aus, weiterfragen: Antwortet das Modell, läuft es lokal.

Aufräumen: ollama list · ollama rm · ollama ps

Modelle nach Arbeitsspeicher

8 GB: qwen3:4b

16 GB: gemma4:12b

16–24 GB: gpt-oss:20b

ab 32 GB: qwen3.8:27b

Achtung: Modelle mit „cloud“ im Namen laufen nicht lokal.

Grafiken zur Folge: Die fünf Schritte als Bild · Modelle nach Arbeitsspeicher

Kapitel

00:00 Cold Open · 00:40 Begrüßung · 01:20 Was Sie brauchen · 02:40 Schritt für Schritt: Ollama installieren · 05:00 Welches Modell zum Start? · 06:40 Worauf Sie achten sollten · 07:50 Praxis-Tipp: Drei Testaufgaben · 08:50 Ausblick auf #05

Links und Quellen

Ollama unter Windows: Voraussetzungen

Die Ollama-App mit Chat-Fenster und Drag & Drop

Weitere Episoden von „Lokale KI – kurz erklärt“

Über den Podcast

Lokale KI – kurz erklärt ist der Podcast für alle, die künstliche Intelligenz im eigenen Unternehmen betreiben wollen – auf eigener Hardware, unter eigener Kontrolle, DSGVO-konform. Jeden Dienstag erklärt Thomas RIEHN, Geschäftsführer der JULITH GmbH, in wenigen Minuten ein Thema rund um lokale…

Lokale KI – kurz erklärt

Ähnliche Episoden

Alle Episoden von Lokale KI – kurz erklärt · Mehr Technologie-Podcasts