Deepseek R1 lokal installieren: 100% private KI-Power

Wichtigste Erkenntnisse

• DeepSeek R1 ist ein chinesisches KI-Modell, das teilweise leistungsfähiger als ChatGPT ist.
• Man kann DeepSeek R1 lokal installieren. 100 % Privatsphäre inklusive.
• Für das 7B-Modell genügt ein moderner Standard-PC. Größere Modelle benötigen mehr RAM.
• Die Installation kann über die Kommandozeile oder mit grafischer Oberfläche erfolgen.
• Apps wie Apollo AI erlauben die Nutzung auf Handys

Deepseek R1: Die neue KI-Revolution auf deinem Computer

DeepSeek R1 ist ein chinesisches KI-Modell, was vor kurzem veröffentlicht wurde. Es hat sehr schnell an Popularität gewonnen. Teilweise schneidet das Modell besser als ChatGPT O1 ab. Die besondere Stärke von DeepSeek R1: es ist ein Open-Source Modell. Du kannst es deshalb lokal auf deinem eigenen Computer ausführen.

Das Hauptmodell von DeepSeek R1 hat beeindruckende 671 Milliarden Parameter – das ist zu groß für normale Computer. Zum Glück gibt es kleinere Modelle, die auch auf normalen Computern laufen.

In diesem ausführlichen Guide zeige ich dir verschiedene Möglichkeiten, wie du DeepSeek R1 auf deinem Computer installieren und nutzen kannst.

Hier findest du eine ausführliche Beschreibung des DeepSeek Modells sowie seiner Besonderheiten.

Hardware-Voraussetzungen für DeepSeek R1: Was braucht dein Computer?

Bevor du DeepSeek R1 installierst, überprüfe bitte deine Hardware. Entscheidend ist die Größe deines Arbeitsspeichers (RAM), der Speicher deiner Grafikkarte und der freie Speicherplatz. Die Anforderungen hängen stark von der Größe des Modells ab, das du verwenden möchtest.

Nachfolgend findest du die verschiedenen Modelle sowie den notwendigen Arbeitsspeicher:

• 1,5B (1,5 Milliarden Parameter): Benötigt etwa 1 Gigabyte RAM, läuft auf fast jedem Computer und auf modernen Handys
• 7B (7 Milliarden Parameter): Benötigt etwa 8-10 GB RAM, läuft auf den meisten modernen Computern
• 14B (14 Milliarden Parameter): Benötigt etwa 16-20 GB RAM
• 32B (32 Milliarden Parameter): Benötigt etwa 32-40 GB RAM, besser als ChatGPT 4.0 (kostenlose Version)
• 70B (70 Milliarden Parameter): Benötigt etwa 70-80 GB RAM
• 671B (671 Milliarden Parameter): Benötigt Hunderte GB RAM, nicht für normale Computer geeignet

Meine persönliche Empfehlung: Wenn du einen Computer mit 16 GB RAM hast, verwende das 7B-Modell. Es bietet eine gute Balance zwischen Leistung und Ressourcenbedarf. Wenn du 32 GB RAM oder mehr hast, kannst du das 14B- oder sogar das 32B-Modell ausprobieren, das in vielen Fällen besser als ChatGPT 4.0 ist!

Neben dem RAM ist auch der Speicher der GPU (Grafikkarte) wichtig. Um so mehr, je größer das verwendete Modell ist. Eine NVIDIA RTX Grafikkarte kann durch ihre CUDA-Unterstützung die Ausführung erheblich beschleunigen. Aber auch Apple Silicon Prozessoren (M1, M2, M3) sind sehr effizient für KI-Workloads.

DeepSeek R1 mit Ollama installieren: Schritt-für-Schritt-Anleitung

Jetzt wird’s praktisch! Wir werden DeepSeek R1 mit Hilfe von Ollama installieren. Ollama ist ein fantastisches Tool, das dir hilft, KI-Modelle einfach herunterzuladen und lokal auszuführen.

Schritt 1: Ollama installieren

Ollama ist ein fantastisches Tool, das es dir erlaubt, KI-Modelle wie DeepSeek R1 einfach zu installieren und zu verwenden. Es kümmert sich um den Download und die Ausführung des Modells.

Installation auf macOS

1. Öffne einen Browser und gehe zur Ollama-Website.
2. Klicke auf “Download” und wähle “macOS”.
3. Lade die .dmg-Datei herunter.
4. Öffne die heruntergeladene Datei und ziehe das Ollama-Symbol in den “Programme”-Ordner.
5. Öffne Ollama aus dem Programme-Ordner. Du solltest ein kleines Lama-Symbol in deiner Menüleiste sehen.

Installation auf Windows

1. Besuche die Ollama-Website.
2. Lade die Windows-Version herunter.
3. Führe den Installer aus und folge den Anweisungen.
4. Nach der Installation sollte Ollama automatisch im Hintergrund starten. Du findest es im System-Tray (rechts unten bei der Uhr).

Installation auf Linux

1. Öffne ein Terminal-Fenster.
2. Führe den folgenden Befehl aus:

curl -fsSL https://ollama.ai/install.sh | sh

3. Starte Ollama mit:

ollama serve

Schritt 2: DeepSeek R1 herunterladen und einrichten

Nachdem Ollama installiert und gestartet ist, kann das DeepSeek R1 Modell heruntergeladen werden:

1. Öffne ein Terminal-Fenster:
   • macOS: Drücke Cmd+Leertaste, tippe “Terminal” und drücke Enter
   • Windows: Drücke Windows+R, tippe “cmd” und drücke Enter
   • Linux: Drücke Ctrl+Alt+T oder nutze dein Terminal-Programm
2. Gib folgenden Befehl ein, um das DeepSeek R1 7B-Modell herunterzuladen (oder wähle eine andere Größe, je nach deiner Hardware)

ollama pull deepseek-r1:7b

Für leistungsstärkere Computer kannst du größere Modelle wählen:

ollama pull deepseek-r1:14b

ollama pull deepseek-r1:32b

3. Warte, bis der Download abgeschlossen ist. Dies kann einige Minuten bis Stunden dauern, je nach Internetgeschwindigkeit und Modellgröße.

Schritt 3: DeepSeek R1 ausführen

Sobald das Modell heruntergeladen ist, kannst du es starten:

1. Im Terminal gib ein:

ollama run deepseek-r1:xx

Ersetze xx durch die Modellgröße, die du heruntergeladen hast (7b, 14b, 32b etc.)

2. Du siehst nun eine Eingabeaufforderung. Hier kannst du Fragen stellen oder Aufgaben formulieren:

>>> Löse diese Gleichung: 3x + 7 = 28

3. DeepSeek R1 wird antworten. Das Besondere: Bei komplexen Fragen siehst du zunächst den Denkprozess (mit dem Tag “thinking”), bevor die endgültige Antwort kommt.

Anpassen des Modellverhaltens

Du kannst das Verhalten des Modells mit speziellen Parametern anpassen. Zum Beispiel:

ollama run deepseek-r1:7b --temperature 0.2

Die Temperature steuert die Kreativität des Modells. Niedrigere Werte (nahe 0) führen zu konsistenteren, weniger kreativen Antworten, während höhere Werte (maximal 1) kreativere Antworten erzeugen.

Eine benutzerfreundliche Oberfläche mit AnythingLLM einrichten

Das Terminal ist nicht für jeden Anwender die beste Umgebung. Zum Glück gibt es mit AnythingLLM eine benutzerfreundliche grafische Benutzeroberfläche, mit der du DeepSeek R1 wie einen normalen Chat-Client nutzen kannst.

Schritt 1: AnythingLLM herunterladen und installieren

Installation für macOS:

1. Besuche die AnythingLLM GitHub-Seite
2. Lade die macOS-Version herunter (endet mit .dmg)
3. Öffne die heruntergeladene .dmg-Datei
4. Ziehe das AnythingLLM-Symbol in deinen Programme-Ordner
5. Öffne AnythingLLM aus dem Programme-Ordner
6. Bei einer Sicherheitswarnung: Öffne die Systemeinstellungen → Sicherheit & Datenschutz → klicke auf “Öffnen erlauben”

Installation für Windows:

1. Besuche die offizielle AnythingLLM GitHub-Seite
2. Scrolle zur neuesten Version und lade die Windows-Datei herunter (endet mit .exe)
3. Führe die heruntergeladene .exe-Datei aus
4. Folge dem Installationsassistenten
5. Nach der Installation sollte AnythingLLM automatisch starten

Installation für Linux:

1. Besuche die AnythingLLM GitHub-Seite
2. Lade die Linux-Version herunter (endet mit .AppImage)
3. Öffne ein Terminal an dem Ort, wo die Datei gespeichert ist
4. Mache die Datei ausführbar:

chmod +x AnythingLLM*.AppImage

5. Führe die AppImage-Datei aus:

./AnythingLLM*.AppImage

Schritt 2: Ersteinrichtung von AnythingLLM

Wenn du AnythingLLM zum ersten Mal startest, siehst du einen Einrichtungsassistenten:

1. Wähle deine Sprache (idealerweise Deutsch oder Englisch)
2. Wähle die lokale Installation (nicht die Cloud-Version)
3. Erstelle einen Nutzernamen und ein Passwort für den Admin-Zugang
   • Diese Daten werden nur lokal gespeichert und schützen deinen Zugang
   • Vergiss dein Passwort nicht!
4. Klicke auf “Einrichtung abschließen”
5. Du wirst automatisch in das AnythingLLM-Dashboard weitergeleitet

Schritt 3: Workspace erstellen für DeepSeek R1

1. Klicke in der linken Seitenleiste auf “Neuer Workspace”
2. Gib deinem Workspace einen Namen (z.B. “DeepSeek R1 Chat”)
3. Optional: Füge eine Beschreibung hinzu
4. Lass die anderen Einstellungen erstmal unverändert
5. Klicke auf “Workspace erstellen”

Schritt 4: DeepSeek R1 in AnythingLLM einrichten

Jetzt kommt der wichtigste Teil – die Verbindung zu DeepSeek R1:

1. Klicke in deinem neuen Workspace auf das Zahnrad-Symbol ⚙️ (rechts oben in der Workspace-Karte)
2. Scrolle nach unten zum Abschnitt “LLM-Einstellungen”
3. Wähle bei “LLM-Provider” die Option “Ollama” aus
4. Bei “Ollama URL” gibst du ein:

http://localhost:11434

5. Bei “Ollama Modell” wähle dein installiertes DeepSeek R1-Modell aus der Dropdown-Liste:

• deepseek-r1:7b (oder die Version, die du installiert hast)
• Falls das Modell nicht angezeigt wird, stelle sicher, dass Ollama läuft und das Modell installiert ist

6. Passe folgende Einstellungen an:

• Temperature: 0.1 bis 0.3 für logische Antworten, 0.7 bis 0.9 für kreativere Antworten
• System Prompt: Hier kannst du Anweisungen für das Modell hinterlegen, z.B.:Copy codeDu bist DeepSeek R1, ein hilfreicher, respektvoller und ehrlicher KI-Assistent. Beantworte die Fragen des Nutzers so genau und hilfreich wie möglich. Wenn du etwas nicht weißt, gib das zu, anstatt falsche Informationen zu erfinden.

7. Scrolle nach unten und klicke auf “Speichern”

Schritt 5: DeepSeek R1 über AnythingLLM nutzen

Jetzt kannst du mit DeepSeek R1 über die benutzerfreundliche Oberfläche von AnythingLLM kommunizieren:

1. Klicke auf deinen Workspace, um ihn zu öffnen.
2. Du siehst nun die Chat-Oberfläche.
3. Unten befindet sich ein Eingabefeld, in das du deine Fragen oder Anweisungen eingeben kannst.
4. Tippe eine Nachricht ein, z.B.:

Kannst du mir erklären, was ein Reasoning-Modell ist und was DeepSeek R1 besonders macht?

5. Drücke die Eingabetaste oder klicke auf den Senden-Button.

DeepSeek R1 wird nun deine Frage verarbeiten und antworten. Da die Verarbeitung lokal auf deinem Computer erfolgt, kann dies je nach Modellgröße und Hardware einige Sekunden bis Minuten dauern.

Dokumenten-Upload (optional)

Ein großartiges Feature von AnythingLLM ist die Möglichkeit, Dokumente hochzuladen und DeepSeek R1 darauf zugreifen zu lassen:

1. Gehe in deinen Workspace
2. Klicke auf den Button “Dokumente” (oder “Documents”) in der oberen Leiste
3. Klicke auf “Dokument hochladen”
4. Wähle eine PDF-, TXT- oder DOCX-Datei aus
5. Nach dem Upload wird das Dokument verarbeitet und in Chunks aufgeteilt
6. Jetzt kannst du im Chat Fragen zu dem Dokument stellen, z.B.:

Kannst du mir eine Zusammenfassung des Dokuments geben, das ich gerade hochgeladen habe?

Lokale Installation mit Pinokio

Schritt 1: Pinokio herunterladen und installieren

1. Öffne deinen Browser und gehe zur offiziellen Pinokio-Website
2. Klicke auf den “Download”-Button und wähle die Version für dein Betriebssystem:
   • Windows: .exe Datei
   • macOS: .dmg Datei
   • Linux: .AppImage Datei

Installation für macOS:

1. Öffne die heruntergeladene .dmg-Datei
2. Ziehe das Pinokio-Symbol in deinen Programme-Ordner
3. Öffne Pinokio aus dem Programme-Ordner
4. Bei Sicherheitswarnungen: Öffne Systemeinstellungen → Sicherheit & Datenschutz → Klicke auf “Trotzdem öffnen”

Installation für Windows:

1. Führe die heruntergeladene .exe-Datei aus
2. Wenn eine Sicherheitswarnung erscheint, klicke auf “Weitere Informationen” und dann “Trotzdem ausführen”
3. Folge dem Installationsassistenten und akzeptiere die Standard-Einstellungen
4. Nach Abschluss der Installation startet Pinokio automatisch

Installation für Linux:

1. Mache die heruntergeladene .AppImage-Datei ausführbar:

chmod +x Pinokio*.AppImage

2. Starte die Anwendung mit:

./Pinokio*.AppImage

Schritt 2: Erste Einrichtung von Pinokio

Wenn Pinokio zum ersten Mal startet, öffnet sich ein Browserfenster mit der Pinokio-Benutzeroberfläche:

1. Du siehst die Pinokio-Startseite mit verschiedenen App-Karten
2. Wichtig: Pinokio läuft als lokaler Server auf deinem Computer, ist aber über den Browser zugänglich
3. Die Standard-Adresse ist http://localhost:6060 – merke dir diese für später

Schritt 3: DeepSeek R1 über Pinokio installieren

So installierst du DeepSeek R1:

1. In der Pinokio-Benutzeroberfläche, suche nach “DeepSeek” im Suchfeld oben oder scrolle durch die verfügbaren Apps
2. Klicke auf die Karte “DeepSeek R1 Chat” (oder ähnlicher Name, je nach aktueller Version)
3. Klicke auf den “Install”-Button
4. Pinokio zeigt dir einen Installationsbildschirm mit Details zu DeepSeek R1
5. Klicke auf “Start Installation”
6. Pinokio beginnt nun automatisch:
   • Die notwendigen Pakete herunterzuladen
   • Python-Umgebung einzurichten
   • DeepSeek R1 zu installieren
   • Abhängigkeiten zu konfigurieren
7. Während der Installation wirst du aufgefordert, eine Modellgröße auszuwählen.
8. Der Download des Modells beginnt. Dies kann je nach Modellgröße und Internetgeschwindigkeit 5-30 Minuten dauern.
9. Nach Abschluss des Downloads wird das Modell automatisch entpackt und konfiguriert.
10. Pinokio zeigt die Meldung “Installation completed” an, wenn alles erfolgreich war.

Schritt 4: DeepSeek R1 in Pinokio starten und nutzen

Jetzt ist alles bereit, um DeepSeek R1 zu starten:

1. Gehe zur Pinokio-Hauptseite, indem du auf “Home” oder das Pinokio-Logo klickst
2. Suche die Karte “DeepSeek R1 Chat” und klicke darauf
3. Klicke auf den “Run”-Button (oder “Start”, je nach Version)
4. Pinokio startet nun das DeepSeek R1 Modell im Hintergrund
5. Nach 10-30 Sekunden (je nach Hardware) öffnet sich die Chat-Oberfläche

Grundlegende Verwendung:

1. In der Chat-Oberfläche siehst du ein Eingabefeld am unteren Rand
2. Gib deine Frage oder Anweisung ein, z.B.:

Erkläre mir, was DeepSeek R1 ist und worin es sich von anderen KI-Modellen unterscheidet.

3. Drücke Enter oder klicke auf den Senden-Button

DeepSeek R1 beginnt nun mit der Verarbeitung deiner Anfrage

Andere Optionen zur lokalen Installation von DeepSeek R1

Es noch weitere Möglichkeiten, DeepSeek R1 lokal zu installieren und zu nutzen:

LM Studio

LM Studio ist eine Anwendung mit einer benutzerfreundlichen Oberfläche, die das Ausführen von KI-Modellen auf deinem Computer erleichtert. Es unterstützt verschiedene DeepSeek R1 Modellgrößen und bietet eine Chat-Oberfläche.

Installation:

1. Besuche die LM Studio Website und lade die Anwendung für dein Betriebssystem herunter
2. Installiere und starte LM Studio
3. Gehe zum “Models”-Tab und suche nach “DeepSeek R1”
4. Lade die gewünschte Modellgröße herunter
5. Starte einen Chat mit dem heruntergeladenen Modell

Text Generation WebUI

Dieses Open-Source-Projekt bietet eine umfangreiche Weboberfläche zum Ausführen von Sprachmodellen lokal. Es ist etwas komplexer einzurichten, bietet aber viele Anpassungsmöglichkeiten.

Installation:

1. Clone das GitHub-Repository oder lade es hier herunter
2. Installiere die erforderlichen Abhängigkeiten mit pip
3. Starte die Anwendung und öffne sie im Browser
4. Lade das DeepSeek R1 Modell herunter und konfiguriere es

GPT4All

GPT4All ist eine Plattform, die das lokale Ausführen verschiedener Sprachmodelle ermöglicht, einschließlich DeepSeek R1.

Installation:

1. Lade GPT4All von der offiziellen Website herunter
2. Installiere die Anwendung
3. Öffne GPT4All und gehe zum “Models”-Tab
4. Suche nach “DeepSeek R1” und lade das gewünschte Modell herunter
5. Starte einen Chat mit dem Modell

Häufig gestellte Fragen zur lokalen Installation von DeepSeek