Homelab · Proxmox · Local AI · Linux · Self-Hosting

Bau es selbst. Schritt für Schritt.

Praxisnahe Projekte, Experimente und Schritt-für-Schritt-Anleitungen — gebaut, getestet und dokumentiert.

Projekte entdecken So funktioniert's
SoftwareHardware

Ausgewählte Projekte

Jedes Projekt mit kompletter Anleitung: Voraussetzungen, Code, Fehlersuche und das fertige Ergebnis.

Software

Hermes Agent vom LLM zum KI-Agenten

In dieser Anleitung installieren wir den Hermes Agent in einer eigenen Debian-13-VM und verbinden ihn mit einer LLM API. Anschließend testen wir die Agentenfunktionen und richten Telegram ein, um Hermes auch vom Smartphone aus nutzen zu können.

6 Schritte
289 Views Anleitung lesen
Software

Bonsai 2 mit llama.cpp-Fork

In dieser Anleitung richten wir Bonsai 2 27B mit dem PrismML llama.cpp-Fork ein. Dabei konfigurieren wir die NVIDIA-GPU, installieren das Modell, testen die Performance und richten Bonsai 2 anschließend als dauerhaften llama-server mit systemd ein.

8 Schritte
434 Views Anleitung lesen
Software

Standard-llama.cpp für GGUF-Modelle

llama.cpp mit CUDA-Unterstützung einrichten und GGUF-Modelle lokal auf der NVIDIA-GPU ausführen. Von der Docker-Konfiguration bis zum ersten laufenden Local-LLM.

10 Schritte
466 Views Anleitung lesen
Software

NVIDIA-GPU unter Proxmox VE für einen LXC-Container einrichten

Diese Anleitung ist die Fortsetzung meines Artikels zur Proxmox-Grundinstallation. Nachdem Proxmox VE erfolgreich eingerichtet wurde, geht es jetzt darum, die NVIDIA RTX 3060 für meinen Local-AI-Server vorzubereiten und anschließend für den LXC-Container 101 verfügbar zu machen.

10 Schritte
584 Views Anleitung lesen
Software

Proxmox VE installieren – Das Fundament für deinen Local-AI-Server

Proxmox VE sauber installieren, mit den richtigen BIOS-Einstellungen und aktuellen Updates, der erste Schritt zum eigenen Local-AI-Server.

7 Schritte
804 Views Anleitung lesen
Themen →

So funktioniert eine Anleitung

Kein Fließtext ohne Ende. Jedes Projekt ist in klar abgegrenzte Schritte zerlegt.

  1. 01

    Voraussetzungen

    Alles, was du brauchst: Software, Hardware-Bauteile, Kosten. Einmal checken, dann los.

  2. 02

    Arbeitsschritte

    Nummeriert, mit Code, Screenshots und dem Warum hinter jeder Entscheidung.

  3. 03

    Fortschritt tracken

    Ein Klick pro erledigtem Schritt. Dein Fortschritt wird gespeichert — auch zwischen Geräten.

  4. 04

    Fertiges Ergebnis

    Am Ende das komplette Projekt als Download — Code, Bauplan, Konfiguration.

Loslegen.

Konto anlegen, Fortschritt speichern, Favoriten merken. Kein Abo, kein Spam.

Starten → Themen ansehen