Magazin
Eigene KI betreiben: Notizen aus dem Lab
Praxisnahe Anleitungen aus unserem Lab für Ihre eigene KI: welches LLM auf welche GPU passt, vLLM auf einem Hetzner-Server, unzensierte Modelle, DSGVO und KI-Agenten, die echte Arbeit erledigen. Dazu, warum ich diese Website nach zehn Jahren WordPress mit Astro neu gebaut habe.
Alle Artikel
-
Was ist Astro, und wie schneidet es gegenüber WordPress bei Tempo, SEO, Bearbeitung und Kosten ab?
Astro macht aus einer Website fertige HTML-Dateien, bevor jemand sie aufruft. WordPress baut eine Seite meist erst im Moment des Aufrufs. Dieser eine Unterschied erklärt fast den ganzen Vergleich, von Tempo und Sicherheit bis zu Bearbeitung und Kosten. Diese Website ist im September 2026 von WordPress zu Astro umgezogen.
-
Lokale KI-Agenten für Unternehmen: was sie sind und was sie auf dem eigenen Server leisten
Ein KI-Agent ist ein Sprachmodell mit Werkzeugen, das in einer Schleife arbeitet, bis die Aufgabe erledigt ist. Modell, Schleife und Ihre internen Werkzeuge passen auf einen eigenen Server, Ihre Dokumente und Tickets landen also bei keinem Modellanbieter. Hier lesen Sie, was ein Agent für Ihr Unternehmen leisten kann, welche Kontrollen er braucht und wann ein einfacher Workflow die bessere Wahl ist.
-
Ollama oder vLLM: womit Sie ein LLM auf dem eigenen Server betreiben und wann llama.cpp besser passt
Mit Ollama spricht ein Modell nach einem einzigen Befehl auf dem Laptop. vLLM ist dafür gebaut, viele Anfragen von einem GPU-Server aus zu bedienen. Dieser Ratgeber zeigt, was zu Ihrem Fall passt, mit Messwerten von dem vLLM-Server, den wir selbst betreiben.
-
Wie ein Modell sein „Nein“ verliert: Abliteration, Heretic und unzensierte LLMs
Abliteration entfernt die Verweigerungen eines KI-Modells direkt aus seinen Gewichten. Ohne neues Training, mit ein paar hundert Beispiel-Prompts und etwas linearer Algebra. Sorgfältig gemacht, beantwortet das Modell danach, was man es fragt, und behält fast alles, was es weiß.
-
Mehr als zehn Jahre in der WordPress-Welt: warum ich diese Website mit Astro und KI-Agenten neu gebaut habe
Mehr als zehn Jahre lang habe ich mit WordPress gearbeitet, ein darauf spezialisiertes Unternehmen geführt und auf dem WordCamp Europe gesprochen. KI hat den Abschied günstig gemacht. Gewollt habe ich ihn nach Jahren, in denen ich mein Geschäft auf einer fremden Plattform aufgebaut habe.
-
Welche offenen und unzensierten LLMs in 20, 24 oder 96 GB VRAM passen
Was wirklich auf eine GPU mit 20, 24 oder 96 GB passt, sobald Modelldatei, Kontext und alle gleichzeitigen Nutzer mitzählen.
-
Eigener KI-Server und DSGVO: was er für den Datenschutz löst
Mit einem eigenen KI-Server in Deutschland fallen die größten DSGVO-Sorgen weg: Kein Modellanbieter liest mit, das Modell braucht keinen Transfer in die USA, und Sie entscheiden, was gespeichert wird. Was das für Verträge, Logs, Löschung und die DSFA bedeutet und was bei Ihnen bleibt.
-
LLM selbst hosten mit vLLM auf einem Hetzner-GPU-Server: unser Setup
Wir betreiben ein Open-Weight-Modell, Qwen3-14B, auf einer gemieteten 20-GB-GPU bei Hetzner in Deutschland. Hier finden Sie den Befehl, mit dem es läuft, wohin der Speicher geht, wie schnell es antwortet und was ein GPU-Server bei Hetzner kostet.