Sovereign AI: KI-Infrastruktur unter Ihrer Kontrolle.
Ein Open-Weight-Sprachmodell auf einem dedizierten GPU-Server in Deutschland, betrieben von uns. Kein Modellanbieter dazwischen: Es arbeitet offline und antwortet nur unseren eigenen Systemen. Die Regeln bestimmen wir.
Wer entscheidet, was Ihre KI wissen, sagen und tun darf?
Kommt Ihre KI über die API eines anderen Unternehmens, entscheidet dieses Unternehmen: welche Modelle Sie bekommen, was sie antworten dürfen, was es kostet und was mit Ihren Daten geschieht.
Für vieles ist das in Ordnung. Das ändert sich, sobald Ihr Produkt, Ihre Forschung oder Ihr Betrieb davon abhängen.
Souveräne KI heißt: Der Betreiber entscheidet. Welches Modell läuft, wo es läuft, wie es sich verhält und was die Maschine nie verlässt.
Was heute läuft
Ein privates Modell hinter einer öffentlichen Figur.
Unser privates Modell treibt die Gesprächsebene von SOLLE AI an. Das Modell hat keinen öffentlichen Endpunkt und keine Verbindung zu einem Modellanbieter. Unsere eigenen Systeme erreichen es über einen privaten Tunnel.
Die Gewichte sind auf eine Version festgelegt und werden vor dem Laden geprüft. Das Modell ändert sich also nur, wenn wir es ändern. Sein Verhalten kommt aus unserer eigenen Konfiguration.
Der Aufbau im Detail: LLM selbst hosten mit vLLM auf einem Hetzner-GPU-Server.
Dasselbe bauen wir jetzt für andere: private KI auf einem dedizierten GPU-Server in Deutschland, mit Ihrem eigenen Modell, Ihren eigenen Regeln und Ihren Daten auf Ihrem Server.
- 01 Nachricht Jemand schreibt SOLLE.
- 02 Gateway Kommt auf einem Server an, den wir betreiben.
- 03 Regeln & Limits Unsere Regeln und Limits greifen.
- 04 Privater Tunnel Eingeschränkt, kein öffentlicher Zugang.
- 05 Open-Weight-Modell vLLM auf unserem GPU-Server, offline.
- 06 Antwort Auf demselben Weg zurück.
Datenblatt
- Hardware
- Dedizierter GPU-Server bei Hetzner in Deutschland: NVIDIA RTX 4000 SFF Ada mit 20 GB VRAM.
- Modell
- Qwen3-14B, ein Open-Weight-Modell, in einer kompakten 4-Bit-Fassung (AWQ).
- Bereitstellung
- vLLM, offline auf dem Server. Der Modellserver speichert keine Request-Logs.
- Zugriff
- Nur unsere eigenen Systeme, über einen privaten Tunnel. Kein öffentlicher Endpunkt.
- Verhalten
- Festgelegt durch unsere eigenen Vorgaben und Limits.
- Im Einsatz bei
- Talk to SOLLE, der Gesprächsebene von SOLLE AI.
- In Betrieb seit
- Juli 2026.
Was das nicht ist
- Ein Modell, das wir trainiert haben. Es ist ein Open-Weight-Modell, das wir konfigurieren.
- Eine öffentliche API. Es antwortet nur unseren eigenen Systemen.
- KI ohne Regeln. Sie hat Regeln, und es sind unsere.
Sie möchten das auf einem eigenen Server?
Private AI ansehen