OCTOO AI Unabhängiges KI-Labor

Anleitung

Eigener KI-Server und DSGVO: was er für den Datenschutz löst

Mit einem eigenen KI-Server in Deutschland fallen die größten DSGVO-Sorgen weg: Kein Modellanbieter liest mit, das Modell braucht keinen Transfer in die USA, und Sie entscheiden, was gespeichert wird. Was das für Verträge, Logs, Löschung und die DSFA bedeutet und was bei Ihnen bleibt.

Von Aktualisiert 5 Min. Lesezeit

Ihr eigener GPU-Server in Deutschland betreibt das Modell, Sie entscheiden über Logs und löschen den Verlauf selbst. Modellanbieter, Anbieter-Logs und Transfer in die USA entfallen.

Die meisten Datenschutzsorgen rund um KI laufen auf eine Frage hinaus: Wer sieht die Daten sonst noch? Bei ChatGPT und anderen KI-Diensten aus der Cloud geht jeder Prompt an den Anbieter. Bei einem LLM auf Ihrem eigenen GPU-Server bleibt er bei Ihnen. Diese eine Änderung klärt die schwierigsten Fragen.

Was sich ändert, wenn das Modell auf Ihrem Server läuft

Die Datenschutzkonferenz (DSK), das gemeinsame Gremium der deutschen Aufsichtsbehörden, hält technisch geschlossene KI-Systeme für vorzugswürdig. Geschlossen heißt: Die KI läuft in einer abgeschotteten Umgebung, nur ein kleiner Kreis nutzt sie, die Nutzer haben Ein- und Ausgaben im Griff, und der Anbieter trainiert nicht damit. Die abgeschottete Umgebung liefert Ihr eigener Server. Wer einen Zugang bekommt, bestimmen Sie.

Modell-API (zum Beispiel OpenAI) Eigener GPU-Server
Wo Prompts verarbeitet werden Auf den Servern des Anbieters Auf Ihrem Server in Deutschland
Was gespeichert wird Was die Bedingungen des Anbieters vorsehen Was Sie festlegen
Transfer in die USA Bei US-Anbietern häufig Für das Modell keiner
Auftragsverarbeitungsvertrag Mit dem API-Anbieter Mit dem Rechenzentrum und dem, der den Server wartet

Mit dem eigenen Server hängen Sie an weniger fremden Zusagen.

Drittlandtransfer: für das Modell kein Thema

Personenbezogene Daten dürfen die EU nur unter strengen Bedingungen verlassen. Für die USA gilt dafür das EU-U.S. Data Privacy Framework von 2023. Auch die EU-Region eines US-Anbieters löst das nicht ganz: Nach einem US-Gesetz, dem CLOUD Act, kann der Anbieter verpflichtet werden, Daten herauszugeben, die er kontrolliert, egal wo sie liegen.

Bei einem dedizierten Server eines europäischen Anbieters stellt sich diese Frage für das Modell nicht. Hetzner verarbeitet und speichert die Daten seiner dedizierten Server nach eigener Angabe nur in der EU, und Ihr Server steht in Deutschland.

Wer mit wem einen AVV braucht

Wer eine KI nur für eigene Zwecke betreibt, bleibt in der Regel alleiniger Verantwortlicher, also derjenige, der über die Daten entscheidet. Einen Auftragsverarbeitungsvertrag (AVV) brauchen Sie mit jedem, der die Daten in Ihrem Auftrag verarbeitet.

Hardware im eigenen Haus braucht in der Regel keinen AVV; ein gemieteter dedizierter Server braucht einen mit dem Rechenzentrum; wer den Server mit Admin-Zugang wartet, ebenfalls.
Welche AVV Sie brauchen, hängt davon ab, wo der Server steht und wer ihn wartet.

Beim gemieteten Server brauchen Sie zwei. Einen mit dem Rechenzentrum, denn Hosting gilt als Auftragsverarbeitung, auch wenn das Rechenzentrum nie in Ihre Daten schaut; bei Hetzner schließen Sie ihn im Kundenkonto ab. Den zweiten mit dem Dienstleister, der den Server wartet. Bei Private AI sind das wir, und wir schließen mit jedem Kunden einen AVV ab.

Logs und Verläufe: Sie entscheiden, was bleibt

Bei einer API entscheidet der Anbieter, was er protokolliert. Auf Ihrem eigenen Server entscheiden Sie. Auf einem Private-AI-Server werden Prompts und Antworten nicht protokolliert, solange Sie nichts anderes festlegen. Wir warten die Maschine, also Updates, Auslastung, Speicherplatz und Zustand, nicht Ihre Gespräche.

Für Chatverläufe in Dienstkonten empfiehlt die DSK eine datenschutzfreundliche Voreinstellung: keine Historie über die Sitzung hinaus, außer die Person möchte sie behalten. Backups sind auch Kopien und gehören ins Löschkonzept.

Löschen und Auskunft

Jeder kann fragen, was Sie über ihn speichern, und die Löschung verlangen. Auf einem eigenen Server wird das deutlich einfacher: Verläufe, hochgeladene Dateien und Suchindizes liegen auf Datenträgern, die Sie kontrollieren. Sie finden die Daten einer Person, löschen sie und können das belegen.

Das Modell selbst lernt nur dann aus Ihren Daten, wenn Sie es nachtrainieren. Ein Feintuning mit LoRA erzeugt eine kleine Adapter-Datei neben dem Basismodell. Verlangt jemand die Löschung, entfernen Sie seinen Datensatz, trainieren den Adapter neu und löschen den alten.

Ob ein Modell Antworten verweigert, ist keine Datenschutzmaßnahme. Datenschutz entsteht dadurch, wer Zugriff hat, was gespeichert wird und wie Sie löschen. Das gilt für unzensierte Modelle genauso.

Wann Sie eine Datenschutz-Folgenabschätzung brauchen

Eine Datenschutz-Folgenabschätzung (DSFA) ist eine schriftliche Risikoprüfung. Sie ist Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt. Bei KI erwartet die DSK das vielfach, und ihre Liste der Fälle, die immer eine DSFA brauchen, nennt KI, die mit Kunden kommuniziert oder Personen bewertet.

Ein Kundenchat braucht also meist eine DSFA, ein internes Werkzeug, das technische Handbücher zusammenfasst, meist nicht. Entscheidend ist, was die KI tut. Der eigene Server macht die DSFA leichter: Sie wissen, wohin die Daten fließen, was gespeichert wird und wer Zugriff hat, und müssen sich nicht auf die Unterlagen eines Anbieters verlassen.

Was bei Ihnen bleibt

Der eigene Server nimmt den Anbieter aus dem Spiel. Die alltägliche Datenschutzarbeit bleibt bei Ihnen, wie bei jeder Software mit personenbezogenen Daten:

  • Festlegen, wofür die KI da ist und auf welcher Rechtsgrundlage Sie personenbezogene Daten nutzen.
  • Die KI in der Datenschutzerklärung erwähnen.
  • Auskunfts- und Löschanfragen beantworten.
  • Die KI ins Verzeichnis der Verarbeitungstätigkeiten aufnehmen. Der Eintrag ist kurz: weniger Empfänger, kein Drittland für das Modell.
  • Prüfen, was die KI über Personen sagt, bevor Sie sich darauf verlassen.
  • Die KI nicht allein über Menschen entscheiden lassen, etwa darüber, wer zum Vorstellungsgespräch eingeladen wird.
  • Eine Datenpanne innerhalb von 72 Stunden der Aufsichtsbehörde melden.

Private AI: Ihre eigene KI auf einem Server in Deutschland

Genau das baue ich mit Private AI. Ihre eigene KI läuft auf einem dedizierten GPU-Server bei Hetzner in Deutschland, mit offenen Modellen, auf Wunsch auch unzensiert, angepasst an Ihre Daten und vor dem Start mit Ihren eigenen Fragen getestet. Kein Modellanbieter dazwischen. Prompts und Antworten werden auf Ihrem Server verarbeitet und nicht protokolliert, solange Sie nichts anderes festlegen. Sie bekommen eine private Chat-Oberfläche und eine API für Ihre eigenen Werkzeuge und Agenten.

Wir schließen mit jedem Kunden einen AVV ab und behalten für die Wartung einen Admin-Zugang, bis Sie die vollständige Übergabe wünschen. Dann gehören Root-Zugang und alle Schlüssel allein Ihnen. Das erste Gespräch ist kostenlos: Private AI.

Häufige Fragen

Ist lokale KI DSGVO-konform?

Sie löst die größten Fragen: Kein Modellanbieter sieht Ihre Prompts, und mit dem Server in der EU braucht das Modell keinen Transfer in die USA. Rechtsgrundlage, Information der Betroffenen und Löschkonzept bleiben bei Ihnen, wie bei jeder Software mit personenbezogenen Daten.

Brauche ich einen AVV, wenn ich ein LLM selbst hoste?

Steht die Hardware im eigenen Haus und kommt niemand von außen an die Daten, in der Regel nicht. Bei einem gemieteten Server brauchen Sie einen AVV mit dem Rechenzentrum (Hetzner bietet ihn im Kundenkonto an) und einen mit dem Dienstleister, der den Server mit Admin-Zugang wartet. Bei Private AI schließen wir ihn mit jedem Kunden ab.

Ist ChatGPT DSGVO-konform?

Das hängt von Produkt, Vertrag und Nutzung ab. Bei jeder KI-API gehen Ihre Prompts an den Anbieter und werden nach seinen Bedingungen behandelt, bei einem US-Anbieter kommt die Frage des Drittlandtransfers dazu. Mit einem eigenen Server in der EU stellt sich beides für das Modell nicht.

Brauche ich eine Datenschutz-Folgenabschätzung für KI?

Oft ja. Die Datenschutzkonferenz erwartet beim Einsatz von KI vielfach ein hohes Risiko, etwa bei einem Chat, der Kunden berät. Ob Sie eine brauchen, hängt davon ab, was die KI tut. Mit dem eigenen Server ist die DSFA leichter zu schreiben, weil Sie genau wissen, wohin die Daten fließen.

KI on premise oder gemieteter GPU-Server: was ist für den Datenschutz besser?

Beides funktioniert. Im eigenen Gebäude entfällt der AVV mit dem Rechenzentrum, dafür tragen Sie Strom, Kühlung und physische Sicherheit selbst. Ein dedizierter Server in einem deutschen Rechenzentrum braucht diesen AVV und lässt sich trotzdem als geschlossenes System betreiben, wie es die Datenschutzkonferenz bevorzugt.

Quellen

  1. Datenschutz-Grundverordnung (DSGVO), EUR-Lex eur-lex.europa.eu
  2. DSK: Orientierungshilfe Künstliche Intelligenz und Datenschutz, Mai 2024 datenschutzkonferenz-online.de
  3. DSK: Kurzpapier Auftragsverarbeitung datenschutzkonferenz-online.de
  4. DSK: Liste der Verarbeitungen, für die eine DSFA nötig ist (Muss-Liste) datenschutzkonferenz-online.de
  5. Hetzner Docs: Datenschutz bei Hetzner docs.hetzner.com

Hetzner ist eine Marke ihres Inhabers. Die Nennung bedeutet keine Empfehlung durch und keine Geschäftsbeziehung mit OCTOO AI.