DSGVO-konforme KI: Prompts und personenbezogene Daten auf Ihren eigenen Servern.
Nach der DSGVO ist jeder Prompt mit personenbezogenen Daten eine Verarbeitung. Wer ihn an einen gehosteten Modellanbieter schickt, braucht einen Auftragsverarbeiter, eine Prüfung der Datenübermittlung und viel Vertrauen. Offene Modelle auf Ihren eigenen Servern halten diese Daten unter Ihrer Kontrolle, am Standort Ihrer Wahl.
Das Problem mit gehosteter KI und personenbezogenen Daten
Wenn ein Mitarbeiter eine Kunden-E-Mail, einen Lebenslauf oder eine Arztnotiz in einen gehosteten Chatbot einfügt, verarbeitet der KI-Anbieter diese personenbezogenen Daten. Für Ihren Datenschutzbeauftragten wirft das Fragen auf:
- Wer ist Auftragsverarbeiter, und deckt ein Auftragsverarbeitungsvertrag diese Nutzung ab?
- Wo werden die Daten verarbeitet, und verlassen sie die EU?
- Wie lange werden sie gespeichert, und werden sie zum Training oder zur Verbesserung von Modellen verwendet?
- Können Sie Auskunfts- und Löschersuchen für Daten in Prompts erfüllen?
Enterprise-Tarife beantworten einen Teil dieser Fragen vertraglich. Selbst gehostete KI beantwortet sie technisch: Die Daten gehen gar nicht erst dorthin.
Wie Loadcore Daten am Ort hält
Loadcore teilt die Plattform in zwei Pfade:
| Inferenzpfad | Steuerungspfad | |
|---|---|---|
| Inhalt | Prompts, Antworten, Streaming-Ausgabe | Heartbeats, Download-Fortschritt, Instanzstatus, Schlüsselprüfungen |
| Läuft auf | Ihren GPU-Servern | Der verwalteten Loadcore-Steuerungsebene |
| Personenbezogene Daten in Prompts | Bleiben auf Ihren Servern | Werden nie empfangen |
Modellgewichte werden direkt von Hugging Face auf Ihren Server heruntergeladen. Die Steuerungsebene weiß, welche Server und Modelle es gibt und wer sie nutzen darf, mehr nicht.
Datenminimierung von Anfang an
- Zugriff pro Abteilung: Mitglieder erreichen nur die Modelle, die ihrer Abteilung freigegeben sind. Das unterstützt die Zweckbindung.
- Persönliche API-Schlüssel: Jede Anfrage ist einer Person zugeordnet, Schlüssel werden nur einmal angezeigt, als Hash gespeichert und lassen sich jederzeit widerrufen.
- Keine Prompt-Speicherung in der Plattform: Loadcore hat keine Kopie Ihrer Prompts, die abfließen, beschlagnahmt oder für Training genutzt werden könnte.
- Analytics ohne Cookies: Die Loadcore-Website und die Console nutzen in der EU gehostete Analytics mit Textmaskierung und ohne Cookies.
Wählen Sie Ihren Standort
Da die Inferenz dort läuft, wo der Agent läuft, bestimmen Sie die Rechtsordnung. Nutzen Sie Server im eigenen Rechenzentrum, bei einem europäischen Colocation-Anbieter oder in einer EU-Region des Cloud-Anbieters, den Sie ohnehin verwenden.
Für Ihren Datenschutzbeauftragten
Unsere Datenschutzseite listet genau auf, was Loadcore heute speichert. Bei Fragen zu den Daten, die Loadcore verarbeitet, schreiben Sie an privacy@loadcore.io.
Weiterführend
Erfahren Sie, wie On-Premise LLM Hosting mit Loadcore funktioniert, oder sehen Sie, wie private KI im Gesundheitswesen und in Kanzleien aussieht.
Häufige Fragen
Macht uns Loadcore DSGVO-konform?
Kein Tool macht Sie allein konform. Die Konformität hängt von Ihren Zwecken, Rechtsgrundlagen, Aufbewahrungsfristen und Sicherheitsmaßnahmen ab. Loadcore verändert den Datenfluss: Prompts und Antworten werden auf Ihren Servern verarbeitet und weder an Loadcore noch an einen Modellanbieter gesendet. Dadurch entfällt ein großer Teil der Prüfung.
Welche personenbezogenen Daten verarbeitet Loadcore selbst?
Für den Betrieb des Dienstes speichert die Steuerungsebene Kontodaten (Name, E-Mail und Anmeldemethode), Ihre Organisationsstruktur, vom Agent gemeldete Serverdaten (Hostname, Port, öffentliche IP, Betriebssystem und GPU) sowie Metadaten zu API-Schlüsseln. Schlüssel werden als Hash gespeichert. Prompts, Antworten oder Modellgewichte erhält die Steuerungsebene nie.
Können wir wählen, wo die Inferenz läuft?
Ja. Die Inferenz läuft auf dem Server, auf dem Sie den Agent starten: im eigenen Rechenzentrum, in einer Colocation oder auf einem GPU-Server in einer Cloud-Region Ihrer Wahl, zum Beispiel innerhalb der EU.
Wie sieht es mit dem EU AI Act aus?
Die meisten Pflichten des EU AI Act hängen davon ab, wofür Sie KI einsetzen, nicht davon, wo sie läuft. Beim Selbst-Hosting haben Sie jedoch volle Kontrolle darüber, welche Modellversion im Einsatz ist, wer Zugriff hat und wie sie konfiguriert ist. Das erleichtert die Dokumentation Ihres Einsatzes.
Starten Sie heute Ihr erstes Modell.
Registrieren Sie einen GPU-Server, laden Sie ein offenes Modell und geben Sie Ihrem Team einen API-Schlüssel.