hyggecloud / ki & eu ai act
KI nutzen, ohne Ihre Daten zu verschenken
Jeder Prompt an eine US-API ist ein Datentransfer. Für viele Anwendungsfälle gibt es inzwischen eine bessere Antwort: Open-Weight-Modelle auf eigener europäischer Infrastruktur — mit voller Kontrolle über Daten, Kosten und Verfügbarkeit. Wir bauen solche Setups. Und wir sagen ehrlich, wann sich das lohnt und wann nicht.
Warum Self-Hosting
Drei Gründe, KI ins eigene Haus zu holen
Ihre Prompts bleiben Ihre Prompts
Verträge, Patientendaten, Quellcode, M&A-Dokumente: Vieles darf schlicht nicht an externe APIs. Ein selbst gehostetes Modell verlässt Ihr Netzwerk nie — kein Drittlandtransfer, keine Trainings-Nutzung Ihrer Daten, keine Retention-Diskussion.
API-Tokens sind das neue Egress
Bei sporadischer Nutzung sind APIs unschlagbar günstig. Aber sobald KI in Ihre Kernprozesse wandert (Dokumenten-Verarbeitung, Support, Suche), kippt die Rechnung — eine dedizierte GPU bei einem EU-Provider kostet fix, egal wie viele Tokens durchlaufen.
Kein Modell-Rückzug, keine Preiserhöhung per E-Mail
API-Anbieter deprecaten Modelle, ändern Preise und Nutzungsbedingungen einseitig. Ein Open-Weight-Modell, das heute bei Ihnen läuft, läuft auch in fünf Jahren noch — exakt so, wie Sie es validiert haben. Für regulierte Prozesse ist diese Reproduzierbarkeit Gold wert.
Der Stack
So sieht ein souveränes KI-Setup aus
# GPU-Node provisionieren (EU-RZ) ........ ✓ 2× L40S
# Inference-Server (vLLM) ................ ✓ OpenAI-kompatible API
# Modell laden ........................... ✓ open-weight, EU-gehostet
# RAG: Embeddings + pgvector ............. ✓ 120k Dokumente
# Auth & Audit-Log ....................... ✓ SSO, vollständig
➜ Datentransfer in Drittländer: 0 Byte
➜ Kosten: fix/Monat statt pro Token
Die Bausteine
- GPU-Infrastruktur in der EU — dedizierte GPU-Server oder -Instanzen bei europäischen Providern (u. a. OVHcloud, Scaleway, Hetzner), je nach Modellgröße und Last
- Inference-Server — vLLM oder Ollama mit OpenAI-kompatibler API: Ihre Anwendungen sprechen denselben Standard wie vorher, nur der Endpoint wechselt
- Open-Weight-Modelle — je nach Aufgabe: europäische Modelle (z. B. Mistral 🇫🇷) oder andere offene Gewichte, ausgewählt nach Benchmark auf Ihren Aufgaben, nicht nach Leaderboard-Hype
- RAG statt Fine-Tuning — Ihre Dokumente per Embedding-Suche (pgvector/Qdrant) anbinden: aktueller, günstiger und erklärbarer als Training
- Betrieb wie jede andere Workload — Monitoring, Backups, Updates über unseren Standard-Stack, auf Wunsch als Hygge Care
Regulierung
Der EU AI Act — was er für Anwender bedeutet
Der AI Act ist seit August 2024 in Kraft und greift gestaffelt. Die meisten Unternehmen sind nicht „Anbieter" von KI-Systemen, sondern „Betreiber" (Deployer) — mit eigenen, gut erfüllbaren Pflichten. Ein Überblick, keine Rechtsberatung:
| Risikoklasse | Beispiele | Was gilt | Praxis-Konsequenz |
|---|---|---|---|
| Verbotene Praktiken | Social Scoring, manipulative Systeme, ungezieltes Gesichtsdaten-Scraping | verboten (seit Feb 2025) | Für normale Unternehmens-KI irrelevant — einfach nicht tun. |
| Hochrisiko-Systeme | KI in Bewerbungsauswahl, Kreditvergabe, kritischer Infrastruktur, Medizin | strenge Pflichten (Risikomanagement, Doku, menschliche Aufsicht, Logging) | Betrifft Sie v. a. als Betreiber: Nutzung dokumentieren, Aufsicht sicherstellen, Logs aufbewahren. |
| Begrenztes Risiko | Chatbots, generierte Inhalte | Transparenzpflichten | Kennzeichnen, dass KI im Spiel ist. Machbar. |
| Minimales Risiko | Spam-Filter, interne Textzusammenfassungen, Code-Assistenz | keine besonderen Pflichten | Der Großteil des betrieblichen KI-Einsatzes landet hier. |
// Vereinfachte Darstellung, Stand Juli 2026 · keine Rechtsberatung · Einstufung Ihres Einzelfalls gehört in juristische Hände
Wo Self-Hosting hilft
Viele AI-Act- und DSGVO-Pflichten (Logging, Reproduzierbarkeit, Datenkontrolle, Aufbewahrung) sind mit eigener Infrastruktur leichter nachweisbar als mit einer Black-Box-API: Sie kontrollieren Modellversion, Logs und Datenflüsse vollständig.
Was wir beitragen
Technische Grundlage für Ihre Compliance: versionierte Modell-Deployments, vollständige Audit-Logs, Zugriffskonzepte, dokumentierte Datenflüsse — abgestimmt mit Ihrem DSB oder Ihrer Kanzlei.
Was wir nicht tun
Risikoklassen-Einstufung und rechtliche Bewertung Ihres KI-Einsatzes. Das ist Anwaltsarbeit — wir liefern die technische Faktenbasis, auf der diese Bewertung stehen kann.
Typische Fälle
Wofür unsere Kunden eigene KI betreiben
- Interne Dokumenten-Suche (RAG): „Frag unsere 20 Jahre Projektdokumentation" — ohne dass ein Dokument das Haus verlässt.
- Support-Vorqualifizierung: Tickets zusammenfassen, klassifizieren, Antwortentwürfe — mit Kundendaten, die intern bleiben müssen.
- Verarbeitung sensibler Dokumente: Verträge, Bewerbungen, medizinische Texte — Anwendungsfälle, die mit US-APIs gar nicht erst durch den Datenschutz kommen.
- Code-Assistenz für sensible Repos: Autocomplete und Review-Hilfe, ohne proprietären Quellcode an Dritte zu streamen.
„Die spannendste Eigenschaft eines selbst gehosteten Modells ist nicht der Benchmark-Score.
Es ist der Satz, den Sie Ihrem größten Kunden sagen können: ‚Ihre Daten verlassen unser Rechenzentrum nicht. Punkt.'"
— Das HyggeCloud-Prinzip
KI ja — aber auf Ihren Servern?
Wir prüfen Ihren Use Case, rechnen API vs. Self-Hosting ehrlich durch und bauen das Setup, wenn es sich trägt. Und wenn nicht, sagen wir Ihnen das im Erstgespräch — kostenlos.
→ KI-Use-Case besprechen30 Minuten · unverbindlich · Tokens mitbringen lohnt sich