Entscheidungshilfe KI unter Kontrolle des Unternehmens
Lokale KI oder Cloud-KI? So entscheiden Sie
Ein fairer Vergleich der drei Wege, auf denen ein Unternehmen KI betreiben kann, mit Kosten, Regeln und einer Entscheidung, der Sie Schritt für Schritt folgen können.
- Veröffentlicht
- Aktualisiert
- Lesezeit
- 8 Min. Lesezeit
- Verantwortlicher Redakteur
- David Lahuta
Kurz gesagt
- Entscheidend ist, welche Daten das Unternehmen verlassen dürfen, nicht welches Modell das beste ist.
- Sensible Daten und regelmäßige Nutzung sprechen für eigene Server oder eine europäische Cloud, gelegentliche Nutzung oder der Wunsch nach dem stärksten Modell für den Dienst eines Anbieters.
- Die Pflichten der KI-Verordnung (AI Act) für ein Unternehmen, das KI nutzt, sind bei jeder Option dieselben.17
Welche drei Optionen gibt es?
- Eigene Server (lokal, auch On-Premise). Ein offenes Modell, das jeder herunterladen darf, auf Hardware, die das Unternehmen besitzt oder ausschließlich für sich mietet.
- Eine europäische Cloud. Ein Anbieter betreibt das Modell in Rechenzentren in der EU nach EU-Recht.
- Der Dienst eines US-Anbieters. Der Business-Tarif oder die Programmierschnittstelle (API) eines US-amerikanischen KI-Unternehmens, mit oder ohne europäische Option für den Datenstandort.
Im Jahr 2025 nutzten 19,95 % der Unternehmen in der EU mit zehn oder mehr Beschäftigten KI.1 Von denen, die den Einsatz erwogen, aber nicht umgesetzt haben, nannten 70,89 % fehlendes Fachwissen, 52,52 % unklare rechtliche Folgen und 48,83 % den Datenschutz.1
Vergleich
| Kriterium | Eigene Server | Europäische Cloud | Dienst eines US-Anbieters |
|---|---|---|---|
| Kosten über mehrere Jahre | Hardware oder Miete, dann Strom und Arbeitszeit. Bleibt flach, wenn die Nutzung wächst | Nach Nutzung oder reservierter Kapazität. Wächst mit der Nutzung | Pro Nutzer oder nach Nutzung. Wächst mit der Nutzung |
| Daten und Regeln | Die Daten bleiben im Haus. Das Datenschutzrecht gilt trotzdem | Die Daten bleiben in der EU, keine Übermittlung in Drittländer zu prüfen | Daten können in die USA fließen, auf einer gültigen Rechtsgrundlage, gegen die ein Rechtsmittel anhängig ist35 |
| Benötigtes Personal | Jemand, der installiert, aktualisiert und überwacht | Jemand, der Zugänge und Protokolle einrichtet | Wenig über Einrichtung und Nutzungsregeln hinaus |
| Tempo | Wochen bis zum laufenden Betrieb | Tage | Tage, die neuesten Modelle sofort |
| Risiko | Qualitätsabstand, Hardwareausfall, die Sicherheit liegt bei Ihnen | Geänderte Bedingungen oder Preise, weniger Modelle | Bedingungen, Preise und Datenstandort bestimmt der Anbieter |
| Ausstieg | Sie behalten alles | Einfach mit Standardschnittstellen | Einfach mit Standardschnittstellen, schwer, wenn auf den eigenen Werkzeugen des Anbieters aufgebaut wurde |
Was spricht für und gegen jede Option?
Eigene Server
Vorteile
- Keine Unternehmensdaten verlassen das Haus.
- Die Kosten wachsen mit der Nutzung kaum, solange die Kapazität reicht.
- Kein Anbieter kann Bedingungen ändern oder ein Modell abschalten.
Nachteile
- Offene Modelle liegen hinter den besten zurück.6
- Hardware, Updates und Sicherheit liegen bei Ihnen.
- Der Betrieb braucht Fachleute.
Europäische Cloud
Vorteile
- Die Daten bleiben unter EU-Recht, in Rechenzentren in der EU.
- Keine Hardware nötig, in wenigen Tagen in Betrieb.
- Sie zahlen, was Sie nutzen.
Nachteile
- Weniger Modelle als bei den größten Anbietern.
- Die Rechnung wächst mit der Nutzung.
- Die Bedingungen können sich ändern.
Dienst eines US-Anbieters
Vorteile
- Die stärksten Modelle, sobald sie erscheinen.
- Nichts zu installieren, bereit in wenigen Tagen.
- Geringe Kosten bei geringer Nutzung.
Nachteile
- Personenbezogene Daten können in die USA fließen.
- Die Rechnung wächst mit der Nutzung.
- Man bindet sich leicht an die eigenen Werkzeuge des Anbieters.
Was kostet jede Option?
Die Preise gelten pro Token, also pro Wort oder Wortteil.
Kosten
Eigene Server. Für den Einstieg betreibt eine Gaming-Grafikkarte für unter 2.500 US-Dollar offene Modelle, die so gut sind wie die besten von vor sechs bis zwölf Monaten.6 Ein dedizierter Server, gemietet in einem europäischen Rechenzentrum, kostet von 214 Euro im Monat für eine Karte mit 24 GB Speicher bis 3.599 Euro für vier Karten mit 384 GB, dazu eine Einrichtungsgebühr, jeweils zuzüglich Mehrwertsteuer.9 Im Betrieb fallen Strom und ein Teil der Arbeitszeit einer Person an. Die Hardwarekosten sind um 30 % pro Jahr gesunken.8 Der Ausstieg kostet wenig.
Europäische Cloud. Der Einstieg kostet fast nichts. Im Betrieb verlangt ein deutscher Anbieter für ein großes offenes Modell 0,65 Euro pro Million Token für Eingabe und Ausgabe, für ein kleines 0,10 Euro für die Eingabe und 0,30 Euro für die Ausgabe.10 Ein europäischer Modellhersteller verlangt für sein großes Modell 0,50 US-Dollar für die Eingabe und 1,50 US-Dollar für die Ausgabe, für seinen Team-Tarif 24,99 US-Dollar pro Nutzer und Monat.11 Der Ausstieg kostet mit Standardschnittstellen wenig.
Dienst eines US-Anbieters. Der Einstieg kostet fast nichts. Im Betrieb kostet der Business-Tarif eines Anbieters 25 US-Dollar pro Nutzer und Monat, bei jährlicher Abrechnung 20 US-Dollar.14 Seine Programmierschnittstelle kostet pro Million Token von 0,10 US-Dollar für die Eingabe und 0,50 für die Ausgabe beim kleinsten aktuellen Modell bis 8 US-Dollar für die Eingabe und 40 für die Ausgabe beim leistungsfähigsten.12 Der Ausstieg kostet mit Standardschnittstellen wenig, viel dort, wo die Arbeit auf seinen eigenen Werkzeugen aufbaut.
Der Preis für ein bestimmtes Leistungsniveau von KI ist von November 2022 bis Oktober 2024 um mehr als das 280-Fache gesunken.8
Wie aufwendig ist jede Option?
Komplexität
Eine Skala mit drei Stufen, niedrig, mittel und hoch.
Eigene Server, hoch. Fachleute für Modelle, Hardware und Sicherheit. Betriebsbereit in Wochen. Die Risiken sind ein schwächeres Modell als erhofft, eine ausgefallene Grafikkarte oder eine unbemerkte Sicherheitslücke.
Europäische Cloud, mittel. Der Anbieter betreibt die Maschinen, Sie richten Zugänge, Protokolle und Anbindungen ein. Betriebsbereit in Tagen. Die Risiken sind ein Modell, das nicht zur Aufgabe passt, oder geänderte Bedingungen.
Dienst eines US-Anbieters, niedrig bis mittel. Niedrig für einen Business-Tarif, mittel, sobald er an Unternehmenssysteme angebunden wird. Betriebsbereit in Tagen. Die Risiken sind personenbezogene Daten am falschen Ort oder Mitarbeiter, die mit privaten Konten arbeiten.
Wann sind eigene Server die richtige Wahl?
Wenn Daten das Unternehmen nicht verlassen dürfen, die Nutzung regelmäßig und hoch ist und jemand den Betrieb übernehmen kann. Für Dokumente und internes Wissen kann ein Modell genügen, das ein Jahr hinter der Spitze liegt, testen Sie es also an Ihren eigenen Aufgaben. Im März 2026 lag das beste geschlossene Modell in der Arena-Rangliste, die auf Bewertungen von Menschen beruht, um 3,3 % vor dem besten offenen.7 Große US-Anbieter bieten Versionen für das eigene Rechenzentrum des Kunden an oder haben sie angekündigt, mit Verbindung nach außen oder vollständig abgetrennt.1516
Wann ist eine europäische Cloud die richtige Wahl?
Wenn vertrauliche oder personenbezogene Daten verarbeitet werden, Sie keine Übermittlung außerhalb der EU prüfen möchten und niemand im Haus Server betreiben soll. Auch US-Anbieter verkaufen europäische Angebote, eines davon verarbeitet Kundendaten für ausgewählte Modelle in der EU.15
Wann ist der Dienst eines US-Anbieters die richtige Wahl?
Wenn die Nutzung gering ist, keine sensiblen personenbezogenen Daten in die KI gehen und weder ein Vertrag noch eine Aufsichtsbehörde verlangt, dass die Daten in der EU bleiben. Dann leistet ein Business-Tarif gute Dienste, etwa mit der Zusage, Ihre Inhalte standardmäßig nicht für das Training zu verwenden.14 Die eigene Programmierschnittstelle eines Anbieters bietet die Verarbeitung nur in den USA oder weltweit an und speichert ruhende Daten in den USA.13
Wie entscheiden Sie Schritt für Schritt?
Schritt für Schritt zur Entscheidung
- Gehen personenbezogene oder vertrauliche Daten in die KI? Wenn nicht, ist der Business-Tarif eines US-Anbieters ein solider Anfang. Wenn ja, weiter.
- Müssen die Daten im Unternehmen oder in der EU bleiben, wegen eines Vertrags, einer Aufsichtsbehörde oder eines Kunden? Im Unternehmen, dann eigene Server. In der EU, dann eine europäische Cloud oder eigene Server.
- Wie viele Personen, wie oft? Regelmäßige, hohe Nutzung spricht für eigene Server, gelegentliche Nutzung für Bezahlung nach Verbrauch.
- Brauchen Sie das stärkste Modell, oder genügt eines, das sechs bis zwölf Monate hinter der Spitze liegt?6 Wenn das stärkste, dann der Dienst eines Anbieters, sofern die Daten das Haus verlassen dürfen.
- Wer betreibt es, Ihre IT oder ein Dienstleister? Wenn keiner von beiden, eine Cloud.
- Die Empfehlung. Sensible Daten und regelmäßige Nutzung, eigene Server. Sensible Daten und ungleichmäßige Nutzung, eine europäische Cloud. Keines von beiden, der Dienst eines Anbieters. Beides, eine Kombination unter einer gemeinsamen Steuerung.
Was sollten Sie vor der Entscheidung klären?
Bevor Sie sich entscheiden
- Ihre Einsatzzwecke, jeder in einer Zeile.
- Welche Daten jeder Einsatz berührt und welche davon personenbezogen oder vertraulich sind.
- Wer was sehen darf.
- Welche Aufzeichnungen Sie von Fragen, Antworten und Aktionen brauchen.
- Erwartete Nutzer und Anfragen pro Tag und wer den Betrieb übernimmt.
- Wie Sie aussteigen würden und was Sie dabei behalten.
Was machen Unternehmen häufig falsch?
- Hardware kaufen, bevor die Einsätze feststehen. Die Einsätze bestimmen das Modell, das Modell die Hardware.
- Eine europäische Datenoption für die ganze rechtliche Antwort halten. Sie regelt, wo Daten verarbeitet werden, nicht wer sie sehen darf und wozu.
- Annehmen, lokal heiße sicher. Ohne Zugriffskontrolle und Protokolle ist es nur ein weiterer Ort, an dem Daten abfließen können.
- Die Herkunft des Modells vergessen. Wer ein Modell einsetzt, soll prüfen, ob es mit unrechtmäßig verarbeiteten personenbezogenen Daten entwickelt wurde.2
- Alles an die eigenen Werkzeuge eines Anbieters binden. Standardschnittstellen halten den Ausstieg offen.
- Jede Abteilung für sich entscheiden lassen. Fünf Abteilungen, fünf Werkzeuge, kein Überblick.
Was das für ein Unternehmen in Europa bedeutet
Das Datenschutzrecht gilt für personenbezogene Daten bei allen drei Optionen. Übermittlungen an zertifizierte US-Unternehmen beruhen auf dem EU-US-Datenschutzrahmen (Data Privacy Framework) vom 10. Juli 2023.3 Das Gericht der Europäischen Union hat ihn am 3. September 2025 bestätigt, nachdem der Gerichtshof zwei frühere Regelungen für ungültig erklärt hatte.4 Am 31. Oktober 2025 wurde dagegen ein Rechtsmittel eingelegt.5 Die Pflicht zur KI-Kompetenz und die ersten Verbote gelten seit dem 2. Februar 2025, die meisten Regeln seit dem 2. August 2026, und die Regeln für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027.17
In Deutschland
In Deutschland überwachen die Datenschutzaufsichtsbehörden der Länder, ob Unternehmen die Datenschutzvorschriften einhalten.18 Ansprechpartner ist also die Aufsichtsbehörde Ihres Bundeslandes.
Die gemeinsame Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (DSK) vom 6. Mai 2024 richtet sich in erster Linie an Verantwortliche, die KI-Anwendungen einsetzen möchten.19 Bei offenen Systemen, die der Anbieter als Cloud-Lösung betreibt, verlassen die Eingabedaten nach der Orientierungshilfe den geschützten Bereich des Anwenders, technisch geschlossene Systeme sind aus Sicht des Datenschutzes deshalb vorzugswürdig.19 Geschlossen heißt dort, dass die Daten in einer begrenzten Umgebung bleiben und der Anbieter sie nicht für das Training nutzt, was auch eine europäische Cloud erfüllen kann. Es ist eine Empfehlung, kein Gesetz.19
Zur Rollenverteilung schreibt die DSK, wer eine KI-Anwendung ausschließlich zu eigenen Zwecken auf eigenen Servern betreibe, sei in der Regel alleiniger Verantwortlicher. Bei der Cloud eines Anbieters sei dieser meist Auftragsverarbeiter, nötig sei dann ein Vertrag nach Art. 28 Abs. 3 DSGVO.19
Nach dem Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026, in Kraft seit dem 29. Juli 2026, ist die Bundesnetzagentur die zuständige Marktüberwachungsbehörde für die KI-Verordnung.20 Die KI-Seiten der einzelnen Landesbehörden haben wir nicht geprüft, Auskunft gibt die Datenschutzaufsichtsbehörde Ihres Bundeslandes.
Nächster Schritt
Wenn es Ihnen hilft, ordnen wir Ihre geplanten Einsätze gern gemeinsam mit Ihnen danach, welche Daten das Unternehmen verlassen dürfen, und zeigen, welche Option oder welche Kombination passt. Unsere Unternehmens-KI ist eine KI für das ganze Unternehmen, in Europa oder in Ihrer eigenen Infrastruktur, unter Ihrer Kontrolle, und jeder Schritt wird aufgezeichnet. Die Entscheidung liegt bei Ihnen.
Quellen
- 1. Eurostat, Use of artificial intelligence in enterprises (data extracted December 2025). Gelesen am 17. November 2026
- 2. European Data Protection Board, Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models, adopted 17 December 2024. Gelesen am 17. November 2026
- 3. European Commission, EU-US data transfers. Gelesen am 17. November 2026
- 4. General Court of the European Union, press release 106/25, judgment in Case T-553/23 Latombe v Commission, 3 September 2025. Gelesen am 17. November 2026
- 5. Official Journal of the European Union, C/2025/6610, appeal brought on 31 October 2025 in Case C-703/25 P. Gelesen am 17. November 2026
- 6. Epoch AI, Frontier AI performance becomes accessible on consumer hardware within a year, 15 August 2025. Gelesen am 17. November 2026
- 7. Stanford HAI, The 2026 AI Index Report, chapter 2, technical performance, April 2026. Gelesen am 17. November 2026
- 8. Stanford HAI, The 2025 AI Index Report, top takeaways. Gelesen am 17. November 2026
- 9. Hetzner Online, dedicated GPU servers, price list. Gelesen am 17. November 2026
- 10. IONOS, AI Model Hub, prices per million tokens. Gelesen am 17. November 2026
- 11. Mistral AI, pricing. Gelesen am 17. November 2026
- 12. Anthropic, Claude API pricing. Gelesen am 17. November 2026
- 13. Anthropic, Claude API data residency. Gelesen am 17. November 2026
- 14. Anthropic, Claude plans and pricing. Gelesen am 17. November 2026
- 15. Google Cloud, Sovereign AI on your terms, made with Europe, 17 November 2026. Gelesen am 17. November 2026
- 16. Microsoft, Advancing digital sovereignty with greater control and choice, 20 October 2026. Gelesen am 17. November 2026
- 17. European Commission, AI Act Service Desk, timeline for the implementation of the EU AI Act. Gelesen am 17. November 2026
- 18. Bundesministerium der Justiz, Gesetze im Internet, Bundesdatenschutzgesetz § 40 Aufsichtsbehörden der Länder. Gelesen am 17. November 2026
- 19. Datenschutzkonferenz, Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 (6. Mai 2024). Gelesen am 17. November 2026
- 20. Bundesgesetzblatt 2026 I Nr. 223, Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026. Gelesen am 17. November 2026
Änderungsprotokoll
- Veröffentlicht.