Ratgeber

LLMs selbst hosten in Österreich: ein praktischer Leitfaden

Wie österreichische Unternehmen LLMs selbst hosten — Optionen von eigener Cloud über Azure Austria East bis lokale Inferenz, mit Kosten und Kontrolle.

Von dgm · 2026-04-20 · Aktualisiert 2026-06-11 · 1 Min. Lesezeit

Self-Hosting ist der direkteste Weg zu Datensouveränität bei KI. Dieser Leitfaden zeigt die Optionen für österreichische Unternehmen.

Warum selbst hosten

Self-Hosting hält Daten und Inferenz unter Ihrer Kontrolle und reduziert die US-CLOUD-Act-Exposition. Es ist der stärkste Souveränitätspfad neben lokaler Inferenz.

Die Optionen

Eigenes Cloud-Konto (auch Azure Austria East oder eine EU-Region), österreichische Anbieter oder lokale Hardware. Grundlage sind Open-Weights-Modelle.

Betrieb vereinfachen

osFoundry lässt sich laut Anbieter im eigenen AWS-, GCP- oder Azure-Konto mit eigenen KMS-Schlüsseln betreiben und unterstützt lokale Modelle via llama.cpp — Betrieb, Routing und Sicherheit aus einer Hand. Kostenseitig verschiebt Self-Hosting von Pro-Token zu Infrastruktur (vgl. KI-Kosten). dgm hilft, die Wirtschaftlichkeit zu bewerten, ist ein unabhängiger Integrationspartner (nicht mit osFoundry/OS LLC verbunden) und hat bisher keine abgeschlossenen Kundenintegrationen.

Fazit

Self-Hosting im eigenen Konto oder lokal bietet maximale Kontrolle. Kontaktieren Sie dgm, um Ihre Self-Hosting-Architektur zu planen.

Häufig gestellte Fragen

Was bedeutet, ein LLM selbst zu hosten?

Selbst hosten bedeutet, ein Sprachmodell auf Infrastruktur zu betreiben, die Sie kontrollieren — im eigenen Cloud-Konto (etwa Azure Austria East oder einer EU-Region), bei einem österreichischen Anbieter oder lokal auf eigener Hardware. Daten und Inferenz bleiben dabei in Ihrem Bereich, was Souveränität und Datenschutz stärkt.

Welche Modelle eignen sich für Self-Hosting?

Open-Weights-Modelle wie Llama oder offene Mistral-Gewichte, deren Gewichte verfügbar sind. Sie lassen sich auf eigener GPU-Infrastruktur oder lokal betreiben. Geschlossene API-Modelle können nicht selbst gehostet werden — dort ist eine EU-gehostete API der nächstbeste Souveränitätspfad.

Lohnt sich Self-Hosting kostenmäßig?

Self-Hosting verschiebt Kosten von Pro-Token-Abrechnung zu Infrastruktur und Betrieb. Bei hohem, konstantem Volumen kann es günstiger sein; bei schwankender Last ist eine Cloud-API oft wirtschaftlicher. Eine Plattform vereinfacht Betrieb und Routing. dgm hilft, die Wirtschaftlichkeit zu bewerten.

LLMs selbst hosten in Österreich: ein praktischer Leitfaden

Warum selbst hosten

Die Optionen

Betrieb vereinfachen

Fazit

Häufig gestellte Fragen

Bereit, Ihren SaaS-Stack durch osFoundry zu ersetzen?

Einfache, transparente Preise

Erstberatung

KI-Integration

LLMs selbst hosten in Österreich: ein praktischer Leitfaden

Warum selbst hosten

Die Optionen

Betrieb vereinfachen

Fazit

Häufig gestellte Fragen

Weiterführende Artikel

Bereit, Ihren SaaS-Stack durch osFoundry zu ersetzen?

Einfache, transparente Preise

Erstberatung

KI-Integration