✓ Datenschutz und Kontrolle über die Daten – Nichts gelangt an externe APIs, daher ist das Risiko der Offenlegung oder unbefugten Nutzung von Daten deutlich geringer. Ideal für vertrauliche Dokumente, Rechtsdienstleistungen, Gesundheitswesen, öffentliche Verwaltung, Forschung und Entwicklung sowie Produktion.
LOKALE KI · ON-PREMISE
Ihre KI.
Ihre Daten.
Unter Ihrer Kontrolle.
Wir helfen Unternehmen beim Aufbau lokaler KI: Wir betreiben quelloffene Sprachmodelle auf Hardware, die wir an Ihre Anforderungen anpassen. Sie können die Ausstattung bei uns kaufen oder mieten; wir installieren sie in jeder Umgebung oder hosten sie in unserem eigenen Rechenzentrum in Ljubljana.
Für jeden Kunden erstellen wir eine optimierte Lösung nach Maß — in Software und Hardware. Wir bauen die KI um Ihre Daten, Prozesse und Ihr Budget, damit Sie die meiste Leistung zu einem vernünftigen Preis erhalten.
Ihre Daten unter Ihrer Kontrolle, in Slowenien.
Quelloffene Modelle.
Ausstattung nach Maß oder zur Miete.
Lokaler Support.
IHRE DATEN BLEIBEN IHRE
Was ist lokale KI?
Lokale KI (On-Premise-KI) bedeutet, dass die künstliche Intelligenz auf Servern läuft, die Sie besitzen, oder auf Ausstattung, die Sie bei uns mieten — nicht in einer fremden Cloud. Wir nutzen offene Modelle (sogenannte Open-Weight-Modelle), die Sie herunterladen und auf eigener Hardware betreiben können; die führenden sind in der Leistung kommerziellen Lösungen nahe und daher für den ernsthaften Geschäftseinsatz geeignet.
Ihre Dokumente, Stammdaten, Verträge, E-Mails und die interne Wissensbasis bleiben unter Ihrer Kontrolle — in Ihrem Netzwerk oder in unserem Rechenzentrum in Slowenien — und landen nie bei externen API-Anbietern.
Ihre Dokumente
Ihr Netzwerk
DC / Standort Ihrer Wahl
Warum lokale KI?
✓ Einfachere Einhaltung von DSGVO und Regulierung – Ein klarer Verarbeitungsort (Slowenien), einfachere Dokumentation für Rechtsgrundlagen, Prüfungen und interne Schutzrichtlinien.
✓ Planbare Kosten – Keine Abrechnung pro Token und keine Überraschungen am Monatsende. Sie zahlen für die Ausstattung (Kauf oder Miete) und den Support — nicht für jeden einzelnen Prompt.
✓ Anpassung nach Maß – Modell, Kontextlänge, Oberfläche und Abläufe passen sich Ihnen an: eigene Wissensbasis (RAG), ERP/CRM/DMS-Anbindung, Tools und Automatisierungen nach Absprache.
✓ Unabhängigkeit von Anbietern – Lokale KI fällt nicht aus, wenn ein API-Anbieter Preise oder Bedingungen ändert, und hat keine externen Kontingente oder Anbieterlimits. Sie kann sogar ohne Internet laufen.
✓ Leistung, die mithält – Die führenden offenen Modelle sind qualitativ den kommerziellen nahe; mit fortschrittlichen Optimierungen holen wir das Maximum aus der gewählten Hardware.
Die neueste quelloffene Technologie
Modelle (offen / Open-Weight, nach Wahl und Lizenz):
- Qwen (Alibaba)
- DeepSeek
- Mistral
- Google Gemma
- GLM (Z.ai)
- Kimi (Moonshot)
- gpt-oss (OpenAI)
- und andere – wir wählen nach Aufgabe, Sprache und Größe; auf derselben Hardware können mehrere Modelle parallel laufen.
Inference-Engines:
- vLLM und SGLang – die Industriestandards für das Bereitstellen großer Modelle mit hohem Durchsatz und vielen gleichzeitigen Nutzern.
- llama.cpp – eine zuverlässige, leichte Engine für GGUF-Modelle; hervorragend für kleinere Umgebungen und Spezialgeräte.
- Ollama
- TensorRT-LLM
- Strata
- Project Maya
- Colibri Project
- AirLLM
Optimierungen, mit denen wir das Maximum aus der Hardware holen:
- Quantisierung – wir komprimieren das Modell auf eine niedrigere Zahlenpräzision (z. B. GGUF, AWQ, FP8), damit mehr vom Modell in denselben Speicher passt und schneller läuft, bei kontrolliertem Qualitätsverlust;
- Speculative Decoding (z. B. EAGLE-3) – ein leichtes Hilfsmodell schlägt die nächsten Wörter vor, das Hauptmodell prüft sie nur noch; die Generierung wird je nach Modell und Last um bis zu 2–3× beschleunigt;
- MoE-Architektur und KV-Cache-Optimierung – bei MoE-Modellen wird pro Token nur ein Teil des Modells berechnet, was den Rechenaufwand senkt und die Geschwindigkeit erhöht; durch die Verwaltung des KV-Cache unterstützen wir längeren Kontext und mehr gleichzeitige Nutzer.
- KV-Cache – Zwischenspeichern von Prompt-Ergebnissen
Für lizenzrechtliche Korrektheit sorgen wir: Die Modellwahl berücksichtigt seine Lizenz (Apache 2.0, MIT und die Lizenzen einzelner Anbieter) sowie etwaige Einschränkungen für Unternehmen in der EU — auch hier beraten wir.
Was lokale KI in der Praxis leisten kann
Gespräch mit der eigenen Wissensbasis (RAG): Dokumente, Verfahren, Verträge, Angebote, technische Dokumentation — Mitarbeiter erhalten Antworten aus eigenen Quellen mit Quellenverweis.
Internes KI-Portal: (Open WebUI oder eine beliebige Oberfläche nach Maß) für das ganze Unternehmen, mit Benutzerrollen und Zugriffen.
Automatisierung und Agenten-Abläufe: Zusammenfassen, Sortieren, Klassifizieren, Erstellen von Angeboten, Kundensupport, interner Chatbot.
Entwicklungswerkzeug: Code-Vervollständigung und -Prüfung für das Entwicklungsteam — ohne Code nach außen zu senden. (z. B. deepseek Harness)
Sensible Daten: Gesundheitswesen, Finanzen, Rechtsdokumente, öffentlicher Sektor — wo die Nutzung von Cloud-KI rechtlich oder vertraglich eingeschränkt ist.
Auf Wunsch auch: Sprachmodelle, OCR/Dokumentenverarbeitung, Übersetzung, Bildmodelle.
Wie wir zur Lösung gelangen
Kostenlose Beratung (60 Min.) – Welches Problem wir lösen, welche Daten und Prozesse wir einbeziehen.
Analyse und Entwurf – Wahl von Modell, Kontextlänge und Last; ein Hardwareplan (GPU / RAM / NVMe). Bei Bedarf testen wir das Modell an Ihren Daten und auf Slowenisch.
Angebot nach Maß – Software und Hardware; die Möglichkeit, die Ausstattung zu kaufen oder zu mieten; Installation bei Ihnen oder Hosting in unserem Rechenzentrum.
Umsetzung und Integration – Installation, Optimierung, Anbindung an bestehende Umgebungen, Tests mit Ihren Daten.
Support und Wartung – Aktualisierungen von Modellen und Engines, Überwachung, Skalierung.
Ausstattung nach Ihren Anforderungen — gekauft oder gemietet
- Konfiguration nach Maß: Hardware mit Grafikkarten, passendem Arbeitsspeicher und NVMe-Speicher.
- Miete ohne hohe Anfangsinvestition — monatliche Kosten, Upgrades nach Absprache; wie bei der Miete von Colocation-Ausstattung.
- Hosting: bei Ihnen im lokalen Netzwerk oder in unserem Rechenzentrum in Ljubljana (redundante Stromversorgung, Kühlung, DDoS-Schutz, Überwachung rund um die Uhr).
Häufige Fragen
Sind offene Modelle gut genug für ernsthafte Arbeit?
Für die meisten Geschäftsaufgaben ja. Die führenden offenen Modelle (DeepSeek, Qwen, GLM, Kimi und andere) sind qualitativ den geschlossenen kommerziellen nahe, besonders bei der Arbeit mit eigenen Quellen (RAG). Die Qualität auf Slowenisch hängt vom gewählten Modell ab, daher testen wir es im Beratungsgespräch an Ihren Beispielen.
Was kostet lokale KI?
Das hängt vom Modell und vom Umfang der Nutzung ab — deshalb erstellen wir ein Angebot nach Maß. Die Kosten sind einmalig (Ausstattung, Implementierung) oder monatlich (Miete, Support), nicht pro Token.
Was ist der Unterschied zu einer Cloud-API (z. B. ChatGPT)?
Ihre Daten bleiben unter Ihrer Kontrolle, es gibt keine Abhängigkeit von einem Anbieter oder dessen Kontingenten, und Modell und Oberfläche lassen sich frei anpassen. Bei dauerhafter, höherer Last kann die lokale Lösung langfristig auch günstiger sein.
Was bedeutet die Miete von Ausstattung?
Wir stellen Server- und GPU-Hardware, Sie zahlen eine monatliche Miete — ohne Anfangsinvestition, wie bei der Miete von Colocation-Ausstattung.