✓ Adatvédelem és az adatok feletti irányítás – Semmi sem kerül külső API-khoz, ezért az adatok nyilvánosságra kerülésének vagy jogosulatlan felhasználásának kockázata lényegesen kisebb. Ideális bizalmas dokumentumokhoz, jogi szolgáltatásokhoz, egészségügyhöz, közigazgatáshoz, kutatás-fejlesztéshez és gyártáshoz.
HELYI AI · ON-PREMISE
Az Ön AI-ja.
Az Ön adatai.
Az Ön irányítása alatt.
Segítünk a cégeknek helyi AI-t kiépíteni: nyílt forráskódú nyelvi modelleket futtatunk az igényeikhez igazított hardveren. A berendezést megvásárolhatja vagy bérelheti tőlünk; bármilyen környezetbe telepítjük, vagy a ljubljanai saját adatközpontunkban üzemeltetjük.
Minden ügyfélnek optimalizált, személyre szabott megoldást készítünk — szoftverben és hardverben egyaránt. Az AI-t az Ön adatai, folyamatai és költségvetése köré építjük, hogy a legtöbb teljesítményt kapja elfogadható áron.
Adatai az Ön irányítása alatt, Szlovéniában.
Nyílt forráskódú modellek.
Személyre szabott vagy bérelhető berendezés.
Helyi támogatás.
ADATAI AZ ÖNÉ MARADNAK
Mi a helyi AI?
A helyi AI (on-premise AI) azt jelenti, hogy a mesterséges intelligencia az Ön tulajdonában lévő szervereken vagy a tőlünk bérelt berendezésen fut — nem pedig idegen felhőben. Nyílt modelleket (ún. open-weights) használunk, amelyek letölthetők és saját hardveren futtathatók; a vezető modellek teljesítményben közel állnak a kereskedelmi megoldásokhoz, ezért alkalmasak komoly üzleti használatra.
Dokumentumai, törzsadatai, szerződései, e-mailjei és belső tudásbázisa az Ön irányítása alatt maradnak — az Ön hálózatában vagy a szlovéniai adatközpontunkban —, és soha nem kerülnek külső API-szolgáltatókhoz.
Az Ön dokumentumai
Az Ön hálózata
DC / az Ön által választott helyszín
Miért a helyi AI?
✓ Egyszerűbb GDPR- és szabályozási megfelelés – Egyértelmű feldolgozási hely (Szlovénia), egyszerűbb dokumentáció a jogalapokhoz, auditokhoz és belső védelmi szabályzatokhoz.
✓ Kiszámítható költségek – Nincs tokenenkénti számla és nincs meglepetés a hónap végén. A berendezésért (vásárlás vagy bérlés) és a támogatásért fizet — nem minden egyes promptért.
✓ Személyre szabott rugalmasság – A modell, a kontextushossz, a felület és a folyamatok Önhöz igazodnak: saját tudásbázis (RAG), ERP/CRM/DMS-kapcsolat, eszközök és automatizációk megállapodás szerint.
✓ Függetlenség a szolgáltatóktól – A helyi AI nem áll le, ha egy API-szolgáltató árat vagy feltételeket változtat, és nincsenek külső kvótái vagy szolgáltatói korlátai. Internet nélkül is működhet.
✓ Teljesítmény, amely lépést tart – A vezető nyílt modellek minőségben közel állnak a kereskedelmiekhez; fejlett optimalizációkkal a legtöbbet hozzuk ki a választott hardverből.
A legújabb nyílt forráskódú technológia
Modellek (nyílt / open-weights, választás és licenc szerint):
- Qwen (Alibaba)
- DeepSeek
- Mistral
- Google Gemma
- GLM (Z.ai)
- Kimi (Moonshot)
- gpt-oss (OpenAI)
- és mások – feladat, nyelv és méret szerint választunk; ugyanazon a hardveren több modell is futhat párhuzamosan.
Inference-motorok:
- vLLM és SGLang – a nagy modellek kiszolgálásának iparági szabványai nagy átbocsátással és sok egyidejű felhasználóval.
- llama.cpp – megbízható, könnyű motor GGUF-modellekhez; kiváló kisebb környezetekhez és speciális eszközökhöz.
- Ollama
- TensorRT-LLM
- Strata
- Project Maya
- Colibri Project
- AirLLM
Optimalizációk, amelyekkel a legtöbbet hozzuk ki a hardverből:
- kvantálás – a modellt alacsonyabb számpontosságra tömörítjük (pl. GGUF, AWQ, FP8), így több fér belőle ugyanabba a memóriába és gyorsabban fut, ellenőrzött minőségvesztés mellett;
- spekulatív dekódolás (pl. EAGLE-3) – egy könnyű segédmodell előre javasolja a következő szavakat, a főmodell csak ellenőrzi azokat; a generálás modelltől és terheléstől függően akár 2–3×-ra gyorsul;
- MoE-architektúra és KV-cache-optimalizáció – a MoE-modelleknél tokenenként csak a modell egy része számítódik ki, ami csökkenti a számítási igényt és növeli a sebességet; a KV-cache kezelésével hosszabb kontextust és több egyidejű felhasználót támogatunk.
- KV-cache – a prompt-eredmények gyorsítótárazása
Gondoskodunk a licenc-megfelelőségről: a modellválasztás figyelembe veszi a licencét (Apache 2.0, MIT és az egyes szállítók licencei) és az EU-ban működő cégekre vonatkozó esetleges korlátozásokat — ebben is tanácsot adunk.
Mire képes a gyakorlatban a helyi AI
Beszélgetés a saját tudásbázissal (RAG): Dokumentumok, eljárások, szerződések, ajánlatok, műszaki dokumentáció — a munkatársak saját forrásokból kapnak válaszokat forráshivatkozással.
Belső AI-portál: (Open WebUI vagy bármilyen személyre szabott felület) az egész cégnek, felhasználói szerepkörökkel és hozzáférésekkel.
Automatizáció és agent-folyamatok: Összegzés, rendezés, osztályozás, ajánlatkészítés, ügyfélszolgálat, belső chatbot.
Fejlesztői eszköz: Kódkiegészítés és kód-ellenőrzés a fejlesztőcsapatnak — anélkül, hogy a kódot kiküldenék. (pl. deepseek Harness)
Érzékeny adatok: Egészségügy, pénzügy, jogi dokumentumok, közszféra — ahol a felhő-AI használata jogilag vagy szerződésesen korlátozott.
Igény szerint még: Beszédmodellek, OCR/dokumentumfeldolgozás, fordítás, képmodellek.
Hogyan jutunk el a megoldásig
Ingyenes konzultáció (60 perc) – Milyen problémát oldunk meg, milyen adatokat és folyamatokat vonunk be.
Elemzés és tervezés – A modell, a kontextushossz és a terhelés kiválasztása; hardverterv (GPU / RAM / NVMe). Szükség esetén teszteljük a modellt az Ön adatain és szlovénül.
Személyre szabott ajánlat – Szoftver és hardver; a berendezés megvásárlásának vagy bérlésének lehetősége; telepítés az Ön telephelyén vagy üzemeltetés az adatközpontunkban.
Bevezetés és integráció – Telepítés, optimalizáció, kapcsolódás a meglévő környezetekhez, tesztelés az Ön adataival.
Támogatás és karbantartás – Modell- és motorfrissítések, felügyelet, bővítés.
Berendezés az Ön igényei szerint — megvásárolva vagy bérelve
- Személyre szabott konfiguráció: hardver grafikus kártyákkal, megfelelő memóriával és NVMe-tárhellyel.
- Bérlés magas kezdeti beruházás nélkül — havi költségek, frissítések megállapodás szerint; ugyanúgy, mint a kolokációs berendezés bérlésekor.
- Üzemeltetés: az Ön telephelyén a helyi hálózaton vagy a ljubljanai adatközpontunkban (redundáns tápellátás, hűtés, DDoS-védelem, 24/7 felügyelet).
Gyakori kérdések
Elég jók a nyílt modellek komoly munkához?
A legtöbb üzleti feladathoz igen. A vezető nyílt modellek (DeepSeek, Qwen, GLM, Kimi és mások) minőségben közel állnak a zárt kereskedelmi modellekhez, különösen saját forrásokkal (RAG) dolgozva. A szlovén nyelvű minőség a választott modelltől függ, ezért a konzultáción az Ön példáin teszteljük.
Mennyibe kerül a helyi AI?
A modelltől és a használat mértékétől függ — ezért készítünk személyre szabott ajánlatot. A költségek egyszeriek (berendezés, bevezetés) vagy haviak (bérlés, támogatás), nem tokenenként.
Mi a különbség egy felhő API-hoz képest (pl. ChatGPT)?
Adatai az Ön irányítása alatt maradnak, nincs függőség egy szolgáltatótól vagy annak kvótáitól, a modell és a felület pedig szabadon testreszabható. Állandó, nagyobb terhelésnél a helyi megoldás hosszú távon olcsóbb is lehet.
Mit jelent a berendezés bérlése?
A szervert és a GPU-hardvert mi biztosítjuk, Ön havi bérleti díjat fizet — kezdeti beruházás nélkül, ugyanúgy, mint a kolokációs berendezés bérlésekor.