✓ Zasebnost in nadzor nad podatki – Nič ne potuje na tuje API-je, zato je tveganje razkritja ali nepooblaščene uporabe podatkov bistveno manjše. Idealno za zaupne dokumente, pravne storitve, zdravstvo, javno upravo, raziskave in razvoj ter proizvodnjo.
LOKALNI AI · ON-PREMISE
Vaš AI.
Vaši podatki.
Pod vašim nadzorom.
Pomagamo podjetjem vzpostaviti lokalni AI: odprtokodne jezikovne modele poganjamo na strojni opremi, ki jo prilagodimo vašim potrebam. Opremo lahko kupite ali najamete pri nas; namestimo jo v poljubno okolje ali jo gostimo v svojem podatkovnem centru v Ljubljani.
Vsaki stranki pripravimo optimizirano rešitev po meri – programsko in strojno. AI oblikujemo okoli vaših podatkov, procesov in proračuna, da dobite največ zmogljivosti za razumno ceno.
Podatki pod vašim nadzorom, v Sloveniji.
Odprtokodni modeli.
Oprema po meri ali v najem.
Domača podpora.
PODATKI OSTANEJO VAŠI
Kaj je lokalni AI?
Lokalni AI (on-premise AI) pomeni, da umetna inteligenca teče na strežnikih v vaši lasti ali na opremi, ki jo najamete pri nas – ne v tujem oblaku. Uporabljamo odprte modele (t. i. open-weights), ki jih lahko prenesemo in poganjamo na lastni opremi; vodilni med njimi so po zmogljivosti blizu komercialnim rešitvam, zato so primerni za resno poslovno rabo.
Vaši dokumenti, šifranti, pogodbe, e-pošta in interna baza znanja ostanejo pod vašim nadzorom – v vašem omrežju ali v našem podatkovnem centru v Sloveniji – in ne končajo pri zunanjih ponudnikih API-jev.
Vaši dokumenti
Vaše omrežje
DC / lokacija po izbiri
Zakaj lokalni AI?
✓ Lažja skladnost z GDPR in regulativo – Jasna lokacija obdelave (Slovenija), lažja dokumentacija za pravne podlage, revizije in notranje politike varovanja.
✓ Predvidljivi stroški – Brez računov na token in brez presenečenj ob koncu meseca. Plačate opremo (nakup ali najem) in podporo – ne vsakega poziva posebej.
✓ Prilagodljivost po meri – Model, dolžina konteksta, vmesnik in tokovi se prilagodijo vam: lastna baza znanja (RAG), povezava v ERP/CRM/DMS, orodja in avtomatizacije po dogovoru.
✓ Neodvisnost od ponudnikov – Lokalni AI ne pade, ko ponudnik API spremeni ceno ali pogoje, in nima zunanjih kvot ali omejitev ponudnika. Deluje lahko tudi brez interneta.
✓ Zmogljivost, ki drži korak – Vodilni odprti modeli so po kakovosti blizu komercialnim; z naprednimi optimizacijami iz izbrane opreme iztisnemo največ.
Najnovejša odprtokodna tehnologija
Modeli (odprti / open-weights, po izbiri in licenci):
- Qwen (Alibaba)
- DeepSeek
- Mistral
- Google Gemma
- GLM (Z.ai)
- Kimi (Moonshot)
- gpt-oss (OpenAI)
- in drugi – izbiramo glede na nalogo, jezik in velikost; na isti strojni opremi lahko vzporedno teče več modelov.
Pogoni za zagon (inference engine):
- vLLM in SGLang – industrijska standarda za streženje velikih modelov z visoko prepustnostjo in več sočasnimi uporabniki.
- llama.cpp – zanesljiv, lahek pogon za GGUF modele; odličen za manjša okolja in specializirane naprave.
- Ollama
- TensorRT-LLM
- Strata
- Project Maya
- Colibri Project
- AirLLM
Optimizacije, s katerimi izvlečemo maksimum iz opreme:
- kvantizacija – model stisnemo v nižjo natančnost števil (npr. GGUF, AWQ, FP8), da več modela gre v isti pomnilnik in hitreje teče, ob nadzorovani izgubi kakovosti;
- speculative decoding (npr. EAGLE-3) – lahek pomožni model vnaprej predlaga naslednje besede, glavni model jih le preveri; generiranje se pospeši do 2–3×, odvisno od modela in obremenitve;
- MoE arhitektura in optimizacija KV-pomnilnika – pri modelih MoE se na vsak token izračuna le del modela, kar zniža računske zahteve in poveča hitrost; z upravljanjem KV-pomnilnika podpremo daljši kontekst in več sočasnih uporabnikov.
- KVChache – predpomnjenje rezultatov pozivov
Licenčno korektnost zagotovimo: izbira modela upošteva njegovo licenco (Apache 2.0, MIT in licence posameznih ponudnikov) in morebitne omejitve za podjetja v EU – svetujemo tudi na tej plati.
Kaj lokalni AI v praksi zmore
Pogovor z lastno bazo znanja (RAG): Dokumenti, postopki, pogodbe, ponudbe, tehnična dokumentacija – zaposleni dobijo odgovore iz lastnih virov s sklicem na vir.
Interni AI portal: (Open WebUI ali poljubni vmesnik po meri) za celo podjetje, z uporabniškimi vlogami in dostopi.
Avtomatizacija in agentski tokovi: Povzemanje, razvrščanje, klasifikacija, generiranje ponudb, podpora strankam, notranji chatbot.
Razvojno orodje: Dopolnjevanje in pregled kode za programersko ekipo – brez pošiljanja kode navzven. (npr. deepseek Harness)
Občutljivi podatki: Zdravstvo, finance, pravni dokumenti, javni sektor – kjer je uporaba oblačnega AI pravno ali pogodbeno omejena.
Po potrebi tudi: Govorni modeli, OCR/dokumentska obdelava, prevajanje, slikovni modeli.
Kako pridemo do rešitve
Brezplačen posvet (60 min) – Kakšen problem rešujemo, katere podatke in procese vključimo.
Analiza in zasnova – Izbira modela, dolžine konteksta in obremenitve; načrt strojne opreme (GPU / RAM / NVMe). Po potrebi model preizkusimo na vaših podatkih in v slovenščini.
Ponudba po meri – Programska in strojna oprema; možnost nakupa ali najema opreme; namestitev pri vas ali gostovanje v našem podatkovnem centru.
Izvedba in integracija – Namestitev, optimizacija, povezava v obstoječa okolja, testiranje z vašimi podatki.
Podpora in vzdrževanje – Posodobitve modelov in pogonov, nadzor, širitve.
Oprema po vaših zahtevah – kupljena ali v najem
- Konfiguracija po meri: strojna oprema z grafičnimi karticami, ustreznim pomnilnikom in NVMe shrambo.
- Najem brez visoke začetne naložbe – mesečni stroški, nadgradnje po dogovoru; enako kot pri najemu opreme pri kolokaciji.
- Gostovanje: pri vas v lokalnem omrežju ali v našem podatkovnem centru v Ljubljani (redundantno napajanje, hlajenje, DDoS zaščita, nadzor 24/7).
Pogosta vprašanja
Ali so odprti modeli dovolj dobri za resno delo?
Za večino poslovnih nalog da. Vodilni odprti modeli (DeepSeek, Qwen, GLM, Kimi in drugi) so po kakovosti blizu zaprtim komercialnim, zlasti pri delu z lastnimi viri (RAG). Kakovost v slovenščini je odvisna od izbranega modela, zato ga na posvetu preizkusimo na vaših primerih.
Koliko stane lokalni AI?
Odvisno od modela in obsega uporabe – zato pripravimo ponudbo po meri. Stroški so enkratni (oprema, implementacija) ali mesečni (najem, podpora), ne pa na token.
Kakšna je razlika v primerjavi z oblačnim API-jem (npr. ChatGPT)?
Podatki ostanejo pod vašim nadzorom, ni odvisnosti od ponudnika ali njegovih kvot, model in vmesnik pa lahko poljubno prilagodimo. Pri stalni, večji obremenitvi je lahko lokalna rešitev dolgoročno tudi cenejša.
Kaj pomeni najem opreme?
Strežnik in GPU opremo zagotovimo mi, plačate mesečni najem – brez začetne investicije, enako kot pri najemu opreme pri kolokaciji.