✓ Privatnost i nadzor nad podacima – Ništa ne putuje na vanjske API-je, pa je rizik odavanja ili neovlaštene upotrebe podataka bitno manji. Idealno za povjerljive dokumente, pravne usluge, zdravstvo, javnu upravu, istraživanje i razvoj te proizvodnju.
LOKALNI AI · ON-PREMISE
Vaš AI.
Vaši podaci.
Pod vašim nadzorom.
Pomažemo poduzećima uspostaviti lokalni AI: pokrećemo open-source jezične modele na hardveru koji prilagođavamo vašim potrebama. Opremu možete kupiti ili unajmiti od nas; instaliramo je u bilo koje okruženje ili je hostiramo u vlastitom podatkovnom centru u Ljubljani.
Za svakog klijenta pripremamo optimizirano rješenje po mjeri — programski i hardverski. AI oblikujemo oko vaših podataka, procesa i proračuna, kako biste dobili najviše performansi za razumnu cijenu.
Vaši podaci pod vašim nadzorom, u Sloveniji.
Open-source modeli.
Oprema po mjeri ili u najmu.
Domaća podrška.
VAŠI PODACI OSTAJU VAŠI
Što je lokalni AI?
Lokalni AI (on-premise AI) znači da umjetna inteligencija radi na poslužiteljima u vašem vlasništvu ili na opremi koju unajmljujete od nas — ne u stranom oblaku. Koristimo otvorene modele (tzv. open-weights) koji se mogu preuzeti i pokretati na vlastitoj opremi; vodeći među njima po performansama su blizu komercijalnim rješenjima, pa su prikladni za ozbiljnu poslovnu upotrebu.
Vaši dokumenti, šifrarnici, ugovori, e-pošta i interna baza znanja ostaju pod vašim nadzorom — u vašoj mreži ili u našem podatkovnom centru u Sloveniji — i nikad ne završavaju kod vanjskih API pružatelja.
Vaši dokumenti
Vaša mreža
DC / lokacija po izboru
Zašto lokalni AI?
✓ Lakša usklađenost s GDPR-om i regulativom – Jasna lokacija obrade (Slovenija), lakša dokumentacija za pravne osnove, revizije i interne politike zaštite.
✓ Predvidljivi troškovi – Bez računa po tokenu i bez iznenađenja na kraju mjeseca. Plaćate opremu (kupnja ili najam) i podršku — ne svaki pojedini prompt.
✓ Prilagodljivost po mjeri – Model, duljina konteksta, sučelje i tokovi prilagođavaju se vama: vlastita baza znanja (RAG), povezivanje na ERP/CRM/DMS, alati i automatizacije po dogovoru.
✓ Neovisnost o dobavljačima – Lokalni AI ne pada kada API pružatelj promijeni cijenu ili uvjete i nema vanjskih kvota ni ograničenja pružatelja. Može raditi i bez interneta.
✓ Performanse koje drže korak – Vodeći otvoreni modeli po kvaliteti su blizu komercijalnim; naprednim optimizacijama iz odabrane opreme izvlačimo najviše.
Najnovija open-source tehnologija
Modeli (otvoreni / open-weights, po izboru i licenci):
- Qwen (Alibaba)
- DeepSeek
- Mistral
- Google Gemma
- GLM (Z.ai)
- Kimi (Moonshot)
- gpt-oss (OpenAI)
- i drugi – biramo prema zadatku, jeziku i veličini; na istom hardveru više modela može raditi paralelno.
Pogoni za zaključivanje (inference engine):
- vLLM i SGLang – industrijski standardi za posluživanje velikih modela s visokom propusnošću i mnogo istodobnih korisnika.
- llama.cpp – pouzdan, lagan pogon za GGUF modele; odličan za manja okruženja i specijalizirane uređaje.
- Ollama
- TensorRT-LLM
- Strata
- Project Maya
- Colibri Project
- AirLLM
Optimizacije kojima iz opreme izvlačimo maksimum:
- kvantizacija – model komprimiramo na nižu numeričku preciznost (npr. GGUF, AWQ, FP8), pa više modela stane u istu memoriju i brže radi, uz kontrolirani gubitak kvalitete;
- spekulativno dekodiranje (npr. EAGLE-3) – lagani pomoćni model unaprijed predlaže sljedeće riječi, glavni model ih samo provjerava; generiranje se ubrzava do 2–3×, ovisno o modelu i opterećenju;
- MoE arhitektura i optimizacija KV-spremnika – kod MoE modela po tokenu se računa samo dio modela, što smanjuje računske zahtjeve i povećava brzinu; upravljanjem KV-spremnikom podržavamo dulji kontekst i više istodobnih korisnika.
- KV-spremnik – predmemoriranje rezultata upita
Osiguravamo licencnu ispravnost: izbor modela uzima u obzir njegovu licencu (Apache 2.0, MIT i licence pojedinih dobavljača) i eventualna ograničenja za poduzeća u EU — savjetujemo i na tom planu.
Što lokalni AI u praksi može
Razgovor s vlastitom bazom znanja (RAG): Dokumenti, postupci, ugovori, ponude, tehnička dokumentacija — zaposlenici dobivaju odgovore iz vlastitih izvora s upućivanjem na izvor.
Interni AI portal: (Open WebUI ili bilo koje sučelje po mjeri) za cijelo poduzeće, s korisničkim ulogama i pristupima.
Automatizacija i agentski tokovi: Sažimanje, razvrstavanje, klasifikacija, generiranje ponuda, podrška korisnicima, interni chatbot.
Razvojni alat: Dovršavanje i pregled koda za programerski tim — bez slanja koda van. (npr. deepseek Harness)
Osjetljivi podaci: Zdravstvo, financije, pravni dokumenti, javni sektor — gdje je upotreba oblačnog AI-ja pravno ili ugovorno ograničena.
Po potrebi i: Govorni modeli, OCR/obrada dokumenata, prevođenje, modeli slika.
Kako dolazimo do rješenja
Besplatne konzultacije (60 min) – Koji problem rješavamo, koje podatke i procese uključujemo.
Analiza i dizajn – Odabir modela, duljine konteksta i opterećenja; plan hardvera (GPU / RAM / NVMe). Po potrebi model testiramo na vašim podacima i na slovenskom.
Ponuda po mjeri – Softver i hardver; mogućnost kupnje ili najma opreme; instalacija kod vas ili hosting u našem podatkovnom centru.
Provedba i integracija – Instalacija, optimizacija, povezivanje s postojećim okruženjima, testiranje s vašim podacima.
Podrška i održavanje – Ažuriranja modela i pogona, nadzor, proširenja.
Oprema prema vašim zahtjevima — kupljena ili u najmu
- Konfiguracija po mjeri: hardver s grafičkim karticama, odgovarajućom memorijom i NVMe pohranom.
- Najam bez visokog početnog ulaganja — mjesečni troškovi, nadogradnje po dogovoru; isto kao kod najma opreme pri kolokaciji.
- Hosting: kod vas u lokalnoj mreži ili u našem podatkovnom centru u Ljubljani (redundantno napajanje, hlađenje, DDoS zaštita, nadzor 24/7).
Česta pitanja
Jesu li otvoreni modeli dovoljno dobri za ozbiljan rad?
Za većinu poslovnih zadataka da. Vodeći otvoreni modeli (DeepSeek, Qwen, GLM, Kimi i drugi) po kvaliteti su blizu zatvorenim komercijalnim, osobito pri radu s vlastitim izvorima (RAG). Kvaliteta na slovenskom ovisi o odabranom modelu, pa ga na konzultacijama testiramo na vašim primjerima.
Koliko košta lokalni AI?
Ovisi o modelu i opsegu korištenja — zato pripremamo ponudu po mjeri. Troškovi su jednokratni (oprema, implementacija) ili mjesečni (najam, podrška), a ne po tokenu.
Koja je razlika u odnosu na oblačni API (npr. ChatGPT)?
Podaci ostaju pod vašim nadzorom, nema ovisnosti o pružatelju ni njegovim kvotama, a model i sučelje mogu se slobodno prilagoditi. Pri stalnom, većem opterećenju lokalno rješenje dugoročno može biti i jeftinije.
Što znači najam opreme?
Poslužitelj i GPU opremu osiguravamo mi, plaćate mjesečni najam — bez početnog ulaganja, isto kao kod najma opreme pri kolokaciji.