✓ Privatnost i kontrola nad podacima – Ništa ne putuje na vanjske API-je, pa je rizik odavanja ili neovlaštene upotrebe podataka bitno manji. Idealno za povjerljive dokumente, pravne usluge, zdravstvo, javnu upravu, istraživanje i razvoj te proizvodnju.
LOKALNI AI · ON-PREMISE
Vaš AI.
Vaši podaci.
Pod vašom kontrolom.
Pomažemo preduzećima da uspostave lokalni AI: pokrećemo open-source jezičke modele na hardveru koji prilagođavamo vašim potrebama. Opremu možete kupiti ili iznajmiti od nas; instaliramo je u bilo koje okruženje ili je hostiramo u vlastitom podatkovnom centru u Ljubljani.
Za svakog klijenta pripremamo optimizirano rješenje po mjeri — programski i hardverski. AI oblikujemo oko vaših podataka, procesa i budžeta, da dobijete najviše performansi za razumnu cijenu.
Vaši podaci pod vašom kontrolom, u Sloveniji.
Open-source modeli.
Oprema po mjeri ili u najmu.
Domaća podrška.
VAŠI PODACI OSTAJU VAŠI
Šta je lokalni AI?
Lokalni AI (on-premise AI) znači da umjetna inteligencija radi na serverima u vašem vlasništvu ili na opremi koju iznajmljujete od nas — ne u stranom oblaku. Koristimo otvorene modele (tzv. open-weights) koji se mogu preuzeti i pokretati na vlastitoj opremi; vodeći među njima po performansama su blizu komercijalnim rješenjima, pa su prikladni za ozbiljnu poslovnu upotrebu.
Vaši dokumenti, šifarnici, ugovori, e-pošta i interna baza znanja ostaju pod vašom kontrolom — u vašoj mreži ili u našem podatkovnom centru u Sloveniji — i nikad ne završavaju kod vanjskih API provajdera.
Vaši dokumenti
Vaša mreža
DC / lokacija po izboru
Zašto lokalni AI?
✓ Lakša usklađenost s GDPR-om i regulativom – Jasna lokacija obrade (Slovenija), lakša dokumentacija za pravne osnove, revizije i interne politike zaštite.
✓ Predvidivi troškovi – Bez računa po tokenu i bez iznenađenja na kraju mjeseca. Plaćate opremu (kupovina ili najam) i podršku — ne svaki pojedini prompt.
✓ Prilagodljivost po mjeri – Model, dužina konteksta, sučelje i tokovi prilagođavaju se vama: vlastita baza znanja (RAG), povezivanje na ERP/CRM/DMS, alati i automatizacije po dogovoru.
✓ Nezavisnost od dobavljača – Lokalni AI ne pada kada API provajder promijeni cijenu ili uslove i nema vanjskih kvota ni ograničenja provajdera. Može raditi i bez interneta.
✓ Performanse koje drže korak – Vodeći otvoreni modeli po kvaliteti su blizu komercijalnim; naprednim optimizacijama iz odabrane opreme izvlačimo najviše.
Najnovija open-source tehnologija
Modeli (otvoreni / open-weights, po izboru i licenci):
- Qwen (Alibaba)
- DeepSeek
- Mistral
- Google Gemma
- GLM (Z.ai)
- Kimi (Moonshot)
- gpt-oss (OpenAI)
- i drugi – biramo prema zadatku, jeziku i veličini; na istom hardveru više modela može raditi paralelno.
Pogoni za zaključivanje (inference engine):
- vLLM i SGLang – industrijski standardi za posluživanje velikih modela s visokom propusnošću i mnogo istovremenih korisnika.
- llama.cpp – pouzdan, lagan pogon za GGUF modele; odličan za manja okruženja i specijalizirane uređaje.
- Ollama
- TensorRT-LLM
- Strata
- Project Maya
- Colibri Project
- AirLLM
Optimizacije kojima iz opreme izvlačimo maksimum:
- kvantizacija – model komprimujemo na nižu numeričku preciznost (npr. GGUF, AWQ, FP8), pa više modela stane u istu memoriju i brže radi, uz kontrolirani gubitak kvalitete;
- spekulativno dekodiranje (npr. EAGLE-3) – lagani pomoćni model unaprijed predlaže sljedeće riječi, glavni model ih samo provjerava; generisanje se ubrzava do 2–3×, u zavisnosti od modela i opterećenja;
- MoE arhitektura i optimizacija KV-spremnika – kod MoE modela po tokenu se računa samo dio modela, što smanjuje računske zahtjeve i povećava brzinu; upravljanjem KV-spremnikom podržavamo duži kontekst i više istovremenih korisnika.
- KV-spremnik – keširanje rezultata upita
Osiguravamo licencnu ispravnost: izbor modela uzima u obzir njegovu licencu (Apache 2.0, MIT i licence pojedinih dobavljača) i eventualna ograničenja za preduzeća u EU — savjetujemo i na tom planu.
Šta lokalni AI u praksi može
Razgovor s vlastitom bazom znanja (RAG): Dokumenti, postupci, ugovori, ponude, tehnička dokumentacija — zaposlenici dobijaju odgovore iz vlastitih izvora s upućivanjem na izvor.
Interni AI portal: (Open WebUI ili bilo koje sučelje po mjeri) za cijelo preduzeće, s korisničkim ulogama i pristupima.
Automatizacija i agentski tokovi: Sažimanje, razvrstavanje, klasifikacija, generisanje ponuda, podrška korisnicima, interni chatbot.
Razvojni alat: Dovršavanje i pregled koda za programerski tim — bez slanja koda van. (npr. deepseek Harness)
Osjetljivi podaci: Zdravstvo, finansije, pravni dokumenti, javni sektor — gdje je upotreba cloud AI-ja pravno ili ugovorno ograničena.
Po potrebi i: Govorni modeli, OCR/obrada dokumenata, prevođenje, modeli slika.
Kako dolazimo do rješenja
Besplatne konsultacije (60 min) – Koji problem rješavamo, koje podatke i procese uključujemo.
Analiza i dizajn – Odabir modela, dužine konteksta i opterećenja; plan hardvera (GPU / RAM / NVMe). Po potrebi model testiramo na vašim podacima i na slovenskom.
Ponuda po mjeri – Softver i hardver; mogućnost kupovine ili najma opreme; instalacija kod vas ili hosting u našem podatkovnom centru.
Provedba i integracija – Instalacija, optimizacija, povezivanje s postojećim okruženjima, testiranje s vašim podacima.
Podrška i održavanje – Ažuriranja modela i pogona, nadzor, proširenja.
Oprema prema vašim zahtjevima — kupljena ili u najmu
- Konfiguracija po mjeri: hardver s grafičkim karticama, odgovarajućom memorijom i NVMe pohranom.
- Najam bez visokog početnog ulaganja — mjesečni troškovi, nadogradnje po dogovoru; isto kao kod najma opreme pri kolokaciji.
- Hosting: kod vas u lokalnoj mreži ili u našem podatkovnom centru u Ljubljani (redundantno napajanje, hlađenje, DDoS zaštita, nadzor 24/7).
Česta pitanja
Jesu li otvoreni modeli dovoljno dobri za ozbiljan rad?
Za većinu poslovnih zadataka da. Vodeći otvoreni modeli (DeepSeek, Qwen, GLM, Kimi i drugi) po kvaliteti su blizu zatvorenim komercijalnim, posebno pri radu s vlastitim izvorima (RAG). Kvaliteta na slovenskom zavisi od odabranog modela, pa ga na konsultacijama testiramo na vašim primjerima.
Koliko košta lokalni AI?
Zavisi od modela i obima korištenja — zato pripremamo ponudu po mjeri. Troškovi su jednokratni (oprema, implementacija) ili mjesečni (najam, podrška), a ne po tokenu.
Koja je razlika u odnosu na cloud API (npr. ChatGPT)?
Podaci ostaju pod vašom kontrolom, nema zavisnosti o provajderu ni njegovim kvotama, a model i sučelje mogu se slobodno prilagoditi. Pri stalnom, većem opterećenju lokalno rješenje dugoročno može biti i jeftinije.
Šta znači najam opreme?
Server i GPU opremu osiguravamo mi, plaćate mjesečni najam — bez početnog ulaganja, isto kao kod najma opreme pri kolokaciji.