✓ Privatnost i kontrola nad podacima – Ništa ne putuje na spoljne API-je, pa je rizik odavanja ili neovlašćene upotrebe podataka bitno manji. Idealno za poverljive dokumente, pravne usluge, zdravstvo, javnu upravu, istraživanje i razvoj te proizvodnju.
LOKALNI AI · ON-PREMISE
Vaš AI.
Vaši podaci.
Pod vašom kontrolom.
Pomažemo preduzećima da uspostave lokalni AI: pokrećemo open-source jezičke modele na hardveru koji prilagođavamo vašim potrebama. Opremu možete kupiti ili iznajmiti od nas; instaliramo je u bilo koje okruženje ili je hostujemo u sopstvenom podatkovnom centru u Ljubljani.
Za svakog klijenta pripremamo optimizovano rešenje po meri — programski i hardverski. AI oblikujemo oko vaših podataka, procesa i budžeta, da dobijete najviše performansi za razumnu cenu.
Vaši podaci pod vašom kontrolom, u Sloveniji.
Open-source modeli.
Oprema po meri ili u zakupu.
Domaća podrška.
VAŠI PODACI OSTAJU VAŠI
Šta je lokalni AI?
Lokalni AI (on-premise AI) znači da veštačka inteligencija radi na serverima u vašem vlasništvu ili na opremi koju iznajmljujete od nas — ne u stranom oblaku. Koristimo otvorene modele (tzv. open-weights) koji se mogu preuzeti i pokretati na sopstvenoj opremi; vodeći među njima po performansama su blizu komercijalnim rešenjima, pa su pogodni za ozbiljnu poslovnu upotrebu.
Vaši dokumenti, šifarnici, ugovori, e-pošta i interna baza znanja ostaju pod vašom kontrolom — u vašoj mreži ili u našem podatkovnom centru u Sloveniji — i nikad ne završavaju kod spoljnih API provajdera.
Vaši dokumenti
Vaša mreža
DC / lokacija po izboru
Zašto lokalni AI?
✓ Lakša usklađenost sa GDPR-om i regulativom – Jasna lokacija obrade (Slovenija), lakša dokumentacija za pravne osnove, revizije i interne politike zaštite.
✓ Predvidivi troškovi – Bez računa po tokenu i bez iznenađenja na kraju meseca. Plaćate opremu (kupovina ili zakup) i podršku — ne svaki pojedinačni prompt.
✓ Prilagodljivost po meri – Model, dužina konteksta, interfejs i tokovi prilagođavaju se vama: sopstvena baza znanja (RAG), povezivanje na ERP/CRM/DMS, alati i automatizacije po dogovoru.
✓ Nezavisnost od dobavljača – Lokalni AI ne pada kada API provajder promeni cenu ili uslove i nema spoljnih kvota ni ograničenja provajdera. Može da radi i bez interneta.
✓ Performanse koje drže korak – Vodeći otvoreni modeli po kvalitetu su blizu komercijalnim; naprednim optimizacijama iz odabrane opreme izvlačimo najviše.
Najnovija open-source tehnologija
Modeli (otvoreni / open-weights, po izboru i licenci):
- Qwen (Alibaba)
- DeepSeek
- Mistral
- Google Gemma
- GLM (Z.ai)
- Kimi (Moonshot)
- gpt-oss (OpenAI)
- i drugi – biramo prema zadatku, jeziku i veličini; na istom hardveru više modela može da radi paralelno.
Pogoni za zaključivanje (inference engine):
- vLLM i SGLang – industrijski standardi za posluživanje velikih modela sa visokom propusnošću i mnogo istovremenih korisnika.
- llama.cpp – pouzdan, lagan pogon za GGUF modele; odličan za manja okruženja i specijalizovane uređaje.
- Ollama
- TensorRT-LLM
- Strata
- Project Maya
- Colibri Project
- AirLLM
Optimizacije kojima iz opreme izvlačimo maksimum:
- kvantizacija – model komprimujemo na nižu numeričku preciznost (npr. GGUF, AWQ, FP8), pa više modela stane u istu memoriju i brže radi, uz kontrolisani gubitak kvaliteta;
- spekulativno dekodiranje (npr. EAGLE-3) – lagani pomoćni model unapred predlaže sledeće reči, glavni model ih samo proverava; generisanje se ubrzava do 2–3×, u zavisnosti od modela i opterećenja;
- MoE arhitektura i optimizacija KV-memorije – kod MoE modela po tokenu se računa samo deo modela, što smanjuje računske zahteve i povećava brzinu; upravljanjem KV-memorijom podržavamo duži kontekst i više istovremenih korisnika.
- KV-memorija – keširanje rezultata upita
Obezbeđujemo licencnu ispravnost: izbor modela uzima u obzir njegovu licencu (Apache 2.0, MIT i licence pojedinih dobavljača) i eventualna ograničenja za preduzeća u EU — savetujemo i na tom planu.
Šta lokalni AI u praksi može
Razgovor sa sopstvenom bazom znanja (RAG): Dokumenti, postupci, ugovori, ponude, tehnička dokumentacija — zaposleni dobijaju odgovore iz sopstvenih izvora sa upućivanjem na izvor.
Interni AI portal: (Open WebUI ili bilo koji interfejs po meri) za celo preduzeće, sa korisničkim ulogama i pristupima.
Automatizacija i agentski tokovi: Sažimanje, razvrstavanje, klasifikacija, generisanje ponuda, podrška korisnicima, interni chatbot.
Razvojni alat: Dovršavanje i pregled koda za programerski tim — bez slanja koda napolje. (npr. deepseek Harness)
Osetljivi podaci: Zdravstvo, finansije, pravni dokumenti, javni sektor — gde je upotreba cloud AI-ja pravno ili ugovorno ograničena.
Po potrebi i: Govorni modeli, OCR/obrada dokumenata, prevođenje, modeli slika.
Kako dolazimo do rešenja
Besplatne konsultacije (60 min) – Koji problem rešavamo, koje podatke i procese uključujemo.
Analiza i dizajn – Odabir modela, dužine konteksta i opterećenja; plan hardvera (GPU / RAM / NVMe). Po potrebi model testiramo na vašim podacima i na slovenačkom.
Ponuda po meri – Softver i hardver; mogućnost kupovine ili zakupa opreme; instalacija kod vas ili hosting u našem podatkovnom centru.
Implementacija i integracija – Instalacija, optimizacija, povezivanje sa postojećim okruženjima, testiranje sa vašim podacima.
Podrška i održavanje – Ažuriranja modela i pogona, nadzor, proširenja.
Oprema prema vašim zahtevima — kupljena ili u zakupu
- Konfiguracija po meri: hardver sa grafičkim karticama, odgovarajućom memorijom i NVMe skladištem.
- Zakup bez visokog početnog ulaganja — mesečni troškovi, nadogradnje po dogovoru; isto kao kod zakupa opreme pri kolokaciji.
- Hosting: kod vas u lokalnoj mreži ili u našem podatkovnom centru u Ljubljani (redundantno napajanje, hlađenje, DDoS zaštita, nadzor 24/7).
Česta pitanja
Da li su otvoreni modeli dovoljno dobri za ozbiljan rad?
Za većinu poslovnih zadataka da. Vodeći otvoreni modeli (DeepSeek, Qwen, GLM, Kimi i drugi) po kvalitetu su blizu zatvorenim komercijalnim, posebno pri radu sa sopstvenim izvorima (RAG). Kvalitet na slovenačkom zavisi od odabranog modela, pa ga na konsultacijama testiramo na vašim primerima.
Koliko košta lokalni AI?
Zavisi od modela i obima korišćenja — zato pripremamo ponudu po meri. Troškovi su jednokratni (oprema, implementacija) ili mesečni (zakup, podrška), a ne po tokenu.
Koja je razlika u odnosu na cloud API (npr. ChatGPT)?
Podaci ostaju pod vašom kontrolom, nema zavisnosti od provajdera ni njegovih kvota, a model i interfejs se mogu slobodno prilagoditi. Pri stalnom, većem opterećenju lokalno rešenje dugoročno može biti i jeftinije.
Šta znači zakup opreme?
Server i GPU opremu obezbeđujemo mi, plaćate mesečni zakup — bez početnog ulaganja, isto kao kod zakupa opreme pri kolokaciji.