AI infrastruktura je vrstva, na které stojí všechny AI funkce ve firmě: jeden přístup ke cloudovým i lokálním modelům, kontrola nákladů, záznam každého volání a anonymizace dat před modelem. Stavím ji tak, aby výměna modelu byla nastavení, ne přestavba.
Výběr modelu má být nastavení, ne architektonický závazek na roky.
Pro koho to je
- Firmy s více AI funkcemi, kde každá volá model jinak
- Firmy, které nevědí, kolik je jejich AI stojí a kdo ji používá
- Firmy, které chtějí kombinovat cloudové a lokální modely
Pokud máte jednu AI funkci a jednoho poskytovatele, infrastrukturu zatím nepotřebujete.
Jak to funguje
- Zmapuji, kde a jak dnes voláte modely, kolik to stojí a jaká data tam jdou.
- Navrhnu jednu vrstvu pro přístup k modelům, záznamy a limity.
- Postavím ji a postupně na ni napojím stávající funkce.
- Nastavím přehled nákladů a kvality a postup při výměně modelu.
Co dostanete
Jeden přístup k modelům
OpenAI, Anthropic i lokální modely přes Ollama za jedním rozhraním.
Kontrola nákladů
Limity a přehled nákladů podle funkce a týmu.
Záznam volání
Co šlo do modelu, co se vrátilo a kolik to stálo.
Anonymizace
Jména, rodná čísla a IBAN se před modelem nahradí tokeny.
Fronty a zpracování na pozadí
Dlouhé úlohy běží na pozadí a po výpadku pokračují.
Z praxe
AGL Assistant běží jako NestJS worker na pozadí s PostgreSQL a Redis a zpracovává poštu ze všech schránek. ClaimPilot před každým voláním modelu nahradí osobní údaje tokeny a běží celý na lokálních modelech, kde volbu modelu rozhodlo měření.
Co se ve firmě změní
Víte, kolik AI stojí a kdo ji používá. Nový model vyzkoušíte a nasadíte bez přepisování aplikací.
Technologie a bezpečnost dat
Data mohou zůstat na vašem serveru, osobní údaje se před modelem anonymizují a každé volání se zaznamenává.
Cena
45 000–112 500 Kč, 2–6 týdnů. Ceník
Časté otázky
Co je AI infrastruktura?
Společná vrstva pro všechny AI funkce: přístup k modelům, náklady, záznamy, anonymizace a fronty. Funkce nad ní nemusí každá zvlášť řešit, jaký model a jak volají.
Potřebujeme ji, když máme jeden chatbot?
Obvykle ne. Vyplatí se, když máte víc AI funkcí nebo chcete kombinovat cloudové a lokální modely.
Umíte použít lokální i cloudové modely zároveň?
Ano. Citlivá data mohou jít na lokální model a zbytek přes API v regionu EU.
Kolik to stojí?
45 000–112 500 Kč podle počtu napojených funkcí, 2–6 týdnů.
Související
- Služby
- Lokální LLM
AI na vašem serveru, data neopustí firmu.
- Evaluace a monitoring LLM
Testovací sada a čísla, jestli vaše AI opravdu funguje.
- AI agenti
Agent připraví návrh, člověk ho schválí.