AI infrastruktura je vrstva, na které stojí všechny AI funkce ve firmě: jeden přístup ke cloudovým i lokálním modelům, kontrola nákladů, záznam každého volání a anonymizace dat před modelem. Stavím ji tak, aby výměna modelu byla nastavení, ne přestavba.

Výběr modelu má být nastavení, ne architektonický závazek na roky.

Pro koho to je

  • Firmy s více AI funkcemi, kde každá volá model jinak
  • Firmy, které nevědí, kolik je jejich AI stojí a kdo ji používá
  • Firmy, které chtějí kombinovat cloudové a lokální modely

Pokud máte jednu AI funkci a jednoho poskytovatele, infrastrukturu zatím nepotřebujete.

Jak to funguje

  1. Zmapuji, kde a jak dnes voláte modely, kolik to stojí a jaká data tam jdou.
  2. Navrhnu jednu vrstvu pro přístup k modelům, záznamy a limity.
  3. Postavím ji a postupně na ni napojím stávající funkce.
  4. Nastavím přehled nákladů a kvality a postup při výměně modelu.

Co dostanete

Jeden přístup k modelům

OpenAI, Anthropic i lokální modely přes Ollama za jedním rozhraním.

Kontrola nákladů

Limity a přehled nákladů podle funkce a týmu.

Záznam volání

Co šlo do modelu, co se vrátilo a kolik to stálo.

Anonymizace

Jména, rodná čísla a IBAN se před modelem nahradí tokeny.

Fronty a zpracování na pozadí

Dlouhé úlohy běží na pozadí a po výpadku pokračují.

Z praxe

AGL Assistant běží jako NestJS worker na pozadí s PostgreSQL a Redis a zpracovává poštu ze všech schránek. ClaimPilot před každým voláním modelu nahradí osobní údaje tokeny a běží celý na lokálních modelech, kde volbu modelu rozhodlo měření.

Co se ve firmě změní

Víte, kolik AI stojí a kdo ji používá. Nový model vyzkoušíte a nasadíte bez přepisování aplikací.

Technologie a bezpečnost dat

Data mohou zůstat na vašem serveru, osobní údaje se před modelem anonymizují a každé volání se zaznamenává.

Cena

45 000–112 500 Kč, 2–6 týdnů. Ceník

Časté otázky

Co je AI infrastruktura?

Společná vrstva pro všechny AI funkce: přístup k modelům, náklady, záznamy, anonymizace a fronty. Funkce nad ní nemusí každá zvlášť řešit, jaký model a jak volají.

Potřebujeme ji, když máme jeden chatbot?

Obvykle ne. Vyplatí se, když máte víc AI funkcí nebo chcete kombinovat cloudové a lokální modely.

Umíte použít lokální i cloudové modely zároveň?

Ano. Citlivá data mohou jít na lokální model a zbytek přes API v regionu EU.

Kolik to stojí?

45 000–112 500 Kč podle počtu napojených funkcí, 2–6 týdnů.

Související