Dostat model na zařízení je ta snadná část. Zbytek je inženýrská práce: udržet přesnost na reálných senzorových datech, vejít se do energetického rozpočtu pro always-on inference, posílat aktualizace na tisíce zařízení v terénu a tlumit drift, který přijde po nasazení. Stavíme edge AI, které vydrží v terénu, ne jen ve studiu Edge Impulse.
Pixelfield je pro CTO, hardware product leady a produktové inženýry ve firmách stavějících fyzická zařízení, IoT produkty a systémy. AI u nich musí běžet přímo na zařízení kvůli privacy, latency, konektivitě nebo nákladům. Senior inženýři, kteří vymezují rozsah, píšou i produkční kód. 50+ AI funkcí v produkci, spojení ML a embedded zkušeností. Jsme známí tím, že vám řekneme, kdy cloud inference dává víc smyslu než edge.
Optimalizace pro konkrétní hardware, ne univerzální šablonaOTA aktualizace a fleet monitoring od prvního dneSenior ML + embedded inženýřiEdge vs cloud rozhodnutí písemně
Data, která nesmí opustit zařízení: zdravotnictví, finance, čidla na pracovišti, aplikace pro bezpečnost dětí, automotive ADAS, audio pro chytrou domácnost. On-device inference znamená, že surová data nikdy neodejdou. Privacy není naše směrnice, je to naše architektura. Regulované obory si tohle nemůžou dovolit jinak.
Real-time vision na výrobní lince, satelitní systémy bez čekání na cloud API, autonomní drony, hlasové UX bez znatelného zpoždění. Satelity ve vesmíru nemůžou čekat na volání cloud API - počítají lokálně, nebo selžou. Edge inference odbourává cestu tam a zpět do cloudu, která může být i 200 až 500 ms na špatné lince.
Při dostatečném objemu inference se edge vs cloud rozhoduje sám: rozhodují náklady. ESP32 anomaly detection nahradil cloud pipeline. Latence padla z 800 ms na 15 ms a účet za cloud spadl na nulu. Při milionech inference měsíčně se investice do edge řešení vrátí do šesti až 12 měsíců.
Nástroje pro obchodníky v zónách bez signálu, zemědělské drony v terénu, námořní provoz, těžba, vzdálený monitoring. Žádný cloud, žádná latency, žádná konektivita. Funguje offline. Synchronizuje, jakmile se signál vrátí. Edge inference musí být výchozí volba, ne záložní.
Související služby
Začínáme rozhovory se zadavateli a rozborem use case. Mapujeme obchodní cíle, cílovou skupinu, regulační zátěž, hardwarová omezení (paměť, výpočet, spotřeba, teplota), předpoklady konektivity a požadavky na privacy. Pokud cloud inference pro váš use case dává víc smyslu, řekneme to v týdnu jedna.
Dostanete: rozhodnutí o dimenzování hardwaru, návrh architektury modelu, plán kvantizace, návrh OTA infrastruktury, roadmapu fleet ops a cenovou nabídku s pevným rozsahem.
Kde je riziko optimalizace nebo nasazení vysoké, pouštíme časově ohraničený PoC na vašem reálném hardwaru s reálnými senzorovými daty. PoC je navržený tak, aby rychle selhal na věcech, co obvykle zabíjejí edge AI: odběr energie pod zátěží, thermal throttling, pokles přesnosti na reálných datech, spodní hranice latence.
Řekneme stop, pokud čísla nezdůvodňují build. Občas to z naší strany přijde i u placeného discovery.
Build běží jako malý zkušený tým vedený Michalem Vavrou, spojení ML a embedded inženýrů. Iterativně, s revizí kódu každý jeden až dva týdny. Pipeline pro optimalizaci modelu, on-device inference vrstva, OTA infrastruktura, fleet monitoring stack a integrace do existujícího produktového stacku, vše najednou.
Dostanete: optimalizovaný model na cílovém hardwaru, OTA infrastrukturu, monitoring dashboard, dokumentaci a deployment skripty pro testnet/staging fleet.
Nasazení na produkční fleet, canary rollout na malou část zařízení, finální ověření, nastavení monitoringu. Per-device telemetry, accuracy drift detection, anomaly alerty, rollback procedury. Monitoring po spuštění zachytí problémy dřív, než se promítnou do uživatelské zkušenosti.
Dostanete: live produkční fleet, monitoring dashboard, runbooky a, pokud chcete, měsíční retainer pro aktualizace modelu, drift response a fleet ops.
Přímé odpovědi na otázky, které slyšíme od CTO, hardware product leadů a produktových inženýrů na každém discovery callu.
Edge vyhrává, když je privacy nepřekročitelná, latency musí být pod 100 ms, konektivita je nespolehlivá nebo žádná, cena cloud inference při reálném objemu přesáhne výdaje na API nebo regulace vyžaduje on-device processing. Cloud vyhrává, když model potřebuje časté retraining, výpočetní nároky překračují schopnosti zařízení a konektivita je spolehlivá. Hybrid (training v cloudu, inference na edge, burst zpět) je často správná odpověď. V discovery to upřímně rozhodneme s vámi.
Závisí na hardwaru. INT8 na Jetson Orin (Ampere) dává 3,75× zrychlení s minimální ztrátou přesnosti. INT8 na Jetson Nano (Maxwell) dává jen 10 až 20 % zisk, protože standardní deployment postup funguje zásadně jinak na Maxwell než na Ampere. 4-bit kvantizace s 87% zachováním přesnosti je proveditelná u většiny modelů, plus 4,2× nižší spotřeba energie. Profilujeme per-target-hardware, ne per-model.
Microcontrollery (ESP32, STM32, ARM Cortex-M) pro TinyML s kilobyty RAM. Edge akcelerátory (NVIDIA Jetson Nano, Jetson Orin, Coral TPU) pro computer vision a inference ve škále. Mobile a SBC (Raspberry Pi, Android, iOS) pro spotřebitelské aplikace. Custom PCB pro účelová zařízení. Frameworky: TensorFlow Lite Micro, Edge Impulse, ONNX Runtime, TensorRT, OpenVINO, CMSIS-NN. Volba je rozhodnutí podle konkrétního hardwaru, ne výchozí nastavení.
OTA model deployment je součást buildu, ne dodatečný nápad. Canary rollouty na malou část fleet, monitoring accuracy drift na reálných datech, automatický rollback při regresi. Stejný release proces jako u softwaru, ne jednorázový report. Bez OTA infrastruktury edge AI v terénu nedrží.
Ano. Většina projektů má hardware už zvolený nebo navržený. V discovery posoudíme omezení (paměť, výpočet, spotřeba, teplota) a navrhneme architekturu modelu, která sedne. Pokud hardware ještě není pevně daný, doporučíme nejlevnější čip, který use case zvládne. Custom PCB design děláme jen tam, kde to dává smysl.
Discovery 1 až 2 týdny. PoC na cílovém hardware 2 až 4 týdny, pokud je riziko vysoké. Production build typicky 8 až 12 týdnů do live systému s OTA infrastrukturou a fleet monitoringem. Projekty s custom PCB designem nebo regulovaným hardware (medical, automotive) trvají déle. Řekneme to písemně už v discovery.
Discovery pevná cena od 140 000 Kč. Production buildy obvykle od 850 000 Kč a běží 8 až 12 týdnů. Fleet ops retainer je pevný měsíční podle počtu zařízení a SLA. Provozní náklady na edge jsou často téměř nulové (žádný per-inference poplatek), což je celý ekonomický argument. Obě čísla stanovíme v návrhu po discovery.
Primárně software a modelová část: optimalizace, on-device inference, OTA, fleet ops. Custom PCB design nebo low-level firmware děláme jen tam, kde to use case vyžaduje a kde s námi spolupracuje hardware partner. Pro standardní edge boards (Jetson, ESP32, Coral) máme produkční zkušenosti přímo.
To je nejčastější důvod, proč edge AI v produkci selhává. Většina selhání začíná po nasazení, když se rozložení signálu posunou. Monitoring accuracy drift na reálných datech je součást buildu od prvního dne. Když drift překročí práh, alert spustí retraining cyklus s novými reálnými daty. Bez této smyčky model v terénu tiše degraduje.
Vy vlastníte všechno. Zdrojový kód, model weights, quantization recipes, OTA infrastructure-as-code, deployment skripty, monitoring dashboardy, runbooky. Dokumentujeme tak, aby šlo systém kdykoli předat vašemu týmu nebo jinému dodavateli. Žádný lock-in, žádné pronajaté vrstvy.
