Od chytrých domácích asistentů (Alexa, Google a Siri) až po pokročilé asistenční systémy pro řidiče (ADAS), které upozorňují řidiče, když vyjíždí ze svého jízdního pruhu, se svět spoléhá na umělou inteligenci na okraji sítě (edge), která pro tato stále běžnější a významnější zařízení zajišťuje zpracování dat v reálném čase. Technologie Edge AI využívá umělou inteligenci přímo v zařízení a provádí výpočty v blízkosti zdroje dat, nikoli v datovém centru s cloud computingem mimo pracoviště. Tento postup nabízí sníženou latenci, rychlejší zpracování, nižší potřebu neustálého připojení k internetu a může i snížit obavy o soukromí. Je to významný posun ve způsobu zpracování dat a s rostoucí poptávkou po inteligenci v reálném čase. Proto má edge AI dobrou pozici, aby pokračovala ve svém silném vlivu v mnoha odvětvích.
Největší předností edge AI je rychlost, kterou je schopná poskytovat kriticky důležitým aplikacím. Na rozdíl od AI v cloudu/datovém centru edge AI neodesílá data přes síťová propojení a spoléhá se přiměřenou dobu odezvy. Edge AI namísto toho provádí výpočty lokálně (často v operačním systému v reálném čase), které vykazují vynikající výsledky z hlediska včasných reakcí. AI je dobře vybavena například pro situace, jako je strojové vidění na výrobní lince a rozhodnutí, že produkt lze během okamžiku přesměrovat. Stejně tak byste patrně nechtěli, aby signály z automobilu byly závislé na době odezvy sítě nebo serverů v cloudu.
Edge AI pro zpracování v reálném čase
Mnoho aktivit v reálném čase vyvolává potřebu umělé inteligence na okraji. Pozoruhodným využitím této technologie jsou různé aplikace, například inteligentní domácí asistenti, ADAS, monitorování pacientů a prediktivní údržba. AI nabízí nabízí rychlé reakce a zároveň minimalizuje obavy o soukromí, ať již jde o rychlé odpovědi na otázky v domácnosti, oznámení o opuštění jízdního pruhu ve vozidle nebo odeslání naměřených hodnot glukózy do chytrého telefonu.
Již nějakou dobu jsme svědky toho, že se umělé inteligenci daří v dodavatelském řetězci, zejména ve skladech a továrnách. V posledním desetiletí došlo také k výraznému rozvoji technologií v dopravním průmyslu, například doručovacích dronů, které se pohybují v podmínkách, jako jsou mraky. Edge AI dělá také velké věci pro konstruktéry, zejména odvětví zdravotnických technologií, kriticky důležité oblasti pokroku.Inženýři vyvíjející kardiostimulátory a další kardiologické přístroje mohou například poskytnout lékařům nástroje pro vyhledávání abnormálních srdečních rytmů a zároveň proaktivně naprogramovat přístroje tak, aby poskytovaly pokyny, kdy je třeba vyhledat další lékařský zásah. Zdravotnické technologie budou i nadále rozšiřovat využívání umělé inteligence v edge prostředí a budovat další funkce.
Generování modelů edge AI
Vzhledem k tomu, že stále více systémů v každodenním životě pracuje s určitou úrovní interakce se strojovým učením (ML), porozumění tomuto světu se pro inženýry a vývojáře stává životně důležitým, aby mohli plánovat budoucnost uživatelských interakcí.
Nejsilnější příležitostí pro edge AI je strojové učení (ML), které porovnává vzorce na základě statistického algoritmu. Vzorce mohou být detekce přítomnosti člověka, zjištění, že někdo právě vyslovil slovo „probuzení“ (např. Alexa nebo „Hey Siri“) pro chytrého domácího asistenta nebo že motor začíná kmitat. V případě asistenta chytré domácnosti jsou slovy probuzení rozumí modely pracující v edge, které nevyžadují odesílání hlasu do cloudu. Tato slova probudí zařízení a oznámí mu, že nastal čas odeslat další příkazy.
Existuje několik cest generování modelu strojového učení (ML): pomocí integrovaného vývojového prostředí (například TensorFlow nebo PyTorch) nebo platformy SaaS (naříklad Edge Impulse). Při budování dobrého modelu ML je většina „práce“ věnována vytvoření reprezentativního souboru dat a jeho dobrého označení.
V současné době je nejoblíbenějším modelem ML pro edge AI model s dohledem, což je typ tréninku založený na označených a štítkovaných vzorových datech, kde výstupem je známá hodnota, jejíž správnost lze ověřovat, podobně jako když učitel kontroluje a opravuje práci v jejím průběhu. Tento typ tréninku se obvykle používá v aplikacích, jako jsou klasifikační práce nebo regrese dat. Trénink pod dohledem může být praktický a vysoce přesný, ale velmi závisí na označené datové sadě a nemusí být schopnen zpracovávat nové vstupy.
Hardware pro spouštění úloh edge AI
Ve společnosti DigiKey máme dobré předpoklady k tomu, abychom pomáhali při implementacích AI na okraji, které obvykle běží na mikrokontrolérech, programovatelných hradlových polích (FPGA) a jednodeskových počítačích (SBC). Společnost DigiKey spolupracuje se špičkovými dodavateli a poskytuje několik generací edge hardwaru, na kterém běží modely strojového učení (ML). V letošním roce jsme se dočkali několika nových, vynikajících hardwarových produktů, včetně řady MCX-N od společnosti NXP, a brzy naskladníme také řadu STM32MP25 od společnosti ST Microelectronics.
V minulých letech se pro spouštění edge AI staly oblíbenými vývojové desky z komunity makerů včetně Edge Development Board Apollo3 Blue od společnosti SparkFun, EdgeBadge od společnosti AdaFruit, Nano 33 BLE Sense Rev 2 od společnosti Arduino a Raspberry Pi 4 nebo 5.
V edge AI se prosazují neuronové procesorové jednotky (NPU). NPU jsou specializované integrované obvody určené k urychlení zpracování aplikací ML a AI založených na neuronových sítích. Jedná se o struktury podobné lidskému mozku s mnoha vzájemně propojenými vrstvami a uzly nazývanými neurony, které zpracovávají a předávají informace. Vzniká nová generace jednotek NPU s vyhrazeným matematickým zpracováním, včetně řady MCX N od společnosti NXP a MAX78000 od společnosti ADI.
Setkáváme se také s akcelerátory umělé inteligence pro edge zařízení, což je prostor, který ještě není definován. V této oblasti již působí první významné společnostmi včetně Google Coral a Hailo.
Význam senzorů strojového učení (ML)
V dodavatelských řetězcích se již poměrně dlouho používají vysokorychlostní kamery s modely ML. Využívaly se pro aplikace, jako je rozhodování o tom, kam budou odeslány produkty ve skladu nebo hledání vadných produktů na výrobní lince. Dodavatelé vytvářejí levné moduly vidění AI, které mohou spouštět moduly strojového učení (ML) pro rozpoznávání objektů nebo osob.
Ačkoliv provozování modelu ML bude vyžadovat embedded systém, bude existovat více produktů uváděných na trh jako elektronické součásti podporující umělou inteligecnci. Patří sem senzory s podporou umělé inteligence, známé také jako senzory strojového učení (ML). I když přidání modelu strojového učení (ML) k většině senzorů nezvýší jejich účinnost v aplikaci, existuje několik typů senzorů, kterým trénink ML umožní pracovat podstatně efektivněji:
- Kamerové senzory, pro které lze vyvinout modely ML na sledování objektů a osob v záběru
- Inerciální měřicí jednotky (IMU), akcelerometry a pohybové senzory na detekci profilů aktivity
Některé senzory AI jsou dodávány s předinstalovaným modelem strojového učení (ML) připraveným k provozu. Například vyhodnocovací deska SparkFun na detekci osob je předprogramována na detekci obličejů a vracení výsledků přes rozhraní QWiiC I2C. Jiné senzory AI, například Nicla Vision od společnosti Arduino nebo OpenMV Cam H7 od společnosti Seed Technology, jsou otevřenější a pro hledaný cíl (defekty, předměty atd.) vyžadují trénovaný ML model.
Využíváním neuronových sítí k poskytování výpočetních algoritmů lze detekovat a sledovat objekty i osoby, které se pohybují v zorném poli senzoru kamery.
Budoucnost edge AI
Vzhledem k tomu, že se mnoho průmyslových odvětví vyvíjí a stává se více závislými na technologiích zpracování dat, bude se umělá inteligence v edge stále šířeji uplatňovat. Podporou rychlejšího a bezpečnějšího zpracování dat na úrovni zařízeníbude zrychlovat také inovace v edge AI. Několik oblastí, které v blízké budoucnosti čeká expanze, zahrnují:
- Vyhrazení procesorová logika pro výpočetní aritmetiku neuronových sítí.
- Pokrok v alternativách s nižší spotřebou energie ve srovnání s významnou spotřebou energie v cloud computingu.
- Další integrovaná/modulární řešení, například moduly Vision AI, která budou zahrnovat vestavěné senzory společně s vestavěným hardwarem.
S rozvojem metod, hardwaru a softwaru pro trénink strojového učení (ML) má edge AI dobré předpoklady k exponenciálnímu růstu a podpoře mnoha průmyslových odvětví. Ve společnosti DigiKey jsme odhodláni držet krok s trendy v oblasti AI na okraji a těšíme se, že budeme podporovat inovativní inženýry, konstruktéry, tvůrce a odborníky v oblasti veřejných zakázek po celém světě množstvím řešení, bezproblémových interakcí, nástrojů a vzdělávacích zdrojů, které zefektivní jejich práci. Další informace o AI na okraji, produktech a zdrojích naleznete na webových stránkách DigiKey.com/edge-ai.
Shawn Luke je technický marketingový inženýr ve společnosti DigiKey. Společnost DigiKey, která je uznávaná jako globální lídr a trvalý inovátor v oblasti špičkové komerční distribuce elektronických součástek a produktů automatizace po celém světě, nabízí více než 15,6 milionů součástek od více než 3 000 kvalitních značkových výrobců.
