Sadu AI Kit pro Raspberry vyvinula firma Hailo, která svůj akcelerátor Hailo-8L posadila na M2 HAT+ pro Pi 5. Hailo má široké zkušenosti s vývojem modulů a modelů AI pro výkonné AI Edge aplikace, kde vývojáři vyžadují co nejvíce otevřené prostředí a open-source přístup, takže je logické, že stejné nástroje mohou využít i vývojáři, kteří sáhnou po AI Kitu. Spojení s Raspberry ovšem nabízí také vyšší úroveň zjednodušení, takže je možné velmi snadno a rychle začít s vývojem aplikací, které limituje jen senzorika,dostupná pro Raspberry, například detekce objektů, sémantická a instanční segmentace, odhad pozice nebo rozpoznání obličeje. Hailo-8L přitom při výkonu 13TOPS poskytuje relativně nízkou latenci a spotřebu a celá neuronová síť běží výhradně na tomto koprocesoru, takže samotná Raspberry Pi 5 může provádět jiné úkoly.
Mezi klíčové vlastnosti Raspberry Pi AI Kit patří:
- 13 tera-operací za sekundu (TOPS) výkonu odvozování
- Jednokanálové připojení PCIe 3.0 běžící rychlostí 8 Gb/s
- Plná integrace se softwarovým subsystémem obrazu Raspberry Pi
- Kompatibilita s fotoaparáty první nebo třetí strany
- Efektivní plánování hardwaru akcelerátoru: provozujte více neuronových sítí na jedné kameře nebo jednu/více neuronových sítí se dvěma kamerami současně
Raspberry Pi 5 se sadou Raspberry Pi AI Kit
Společnost Hailo vytvořila rozsáhlou modelovou zoo, kde uživatelé mohou najít širokou škálu předtrénovaných modelů neuronových sítí připravených k nasazení a optimalizovaných pro provoz na AI Kit.
Programové vybavení
Významnou překážkou při vytváření reálných aplikací pro vidění založených na umělé inteligenci je softwarová složitost integrace kamerového subsystému s AI frameworkem. Pro Raspberry Pi AI Kit dostala sada kamerových aplikací rpicam-apps šablonu pro integraci neuronové sítě běžící v reálném čase v kanálu kamery. Pomocí předinstalovaných knihoven pro následné zpracování Hailo Tappas mohou profesionálové vytvářet pokročilé aplikace založené na umělé inteligenci v pouhých několika stovkách řádků kódu C++. Průběžně bude k dsipozoco také integrace do frameworku Picamera2 .
Bližší pohled na modul Hailo
Rozpoznávání objektů: funguje i při pohybu provozu na dálnici A14
Raspberry Pi AI Kit není vázán jen na použití koprocesoru Hailo-8L pouze v aplikacích rpicam nebo Picamera2. Umožňuje spustit také API integrované v frameworku GStreamer a nativní aplikace v Pythonu nebo C/C++. To zahrnuje také případy použití mimo kameru, jako je spouštění odvozování u předem nahraných videosouborů.
https://www.raspberrypi.com/products/ai-kit/
https://hailo.ai/