Spis treści:
V posledních letech můžeme pozorovat postupnou komercializaci technologií AI. Umělá inteligence již není doménou jen velmi sofistikovaných laboratoří velkých technologických společností a je implementována do stále většího počtu zařízení a aplikací. Zpracování dat v reálném čase, rozpoznávání vzorů, autonomní roboti a vozidla – to jsou jen některé z nesčetných oblastí, které díky pokroku v oblasti umělé inteligence získávají na popularitě. S růstem trhu s umělou inteligencí se zintenzivňuje i svět desek a vývojářských sad optimalizovaných pro software a učící se algoritmy.
Technologie AI na dlani: Seznamte se s Nvidia Jetson Nano
Jedním z klíčových hráčů ve světě umělé inteligence je společnost Nvidia, kterou někteří považují za jednoho z hlavních lídrů v tomto odvětví, a není divu, protože grafické procesory (GPU) tohoto amerického výrobce sehrály významnou roli ve vývoji umělé inteligence. Na tomto typu čipu lze úspěšně provozovat algoritmy strojového učení a paralelního zpracování.
Kromě profesionálních návrhů používaných v průmyslu výzkumných a vývojových centrech vyvinuli ekologičtí inženýři také řadu zařízení Nvidia Jetson, které můžeme označit za spojnici mezi profesionálním využitím umělé inteligence a světem hobbyistů a nadšenců do nových technologií. V tomto materiálu se blíže podíváme na základní desku – Nvidia Jetson Nano.
Co je Nvidia Jetson Nano?
Nvidia Jetson Nano je kompaktní mikropočítač, který je součástí větší rodiny modulů Jetson. Vývojářská sada poskytovaná společností Nvidia se ve skutečnosti skládá ze dvou součástí – modulu Jetson Nano a základní desky. Mikropočítač od společnosti Nvidi byl vyvinut s ohledem na umělou inteligenci. Na rozdíl od běžných osobních počítačů nebo jiných komerčně dostupných mikropočítačů je modul Jetson Nano optimalizován pro výpočetní výkon algoritmů umělé inteligence.
Navzdory svému účelu má tato konstrukce nízkou spotřebu energie, což umožňuje přenášet pokročilé algoritmy umělé inteligence do mobilních zařízení napájených z akumulátoru.
Mikropočítač Nvidia Jetson Nano je založen na procesoru ze segmentu SoC (System on Chip) přizpůsobeném pro řešení umělé inteligence. Čip se skládá ze čtyř jader ARM Cortex A57 taktovaných na 1,43 GHz a 128 grafických jader CUDA. Kromě toho je modul vybaven 4 GB paměti RAM a slotem pro kartu microSD, na níž je uložen operační systém spuštěný systémem Jetson Nano. Mikropočítač od společnosti Nvidi je nainstalován do slotu SODIMM v o něco větší základnové stanici.
Teprve když je modul Nvidia Jetson Nano nainstalován v o něco větší základní stanici, můžeme použít celou vývojovou sadu. Díky poměrně velkému počtu konektorů lze mikropočítač snadno připojit k dalším periferiím.
Ve střední části základního modulu se nachází již zmíněná standardní patice SODIMM, do které je umístěn mikropočítač Jetson Nano. O něco výše se nacházel obvykle neviditelný Konektor M.2 Key E,do kterého lze vložit například externí síťovou kartu WIFI. Základní deska je navíc vybavena několika sadami goldpinových konektorů.
Na horním okraji je systémový konektor umožňující ovládání mikropočítače a malý 4pinový konektor POE. Kromě toho je na desce 40pinový univerzální I/O konektor, podobný těm, které známe z desek mikropočítačů Raspberry Pi.
Na spodním okraji základní stanice jsou dvě patice HDMI pro připojení externích displejů, čtyři porty USB typu A 3.0, ke kterým lze připojit klasické periferie, jako je myš a klávesnice, konektor Ethernet pro připojení Jetsonu Nano k síti..
Stojíza to vědět, že základní deska má dva napájecí konektory – microUSB (5V/2A) a DC (5V/4A). Volba jednoho z nich je poměrně důležitá, protože na způsobu napájení závisí výkon mikropočítače a stabilita jeho provozu. Otázkou napájení počítače Nvidia Jetson Nano se budeme zabývat později v tomto materiálu. Umělá inteligence se poměrně často používá k analýze obrazu, a proto vývojáři Jetson Nano vybavili základní modul dvěma konektory pro CSI kamery. Kromě toho je na desce také malý čtyřpinový konektor, ke kterému lze připojit ventilátor, aby se zlepšil odvod tepla přes chladič umístěný na procesoru.
Napájecí zdroj Nvidia Jetson Nano
Ačkoli je Jetson Nano vybaven dvěma napájecími konektory, ve skutečnosti můžeme zařízení napájet třemi způsoby – výše zmíněným konektorem microUSB, stejnosměrnou paticí a 40kolíkovým konektorem goldpin. Každý způsob napájení má své výhody a nevýhody, ale pokud chcete používat mikropočítač od společnosti Nvidia, musíte si tuto věc dobře promyslet. Jetson Nano je poměrně citlivé zařízení, které se při nesprávném napájení může nečekaně vypnout, což může mít katastrofální následky. Neplánovaný výpadek napájení může v některých případech poškodit systémové soubory, což nejednou vede k tomu, že se mikropočítač nebude chtít restartovat.
Ve výchozím nastavení zařízení vyžaduje 10 W výkonu (5 V x 2 A), takže by se mohlo zdát, že napájení z portu microUSB bude dostačující, ale je třeba si uvědomit, že údaj 10 W nebere v úvahu periferní zařízení připojená k desce. Mnohem lepším řešením je napájet mikropočítač prostřednictvím DC, kterým může protékat proud 4 A. Vynechám napájení Jetson Nano přes goldpin konektor, protože je to nejméně vhodné řešení.
Za zmínku stojí, že mikropočítač od Nvidia má softwarovou možnost omezit spotřebu na 5 W, v takovém případě se vypnou dvě ze čtyř jader procesoru. Toto řešení však poměrně výrazně omezuje výkon zařízení.
Během hraní s Nvidia Jetson Nano jsem vyzkoušel několik možností napájení a s čistým svědomím mohu doporučit volbu stejnosměrného konektoru a dedikovaného zdroje s dostatečnou kapacitou. Při napájení z konektoru microUSB se občas stávalo, že se mikropočítač nečekaně vypnul, zejména při náročnějších aplikacích. Při měření odebíraného proudu (s připojenými periferiemi – myš, klávesnice, síťová karta USB WIFI a dvě kamery) jsem po spuštění systému dosáhl hodnot kolem 700 mA bez jakéhokoli vytížení. Při spuštění náročnější aplikace, konkrétně algoritmu umělé inteligence, který analyzoval obraz z kamery, dosahoval odebíraný proud někdy až 2,3 A.
Nvidia Maxwell, neboli výkon a možnosti
Zvenčí Nvidia Jetson Nano nijak nevyčnívá a podobá se jiným mikropočítačům dostupným na trhu. Jedinečnost tohoto zařízení se skrývá pod chladičem, který odvádí přebytečné teplo.
Zde je umístěn čtyřjádrový procesor ARM s integrovanými grafickými jádry CUDA. Výpočetní jednotka ARM je sice nesmírně zajímavá, ale jedná se o poměrně typickou součást většiny mikropočítačů, přičemž za zmínku stojí především 128 jader CUDA založených na architektuře Maxwell Nvidia.
Jetson Nano vděčí za svou jedinečnost právě jádrům, která se obvykle používají pro grafické výpočty. Bloky CUDA, a to v mnohem větším počtu, lze nalézt v grafických kartách Nvidia. Jedno jádro se ve skutečnosti skládá z několika menších bloků a používá se pro paralelní výpočty a úlohy numerického zpracování. Bloky CUDA navíc dobře fungují v aplikacích umělé inteligence, jako je analýza dat, zpracování obrazu, strojové učení a vědecké simulace. CUDA tak sehrála klíčovou roli ve vývoji umělé inteligence a přispěla k mnoha výpočetním platformám založeným na výkonu a energetické účinnosti.
Linux je dobrý na všechno
Nvidia Jetson Nano podporuje několik operačních systémů, ale standardním a oficiálně ekologicky podporovaným systémem je Nvidia JetPack založený na platformě Ubuntu Linux. Systém lze stáhnout z webových stránek výrobce a poté uložit na paměťovou kartu, kterou vložíte do slotu pro kartu modulu Jetson Nano.
Distribuce Linuxu připravená společností Nvidia obsahuje software a sadu nástrojů vyvinutých speciálně pro platformu Jetson Nano. Systém je připraven na práci s procesorem ARM a grafickými jádry CUDA. Díky vestavěným řešením, jako jsou OpenCV, TensorFlow, PyTorch a TensorRT, je systém téměř okamžitě připraven k provozování aplikace umělé inteligence.
Jak začít s počítačem Nvidia Jetson Nano?
Klíčem k úspěchu každého mikropočítače není pouze hardware, stejně důležitá je i softwarová podpora. Chcete-li začít pracovat se zařízením Nvidia Jetson Nano, můžete použít aplikaci oficiální videonávodydostupné na kanálu YouTube – NVIDIA Developer . Zahrnují základní aspekty používání modulů Jetson a krok za krokem seznamují se spouštěním základních algoritmů umělé inteligence.
Místo, které stojí za návštěvu, je také profil GitHub Nvidi. Existuje spousta hotových příkladů algoritmů umělé inteligence, které lze spustit na počítači Jetson Nano.
Pokud máte s moduly Jetson nějaké problémy, navštivte prosím oficiální stránky Nvidi fórum. Nejenže se zde ostatní uživatelé dělí o své znalosti, ale můžete se spolehnout i na podporu od zaměstnanců společnosti Nvidi.
Další mikropočítače Nvidia Jetson
Mikropočítač Nvidia Jetson Nano je vlastně jen začátek. Jedná se o základní model řady Jetson a v nabídce Nvidi je mnoho dalších zařízení s ještě vyšším výkonem a schopnostmi.
- Řada Jetson TX2 – nabízí výkon 1,33 TFLOPs, což je 2,5krát více než u modulů Jetson Nano. Tato zařízení jsou založena na šestijádrovém procesoru (čtyři jádra ARM, dvě jádra Nvidia Denver) a 256 jednotkách CUDA využívajících architekturu Nvidia Pascal.
- Rodina Jetson Xavier NX/AGX – navržena pro autonomní vozidla. Je založena na šestijádrovém nebo osmijádrovém procesoru Nvidia Carmel a 512 nebo 384 jádrech založených na architektuře Nvidia Volta.
- Jetson Orin Nano – Jedná se o poměrně čerstvou řadu základních modulů pro implementaci algoritmů umělé inteligence. Nabízejí až osmdesátinásobný nárůst výkonu oproti Jetsonu Nano. Tyto mikropočítače jsou založeny na šestijádrovém procesoru ARM a grafických jádrech Nvidia Ampere.
- Řada Jetson AGX Orin – stejně jako mikropočítače Xavier – byla přizpůsobena pro nasazení v průmyslu a autonomních vozidlech. Je založena na 12jádrovém procesoru ARM, 2048 jádrech CUDA s architekturou Nvidia Ampera a 64 jádrech Tensor.
Zdroje:
www.youtube.com/watch?v=QXIwdsyK7Rw&list=RDCMUCBHcMCGaiJhv-ESTcWGJPcw&start_radio=1&rv=QXIwdsyK7Rw&t=199
www.github.com/dusty-nv/jetson-inference
www.developer.nvidia.com/embedded/learn/get-started-jetson-nano-devkit
www.developer.nvidia.com/embedded/twodaystoademo
www.automaticaddison.com/how-to-blink-an-led-using-nvidia-jetson-nano/
https://botland.cz/moduly-nvidia/16536-nvidia-jetson-nano-b01-arm-cortex-a57-4x-143-ghz-nvidia-maxwell-4-gb-ram-5903351241519.html
www.developer.nvidia.com/embedded/jetson-modules
www.developer.nvidia.com/blog/maxwell-most-advanced-cuda-gpu-ever-made/
www.developer.nvidia.com/embedded/jetson-tx2-nx
www.www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-xavier-series/
www.forums.developer.nvidia.com/c/agx-autonomous-machines/jetson-embedded-systems/70
www.telecomtalk.info/nvidia-tegra-x1-mobile-super-chip/128615/
