První čip AI od společnosti Meta

Čas čtení: 4 min.

Jednou z oblastí informatiky, která se v posledních letech rozvíjí stále rychlejším tempem, je umělá inteligence neboli tzv. AI (Artificial Intelligence). Toto téma vzbudilo ve veřejnosti extrémní emoce, někteří považují umělou inteligenci za hrozbu, která by v budoucnu mohla připravit mnoho lidí o práci, protože by automatizovala úkoly, které v současnosti vykonávají lidé. Pro druhou skupinu je umělá inteligence příležitostí, jak lépe reagovat na případné krize v budoucnosti nebo jak zlepšit proces vývoje nových léků. Bez ohledu na názor je však třeba souhlasit s tím, že k dalšímu rozvoji umělé inteligence je zapotřebí výpočetní výkon.

Umělá inteligence od společnosti Meta

Tuto skutečnost si dobře uvědomují představenstva velkých technologických společností. Již několik let můžeme sledovat stále více pokusů o revoluci na trhu s umělou inteligencí, kdy stále více společností vyvíjí vlastní čipy s umělou inteligencí. Jednoznačným lídrem je zde NVIDIA jejíž grafické procesory založené na CUDA zvládají strojové učení a paralelní zpracování dat velmi dobře. Kromě toho se na trhu objevily také čipy TPU (Tensor Processing Unit) od společnosti Google přizpůsobené pro zpracování tenzorů a procesory od společnosti Sillicon Apple, které využívají umělou inteligenci ke zvýšení výkonu a energetické účinnosti. Další společností, která se rozhodla nastoupit do vlaku umělé inteligence, je Meta, která vlastní weby jako Facebook a Instagram.

Co jsou systémy Al?

Procesory instalované v počítačích a chytrých telefonech dnes nabízejí nesrovnatelně vyšší výkon ve srovnání s čipy používanými ještě před několika lety. Někdo by se mohl ptát, proč se tyto čipy nepoužívají pro výpočty související s umělou inteligencí? Odpověď je poměrně jednoduchá – běžné procesory si s umělou inteligencí díky své univerzálnosti neporadí. Tradiční čipy jsou určeny pro velmi širokou škálu úloh, umožňují spouštět programy založené na umělé inteligenci, ale jejich výkon je ve srovnání se specializovanými čipy pro umělou inteligenci mnohem nižší. Proto stále více firem vyrábí vlastní čipy, známé také jako akcelerátory Al.

Převodníky AI jsou obvykle jednotlivé čipy SoC, uvnitř nichž najdeme nezbytné prvky pro provoz, jsou navrženy s ohledem na výpočty související se umělou inteligencí Jsou založeny na jedinečných architekturách optimalizovaných pro strojové učení, zpracování přirozeného jazyka nebo rozpoznávání obrazu. Uvnitř čipů Al najdeme komponenty, jako jsou jednotky pro zpracování tenzorů (ang. tensor processing units,TPU), jednotky pro hluboké učení (ang. deep learning units, DLU), neuronové jednotky (ang. neural units) nebo specializované bloky pro zpracování dat.

MTIA neboli systém AI Meta

Meta Training and Inference Accelerator, zkráceně MTIA, je první vlastní čip pro umělou inteligenci, který společnost Meta představila pro výpočty související s umělou inteligencí. Algoritmy používané platformami sociálních médií této americké společnosti již nějakou dobu využívají výhod umělé inteligence. Generování personalizovaných reklam i feedu, tj. obsahu, který se uživateli zobrazuje, je podporováno umělou inteligencí. Převodník MTIA byl vyvinut právě pro podporu těchto procesů.

Doposud se ve výpočetních střediscích Metropolitní univerzity používaly především grafické procesory, které však nebyly optimálním řešením pro výpočet doporučení, tedy výše zmíněného obsahu zobrazovaného uživateli. Konstruktéři společnosti Meta si to uvědomili, a proto navrhli plnohodnotný čip ASCI AI jako součást řešení full-stack, což je přístup, kdy jsou software i křemíkový převodník navrženy společně, aby se maximalizoval výkon. Tento způsob navrhování hardwaru známe od společnosti Apple, kde se hardware a software vyvíjejí tak, aby pracovaly v uzavřeném systému a celkový výkon systému byl co nejlepší.

Zdroj: https://www.youtube.com/watch?v=kO4a75fKDF4

Převodník MTIA je vyráběn na 7nm (nanometrovém) technologickém procesu tchajwanskou společností TSMC a pracuje na frekvenci 800 MHz, což se nemusí zdát mnoho, ale přesto nabízí výkon 102,4 TFLOPS pro výpočty s konstantními čísly (INT8) a 51,2 TFLOPS pro operace s plovoucí desetinnou čárkou (FP16). Spotřeba energie této konstrukce je pouhých 25 W .

Zdroj: https://www.youtube.com/watch?v=kO4a75fKDF4

MTIA vychází z osvědčených řešení; stejně jako čipy jiných výrobců je založen na mřížce šedesáti čtyř jader ve struktuře osm na osm. Tvoří pole, v němž lze data přenášet přímo mezi jednotlivými prvky, což čipu poskytuje velmi dobrý výkon.

Strukturu pole obklopovalo šestnáct řadičů LPDDR5 určených pro externí paměť s maximální kapacitou 64 GB. Kromě toho je čip vybaven 128MB pamětí SRAM, ke které lze přistupovat mnohem rychleji. Jeho úkolem je ukládat data potřebná pro právě prováděný proces. Systém MTIA má také speciální řídicí jednotku, která komunikuje se zbytkem systému.

Zdroj: https://www.youtube.com/watch?v=kO4a75fKDF4

Základním prvkem systému MTIA je struktura zvaná Processing Element (PE ). Je založen na dvou jádrech RISC-V, která komunikují po společné datové sběrnici. Nejedná se však o obvyklá jádra RISC-V známá z jiných procesorů, Meta je přizpůsobila pro specifické úlohy, jako je násobení matic, výpočty nelineárních funkcí a přenos dat. Tyto struktury jsou podporovány 128KB velmi rychlé lokální paměti.

Zdroj: https://www.youtube.com/watch?v=kO4a75fKDF4

Oproti jiným akcelerátorům Al MTIA je zcela neobvyklý v tom, že je přizpůsoben pro dvě fáze zpracování dat – training a inference. Training je fáze, kdy je algoritmus zásobován stále větším množstvím dat, dokud nefunguje podle očekávání. Skutečným využitím neuronových sítí je fáze inference, kdy čip reaguje na požadavky uživatele. Systémy umělé inteligence jsou obvykle optimalizovány pouze pro jednu fázi zpracování informací.

Čip AI od společnosti Meta má velmi dobrý výkon při výpočtech s plovoucí desetinnou čárkou. Nicméně při složitějších operacích s neuronovými sítěmi čip zaostává za grafickými procesory. Výrobce ujišťuje, že v budoucích verzích čipu bude výkon v této oblasti zvýšen.

Nejen AI

Kromě čipu MTIA společnost Meta nedávno představila vlastní čip určený pro zpracování videa. Podle výrobce tráví většina uživatelů sociálních sítí svůj volný čas sledováním filmů. Aby společnost splnila stále rostoucí požadavky na kvalitu, musí zlepšit svá datová centra. Meta Scalable Video Processor je čip určený pro efektivnější kompresi a dekompresi videa zveřejňovaného na sociálních sítích.

Shrnutí

Závod s umělou inteligencí je v plném proudu a Meta je další společností, která se do něj zapojila. Bezpochyby lze říci, že vydání čipu Al s názvem MTIA je jen začátek. Společnost již nyní oznamuje, že v budoucnu přibudou další akcelerátory umělé inteligence, jejichž výkon bude daleko vyšší než výkon akcelerátoru Meta Training and Inference.

Zdroje:

https://www.zdnet.com/article/meta-unveils-first-custom-artificial-intelligence-chip/

https://ai.facebook.com/blog/meta-training-inference-accelerator-AI-MTIA/

https://encord.com/blog/meta-ai-chip-mtia-explained/

https://www.nvidia.com/en-us/data-center/a100/

Jak hodnotíte tento článek na blogu?

Klikněte na hvězdičku a ohodnoťte!

Průměrné hodnocení 5 / 5. Počet hlasů 5

Zatím nejsou žádné hlasy! Buďte první, kdo ohodnotí tento článek.

Sdílet:

Picture of Rafał Bartoszak

Rafał Bartoszak

Elektronik spolupracující s Botlandem, který se dělí o své znalosti na internetu. Nadšenec pro digitální systémy, programovatelné obvody a počítačové hry a mikroelektroniku. Vášnivý zájemce o historii se zvláštním zaměřením na XX. století.

Viz více:

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *

Z důvodu bezpečnosti je nutné používat službu reCAPTCHA společnosti Google, která podléhá zásadám ochrany osobních údajů a podmínkám používání společnosti Google. S těmito podmínkami souhlasím..