Tajná zbraň Huawei: Softwarový systém, který z AI vyždímá dvojnásobek výkonu

Tajná zbraň Huawei: Softwarový systém, který z AI vyždímá dvojnásobek výkonu

Zdroj obrázku: _fla / Depositphotos

Společnost Huawei připravuje technologii, která slibuje téměř zdvojnásobit účinnost GPU a NPU, a revolučně tak zvýšit výkon AI bez nutnosti přidávat další hardware.


Uprostřed závodu o výrobu výkonnějších čipů a škálování gigantických datových center, soutěže, v níž se Intel a Nvidia neustále snaží získat náskok, se společnost Huawei rozhodla změnit úhel pohledu na tuto debatu. Podle zdrojů blízkých společnosti představí 21. listopadu technologii, která se nesnaží přidat další hardware, ale získat mnohem více z toho, co již existuje. A to je v době celosvětového nedostatku GPU téměř vyhlášení války.

Zajímavé je, že návrh si bere na mušku přímo jeden z nejopomíjenějších problémů v oboru: velmi nízkou efektivitu, s jakou jsou využívány současné výpočetní zdroje. Ve světě, kde umělá inteligence (AI) mění celá průmyslová odvětví, od zdravotnictví po automobilový průmysl, se výpočetní efektivita stává rozhodujícím faktorem. Schopnost rychle a efektivně zpracovávat velké objemy dat je nezbytná pro vývoj pokročilejších a přesnějších modelů AI.

Velké úzké místo v éře AI

I ta nejvyspělejší datová centra dnes pracují s reálným výkonem, který jen zřídka přesahuje 40 %. Většina GPU a NPU tráví většinu času „čekáním“ na data nebo synchronizací, což zpomaluje trénink modelů a zvyšuje náklady. Tento problém je umocněn rostoucí poptávkou po službách umělé inteligence, které vyžadují značné výpočetní zdroje. Podle zprávy společnosti McKinsey se očekává, že trh s umělou inteligencí poroste do roku 2025 složenou roční mírou růstu 40 %, což podtrhuje potřebu efektivnějších řešení.

Související článek

Češi klikají, data ale letí do USA. Trump ovládá 70 % evropského IT světa
Češi klikají, data ale letí do USA. Trump ovládá 70 % evropského IT světa

Evropa začíná zvažovat extrémní scénáře vzhledem ke své velké závislosti na cloudu, podnikovém softwaru a čipech kontrolovaných americkými společnostmi.

Společnost Huawei tvrdí, že našla způsob, jak tento strop prolomit. Jak uvádí server Pandaily, nová technologie čínské společnosti zvýší efektivní využití výpočetních zdrojů na 70 %, což je údaj, který by v případě potvrzení zdvojnásobil efektivitu bez nutnosti přidat jedinou další grafickou kartu. Tento průlom by mohl mít významný dopad na udržitelnost, protože efektivnější využití stávajících zdrojů by mohlo snížit spotřebu energie, a tím i uhlíkovou stopu datových center.

Tajemství je v softwaru, ne v křemíku

Klíčem k průlomu nejsou nové čipy, ale softwarová vrstva, která sjednocuje správu tak rozdílných zdrojů, jako jsou grafické procesory Nvidia, procesory Huawei Ascend a další jednotky třetích stran. Tento inovativní přístup je založen na vytvoření distribuovaného operačního systému, který dokáže koordinovat více typů hardwaru bez ztráty výkonu. Zjednodušeně řečeno, systém abstrahuje rozdíly mezi platformami a stará se o mnohem inteligentnější rozdělování úloh.

To by umožnilo modelům umělé inteligence, jako je ChatGPT nebo Grok, maximálně využít každou milisekundu dostupných výpočtů, aniž by docházelo k výpadkům, které dnes postihují celé odvětví. Optimalizací využití stávajících zdrojů by navíc tato technologie mohla výrazně snížit provozní náklady společností, které se na AI spoléhají, a umožnit jim tak reinvestovat tyto úspory do inovací a vývoje.

To není malý krok. Pokud bude fungovat tak, jak slibuje, mohla by společnost Huawei změnit diskuzi o nedostatku čipů: nejde o to vyrábět více, ale lépe využívat čipy, které již máme. To by mohlo mít dopad i na globální dodavatelský řetězec, protože by se snížil tlak na výrobce čipů, aby zvyšovali výrobu v době, kdy poptávka převyšuje nabídku.

Přímý úder současnému průmyslovému modelu

Proslýchá se, že oficiální demonstrace ukáže, jak tato softwarová vrstva dokáže koordinovat hardware bez ztráty výkonu. Jde o jakýsi „distribuovaný operační systém“ pro umělou inteligenci, který odstraňuje bariéry mezi konkurenčními architekturami. Tento přístup by mohl podpořit větší spolupráci mezi různými výrobci hardwaru a podpořit tak otevřenější a kompatibilnější ekosystém.

V době, kdy trénink velkých modelů stojí miliony, by zvýšení efektivity tohoto rozsahu mohlo změnit investiční priority a tlačit na konkurenty, aby přehodnotili svou strategii. Společnosti mohou být nuceny přehodnotit své investice do hardwaru a více se zaměřit na vývoj softwaru, který optimalizuje využití stávajících zdrojů. Pokud se čínské společnosti Huawei podaří dosáhnout toho, že průmysl bude fungovat na 70 % namísto obvyklých 30 nebo 40 %, nebude možné tento dopad ignorovat

Zdroje článku

scmp.com, Autorský text
#