Co jsou TOPS a proč jsou důležité pro počítač vybavený AI technologií

  • 18. 11. 2024
  • Zdroj obrázku: Slejven Djurakovic / Unsplash
Co jsou TOPS a proč jsou důležité pro počítač vybavený AI technologií

V této příručce si vysvětlíme, co je to TOPS, proč se tento ukazatel výpočetního výkonu v současnosti používá a do jaké míry by měl být rozhodující při nákupu počítače.


V tomto článku si povíme o jednotce měření, o které se mluví stále častěji. Pokud patříte mezi letité počítačové nadšence, možná si vzpomínáte na boj mezi výrobci procesorů o prodej čipů s vyššími taktovacími frekvencemi, které se obvykle měří v MHz (megahertz) nebo GHz (gigahertz). Nyní se však nacházíme v éře umělé inteligence, takže se bitva zaměřila na výpočetní výkon NPU a GPU pro provádění úloh souvisejících s modely umělé inteligence. Pojďme si tedy říci, co jsou to TOPS a jaký je skutečný význam specifikace v dnešní době.

Co jsou TOPS

TOPS je měrná jednotka, která určuje výpočetní kapacitu čipu pro provádění operací. TOPS je vlastně zkratka, která znamená Tera Operations Per Second (tera operací za sekundu). Je pravda, že v praxi by se mohla používat u jakéhokoli typu procesoru, TOPS se však obvykle vztahuje k NPU. Rozdíly mezi procesorem, NPU a CPU jsme si již vlastně vysvětlili. Všechno jsou to výpočetní jednotky, i když s různou konstrukcí pro specifické úlohy. NPU, neuronové procesory optimalizované pro umělou inteligenci, jsou nejčastěji spojovány s TOPS.

Zcela běžné je porovnávání FLOPS s TOPS, které dříve používali výrobci, když hovořili o výkonu svých zařízení. Mezi těmito dvěma měřítky je však podstatný rozdíl. Zatímco FLOPS zahrnuje operace s plovoucí desetinnou čárkou, TOPS zahrnuje jak operace s plovoucí desetinnou čárkou, tak operace s celými čísly.

Související článek

Generace Z měla pravdu a jejich rostoucí platy jsou toho důkazem
Generace Z měla pravdu a jejich rostoucí platy jsou toho důkazem

V průměru vydělávají o 24 % více než zaměstnanci v soukromém sektoru. Polovina dnešních státních zaměstnanců patří do generace Z.

Abyste pochopili, co je to TOPS, nemusíte se nořit do moře technické dokumentace. Ano, je pravda, že vzorec pro jeho výpočet může být poněkud komplikovaný, ale v podstatě se jedná o měřítko výkonu pro operace umělé inteligence. Používá se jak v této oblasti, tak ve strojovém učení, které s umělou inteligencí úzce souvisí.

Zde je však varování: TOPS není rozhodující údaj, pokud jde o poznání skutečného výkonu počítače. Pravdou je, že u TOPS platí stejně jako u jiných měřítek, že kromě výsledného čísla existuje mnoho dalších proměnných, z nichž mnohé jsou vnější, které ovlivňují skutečné výsledky. Dá se říci, že počet TOPS je teoretická část, která se ne vždy uvádí do praxe.

Abychom to pochopili trochu lépe, vzpomeňte si na mAh baterií v mobilních telefonech. Dobře, je možné mít telefon s baterií o kapacitě 3000 mAh, který dosahuje 10 hodin aktivního provozu na obrazovce. A naopak, je také možné mít zařízení s 5000 mAh, které dosáhne pouze 6 hodin aktivního provozu na obrazovce. Jak je to možné? S výslednou výdrží mají hodně společného další specifikace, jako je rozlišení obrazovky, maximální jas nebo účinnost procesoru.

Nakonec nám TOPS pomáhá získat představu o teoretickém výkonu NPU (nebo dokonce GPU), ale to, co nakonec dokáže, závisí na mnoha dalších faktorech. Je tedy na místě se ptát, kolik TOPS by váš počítač měl mít.

Kolik TOPS by měl mít můj počítač a proč na tom vlastně nezáleží?

V současné době je vliv umělé inteligence na naše zařízení prakticky nulový. Možná se vám to zdá jako odvážné tvrzení, ale mějte na paměti, že mluvím o našich zařízeních, nikoli o našem každodenním životě. Nástroje AI jsou v mnoha případech skutečně užitečné. Ale kolik z nich funguje v cloudu? Naprostá většina. Dokonce i Copilot se stal webovou aplikací, která není schopna komunikovat s operačním systémem. Když ji používáte, využívá obrovské množství prostředků, ale žádný z nich nepochází z vašeho počítače.

Pokud nechcete provozovat modely umělé inteligence lokálně, což vyžaduje určité technické znalosti, nebudete potřebovat příliš mnoho TOPS ve svém počítači. Ve skutečnosti je překvapivé, že mnoho operací AI je delegováno na GPU nebo CPU. Podle mých zkušeností existují nástroje pro Windows, které fungují i na počítačích, které nemají NPU, jak vysvětluji v průvodci superrozlišením fotografií ve Windows.

Pro představu, počítače Microsoft Copilot+ jsou poháněny procesorem ARM Snapdragon X Plus se 45 TOPS. To je minimum, které Microsoft stanovil pro přístup k některým zážitkům, pro které je podle společnosti vyžadován NPU, jako jsou efekty Windows Studio nebo automatické Super rozlišení systému Windows 11.

Zajímavé však je, že většina těchto nástrojů existovala již před nástupem AI nebo se objevila později, ale běží v cloudu. V roce 2020 totiž Zoom představil kamerové efekty, které bezproblémově fungovaly na jakémkoli notebooku střední třídy, což je něco, k čemu Microsoft vyžaduje NPU.

Závěrem lze říci, že si nemyslíme, že TOPS je v současné době měrnou jednotkou, o kterou byste se měli příliš starat. Neměla by pro vás být určující specifikací při výběru notebooku nebo stolního počítače. Dokonce si ani nemusíte vybírat procesor s NPU. Většina funkcí umělé inteligence na vašem počítači nepoběží a ty, které ano, poběží na většině CPU a GPU. Pokud tedy Microsoft svévolně nerozhodne jinak. Ale to už je jiný problém.

Zdroje článku:
Autorský text

#