LM Studio je aplikace, kterou můžete použít na svém počítači ke spouštění jazykových modelů offline a s využitím prostředků svého počítače. Zde se dozvíte, jak s tímto nástrojem udělat první kroky.
V této příručce vám vysvětlím postup při používání aplikace LM Studio. Tento nástroj se specializuje na lokální spouštění jazykových modelů. Pokud nevíte, co to znamená, umožňuje vám stáhnout chatbota do počítače a používat ho, jako by to byl ChatGPT. Ve skutečnosti je naprostá většina dostupných modelů schopna spouštět stejné triky jako ChatGPT, které již znáte. A jaký je v tom rozdíl? Nepotřebujete uživatele, jsou zcela zdarma a využívají prostředky vašeho počítače, takže nevyžadují ani připojení k internetu.
Stažení a instalace aplikace LM Studio pro lokální spouštění modelů AI
Aplikaci LM Studio si můžete zdarma stáhnout z jejich webových stránek. Je dobré upřesnit, že pořízení tohoto softwaru nezahrnuje stahování žádných modelů AI. To přijde na řadu později. V tuto chvíli budete muset při přístupu na jejich oficiální stránky vybrat architekturu a operační systém svého počítače. LM Studio funguje v systémech Windows, macOS a Linux. Podporuje také procesory ARM, a to jak na MacBoocích s procesory Apple řady M, tak na počítačích Copilot+ s procesory Snapdragon X Plus a Elite. Po získání spustitelného souboru na něj dvakrát klikněte a můžete začít.
Počáteční nastavení aplikace LM Studio
Aplikace LM Studio má průvodce, který vám pomůže stáhnout první model do počítače a udělat první kroky. Ačkoli jej můžete přeskočit kliknutím na odkaz v horní části, myslím, že pokud nejste příliš znalí, je lepší postupovat podle pokynů, které vám poskytne. Nejprve klikněte na tlačítko Get your first LLM (Získejte svůj první model LLM).
Související článek
Model, který tvůrci aplikace vybrali pro začátek, je Llama 3.2 1B. Jedná se o poměrně malý a omezený model. Pokud však máte počítač s omezenými zdroji, omezeným místem na disku nebo chcete prostě provést počáteční testování, je docela vhodný. Ve skutečnosti váží pouhých 1,32 GB. Klikněte na tlačítko Stáhnout a počkejte na dokončení procesu.
Po dokončení se model objeví vedle zeleného štítku Downloaded (Staženo). Nyní stačí kliknout na tlačítko Spustit nový chat a začít chatovat s chatbotem.
V dolní části máte k dispozici textové pole, do kterého můžete zadat své požadavky. V horní části je tlačítko, které umožňuje procházet stažené modely a jeden z nich nahrát. Prozatím budete mít k dispozici pouze model Llama 3.2 1B, tedy ten, který jste stáhli při úvodním nastavení. Rozhraní LM Studia je velmi podobné chatbotům, které již známe, například ChatGPT, Claude a podobně.
V horní části máte k dispozici vyhledávač a rozevírací seznam všech stažených modelů umělé inteligence. Pomocí něj načtěte model Meta.
Dalším krokem je nastavení běhového prostředí. Obecně platí, že pro pokračování stačí kliknout na tlačítko Load Model (Načíst model). Je však třeba vzít v úvahu tyto pokročilé možnosti, které umožňují rozšířit kontextové okno (maximální počet povolených tokenů na jeden dotaz), využít prostředky GPU a další možnosti, které mění chování modelu.
Po načtení modelu odešlete požadavek a počkejte na vygenerování odpovědi. Pokud používáte modely, které jste si stáhli do počítače, nebudete potřebovat připojení k internetu.
Vaše interakce nebudou použity ani k dalšímu trénování modelu. Vše funguje lokálně a anonymně, bez účtů a připojení.
Stáhněte si nové modely v aplikaci LM Studio a experimentujte s nimi
Modely umělé inteligence mohou dělat mnoho věcí. Existují například modely, které umožňují animovat fotografie pomocí umělé inteligence. Existují také modely, které generují obrázky od začátku, z textu. Jako by to nestačilo, existují také modely, které vám pomohou programovat s umělou inteligencí. Specializace každého z nich je jasnou předností.
To vše vám říkám proto, že kromě úvodního modelu, který jste si stáhli pomocí průvodce spuštěním LM Studia, je k dispozici mnoho dalších modelů, které jsou zdarma a připravené ke stažení. Stačí kliknout na lupu v postranním panelu na levé straně okna.
V horní části vyskakovacího okna je textové pole. Jedná se o vyhledávač, který umožňuje získat modely z úložiště Hugging Face. K některým z nich je třeba přistupovat přes internet, ale u většiny z nich je povoleno tlačítko pro stažení. Stačí si stáhnout šablonu a použít ji ve svých konverzacích.
Velikost modelů se liší v závislosti na jejich hlavní funkci, množství dat použitých pro trénování a kontextovém okně. Můžete například použít model Gemma 2 společnosti Google, který váží přibližně 12 GB. Pro bezproblémové používání však budete potřebovat poměrně výkonný počítač.
Když si stáhnete malé modely, budou jejich reakce pravděpodobně základní. Pravděpodobně se také setkáte s poměrně akutním nedostatkem porozumění. Větší modely jsou naopak schopnější, dokáží provádět složité úlohy a lépe rozumí výzvám.
LM Studio poskytuje přístup nejen k jazykovým modelům, jako jsou ty, které pohání ChatGPT nebo Gemini, ale obsahuje také difuzní modely, které se používají pro generování obrázků.