Nvidia pod označením Spark prodává dvě příbuzné, ale odlišně zaměřené platformy. DGX Spark je kompaktní linuxová stanice pro vývoj, ladění a lokální provoz LLM. RTX Spark míří do notebooků a malých počítačů s Windows on Arm, kde má stejnou architekturu spojit s běžným desktopem, tvorbou obsahu a lokálními AI agenty. Marketingová jména mohou působit podobně, rozdíl ale není jen v šasi.

DGX Spark vznikl z dříve oznámeného Project DIGITS. Nejde o klasickou PC architekturu s procesorem, samostatnou grafikou a pamětí připojenou přes PCI Express. Základem je SoC Nvidia GB10 Grace Blackwell, v němž je 20jádrový procesor Grace s jádry Arm a GPU Blackwell propojené rozhraním NVLink-C2C. CPU a GPU tak pracují nad jednou koherentní pamětí LPDDR5X, nikoli nad oddělenou systémovou RAM a videopamětí. Nvidia zapekla 128 GB sjednocené paměti, GPU s 6144 CUDA jádry, Tensor Cores páté generace a až 1 PFLOPS pro AI v přesnosti FP4. To poskytuje možnost provozovat kvantizované modely do 200 miliard parametrů.

Tato čísla je nutné číst v kontextu. Petaflop FP4 není výkon ve FP32 pro grafiku ani univerzální výkon pro každou neuronovou síť. Je to teoretická špička pro velmi nízkou přesnost, navíc za předpokladů, které běžná tokenová inference nesplní. U velkých jazykových modelů bývá limitem propustnost paměti. DGX Spark bývá kritizován za propustnost okolo 270 GB/s, přitom dedikované výpočetní karty nebo špičkové Apple SoC jsou násobně rychlejší. Při generování každého tokenu je totiž nutné znovu číst velkou část vah. Síla DGX Spark proto nespočívá v tom, že by porážel výkonnou výpočetní nebo grafickou kartu v každém benchmarku, ale že se do jeho 128GB paměti vejde model, který by se do 16, 24 nebo 32 GB VRAM dedikované grafické karty nevešel vůbec.

DGX Spark je hotový počítač

DGX Spark je konkrétní počítač Nvidie, postavený na GB10 a dodávaný s DGX OS. Tedy linuxovým systémem odvozeným od Ubuntu a předpřipraveným AI stackem. Referenční konfigurace kombinuje 128 GB paměti o propustnosti 273 GB/s. Pro zajímavost, Apple M5 Ultra má paměťovou propustnost 1,2 TB/s. Dále se 4TB NVMe SSD a síťovým rozhraním ConnectX-7 pro 200Gb/s propojení. Dva systémy lze spojit přes QSFP pro experimenty s většími modely. Nvidia zde uvádí až 405 miliard parametrů. To neznamená, že každý inference server automaticky umí model nebo KV cache rozdělit mezi dvě stanice. Konkrétní engine musí podporovat tensor parallelismus či jiný distribuovaný režim. Nvidia staví DGX Spark především jako lokální vývojový uzel, nikoli jako náhradu víceakcelerátorového serveru.

Stejný GB10 používají i počítače partnerů, například Asus Ascent GX10, Dell Pro Max with GB10 nebo HP ZGX Nano AI Station. Nejde o levnější či pomalejší čipy jiné generace. U srovnatelných konfigurací je základní výpočetní a paměťová platforma stejná, tedy 20jádrový Grace, Blackwell GPU, 128 GB LPDDR5X a DGX OS. HP například u ZGX Nano uvádí GB10, 128 GB paměti, 4TB SSD a ConnectX-7. HP navíc nabízí vlastní vzdálenou správu na úrovni BIOSu, což nemusí ocenit každý, protože jde o potencionální bezpečnostní vektor.

Rozdíly jsou tedy v osazení SSD, bezdrátové konektivitě, konstrukci chlazení, záruce, dostupnosti a podpoře výrobce. Asus například prodával GX10 i s menším úložištěm, Dell nabízí různé kapacity SSD a HP staví ZGX Nano více pro firemní správu. Proto se nevyplatí srovnávat pouze cenu. U dlouhé inference mají význam firmware, nastavení ventilátorů a limity spotřeby; u vývojové stanice zase kvalita podpory obnovy systému a síťového rozhraní. Jádro platformy však zůstává GB10.

U inference rozhoduje velikost a rychlost paměti a profil modelu

DGX Spark se v praxi dobře hodí pro provoz vlastního modelu v kanceláři, laboratoři nebo domácím vývojovém prostředí. Výhodou je soukromí dat, žádné účtování tokenů a možnost mít model i dokumentové indexy stále v lokální paměti. Nevýhodou je, že velký model není automaticky rychlý model.

Pro jediného uživatele je nejjednodušší cestou Ollama. Nabízí hotové modely, správu jejich stažení a jednoduché HTTP API. Na DGX Spark se osvědčuje zejména s kvantizovanými Mixture-of-Experts modely. Do paměti se vejde velký celkový model, ale při generování se aktivuje jen část expertů. Testy integrátora Exxact naměřily u Gemma 4 26B přibližně 64 tokenů za sekundu a u modelů okolo 120 miliard parametrů zhruba 20 až 25 tokenů za sekundu. Stejný test uvádí, že hustý 70B model může klesnout k šesti tokenům za sekundu. Nejde o univerzální hodnoty, ale dobře ukazují vztah mezi aktivními parametry a propustností paměti.

Pro více souběžných požadavků je vhodnější vLLM, případně SGLang. Jejich přínos není primárně v rychlosti jedné konverzace, ale v kontinuálním dávkování požadavků a efektivní správě KV cache. vLLM pak může sloužit model přes API kompatibilní s OpenAI, například pro malý tým, interní chatbot nebo několik agentů. Vyžaduje však pečlivější volbu verze, Docker image a parametrů paměti než Ollama. V některých konfiguracích se také do vLLM nevejde tak velký model jako do Ollamy.

Projekt llama.cpp zůstává užitečný pro GGUF modely, přesnou kontrolu nad kvantizací a nízkou režii. Naopak TensorRT-LLM dává smysl tam, kde se vyplatí model zkonvertovat a optimalizovat pro konkrétní nasazení. Odměnou může být vyšší výkon, cenou složitější příprava. Pro předpřipravené kontejnery a enterprise modely existují také Nvidia NIM mikroservisy.

Při práci s 128 GB je nutné nechat rezervu pro systém, kontejnery a KV cache. Zaplnění paměti až na doraz vede spíše k pádu nebo nestabilitě než k užitečnému využití posledních gigabajtů. DGX Spark také používá Arm64 architekturu, takže je vhodné ověřit, zda zvolený kontejner a jeho závislosti mají aarch64 build.

RTX Spark přenáší stejnou architekturu do Windows

RTX Spark je novější produktová větev pro notebooky a malé desktopy s Windows on Arm. Nvidia uvádí Blackwell RTX GPU se 6144 CUDA jádry, 20jádrový Grace CPU, Tensor Cores páté generace, NVLink-C2C, až 128 GB sjednocené paměti a až 1 PFLOPS FP4. Z hlediska deklarovaných maximálních parametrů jde tedy o platformu GB10 v jiném produktovém provedení.

Podstatný je software. DGX Spark je Linux a CUDA vývojová stanice se sítí ConnectX-7 pro dvojici uzlů. RTX Spark je Windows PC, které má vedle CUDA a TensorRT nabídnout i RTX grafiku, DLSS, OptiX, Reflex a běžné desktopové aplikace. Počítá se s ním pro lokální inference, generování obrazu a videa, 3D práci i hry. Vývojář musí u Windows on Arm stále počítat s kompatibilitou aplikací a plug-inů. Nativní Arm64 software je výhodou, ale emulace x86 nemusí být ideální pro provoz legacy aplikací.