Nvidia PAIR propojí zdarma vaše počítače do AI clusteru
NVIDIA Personal AI Router (PAIR) je software v betaverzi, který propojuje počítače s RTX GPU, DGX Spark systémy a zařízení macOS do místního AI clusteru pro distribuci inference úloh. PAIR vede požadavky na inference podle dostupné kapacity, podporuje Ollama a LM Studio, a udržuje všechny údaje na lokální síti bez odesílání do cloudu.
Wow. Tahle myšlenka sice není nová, kdy se snaží spojovat výkon a kapacitu vice počítačů v daném místě, ale nikdo se ji extra nevěnovat a to ani na podnikové úrovni. Představa, že vaše lokální AI bude dynamicky využívat kapacitu všech počítačů v domácnosti, je extra lákavá.
Jak NVIDIA PAIR propojuje více počítačů?
PAIR automaticky objeví kompatibilní počítače v místní síti (Windows s RTX GPU, DGX Spark, macOS) a propojí je do clusteru bez nutnosti speciálních kabelů či složité konfigurace. Po stažení a instalaci se zařízení jednoduše spárují a mohou sdílet výpočetní kapacitu.
Jaký přínos má distribuování inference úloh v domácnosti?
Když jeden počítač zpracovává AI úlohu, PAIR automaticky přesměruje další požadavky na volné uzly v síti. Tím se zvyšuje propustnost a zkracují se časy odezvy, protože se nevyužitý výkon jiných zařízení nedaří plýtvá.
Zůstávají data v PAIR privátní?
Ano, PAIR je navržen pro lokální inference – všechny dotazy, soubory a kontexty agentů zůstávají na uživatelově lokální síti bez odeslání do cloudových služeb. Práce s osobními údaji tedy zůstává pod kontrolou uživatele.
- OpenAI chystá chytrý reproduktor ve tvaru donutu s kamerou a ChatGPT — notebookcheck.net 73 % shoda
- DeepSeek V4 Flash na jednom procesoru AMD MI300X — github.com 72 % shoda
- Odemknutí všeho na CPU pomocí scramblování DRAM — github.com 72 % shoda
- NVIDIA Personal AI Router
- PAIR
- NVIDIA8
- DGX Spark
- RTX
- Ollama
- LM Studio