LFM2.5-2.6B malý a dostatečně chytrý AI lokální model
Liquid AI představuje LFM2.5-2.6B, malý model s 2,6 miliardami parametrů určený pro agentní úlohy, který běží přímo na zařízeních včetně mobilních telefonů. Model vycházuje z čtyřstupňového tréninku zahrnujícího supervised fine-tuning, specializaci učitelů, víceoborové distilaci a agentní reinforcement learning. Podle benchmarků konkuruje modelům téměř čtyřikrát větším a nabízí podporu v populárních inference frameworcích jako llama.cpp, MLX a vLLM.
Velké frontier AI modely jsou už tak chytré, že mnoho uživatelů je používá na takové úkoly, kde doslova plýtvají jejich inteligenci. Nově přicházejí malé lokální modely, které spustíte i na mobilním telefonu. Blíží se doba, kdy chytré SW AI routery budou efektivně rozdělovat úkoly mezi lokální modely a ty v claudu.
Proč jsou malé lokální AI modely efektivnější než velké cloudové modely?
Lokální modely nevyžadují platby za tokeny a umožňují masivní paralelizaci na lokálním hardwaru bez dodatečných nákladů. Lze je spouštět neustále na pozadí a pro mnoho rutinních úkolů, kde velké modely zbytečně plýtvají výpočetním výkonem.
Jaké jsou hlavní výhody agentních modelů běžících offline?
Zajišťují nulovou latenci, žádné závislosti na síťové připojení, kompletní soukromí dat a možnost spuštění na zařízeních s omezenými prostředky. Mohou provádět složité víceúlohové pracovní postupy bez komunikace s cloudovými službami.
Kde LFM2.5-2.6B zaostává za většími modely?
Především v kódování a složitějších matematických úlohách, kde menší modely mají méně výpočetní kapacity. Pro tyto domény zůstávají větší modely lepší volbou.
- Nový GLM-5.3 je nejlepší v hledání zranitelnosti a brzo bude ke stažení — z.ai 81 % shoda
- Claude Agenti se v experimentu začali mezi sebou rvát — anthropic.com 78 % shoda
- Inženýrství harnessů pro sebezdokonalování agentů — lilianweng.github.io 77 % shoda
- LFM2.5-2.6B
- Liquid AI
- Hugging Face12
- llama.cpp
- MLX3
- vLLM3
- SGLang
- OpenClaw
- Hermes Agent