RAMDeck: il nuovo hub per potenziare la RAM domestica in crowdfunding

RAMDeck è un innovativo hub a basso consumo energetico lanciato su Indiegogo, attualmente in fase di crowdfunding con un prezzo early-bird di 109 dollari. La campagna ha un obiettivo di finanziamento di 10.000 dollari e terminerà l’8 novembre 2026. La proposta di RAMDeck è quella di aggregare la memoria RAM presente in PC Windows, Mac, Linux e telefoni Android all’interno di una rete domestica, permettendo così di eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.

Questa iniziativa si inserisce in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi quintuplicarsi rispetto a metà 2025. È importante sottolineare che RAMDeck non fonde la memoria a livello hardware; piuttosto, i pesi di un modello vengono suddivisi tra le macchine, ognuna delle quali mantiene la propria porzione in memoria locale e trasferisce solo i risultati intermedi via rete durante la generazione dei token.

L’infrastruttura software su cui si basa RAMDeck utilizza l’RPC di llama.cpp. Un agente nodo avvia il server ggml RPC su ciascun dispositivo partecipante, mentre il coordinamento avviene attraverso un protocollo standard di llama.cpp. L’elemento distintivo di TradeMAV, il team dietro il progetto, è l’orchestrazione che avviene attorno a questo motore: si occupa della scoperta automatica dei nodi, del posizionamento dei layer, privilegiando GPU veloci rispetto alla RAM di sistema, e della gestione dei guasti, il tutto supportato da una dashboard e un’API compatibile con OpenAI.

Attualmente, le specifiche hardware del hub non sono state rese pubbliche, inclusi dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che gli utenti esperti possono optare per una soluzione fai-da-te gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che utilizzano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con più VRAM per chi cerca prestazioni elevate. I benchmark pubblicati mostrano che le configurazioni più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, attivando circa 3 miliardi di parametri per token. Ad esempio, sono stati registrati 39 token al secondo per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token al secondo per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token al secondo utilizzando esclusivamente la RTX 3060.

Al contrario, i modelli densi mostrano prestazioni significativamente inferiori: un modello 27B denso ha restituito 1,92 token al secondo su quattro dispositivi, mentre un modello gpt-oss-120b ha segnato 1,37 token al secondo su un cluster di sei macchine. Inoltre, un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token al secondo. Questi risultati, sebbene evitino crash per esaurimento di memoria, risultano lenti rispetto a configurazioni dotate di GPU con elevata VRAM.

In conclusione, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub si propone di semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e i benchmark evidenziano limiti di prestazioni per modelli densi. Per chi desidera sperimentare, è possibile provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari permettono di preordinare l’hub, ma è importante considerare i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, cambiamenti o mancata consegna.