AI Agent su Raspberry Pi (2026): guida onesta

La domanda non è se parte, è se resta su

Se sei qui, quasi sicuramente hai un Raspberry Pi su uno scaffale e l'idea di puntarci sopra un AI agent personale. La buona notizia è che un Pi 5 con 4 GB o più di RAM fa girare un runtime come Hermes Agent, OpenClaw o un piccolo loop di Ollama senza lamentarsi. La cattiva è che la maggior parte degli agenti ospitati su Pi muore per motivi che con la CPU non c'entrano nulla: SD corrotta alle 3 del mattino, un OOM kill sotto pressione di memoria in mezzo a una trascrizione vocale, o un'immagine Docker che non ha mai avuto una build ARM64.

Questa guida attraversa le tre decisioni che contano davvero per un agente 24/7 su Pi: quale board e quale taglio di RAM, come tenere in vita lo storage e cosa fare dell'inferenza del modello. Ti dà anche la conclusione onesta che nessun venditore di accessori per Pi ti dirà mai: per un sacco di lettori, un VPS da 5 €/mese finisce per costare meno e dare meno pensieri del Pi che hai già.

Pi 4 vs Pi 5: il salto di CPU è reale, ma decide la RAM

Il Pi 5 è passato dal Cortex-A72 del Pi 4 al Cortex-A76, a 2,4 GHz contro 1,5 GHz, con cache più grandi e un parallelismo di istruzioni sensibilmente migliore. Per un agente che passa la maggior parte del tempo aspettando I/O di rete verso un modello remoto, la differenza di CPU si vede in un punto: quanto in fretta il gateway di messaggistica, il loop di tool e il lavoro audio locale rispondono dopo una raffica di attività. Il cold boot del Pi 5 è nettamente più scattante di quello del Pi 4 per qualsiasi cosa basata su Docker o Node.

A forzare la decisione d'acquisto è la RAM, non il clock. Tagli realistici per uno stack di agente 2026 che parla a un LLM ospitato:

Pi 4, 2 GB: troppo tirato. Runtime più gateway di messaggistica più una chiamata a Chromium crolla sotto pressione di memoria.
Pi 4, 4 GB: regge un singolo agente che parla a un modello remoto, senza Whisper locale e senza tool browser. Aspettati di disattivare lo swap e di stare attento ai processi concorrenti.
Pi 5, 4 GB: il pavimento sensato. Comodo per un runtime stile Hermes Agent con 1 o 2 canali di messaggistica e memoria persistente. Fare STT locale con faster-whisper si può, ma è doloroso.
Pi 5, 8 GB: il punto d'equilibrio pratico per chi vuole margine, un tool browser headless ogni tanto o un piccolo modello locale. I benchmark della community sull'inferenza locale lo confermano: il Pi 5 8 GB tiene TinyLlama 1.1B intorno ai 18 token/s e Llama 3.2 3B intorno ai 9 token/s, solo con la CPU.
Pi 5, 16 GB: solo se pensi di far girare modelli locali di classe 7 B. Un 7 B quantizzato Q4_K_M sta in circa 5 GB di RAM, quindi conviene avere margine.

Qualunque taglio tu scelga, non saltare un cooler attivo sul Pi 5. Un throttling termico prolungato trasforma un vivace A76 da 2,4 GHz in qualcosa peggiore di un Pi 4 nel giro di pochi minuti di carico vero.

Disponibilità di immagini ARM64: controlla prima di impegnarti

Praticamente ogni runtime di agente serio pubblica un'immagine ARM64 nel 2026, ma le trappole non mancano. Prima di impegnarti, controlla tre cose sul runtime che pensi di usare:

Il manifest dell'immagine include linux/arm64/v8. Lancia docker manifest inspect <immagine> e cerca la voce ARM, oppure usa un pull multi-arch.
L'immagine è stata effettivamente costruita di recente. Alcuni progetti pubblicano una tag ARM una volta e la dimenticano, poi divergono in silenzio dalla build AMD64 per mesi.
Le dipendenze opzionali su cui contate (ffmpeg, sox, Chromium, Playwright) funzionano su ARM. In particolare il download del browser bundle di Playwright non sempre si risolve su ARM Linux, e si finisce a installare Chromium via apt.

Se usi Hermes Agent, l'immagine Docker ufficiale è multi-arch e gira su ARM. Per un percorso completo della strada Docker con build ARM64, la nostra guida al deploy Docker copre il layout dell'immagine, e il post di troubleshooting per quando il container si riavvia in loop vale la lettura prima del primo test da 24 h, perché la maggior parte dei fallimenti su Pi cade negli stessi secchielli di OOM kill e permessi dei volumi.

La SD è il pezzo che ti ucciderà l'uptime

Il Pi fa girare un sistema operativo che logga tutto, e un AI agent aggiunge una directory di memoria che scrive di continuo: stato delle conversazioni, file di memoria per utente, trascrizioni, storico dei task pianificati. Questo pattern di piccole scritture continue è esattamente ciò che consuma una microSD consumer. In esercizio 24/7 la domanda non è se la card cede, è quando.

Tre mitigazioni, in ordine di impatto:

Fai boot da NVMe o SSD USB, non dalla SD. Il Pi 5 supporta NVMe tramite HAT e il Pi 4 fa boot da SSD USB out of the box con i firmware recenti. La performance in scritture casuali è di un ordine di grandezza superiore e le caratteristiche di usura sono drasticamente più gentili. È il singolo upgrade di affidabilità più grande che puoi fare.
Se devi usare una SD, prendi una card high-endurance. SanDisk MAX Endurance, Samsung PRO Endurance e Transcend High Endurance sono pensate appositamente per la scrittura continua. Una card consumer standard in un setup pesante in scrittura può degradare in mesi.
Sposta la directory di memoria e qualsiasi database SQLite fuori dal supporto di boot. Attacca un piccolo SSD USB e montalo sul path dati del runtime. Attiva Log2Ram così i journal di systemd vivono in RAM e vanno su disco solo periodicamente. Configura tmpfs per /tmp e /var/tmp.

Qualunque storage tu scelga, tieni un backup scriptato della directory di memoria verso qualcosa fuori dal Pi. Una SD morta in un cassetto è una cosa; una SD morta che conteneva sei mesi di contesto del tuo agente è un'altra.

Modello locale o remoto: decidi prima di comprare

Il grosso bivio è se il modello gira sul Pi o altrove.

Modello remoto (raccomandato per gran parte dell'uso personale): il Pi fa girare il runtime, il gateway di messaggistica, i file di memoria e il loop di tool. Le chiamate al modello vanno a OpenAI, Anthropic o OpenRouter in HTTPS. L'impronta totale di RAM sta comodamente sotto 1 GB. È quello che fa anche un VPS da 5 €/mese, quindi in questo percorso l'unico vantaggio del Pi sul VPS è che vive a casa tua.

Modello locale sul Pi: gira tutto offline. Sei limitato a modelli piccoli (grosso modo 1 B - 3 B parametri a velocità conversazionale su un Pi 5 8 GB) con una qualità che resta indietro di parecchio rispetto a un modello hosted moderno. Un Pi 5 da 16 GB con boot NVMe può mettere in servizio un 7 B quantizzato, ma sentirai ogni secondo di latenza in più. Per un hobbyista o un setup privacy-first con aspettative modeste va bene. Per un assistente di lavoro che davvero risparmi tempo, di solito no.

Per la voce vale lo stesso bivio: la latenza STT in cloud (Deepgram, Whisper API) batte faster-whisper locale su un Pi 5 di secondi per turno. Se la bassa latenza vocale conta, il Pi è la forma sbagliata di hardware, indipendentemente dalla RAM.

Il confronto onesto sui costi

Se hai già il Pi, l'elettricità per tenere un Pi 5 acceso 24/7 sono circa 3 W a riposo, che a 0,30 €/kWh fanno intorno a 7-8 € l'anno. Poco. Ma l'equazione totale del costo per ospitare un agente è Pi + SD high-endurance (o HAT NVMe + SSD NVMe) + alimentatore + case + cooler attivo, e una volta sommato tutto sei spesso a pochi euro da un anno di VPS entry-level.

In concreto:

Percorso	Iniziale	Mensile
Pi 5 8 GB + HAT NVMe + NVMe 256 GB + cooler + alimentatore + case	~180 €	~0,60 € elettricità
Netcup VPS 500 (2 vCore ARM, 4 GB RAM, 128 GB NVMe)	0 €	~5,00 €
Hetzner CX22 (2 vCPU x86, 4 GB RAM, 40 GB NVMe)	0 €	~3,79 €

Il Pi va in pari rispetto a un VPS da 5 €/mese verso il terzo anno, e solo se sul Pi non si rompe niente. Una singola sostituzione della SD o un cambio di alimentatore azzera il conteggio. Il confronto di VPS economici passa in rassegna le specifiche esatte delle opzioni da 5 €/mese e la scheda costi di Hermes mette la bolletta del modello in prospettiva.

Il Pi vince su tre assi che un VPS non può pareggiare: sta fisicamente a casa tua, consuma pochissimo ed è davvero privato nel senso che nessun provider cloud tiene il disco. Sono ragioni vere. "Costa meno" di solito no.

Quando il Pi è la scelta giusta

Lo hai già e sarebbe altrimenti inattivo.
Vuoi l'agente fisicamente sulla tua rete di casa per tool solo-LAN (Home Assistant, accesso locale ai file, coordinator Zigbee).
Stai ottimizzando privacy sopra performance e accetti il divario di qualità del modello locale.
Ti diverti con il setup come progetto. È un motivo valido, e questa guida non tenta di dissuaderti.

Quando saltare del tutto il Pi

Non ce l'hai ancora e stai calcolando da zero.
Vuoi voce a bassa latenza.
Vuoi far girare un modello serio in qualità hosted (qualsiasi 7 B in su a velocità reale).
Non vuoi pensare a usura della SD, throttling termico o disponibilità di immagini ARM.

Per quest'ultimo caso l'hosting gestito esiste proprio perché il pomeriggio di domenica passato a dimensionare, mettere in sicurezza e vigilare non è divertente per tutti. Comincia con Hermify e salta del tutto la decisione hardware. Fa girare un Hermes Agent gestito su Telegram, con memoria persistente che resta tua, e non c'è nessuna board da raffreddare né SD da sostituire.

Raccomandazione

Se hai già un Pi 5 con 4 GB o più e un HAT NVMe, mettici sopra un agente basato su API e goditi la bolletta bassa. Se stai partendo da zero, prendi invece un VPS ARM da 5 €/mese. Se vuoi che l'agente funzioni e basta, senza discussioni hardware, usa un host gestito.

Il Pi è un computer delizioso. Per la maggior parte delle persone non è il modo più economico né il più tranquillo di tenere online un AI agent.