AI Agent sur Raspberry Pi (2026) : guide honnête

La vraie question, ce n'est pas si ça démarre, c'est si ça tient

Si vous êtes ici, vous avez très probablement une Raspberry Pi sur une étagère et l'idée de la faire tourner comme AI agent personnel. La bonne nouvelle : une Pi 5 avec 4 Go ou plus de RAM fera tourner un runtime comme Hermes Agent, OpenClaw ou une petite boucle Ollama sans broncher. La mauvaise : la plupart des agents hébergés sur Pi meurent d'autre chose que du CPU. Une carte SD corrompue à 3 h du matin, un OOM kill sous pression mémoire au milieu d'une transcription vocale, ou une image Docker qui n'a jamais eu de build ARM64.

Ce guide passe en revue les trois décisions qui comptent vraiment pour un agent 24/7 sur Pi : quelle carte et quel niveau de RAM choisir, comment garder le stockage en vie, et quoi faire de l'inférence du modèle. Il donne aussi la conclusion honnête que personne qui vend des accessoires Pi ne vous dira : pour beaucoup de lecteurs, un VPS à 5 €/mois revient au final moins cher et plus calme que la Pi que vous avez déjà.

Pi 4 vs Pi 5 : le saut CPU est réel, mais c'est la RAM qui décide

La Pi 5 est passée du Cortex-A72 de la Pi 4 au Cortex-A76, à 2,4 GHz contre 1,5 GHz, avec des caches plus grands et un parallélisme d'instructions nettement meilleur. Pour un agent qui attend surtout des I/O réseau vers un modèle distant, la différence CPU apparaît à un endroit : la vitesse à laquelle le gateway de messagerie, la boucle d'outils et tout travail audio local répondent après une rafale d'activité. Le démarrage à froid sur Pi 5 est sensiblement plus vif que sur Pi 4 pour tout ce qui repose sur Docker ou Node.

Ce qui force la décision d'achat, c'est la RAM, pas la fréquence. Paliers réalistes pour une stack d'agent en 2026 qui parle à un LLM hébergé :

Pi 4, 2 Go : trop juste. Runtime plus gateway de messagerie plus un appel Chromium finit par tomber sous pression mémoire.
Pi 4, 4 Go : ça marche pour un seul agent qui parle à un modèle distant, sans Whisper local, sans outil navigateur. Prévoyez de désactiver le swap et d'être prudent avec les processus concurrents.
Pi 5, 4 Go : le plancher raisonnable. Confortable pour un runtime style Hermes Agent avec 1 ou 2 canaux de messagerie et une mémoire persistante. Le STT local via faster-whisper est possible mais douloureux.
Pi 5, 8 Go : le point d'équilibre pratique pour qui veut de la marge, un outil navigateur headless occasionnel ou un petit modèle local. Les benchmarks de la communauté sur l'inférence locale le confirment : la Pi 5 8 Go tient TinyLlama 1.1B autour de 18 tokens/s et Llama 3.2 3B autour de 9 tokens/s, uniquement en CPU.
Pi 5, 16 Go : uniquement si vous prévoyez de faire tourner des modèles locaux de classe 7 B. Un 7 B quantisé en Q4_K_M tient dans environ 5 Go de RAM, donc autant se garder de la marge.

Quel que soit le palier choisi, ne faites pas l'impasse sur un cooler actif sur la Pi 5. Le throttling thermique soutenu transforme un A76 vif à 2,4 GHz en quelque chose de pire qu'une Pi 4 en quelques minutes de charge réelle.

Disponibilité des images ARM64 : vérifiez avant de vous engager

Presque tout runtime d'agent sérieux publie une image ARM64 en 2026, mais il reste des pièges. Avant de vous engager, vérifiez trois choses sur le runtime visé :

Le manifest de l'image mentionne linux/arm64/v8. Lancez docker manifest inspect <image> et cherchez l'entrée ARM, ou faites un pull multi-arch.
L'image a été construite récemment. Certains projets publient une tag ARM une fois puis l'oublient, et divergent silencieusement du build AMD64 pendant des mois.
Les dépendances optionnelles dont vous avez besoin (ffmpeg, sox, Chromium, Playwright) fonctionnent sur ARM. Le téléchargement du navigateur embarqué de Playwright, en particulier, ne se résout pas toujours sur ARM Linux, et vous finissez par installer Chromium via apt.

Si vous utilisez Hermes Agent, l'image Docker officielle est multi-arch et fonctionne sur ARM. Pour un tour complet du chemin Docker qui livre un build ARM64, notre guide de déploiement Docker couvre la structure de l'image, et le post de dépannage quand le conteneur redémarre en boucle vaut le détour avant le premier test de 24 h, parce que la majorité des pannes sur Pi tombent dans les mêmes seaux d'OOM kill et de permissions de volume.

La carte SD est la pièce qui va tuer votre uptime

La Pi fait tourner un OS qui log tout, et un AI agent y ajoute un répertoire mémoire qui écrit sans arrêt : état de conversation, fichiers mémoire par utilisateur, transcripts, historique des tâches planifiées. Ce schéma d'écritures continues en petits blocs est exactement ce qui use une microSD grand public. En 24/7, la question n'est pas de savoir si la carte lâche, mais quand.

Trois mitigations, par ordre d'impact :

Bootez sur NVMe ou SSD USB, pas sur la SD. La Pi 5 supporte le NVMe via un HAT, et la Pi 4 démarre sur SSD USB en sortie de boîte avec les firmwares récents. Les performances en écritures aléatoires sont d'un ordre de grandeur supérieures, et les caractéristiques d'usure, drastiquement plus douces. C'est le plus grand gain de fiabilité que vous puissiez faire en une seule décision.
Si vous devez utiliser une SD, prenez une carte high-endurance. SanDisk MAX Endurance, Samsung PRO Endurance et Transcend High Endurance sont spécifiquement conçues pour l'écriture continue. Une carte grand public standard dans un setup lourd en écritures peut se dégrader en quelques mois.
Sortez le répertoire mémoire et toute base SQLite du support de boot. Branchez un petit SSD USB et montez-le sur le chemin de données du runtime. Activez Log2Ram pour que les journals systemd vivent en RAM et ne se flushent sur disque que périodiquement. Configurez tmpfs pour /tmp et /var/tmp.

Quel que soit le stockage choisi, gardez une sauvegarde scriptée du répertoire mémoire vers autre chose que la Pi. Une SD morte dans un tiroir, c'est une chose ; une SD morte qui contenait six mois de contexte de votre agent, c'en est une autre.

Modèle local ou distant : tranchez avant d'acheter

La plus grosse bifurcation, c'est de savoir si le modèle tourne sur la Pi ou ailleurs.

Modèle distant (recommandé pour la plupart des usages personnels) : la Pi fait tourner le runtime, le gateway de messagerie, les fichiers mémoire et la boucle d'outils. Les appels modèle vont vers OpenAI, Anthropic ou OpenRouter en HTTPS. L'empreinte RAM totale reste confortablement sous 1 Go. C'est aussi ce que fait un VPS à 5 €/mois, donc dans ce chemin le seul avantage de la Pi sur un VPS est de vivre chez vous.

Modèle local sur la Pi : tout tourne hors ligne. Vous êtes limité aux petits modèles (grossièrement 1 B à 3 B paramètres à vitesse conversationnelle sur une Pi 5 8 Go), avec une qualité en retrait par rapport à un modèle hébergé moderne, et l'écart est large. Une Pi 5 16 Go avec boot NVMe peut mettre un 7 B quantisé en service, mais vous sentirez chaque seconde de latence supplémentaire. Pour du loisir ou un setup privacy-first aux attentes modestes, c'est très bien. Pour un assistant de travail qui fait vraiment gagner du temps, c'est rarement le cas.

Pour la voix, même bifurcation : la latence STT en cloud (Deepgram, Whisper API) va coiffer faster-whisper local sur une Pi 5 de plusieurs secondes par tour. Si la faible latence vocale compte, la Pi n'est pas la bonne forme de matériel, quelle que soit la RAM.

La comparaison honnête des coûts

Si vous avez déjà la Pi, l'électricité pour faire tourner une Pi 5 24/7 tourne autour de 3 W en idle, soit environ 7 à 8 € par an à 0,30 €/kWh. Peu de choses. Mais l'équation totale de coût pour héberger un agent, c'est Pi + SD high-endurance (ou HAT NVMe + SSD NVMe) + alim + boîtier + cooler actif, et une fois tout additionné, vous êtes souvent à quelques euros d'une année de VPS d'entrée de gamme.

Concrètement :

Chemin	Initial	Mensuel
Pi 5 8 Go + HAT NVMe + NVMe 256 Go + cooler + alim + boîtier	~180 €	~0,60 € électricité
Netcup VPS 500 (2 vCore ARM, 4 Go RAM, 128 Go NVMe)	0 €	~5,00 €
Hetzner CX22 (2 vCPU x86, 4 Go RAM, 40 Go NVMe)	0 €	~3,79 €

La Pi atteint le seuil de rentabilité face à un VPS à 5 €/mois vers la troisième année, et uniquement si rien sur la Pi ne casse. Un seul remplacement de SD ou un changement d'alim remet le compteur à zéro. Le comparatif VPS pas chers détaille les specs exactes des options à 5 €/mois, et le détail des coûts Hermes remet la facture du modèle en perspective.

La Pi gagne sur trois axes qu'un VPS ne peut pas égaler : elle est physiquement chez vous, elle ne tire quasiment rien, et elle est vraiment privée au sens où aucun fournisseur cloud n'a le disque. Ce sont de vraies raisons. « Moins cher » n'en est généralement pas une.

Quand la Pi est le bon choix

Vous l'avez déjà et elle serait inactive sinon.
Vous voulez l'agent physiquement sur votre réseau local pour des outils LAN uniquement (Home Assistant, accès local aux fichiers, coordinateurs Zigbee).
Vous optimisez la confidentialité plutôt que la performance et vous acceptez l'écart de qualité du modèle local.
Vous aimez le setup en tant que projet. C'est une raison valable, et ce guide n'essaiera pas de vous en dissuader.

Quand ignorer la Pi

Vous ne l'avez pas encore et vous chiffrez à partir de zéro.
Vous voulez de la voix à faible latence.
Vous voulez faire tourner un modèle sérieux de qualité hébergée (tout 7 B et plus à vitesse réelle).
Vous ne voulez pas penser à l'usure de la SD, au throttling thermique ni à la disponibilité des images ARM.

Pour ce dernier cas, l'hébergement géré existe précisément parce que le dimanche après-midi à dimensionner, durcir et surveiller n'est pas amusant pour tout le monde. Lancez-vous avec Hermify et sautez complètement la décision matérielle. Cela fait tourner un Hermes Agent géré sur Telegram, avec une mémoire persistante qui reste la vôtre, et il n'y a ni carte à refroidir ni SD à changer.

Recommandation

Si vous avez déjà une Pi 5 avec 4 Go ou plus et un HAT NVMe, mettez-y un agent adossé à une API et profitez de la facture d'électricité minuscule. Si vous chiffrez à partir de zéro, prenez plutôt un VPS ARM à 5 €/mois. Si vous voulez que l'agent fonctionne, point, sans discussion matérielle, prenez un hébergement géré.

La Pi est une jolie machine. Ce n'est pas, pour la majorité, la manière la moins chère ni la plus tranquille de garder un AI agent en ligne.