返回博客
AI AgentsSelf-HostingHomelab

在 Proxmox 上自托管 AI 智能体:2026 LXC 指南

如何在 Proxmox 的 LXC 容器中运行自托管 AI 智能体。规格、Docker、备份、GPU 直通与 2026 年的诚实替代方案。

作者:Hermify Team||阅读约 3 分钟
一个深色服务器机架,叠加 Proxmox 界面截图,显示一个标注为 AI 智能体的 LXC 容器正在运行,带有淡绿色状态指示

为什么 Proxmox 家庭实验室玩家把 AI 智能体放进 LXC

如果你桌子底下已经有一台 Proxmox 主机在跑 Pi-hole、Home Assistant 和 Nextcloud,把自托管 AI 智能体加进这套栈就是最自然的下一步。家庭实验室社区在做法上已经基本达成共识:把智能体放进 LXC 容器,不要放 VM,不要直接放宿主机。Uptown4 最近的一篇指南dev.to 上广为流传的一篇讲述在 3 节点 Proxmox 集群上跑 7 个自主智能体的文章 都选择了 LXC,理由相同:一个智能体容器在空闲时占用 200-400 MB 内存和几乎为零的 CPU,所以你能在一台 16 GB 内存的机器上跑五到八个,完全感觉不到。

这篇文章说明 2026 年在 Proxmox 上自托管 AI 智能体实际是什么样:如何给 LXC 定规格、在容器里跑 Docker 还是走原生、如何做备份让一次糟糕的升级不至于毁掉智能体的记忆,以及 GPU 直通在什么时候值得折腾。文章面向已经熟悉 Proxmox、想要一份具体配方的读者,而不是 Proxmox 入门。

LXC vs VM:数字真的有分量

最常见的问题是选 LXC 容器还是完整的 QEMU 虚拟机。对于一个调用云端 LLM API 的纯文本 AI 智能体,LXC 在家庭实验室玩家关心的每一个维度上都胜出。

开销差距是真实的。一个裸的 Debian LXC 在没跑任何服务时占用 30-60 MB 内存,同样规模的 Debian VM 则占用 200-400 MB,主要原因是容器不需要客户机内核、QEMU 或 virtio 设备状态(来源)。CPU 开销在 LXC 上约为 1-3%,VM 则在 5-15%,容器 1-3 秒就能启动,而 VM 需要 30-90 秒。有一个生产集群报告:以前跑 35 个 VM 的硬件,改成 LXC 后跑了 180 个容器,密度提升 5 倍。

对 AI 智能体来说,这点非常具体。智能体运行时本身很小:一个 Python 或 Node 进程、一个存放状态的 Postgres、一个 webhook 监听器。真正的重活发生在别人的 GPU 上,在 OpenAI、Anthropic 或者同一台宿主机上的 Ollama VM 里。容器只是一个轻量的协调者,不是负载。为一个协调者付 VM 的开销,是本可以用来跑更多智能体的钱。

VM 唯一胜出的地方是隔离。如果你不信任智能体的代码或它的扩展,VM 是更强的边界。对于自己写的个人智能体,或已经审计过的开源运行时,LXC 的共享内核模型足够用。

参考配方:Ubuntu 22.04 LXC,2 核、2 GB、8 GB 磁盘

首个 Proxmox 上自托管 AI 智能体的默认规格特意偏小。容器随时可以扩容,没有理由预留你根本没在用的内存。

设置 原因
模板 ubuntu-22.04-standard 对 Docker、Node、Python 支持最好的基础
CPU 2 核 空闲负载微不足道,但 LLM 回调是 IO 尖峰
内存 2 GB 足以给 Postgres 加上智能体进程留出余量
Swap 512 MB 应对类似 Chrome 的内存尖峰的廉价保险
磁盘 8 GB local-lvm 后续如果加磁盘上的 vector store 再扩容
网络 vmbr0,DHCP 藏在你的路由器后面,不要直接暴露到公网
非特权 默认;除非要跑 Docker 否则保持
Features nesting=1, keyctl=1 只在你要在里面跑 Docker 时开启

从 Proxmox 界面创建,或在宿主机上 SSH 后用 pct create。如果你打算在容器里跑 Docker(见下一节),在创建时就把 nesting 和 keyctl 打开,不要事后再改;事后调整意味着编辑配置并重启容器。

容器起来后,像对待任何 Debian 家族的机器一样加固它:一个带 sudo 的非 root 用户、用 SSH 密钥代替密码、启用 unattended-upgrades,如果想不开路由器端口就能从手机访问,装上 Tailscale 客户端。

Docker 装进 LXC,还是原生 systemd?

跑智能体进程有两种流派,两种都能用。

Docker 装进 LXC。 你在一个开启了 nesting 的非特权 Ubuntu 22.04 容器里安装 Docker,然后用 docker-compose.yml 跑智能体。这与大多数自托管 AI 智能体运行时的发布方式一致,你可以照厂商的指引原样操作。代价是一点复杂性:容器必须以 features: nesting=1,keyctl=1 创建,调试时有时得判断问题出在容器、Docker 还是智能体本身。CoSci 关于在 Proxmox LXC 中安装 Docker 的指南 详细讲了所需的 flag。

原生 systemd。 你完全跳过 Docker,把智能体、它的 Python 或 Node 运行时以及 Postgres 直接装进 LXC,作为 systemd 服务运行。这更轻、更易推理,且与 LXC 快照配合更好(你在给一个真实的文件系统拍快照,而不是一堆 overlay 层)。代价是并非每个开源智能体都发布干净的 systemd 安装说明,你可能最终要自己把 Dockerfile 翻译成 systemd unit。

第一次搭建,Docker 装进 LXC 几乎总是务实的选择,它让你毫无偏差地照着选中的运行时走。对于打算维护多年的长寿命家庭实验室智能体,原生 systemd 值得付出的额外精力。参见我们的 Docker 中自托管 AI 智能体指南,两条路最终都会走到差不多的 compose 文件形状。

快照与备份:这是唯一你不能省的一步

AI 智能体会累积记忆:对话、embedding、定时任务、按用户的偏好。一个月后,这份状态的价值超过容器本身。Proxmox 给了你两个相关但不同的工具来保护它,二者的差别值得说明白:快照不是备份。 快照跟容器住在同一块磁盘上,SSD 挂了就两者一起没。

家庭实验室量级下真正撑得住的配方:

  1. 每次升级前先做快照。 在容器的 Snapshots 页面,apt upgrade 之前、修改 docker-compose.yml 之前、切换某个 feature flag 之前都做一个。如果升级把智能体的工具循环搞坏了,回滚就是一次点击。
  2. 每晚备份到 Proxmox Backup Server。 PBS 是正确的工具:它做变长去重,所以一个 4 GB LXC 的七晚备份大约接近 4 GB 而不是 28 GB。把 PBS 跑在第二台小机器或 NAS 上,别跑在 Proxmox 宿主机本身。
  3. 快照模式,不是停机模式。 对一个通过 Telegram 与用户对话的智能体,快照模式是合适的默认:备份期间容器继续运行。停机模式对数据库更安全,但会漏掉刚到达的消息。
  4. 用策略做保留。 一个对个人智能体行得通的常见保留策略:保留最近 3 份、每日 7 天、每周 4 周、每月 6 个月。真正需要之前,至少测试一次恢复路径。

如果你跳过 PBS,至少用 cron 把 vzdump 归档送到一块外置硬盘上。因为磁盘坏了才发现快照从来不是备份,是家庭实验室智能体失忆的糟糕方式。

GPU 直通:几乎总是不值得

诱人的家庭实验室梦想是本地 GPU 跑 Ollama,配上一个 Proxmox 上的 LXC 智能体,让整个栈都留在家里。技术上是可行的,配置合适时也令人满足。但请对权衡诚实。

大多数家庭实验室在严肃本地推理面前带宽受限。单张 RTX 3090 跑 32B 模型大约是每秒 30-50 token,聊天够用,但让智能体循环调用工具就有点吃力。更大的模型需要专业 GPU,价格比一辆二手车还贵。而运维税是真实的:内核模块、PCIe 直通的怪癖、破坏 LXC 命名空间的驱动升级,这些都不是你想在 Telegram 上要个 AI 助理时报名参加的项目。

2026 年务实的家庭实验室模式是小盒子、大脑袋在别处:智能体跑在一台约 200 美元的二手 Mini-PC 上的 2 GB LXC 里,电费只花几分钱,模型交给 OpenRouter、OpenAI 或 Anthropic。你的隐私叙事就是「智能体的代码跑在我的硬件上,API 调用是无状态的,服务商不保留数据」,这是站得住脚的、也是便宜的。如果日后想为特定任务用本地模型,把 Ollama 放在一台姐妹 VM 上做 GPU 直通,让智能体把它当成众多服务商之一来调用。

什么时候 Proxmox 不是正确答案

如果你已经在 Proxmox 上投入,它很棒。如果没有,请诚实地看看你到底想要什么。

  • 你只想在 Telegram 上有个 AI 智能体。 托管服务是一分钟加一杯咖啡;Proxmox 是一个周末加一台二手 Mini-PC。看看我们对 自托管 vs 托管 Hermes Agent 价格 的分析。
  • 你还没用 Proxmox。 Proxmox 的学习曲线对 10 项服务的家庭实验室值得,对一个 AI 智能体不值得。5 美元的 VPS 加 Docker Compose,一个晚上就能到位。
  • 你需要智能体与机器上其他服务之间的强安全边界。 用 VM 而不是 LXC,或者干脆用一台独立机器。

Hermify 的另一条路:同样的掌控,不用容器

有一条中间道路,很多家庭实验室玩家在几次升级周期之后其实会走上。让 Proxmox 跑那些无聊的东西(Home Assistant、影音、网络),让一个托管的 Hermes Agent 负责 AI 那一侧。你保留了"你的数据、你的模型密钥、你的智能体"这套叙事,却不用照顾一个 LXC,也不用琢磨 PBS 的保留策略。Hermify 打理容器机群,你带上 OpenRouter 或 OpenAI 密钥,智能体在 Telegram 上大约一分钟就能上线。开始使用 Hermify,如果这个交易比你集群里再加一个节点更有意思。

来源

运行你自己的 Hermes Agent

自带 API 密钥,连接 Telegram,60 秒内即可上线一个自我改进的 AI 智能体。

立即开始