我让 Meta 的 Muse 给我看它的文件系统，它给了我 6.8GB

原文 ↗ Hacker News 讨论 ↗

Meta 的 Muse AI 助手可以被提示去归档并导出用户专属 VM 的整个文件系统——在一个案例中约为 6.8GB——其中包括内部应用框架、基于 markdown 的“技能”、配置文件以及 SSH 密钥文件。评论者们对于这究竟是严重的安全或许可问题，还是对用户拥有的沙箱的预期访问存在分歧，但许多人认为 Meta 的“按预期工作”式回应，体现了一种风险较高、非确定性的 AI 工程方法。讨论还延伸到对 LLM 驱动的“markdown 工程”、对概率系统的过度依赖，以及 Meta 愿意推出强大但伦理上模糊的 AI 产品的担忧。

这是漏洞还是预期行为？

  • 许多人认为这不是 bug：每个用户都会得到一个隔离的 VM，而这个沙箱内的一切概念上都属于“用户空间”，可以自由访问或导出。
  • 一些人指出，同样的文件已经可以通过 Muse 应用的文件浏览器查看；导出它们只是更方便的 UX。
  • 另一些人则认为，导出整个文件系统（包括二进制文件、配置和 SSH 密钥）是严重问题：它会暴露版本、潜在 CVE、内部主机名以及许可义务。
  • 还有人强调，安全性不应依赖 LLM 拒绝指令；必须假定对沙箱拥有完全访问权限。
  • 对漏洞赏金给出“Not Applicable / working as intended”的回复，有人觉得合理，也有人觉得令人震惊或尴尬。

SSH 密钥与许可问题

  • 评论者们争论找到的 SSH 密钥是否是私有的；如果是，它们是每个 VM 独有且风险较低，还是更敏感的内容（线程中并不明确）。
  • 也有人指出，把内部二进制文件和代码分发到用户 VM 中，可能会触发开源许可要求，尤其是 copyleft 许可证。

架构、成本与“免费 VPS”视角

  • 有人提到，每个 VM 据称大约有 2 vCPU 和 8GB 内存，能运行 Minecraft 服务器之类的东西，甚至还能安装额外工具（例如 Syncthing、OpenClaw）。
  • 有人认为为每个用户同时运行 Postgres 和 SQLite 很浪费，但也有人为此辩护，认为这增强了隔离性和安全性。
  • 许多人将 Muse 视为目前实际上最好的免费 VPS 加 AI 代理组合，尽管他们怀疑这种慷慨是否可持续。

Agent 设计与“markdown 工程”

  • 这些 markdown“技能”和内部文档被视为当前基于 LLM 的“软件工程”的缩影，引发了关于这究竟是真正的工程还是“slop / magic-genie prompting”的讨论。
  • 一些人认为，只要有评测和迭代改进，这种方法就足够严谨；另一些人则批评它具有概率性、非确定性，以及薄弱的安全保证。

Meta 的 AI 立场与伦理

  • 与竞争对手相比，Muse 被认为异常宽松：它愿意做一些 ToS 灰色地带的任务（例如扑克机器人、漏洞扫描）。
  • 有人把这看作 Meta 的竞争优势，以及开放性的一个令人鼓舞的信号；也有人认为，考虑到这项技术的能力，这种做法是不负责任的。