AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms

Hugging Face 在 10 月 20 日发布了 AnyLanguageModel 1.0，同时配套的 swift-huggingface 与 swift-xet 也到达 1.0。这个库去年以「Foundation Models 框架的替代品」形式出现，目标是让 Swift 开发者用同一套会话代码选择模型和提供方。

核心变化

接入方式仍然是替换 import 语句：把 import FoundationModels 换成 import AnyLanguageModel，原有 session 代码继续有效。模型侧覆盖系统自带模型、经 llama.cpp、MLX、Core ML 运行的开放权重模型，以及托管 API。

过去一年补齐的功能包括：

• 工具调用在所有提供方上可用；
• 引导生成（guided generation）同样覆盖全部提供方，支持嵌套的 @Generable 类型及其数组；
• 图像可以按 Foundation Models 27 的语法附加到提示中，系统模型也支持；
• 在 OS 27 上，任何遵循 LanguageModel 协议（含 Core AI 模型）的模型都能接入；
• 新增 Linux 支持，同一份代码可运行在服务器上。

托管提供方

1.0 支持的托管服务包括 OpenAI Chat Completions 与 Responses API、Open Responses、Anthropic Messages API（带 adaptive thinking 与 effort 选项）、Google Gemini API、Ollama、Private Cloud Compute，以及通过自定义 base URL 接入的 HF Inference Providers、OpenRouter 等 OpenAI 兼容端点。

原文给出的示例用 OpenAILanguageModel 把 openai/gpt-oss-120b 指向 https://router.huggingface.co/v1/，说明超出设备能力的开放权重模型也能用同一套会话代码调用。托管提供方与本地模型享有相同特性：引导生成、带流式的工具调用、响应中的 token 用量。推理过程会进入 transcript，切换提供方时若对方无法回放则自动从请求中省略。API key 改为通过闭包获取，便于从自有服务器取短期 token。

模型示例与依赖

原文列出的热门模型包括：Gemma 4 E2B（GGUF，Q4_0 下约 3.4 GB）、Liquid AI 的 LFM2.5 2.6B（GGUF，Q4_K_M 下约 1.7 GB）、Qwen3.8 27B 的 MLX 版本（4 位下约 16 GB）。前两个可在 iPhone 上运行，Qwen3.8 27B 需要 32 GB 内存以上的 Mac。Z.ai 的 GLM-5.3 在 BF16 下约需 1.5 TB，适合通过 Inference Providers 使用。

升级依赖写法为 .package(url: "https://github.com/huggingface/AnyLanguageModel", from: "1.0.0", traits: ["MLX"])，已有应用可参考三个库的 release notes 中的迁移说明。

对读者意味着什么

1. 已经有 Swift 应用在用 Foundation Models 的团队，可以用很小的改动获得多提供方切换能力，不必为每个后端写适配层。
2. 打算在 iPhone 或 Mac 上跑开放权重模型的团队，可以借 Gemma 4 E2B、LFM2.5 2.6B 这类小模型先做端侧原型，再用同一套代码把大模型请求转到托管端点。
3. 需要服务端复用的团队可以关注 Linux 支持，但应先在目标 OS 版本上核对这些特性是否全部可用。