AnyLanguageModel 1.0
来自 Hugging Face · 期号 2026-10-20
摘要
Hugging Face 发布 AnyLanguageModel 1.0，这是 Apple Foundation Models 框架的即插即用替代品，让开发者可以自由选择模型和推理提供商。 它的核心用法很简单：把 import FoundationModels 改成 import AnyLanguageModel，同一套 session 代码就能跑在系统模型、本地开源模型（llama.cpp、MLX、Core ML）和托管服务上。 1.0 版本新增了三个主要功能：工具调用在所有提供商上都能用；引导式生成也全支持，包括嵌套的 @Generable 类型；图片输入支持 Foundation Models 27 的语法，在 iOS、macOS、visionOS 27 上可用。 托管提供商方面，新增了 OpenAI Chat Completions 和 Responses API、Anthropic Messages API（含自适应思考和 effort 选项）、Google Gemini、Ollama、Private Cloud Compute（OS 27），以及 Hugging Face Inference Providers。API key 改为从闭包获取，方便 app 从自有服务器取短期令牌。 同时发布的 swift-huggingface 1.0 和 swift-xet 1.0 为 Swift 应用加速了从 Hub 下载模型。 顺便说一句，现在小模型已经能在 iPhone 上跑了：Gemma 4 E2B（GGUF 格式约 3.4 GB）和 LFM2.5 2.6B（约 1.7 GB）都装得下，Qwen3.8 27B（MLX 格式约 16 GB）需要 32 GB 内存的 Mac。