本地 AI 应当成为常态
当开发者给应用添加 AI 功能时，最常见的选择是调用 OpenAI 或 Anthropic 的云端 API。但这种依赖正在制造一个更脆弱的世界：应用在服务器崩溃或信用卡过期时就会停止工作，用户数据被传输到第三方服务商，而隐私政策被当作解决信任问题的借口。
一篇来自开发者博客的文章有力地论证了：本地 AI 应当成为默认选择。今天的移动设备拥有专用的神经网络引擎，性能远超十年前的数据中心，却大部分时间处于闲置。将用户数据发往远端服务器，是把一个简单的功能特性变成了一个昂贵的分布式系统。
文章以 Brutalist Report 的 iOS 客户端为例展示了具体实践：该应用使用 Apple 内置的本地模型 API 生成文章摘要，所有处理都在设备上完成。没有数据离开用户的手机，不需要第三方账号，也没有 30 天数据保留条款。这不仅简化了技术栈，也从根本上消除了隐私承诺与数据合规的负担。
Apple 的最新工具还支持结构化输出——开发者可以定义 Swift 结构体，让模型返回类型化的数据，而不是非结构化的文本。这使 AI 从一个”新奇玩具”转变为”可信赖的子系统”。
当然，本地模型在通用智能上还无法与云端大模型竞争。但对于摘要、分类、提取、改写和归一化等大多数应用场景，本地模型的性能已经足够出色。核心原则是：只有在云端模型真正必要的时候才使用它。否则，保持数据在用户的设备上，构建真正的本地优先应用。