模型在你机器上跑 · 数据不出设备

把 AI 装回你自己的电脑。

这是一份 local-first AI 应用精选目录。我们只收录这样的工具:推理可以完全在本地完成,对话记录、文档索引、工作区都存在你自己的设备上,断网仍然可用,厂商倒闭了数据也还在。 每个条目的许可证、最近提交时间与本地化程度都经过一手核实 —— 包括那些已经停更的。

—
收录应用
—
功能分类
—
开源 / 可自托管
—
纯本地可离线
核实时推翻的三个流行说法
01
「Screenpipe 是 MIT 开源」 已于 2026-06-09 改成商业许可,官方自述 source-available。变更不到半年,资料普遍没跟上。
02
「FLUX 是 Apache-2.0 随便用」 代码是,但只有 schnell 权重可商用。dev 版权重禁商用 —— 不过它生成的图片可以卖。
03
「七条理想第一条是「快」」 原文标题是 No spinners,全条不含 fast,并明确说 local-first 本身并不保证软件快。
分类导航

从推理引擎到屏幕记忆,九条主线

点击任一分类,直接跳到目录并自动筛选。

收录标准

什么才算「本地优先的 AI 应用」

local-first 运动源自 Ink & Switch 2019 年的宣言。在 AI 领域,仅仅「能连本地模型」是不够的 —— 我们加了几条更硬的要求。

必选项 · 四条硬标准

    加分项 · 不满足也可收录

      不收录:纯云端套壳(只是把请求转发到 OpenAI/Anthropic,且无法接本地后端)、需要登录账号才能用核心功能的在线服务、以及许可证明确禁止本地私有部署的项目。
      完整目录

      全部收录条目

      点击任意卡片展开详情:本地化程度、平台、许可证、官方地址与核实备注。带标记的项目有需要注意的地方。

      许可证陷阱

      别被「开源」两个字骗了

      这是我们做这次核实最想告诉你的一件事。源码可见 ≠ 许可证宽松 —— 下面十个项目,每一个都曾被大量榜单、教程和 AI 生成的推荐文说成「开源」,但读完 LICENSE 原文之后结论并不一样。全部经过一手核实。

      怎么自己查,三步:① 打开仓库拉 raw.githubusercontent.com/OWNER/REPO/HEAD/LICENSE 直接读原文;② 和 GitHub API 返回的 license.spdx_id 字段对照,返回 NOASSERTION 通常意味着它不是标准 OSI 许可证;③ 权重和代码的许可经常不同,图像/语音模型尤其要分开看。
      硬件选型

      你的机器能跑多大的模型

      先看硬件,再选模型。经验法则:4-bit 量化下每 10 亿参数约需 0.6 GB 权重空间,再加 2–4 GB 给 KV cache 和运行时(按 8K 上下文计)。

      你的硬件 可用档位 相对容量 能跑的模型量级 现实预期
      两个容易踩的坑:① MoE(混合专家)模型每个 token 只激活一小部分参数,所以速度快,但全部权重仍要装进显存 —— 按总参数算容量,不是按激活参数。② 长上下文会显著吃掉 KV cache,8K 塞得下的模型到 64K 可能就爆了。
      思想框架

      Local-first 的七条理想

      出自 Ink & Switch 2019 年的《Local-first software: You own your data, in spite of the cloud》(作者 Martin Kleppmann、Adam Wiggins、Peter van Hardenberg、Mark McGranaghan,发表于 Onward! 2019)。核心定义是:把用户设备上的那份数据副本当作主副本,服务器只持有次要副本用于跨设备访问。下面用的是原文标题 —— 常见的中文转述把第一条写成「快」,但原文全条根本没有 fast 这个词。

      少有工具能同时满足全部七条。宣言本身是坦率的 —— 它在结尾承认所有七条同时满足极难。但正因如此,这七条是评估任何工具的好尺子:一款工具可以牢牢占住其中三四条而仍然值得收录,关键是知道自己占了哪几条。
      生态

      造这类应用,脚下踩着哪些地基

      如果你想自己搭一个 —— 冲突合并、同步引擎、隐私基础设施,成熟的开源方案都在这儿。

      方法论

      这些数据是怎么来的

      核实流程

      • 许可证不靠记忆。直接拉 raw.githubusercontent.com/OWNER/REPO/…/LICENSE 读原文,再和 GitHub API 的 SPDX 字段交叉比对。这一步抓出了好几个「以为是开源其实不是」的项目。
      • 活跃度看最后一次提交,不是看 star。一个 7 万 star 但一年没提交的仓库,对「本地优先」来说价值有限 —— 依赖会腐烂,格式会失配。
      • 警惕榜单类软文。2026 年大量「XX 最佳工具榜」互相抄写同一批错误信息,只采信能追到一手来源的说法。
      • 停更项目不藏。目录里明确标注已归档 / 长期未维护的条目,并说清影响。

      边界与免责

      • 数据截至 2026-09-28。本地 AI 生态迭代极快,许可证和版本随时可能变,关键决策前请回官方渠道复核。
      • 「开源」不等于「自由」。Open WebUI 是 BSD 派生的自定义许可,超过 50 个终端用户不许去掉品牌;n8n 是 fair-code;Dify 用自己的许可证。这些都标注了。
      • 「本地」不消除幻觉。本地小模型一样会编造。敏感原文仍要谨慎,把数据放在本机只解决隐私,不解决正确性。
      • 给 Agent 装本地模型 ≠ 安全。能给 Agent 调系统工具的应用,等于给了它你机器的操作权。权限收敛比模型选型重要得多。
      主要信息来源:GitHub REST API(license / stars / pushed_at / archived 字段)、各项目 LICENSE 原文、官方文档站、Apple iTunes Lookup API(用于核实 App Store 上架状态)、以及 Ink & Switch 宣言原文(经 Wikipedia 与多处直接引述交叉核对)。 分类体系与收录标准参考 LocalFirstApp 的 local-first 软件目录并针对 AI 领域做了扩展;local-first 生态一节的社区信息来自 localfirst.fm/landscape 与 Ink & Switch 宣言(旧 URL inkandswitch.com/local-first 已迁移)。
      Created by GearShell
      ×