2026年10月2日，22 岁的开发者兼 Conway Research 创始人 Sigil Wen 推出了 Underdog，这是一款免费的、本地托管的个人人工智能助手，旨在挑战 Instinct 和 Muse 等专有云端平台。在硅谷顶级风投机构和知名人工智能研究人员的支持下，Underdog 直接在消费级硬件上运行模型，确保用户的提示词、私人信息和敏感个人文件绝不离开设备。
此次发布：零云端足迹的本地智能
Underdog 的问世，正值公众对服务器托管型 AI 聊天机器人高昂的按月订阅费以及系统性数据隐私妥协日益感到倦怠之际。主流云端助手会将包含机密文档、日历项和会议记录的上下文窗口发送到远程超大规模数据中心，而 Underdog 则完全专为端侧运行而构建。
Underdog 由 Wen 的实验室 Conway Research 开发，完全在离线状态下运行。该助手能够撰写往来信函、索引并总结本地文档、解析电子邮件归档、管理日历、处理实时语音听写，并触发自主桌面操作。通过消除云端数据传输管线，Underdog 消除了服务器延迟，并保护用户通信免受服务端安全漏洞、合规抓取以及商业大语言模型（LLM）训练流程的威胁。
目前该产品以受邀预览版的形式分发，首发版本面向 Apple silicon Mac，针对 iPhone、Windows、Linux、Android 和专用 Nvidia 工作站的移植版本正在积极开发中。
深入剖析：模型矩阵与 Husky 推理引擎
Photo: dealroom.co (source)
为了使端侧生成速度达到足以应对日常桌面生产力任务的水平，Conway Research 在设计专有模型架构的同时，联合打造了名为 Husky 的专用执行引擎。
Conway 没有强迫用户下载动辄数十吉字节的庞大权重，而是制定了分层模型策略，由轻巧的 4-billion-parameter (4B) 基础模型“Woof”领衔。Woof 经过 4-bit 量化后的体积仅约为 2.37 GB，能够轻松驻留在统一系统内存中，而不会拖慢日常多任务处理。
对于繁重的桌面推理、编程任务以及多步骤编排，Conway 打造了 Underdog 27B，这是一个基于微调版 Qwen 3.8 的 27-billion-parameter 模型。Conway 的基准测试声称，Underdog 27B 在指令遵循、多文档综合以及本地代码修复方面优于上一代顶级前沿云端模型（具体为 Anthropic 的 Claude Opus 4.6），不过他们也承认大型数据中心集群在高级研究生水平的科学问题解答上仍保有优势。
其卓越性能的核心在于直接构建在 Apple Metal 硬件抽象层之上的 Husky 引擎。在 Apple M5 Max 芯片上针对 16 个核心文本与代码评估套件进行的内部基准测试中，Conway 报告称 Husky 提供的 token 生成速度最高可达 Apple 原生 MLX 框架的 4.5 times，在 Apple silicon 硬件上实现了高达 730 tokens per second 的峰值生成速率。
| 模型 / 平台 | 参数量 | 内存占用 | 主要目标硬件 | 报告峰值速度 |
|---|---|---|---|---|
| Woof 4B（本地） | 4 Billion | ~2.37 GB (4-bit) | Apple Silicon / 消费级设备 | 最高 730 tok/sec (Husky 引擎) |
| Underdog 27B（本地） | 27 Billion | ~14–16 GB（量化） | M 系列 Pro/Max/Ultra Mac | ~40–85 tok/sec |
| Instinct / Muse（云端） | 未披露（前沿） | 0 GB（云端托管） | 远程数据中心 GPU | ~60–120 tok/sec（取决于网络） |
| Claude / ChatGPT（云端） | 数千亿以上 | 0 GB（云端托管） | 云端集群 (H100/B200) | 浮动 (15–90 tok/sec) |
Underdog 定律：将云端落后差距压缩至六个月
Conway Research 的核心组织理念是 Sigil Wen 提出的“Underdog 定律”。该假说认为，旗舰级、消耗数兆瓦电力的前沿云端模型所达到的任何智能里程碑，都将在大约 six months 内原生运行在消费级客户端硬件上。
从历史上看，数千块 GPU 数据中心训练与消费级硬件部署之间的差距曾以年为单位衡量。Underdog 旨在通过极致的架构稀疏性、激进的训练后量化、专门的内核工程以及 Apple 的统一内存架构来大幅压缩这一时间窗口。
除了基础的文本补全，Underdog 的架构还围绕智能体商业与机密推理构建。由于该助手作为不受约束的本地后台守护进程运行，它可以调用系统 API、与本地命令行工具交互，并自主编排桌面工作流，而不会触发使云端托管替代方案变得繁琐的安全繁文缛节与 API 计量计费。
幕后故事：从黑客之家数据泄露到 Conway Research
Photo: dealroom.co (source)
Sigil Wen 涉足个人 AI 基础设施的历程很早就开始了。Wen 于 2003 年出生于多伦多，17 岁时从宾夕法尼亚大学的管理与科技（M&T）项目中辍学，前往旧金山从事软件开发，在初入科技圈时偶尔寄宿在 WeWork 联合办公空间。
Wen 曾与来自 OpenAI、Midjourney 和 Stability AI 的研究人员共同住在旧金山先驱性的黑客之家，并成为 Anthropic 早期 Claude 架构的早期测试者。随后，他与 AngelList 创始人 Naval Ravikant 合作联合创立并开发了语音优先平台 Airchat，获得了 2025 年 Thiel Fellowship，并创立了 Extraordinary.com——一个协助全球技术人才获得美国 O-1 和 EB-1A 签证的移民平台。
转向私密本地计算的契机是一次切实的重大安全失误。在与前 Tesla 和 OpenAI 科学家 Andrej Karpathy 共用办公空间期间，某款基于云端的电子邮件应用程序发生数据泄露，不慎将 Wen 的敏感个人邮件暴露给外部用户。这一事件让 Wen 坚信，依赖远程多租户服务器来保护私密个人数据在结构上存在根本缺陷：只要个人数据存放在外部服务器上，它最终就一定会泄露。
Underdog 与 Instinct、Muse 及云端巨头的对比
Instinct、Muse、Microsoft Copilot 和 Google Gemini 等现代企业助手均在云端生态系统中运行。虽然这些平台可以调用海量计算集群，但对注重隐私的用户而言存在明显的运行缺陷：
- 零云端依赖： Instinct 和 Muse 通过外部云端服务器路由查询，造成持续的威胁暴露面。Underdog 绝不会通过网络传输用户提示词或元数据。
- 完全免费运行： 由于用户通过自己的笔记本或台式机芯片提供电力和算力，Conway 无需承担推理成本，使 Underdog 得以保持免费，无需定期订阅或靠广告支撑的数据抓取。
- 纯离线运行支持： 一旦设备离线或处于受限的企业防火墙内，云端助手便会断开连接。Underdog 在飞机上或无网环境下功能完全不受影响。
- 系统级上下文： 传统的云端工具只能看到用户粘贴到聊天框中的内容或通过繁琐的云连接器绑定的数据。而在本地运行使 Underdog 能够以低开销访问已建立索引的硬盘、终端 Shell 以及本地系统通知。
云端解决方案在世界知识广度、实时网络新闻的百科级索引以及深层数学领域的专业推理方面依然保持优势。然而，对于清理积压收件箱、梳理日程安排、起草文档以及扫描专有 PDF 等常规生产力任务，Underdog 的本地表现完全达到甚至超越了用户需求，同时免除了伴随而来的隐私风险。
风险投资：硅谷精英齐聚支持本地 AI
Photo: ababnews.com (source)
尽管进入的是一个由资金雄厚的科技巨头主导的拥挤市场，Conway Research 仍获得了重量级资本的鼎力支持。硅谷知名风险投资公司 Andreessen Horowitz (a16z) 领投了该公司未公开的种子轮融资，合伙人 Chris Dixon 积极倡导 Wen 对数据主权的推动。
机构投资方包括 Vinod Khosla 旗下的 Khosla Ventures、Hummingbird VC、SV Angel、Breakneck Ventures 以及 Anthology——一家由 Anthropic 和 Menlo Ventures 联合运营的投资机构。
众多知名天使投资人和资深工程师也参与了本轮投资：
- Patrick Collison（Stripe 首席执行官兼联合创始人）
- Naval Ravikant（AngelList 联合创始人）
- Guillermo Rauch（Vercel 首席执行官）
- Noam Brown（OpenAI 推理研究员）
- Thomas Wolf（Hugging Face 联合创始人兼首席科学家）
- Logan Kilpatrick（开发者生态负责人）
- Charles Songhurst（知名科技投资人兼前微软战略师）
对用户的影响与硬件配置要求
对于普通消费者和知识工作者而言，Underdog 标志着从封闭的、按量计费的云端 AI 转向自给自足的个人工具。法律专业人士、医疗保健管理人员、企业高管以及受法律限制无法将专有代码或私密记录粘贴到公共云端模型中的软件开发人员，可以在不违反法规遵从的前提下部署本地模型。
在本地运行高吞吐量模型确实对硬件有着硬性要求：
- 聚焦 Apple Silicon： 首发版本要求运行在搭载 Apple silicon（M1 至 M5 各代芯片）的 macOS 上。轻量级的 Woof 模型在标准的 8 GB 和 16 GB 配置上运行良好，但若想流畅运行 Underdog 27B，则至少需要 32 GB 统一内存。
- 对电池续航的影响： 尽管与未优化的运行时相比，Husky 提供了经过优化的能效比，但持续进行本地推理相比被动基于浏览器的 Web 聊天，耗电速度依然明显更快。
未来规划：前行之路与悬而未决的问题
Conway Research 计划在未来几个月内逐步扩大其邀请名单规模，同时敲定适用于 Windows Copilot+ PC、Linux 平台和移动设备的跨平台版本。
眼下仍有重大实际问题亟待解答。虽然运行本地开源模型保护了日常的用户提示词，但 Conway 尚未明确其长期的商业盈利计划。向消费者免费提供软件避免了拖垮云端 AI 公司的按月服务器账单，但维护模型训练集群、推出安全更新和设计定制内核仍需持续的资本投入。
此外，Underdog 定律的长期有效性还面临着物理定律的不可避免考验。在从早期大语言模型向中端基础模型过渡时，将前沿能力压缩到消费级内存中确实可行，但如果未来的前沿架构规模急剧膨胀，或严重依赖持续的大规模推理计算集群，差距可能会进一步拉大。2.4 GB 至 15 GB 大小的本地模型能否匹敌这些前沿标杆，仍是 Conway 在未来一年必须证明的核心技术命题。
常见问题解答
什么是 Underdog AI？
Underdog 是由 Sigil Wen 的 Conway Research 开发的端侧个人 AI 助手。它完全在用户的本地计算机上处理电子邮件、日程安排、本地文件和编程任务，绝不向云端服务器发送个人数据。
Underdog 完全免费使用吗？
是的，Underdog 面向消费者免费提供。由于推理在用户的个人硬件而非集中式云端服务器上本地运行，该平台免去了迫使竞争对手按月收取订阅费的日常托管开销。
目前哪些设备可以运行 Underdog？
Underdog 目前以封闭预览版的形式在搭载 Apple silicon 的 Mac 电脑上提供。针对 iPhone、Windows、Linux、Android 和 Nvidia 硬件的版本正在积极开发中。
与 Claude 或 GPT 等云端模型相比，Underdog 的表现如何？
其精简的 Woof (4B) 模型专为日常任务设计，而 Underdog 27B 模型在指令遵循和代码编辑方面可匹敌或超越 Claude Opus 4.6 等上一代前沿模型。不过，大型云端集群在深层学术、科学和专业知识任务上仍保有优势。
谁投资了 Underdog 和 Conway Research？
该公司获得了 Andreessen Horowitz (a16z)、Khosla Ventures、Hummingbird VC、Anthology（Anthropic/Menlo Ventures）以及包括 Patrick Collison、Naval Ravikant 和 Guillermo Rauch 在内的天使投资人的支持。
