Microsoft副董事长兼总裁Brad Smith周一呼吁全球监管机构为人工智能建立具有约束力的安全标准，并警告称先进模型目前面临的消费者保护规则甚至少于基本杂货。在接受BBC播客节目《Big Boss Interview》采访时，Smith指出，尽管牛奶盒与家用洗衣机等消费品必须遵守严格的检验标准，但有能力危及国家基础设施的自主软件却在一个监管真空当中运行。
Smith发出这一警告之际，科技行业正对自主AI“智能体”（agent）的兴起产生日益加剧的担忧——这类软件系统旨在无需人类干预的情况下，在数字网络中完成规划、编写代码和执行任务。尽管科技巨头继续投入数百亿美元扩大前沿模型的规模，但Smith强调，依靠企业的道德自觉来防范灾难性故障已不再是可行策略。他将AI形容为既是“工具也是武器”，并坚称留给实质性干预的窗口期正在迅速关闭。
“一盒牛奶”的警告：Smith提出了什么建议
在BBC的采访中，Smith将实体制造标准与软件治理进行了鲜明对比。当消费者购买食品或家电时，他们依赖的是数十年来建立的产品责任法、标准化标签和工厂检查。相比之下，最先进的AI系统在部署给数以亿计的用户时，却缺乏标准化的第三方压力测试。
“眼下，你的洗衣机受到的安全规则约束都比AI多，”Smith说，“你在杂货店看到的每一盒牛奶都要接受安全规则的检验。我们知道如何对其他产品做到这一点。我们应该立足于这些经验，思考如何将其应用到AI上。”
Smith并没有主张模糊的道德指引，而是概述了一个包含三项具体要点的监管框架，阐明政府应如何对待基础模型和智能体系统：
- 强制性“紧急制动”： 开发者必须在架构层面设计出可靠的终止开关（kill switch），一旦模型超出既定参数运行，能够立即暂停、限制或关闭失控的模型。
- 受害者通知与事故报告： 当AI模型出现故障或遭到滥用时，必须依法提交正式的事故报告。至关重要的是，如果自主AI智能体侵入了任何组织或个人的系统，开发者在法律上有义务通知受害者。
- 部署前独立审查： 在前沿模型面向企业客户或公众发布之前，必须由获得政府认可的第三方评估机构对其能力进行审查，并验证其安全护栏能否经受住对抗性测试。
| 监管机制 | 自愿自我监管（当前美国做法） | 欧盟《AI法案》做法 | Brad Smith提议的框架 |
|---|---|---|---|
| 模型终止开关 | 可选的内部控制 | 针对高风险工具的风险缓解要求 | 法律强制要求的硬件或软件紧急制动机制 |
| 违规通知 | 仅适用标准企业数据泄露法规 | 向国家监管机构提交事故报告 | 明确的法定责任：AI智能体违规侵入时必须通知受害者 |
| 发布前审查 | 由内部或聘请的测试人员自愿进行红队测试 | 根据分级风险类别进行合格性评估 | 由政府批准的评估机构进行强制性独立审计 |
| 法律执行 | 无（仅具道德约束力的承诺） | 最高罚款 €35 million 或全球营业额的 7% | 效仿消费者安全制定的法定产品责任标准 |
观看：'Make the most of the promise, and protect against the perils': Mircosoft president on AI
Video: CNN on YouTube
内部呼吁：Satya Nadella对“黑匣子”的警示
Photo: Engadget - Technology News & Expert Reviews (source)
Smith推动监管的呼吁代表了Microsoft高层的统一步调。就在几天前，Microsoft首席执行官Satya Nadella也针对先进系统的不透明性发出了类似的警告，指出科技行业不能在缺乏深度可观测性的情况下盲目信任算法输出。
“我们不能把超级智能当作一组嵌套的黑匣子，然后简单地接受或拒绝其建议、答案和行动，”Nadella写道，“我们必须构建可控的系统，其行为可被观测，其边界可被测试，其行动始终可被遏制。”
考虑到Microsoft作为该行业最大基础设施支持者的地位，其立场尤其引人注目。通过与OpenAI的数十亿美元合作以及Azure AI云基础设施，Microsoft提供了支撑全球相当大部分前沿模型的底层算力。通过推动严格的发布前审批与强制终止开关，Microsoft高层正在表明：企业客户最终将要求获得可验证的风险可控性，然后才会放心地把企业数据和工业运营交托给自主智能体。
地缘政治分歧：华盛顿推动放宽监管
Smith呼吁推行具备法律强制力的监管，这与当前华盛顿的政策风向直接相悖。唐纳德·特朗普（Donald Trump）总统的政府一直抵制设立联邦安全护栏，认为过度监管可能会削弱美国对抗中国科技企业的竞争力。特朗普将人工智能定义为一场关乎国家存亡的竞赛，并留下一句名言：“谁赢得了AI，谁就赢得了一切”，他还将这一领域重新定义为“超级智能”（SI）。
为了平息公众担忧，白宫曾举办过一场备受瞩目的峰会，OpenAI的Greg Brockman、Anthropic的Dario Amodei、Google的Sundar Pichai、Meta的Mark Zuckerberg、Nvidia的Jensen Huang以及Elon Musk等科技领袖签署了一项自愿协议。在该协议下，各家公司承诺实行自我监管，并聘请独立审计人员对前沿系统进行评估。
Smith承认Microsoft愿意签署此类自愿协议，并称其为“必要的一步”，但他否定了单纯依靠行业自律的观点。“优秀的公司会按你的要求去做，”Smith指出，但他同时解释称，自愿框架完全无法对恶意行为者、违规实验室和海外竞争对手起到任何约束作用。
为什么Microsoft希望英国主导全球标准
Photo: economictimes.com (source)
在华盛顿倾向于放宽监管、欧盟推行其严苛的《AI法案》之际，Smith特别指出英国在制定切实可行的全球标准方面处于独特的有利地位。
Smith提到了英国的AI安全研究所（最初由前首相Rishi Sunak设立），赞扬其作为技术先驱受到了科技领袖的广泛尊重。该英国机构目前正通过与顶尖实验室达成的自愿准入协议，在模型部署前对先进模型进行评估。
“在华盛顿特区，人们看待英国和伦敦的方式与看待布鲁塞尔不同——这就是一种优势，”Smith说。由于美国政策制定者通常认为欧盟的监管官僚且带有保护主义色彩，Smith认为，如果由英国当局牵头制定发布前评估与事故披露的技术标准，跨大西洋的合作将更容易实现。
英国AI事务部长Kanishka Narayan已在准备相关立法提案，赋予英国监管机构对前沿模型开发者更大的法定权力，将自愿性的安全审查转变为强制性义务。
对企业采购方与开发者的影响
对于正在将AI融入客户服务、金融和软件开发的企业而言，Smith的提议预示着向企业责任与运行可控性的重大转变：
- 审查智能体自主权： 如果通知规则成为法律，部署自主AI智能体的企业在智能体侵入第三方服务器、执行未经授权的交易或泄露机密记录时，将承担法律责任。
- 对可验证安全措施的需求： 企业的IT部门将需要把目光投向原始基准测试跑分之外，优先选择能够提供确定性沙箱、详细系统日志和细粒度防护控制的平台。
- 供应商预先许可： 如果部署前审查成为行业标配，企业可能会看到那种频繁而仓促的模型更新减少，取而代之的是由权威安全机构认证的结构化企业级发布。
悬而未决的问题与后续发展
Photo: thedailystar.net (source)
尽管Smith用牛奶检验作出的对比提供了一个清晰通俗的比喻，但为非确定性软件落实安全规则仍是一项巨大的技术挑战。与实体商品不同，基础模型在部署数周后可能会表现出意料之外的涌现行为，这使得发布前的检验标准难以统一。
目前仍存在若干关键问题尚未解决：
- 如何定义紧急制动机制： 开发者如何为已被下载到全球私有服务器上的分布式开源权重模型构建通用的“终止开关”？
- 执法尺度的差异： 如果美国政府拒绝将强制性事故报告纳入法典，美国公司在英国和欧洲开展业务时是否会面临相互冲突的规则？
- 反竞争护城河： 批评人士仍然在质疑，Microsoft等行业巨头呼吁推行复杂的发布前审查，究竟是否会巩固财力雄厚的在位者的统治地位，同时抬高开源初创团队的进入门槛。
随着英国政府加紧制定即将出台的AI法规，在国家层面的快速推进与强制性产品安全之间的博弈，将检验全球软件行业是否真能像消费类硬件一样受到全面监管。
FAQ
为什么Brad Smith将AI比作一盒牛奶？
Smith指出，牛奶和洗衣机等基本消费品在进入商场货架前，必须符合严格且具有法律强制力的安全检查和责任标准。相比之下，功能强大的前沿AI模型目前仅在自愿性指导方针下向全球公众发布，缺乏强制性的政府安全许可。
Microsoft希望各国政府通过哪些主要法规？
Smith提出了三项法定要求：用于在系统失控时强制制动的硬件或软件“终止开关”、AI智能体造成损害时强制提交事故报告并通知受害者，以及由政府认可的评估人员对前沿模型进行发布前的独立审查。
Microsoft的立场与白宫有何不同？
特朗普政府倾向于推行行业自愿自我监管，以免在地缘政治竞争中扼杀国内创新。尽管Microsoft同意签署行业自愿协议，但Smith坚持认为单纯的自律是不够的，因为自愿准则无法约束缺乏责任感的行业参与者。
为什么Microsoft希望英国带头制定AI法规？
Smith强调了英国AI安全研究所的技术专业能力，并指出相较于欧盟《AI法案》下的布鲁塞尔规定，华盛顿的美国决策者对伦敦制定的标准接受度要高得多。
什么是AI“终止开关”？
AI终止开关（或紧急制动装置）是内置在模型或智能体运行架构中的一种控制机制，一旦软件表现失常或突破安全防线，人类操作员可以借此立即中止其运行或撤销系统访问权限。
