图片来源：CBS News / Face the Nation
围绕人工智能的争论，常被压缩成两个极端：一边认为 AI 将带来生产力跃迁，另一边担心更强模型最终会脱离人类控制。Palantir 首席技术官希亚姆·桑卡尔（Shyam Sankar）在 CBS《Face the Nation with Margaret Brennan》的访谈中，明确站在前一种叙事一侧，但他的主张并不是“不要安全规则”。
桑卡尔提出了一套更接近工程实践的治理框架：AI 应被视为由人设计、部署和使用的工具；监管应落到具体应用、责任主体与事故处置上；技术公司则必须证明 AI 能创造真实的就业、繁荣与国家安全价值。
这场访谈之所以值得关注，不只是因为他对“AI 末日论”和有效利他主义的尖锐批评。Palantir 的软件已经深入政府、国防与企业决策流程，桑卡尔讨论的并非遥远的通用人工智能，而是模型进入医疗、交通、军事和组织运营之后，谁有权使用、谁承担责任、出了问题如何追溯。
美国公众对 AI 的信任正在下降
主持人玛格丽特·布伦南以 CBS 的民调开场：50% 的受访者认为 AI 带来的问题会多于它解决的问题，只有 29% 持相反看法；45% 的美国人希望政府限制 AI 的使用与开发。
桑卡尔没有否认这一信任危机。他认为，科技行业目前展示的许多好处仍然过于轻微，例如帮人规划旅行或生成内容，无法回答普通劳动者最关心的问题：AI 是否会带来更好的工作、更高的生产率与更稳定的生活。
因此，证明价值的责任不应转嫁给公众。企业必须拿出能被衡量的结果，包括产能提升、岗位变化、安全改善和服务质量，而不是只展示模型跑分、融资规模或“未来可能实现”的能力。
他为什么猛烈批评“AI 末日论”
桑卡尔把硅谷部分 AI 安全叙事与有效利他主义联系在一起，认为这套思想在讨论超级智能时带有宗教式结构：AI 要么成为毁灭人类的力量，要么创造近乎乌托邦的未来，而普通人似乎对两种结果都没有能动性。
他的反驳重点并非证明高级 AI 永远没有风险，而是反对用最极端的假设覆盖眼前可以观察、测试和治理的问题。在他看来，把模型描绘成拥有自主意志的“机器之神”，容易让人忽略更常见的故障来源：错误目标、过宽权限、缺少沙箱、糟糕的网络安全配置以及无人负责的部署流程。
不过，这一批评也需要放回背景中理解。有效利他主义是一个范围很广的思想与实践网络，并不等同于单一的 AI 末日学说；低概率、高损失风险也不能仅凭尚未发生就被排除。桑卡尔真正有价值的提醒是：安全评估不能只问模型在极端诱导下能否产生危险行为，还要问产品在预定环境中是否符合规格、有哪些可被滥用的路径，以及控制措施能否在真实工作流中生效。
“AI 是工具”意味着责任不能消失
桑卡尔用汽车作比喻解释责任分配：如果汽车自身存在缺陷，制造商应承担责任；如果汽车正常工作，却被用户用于伤害他人，责任则在使用者。
映射到 AI 系统，可以形成三层责任链：
- 模型与产品提供商要为设计缺陷、已知风险未披露和必要控制缺失负责；
- 部署机构要为权限配置、数据质量、业务规则和人员监督负责；
- 最终操作者要为违反授权范围或故意滥用负责。
这种框架比笼统地把一切归因于“算法”更有操作性，但现实中三层责任往往相互重叠。企业模型可能由第三方云平台托管，再通过集成商接入客户数据库，并由自主智能体调用外部工具。一项错误决策可能同时来自训练缺陷、陈旧数据、权限失控和人工确认流于形式。
因此，“AI 是工具”不能成为减轻责任的口号。它真正要求的是更完整的证据链：模型版本、提示与上下文、调用过哪些工具、谁批准了关键操作、系统当时使用了什么数据，以及异常出现后谁收到警报。
监管重点：按用途治理，而不是只盯模型名称
桑卡尔主张优先使用美国现有法律和行业监管机构：医疗应用由 FDA 等体系管理，交通应用由运输监管部门负责，国防应用由国防部门和国会制定规则。现有的产品责任、反歧视、消费者保护和行业安全制度，已经提供了一个“很大的领先起点”。
他同时承认仍需补充机制，尤其是建立 AI 事故响应与报告制度，让监管机构在产品发布前后获得测试结果、已知失败模式与控制措施的信息，而不是等到严重事故发生后才追查。
这套“按应用监管”的优势是能直接对应伤害和责任，也避免用同一规则对待写作助手与核武决策系统。但它也有明显缺口：通用模型可能同时进入多个行业，风险会跨越传统监管边界；开源模型、跨境服务与快速迭代也可能让单一机构难以及时掌握能力变化。
更现实的组合应当是：行业监管负责具体用途，横向规则负责模型评估、网络安全、事故披露、数据治理和第三方审计。两者不是二选一。
军事 AI 让“谁负责”不再是抽象问题
访谈后半段转向 Palantir 参与的 Maven 军事系统。布伦南追问一次造成大量平民伤亡的打击是否与人员过度依赖 AI 有关。桑卡尔否认相关报道，并表示最终结论仍应等待官方调查；他认为更可能涉及人为错误，同时称 Palantir 随后增加了用于复核的 AI 智能体。
由于调查结果尚未公布，这一具体事件不能凭单方说法定性。但问答揭示出“人类在环”最容易被忽略的难题：如果人工审批者面对的是机器快速汇总的复杂情报，人是否拥有足够时间、信息与组织权力提出异议？在决策速度从数周压缩到数小时后，保留一个确认按钮，并不必然意味着人类拥有实质控制。
高风险系统需要的不只是“最后由人点击”，还应包括：
- 明确哪些决定不得完全自动化；
- 为数据来源、模型建议和人工修改保留审计记录；
- 让复核人员能看到不确定性和相反证据；
- 把安全团队与业务交付团队适度分离；
- 对重大事故进行独立调查并公开可披露的结论；
- 让责任归属在采购和部署前就写入合同与流程。
桑卡尔强调每一项致命武力决定都必须有人承担责任。真正的考验，是这项原则能否转化为可审计、可问责的系统设计。
企业落地 AI 可以从四件事开始
对于普通企业，这场讨论同样具有现实意义。AI 治理不必等到一部覆盖所有模型的新法律出台后才开始。企业现在就可以建立四项基础能力。
第一，按风险而不是按“是否使用 AI”给场景分级。内容草拟、客户推荐、财务审批和安全生产不应采用同一套控制标准。
第二，坚持最小权限。智能体只能访问完成任务所需的数据和工具，高风险写入、付款、删除及外发操作必须设置人工批准。
第三，保存完整审计记录。模型输入输出、知识来源、工具调用、审批过程和版本变化都应可追溯。
第四，建立事故报告与持续评估。上线前测试不能替代生产监测；出现越权、泄漏、错误决策或异常成本时，要有清晰的停机、上报与复盘机制。
这场争论的核心不是乐观还是悲观
桑卡尔试图把 AI 从神话叙事拉回工程、法律和经济结果。他的立场具有鲜明的产业利益背景：Palantir 的业务建立在把模型接入政府和企业实际系统之上，自然更强调部署、控制与应用价值。也正因如此，他提出的问题值得认真对待——如果技术公司不能证明 AI 在现实中创造了什么，又凭什么要求公众持续授予它资本、数据和决策权？
但相反方向同样成立：如果企业只展示效率，不披露风险、失败与利益冲突，所谓“实际价值”也不足以换来长期信任。
AI 治理真正需要摆脱的，是“全面停止”与“全速前进”的简单对立。更可行的路径是把能力转化为可控产品，把风险转化为可测试指标，把事故转化为可追溯责任，再用公开证据判断技术究竟改善了谁的生活。
这也许是整场访谈最重要的启示：人类能动性不是一句哲学判断，而是一套必须写进权限、流程、日志、合同和法律中的工程制度。