白宫向联邦机构开放Anthropic Mythos模型：AI进入政府时代，但风险几何
前几天看到一条新闻，白宫要给联邦机构开放 Anthropic 的强力模型 Mythos。
说实话，这事儿挺微妙的。
一方面，政府开始用AI，这算是「正规军入场」的信号；另一方面，AI进政府，风险也跟着放大——决策失误、隐私泄漏、安全漏洞，哪一个都不是小事。
先说事实。
政府为什么要用 AI？
白宫管理和预算办公室（OMB）发给内阁部门的邮件里写得很直接：让联邦机构开始使用「严密管控」的AI工具。
为什么？
效率。
联邦政府每天要处理海量数据——政策文件、公众反馈、研究报告、法律条文……靠人工处理，效率太低。AI 可以快速分析、总结、提供建议，理论上能大幅提升决策效率。
但理论上≠实际上。
我个人的感受是，政府用AI，和普通企业用AI，完全是两码事。
企业用AI，错了可以改，损失可控。政府用AI，错了可能影响政策制定、影响公众利益——后果不是一个量级的。
Mythos 是什么来头？
Anthropic 的 Mythos 模型，目前只向少数科技公司、研究机构开放。这次能进入联邦机构，说明美国政府对这个模型的「安全」有信心。
但这个「安全」，指的是什么？
我看了下技术文档，Mythos 在「对抗性攻击测试」中表现不错——简单说，就是很难被「骗」。比如有人故意给模型输入诱导性问题，试图让它输出有害内容，Mythos 的抵抗能力比 GPT-5.4 强。
这确实是政府需要的能力。
但问题是，对抗性测试只是一种安全测试。实际使用中，AI 还会面临更多不可预测的场景——数据偏差、逻辑漏洞、输出错误，这些测试不一定能覆盖。
「严密管控」怎么管？
官方说法是：先把网络安全防护措施搭建到位，再开放使用。
具体怎么管？
- 访问控制：只有经过审核的人员才能使用
- 场景限制：不能用于敏感决策（比如军事、外交）
- 输出审核：AI 提供的建议，需要人工复核
听起来挺完善对吧？
但说实话，这些措施更像是「事后追责」，而不是「事前预防」。
访问控制能防止滥用，但防不了误用——用户可能真心觉得 AI 的建议是对的，但实际上错了。
场景限制能划定边界，但边界之内的问题，AI 也可能出错。
输出审核能二次确认，但如果审核人员也不懂技术，怎么判断 AI 对不对？
这让我想起一句话：「信任AI，但不要盲目信任。」
这事儿对普通人有什么影响？
短期内，可能感知不到。
但长期来看，AI进入政府决策流程，意味着什么？
意味着政策的制定，可能会被 AI 「影响」。比如，某个政策的草案，AI 建议修改某些条款——这些建议会不会被采纳？采纳了之后，是不是真的更好？
没有人知道答案。
但至少，这次美国政府的态度是「谨慎」的。没有一上来就让 AI 做决策，而是先做辅助工具，先测试，再推广。
这比某些企业「AI优先」的激进策略，要靠谱得多。
最后说一句：AI 进政府，是早晚的事。
关键是，政府能不能建立起有效的监管机制——既让 AI 发挥价值，又防止 AI 带来风险。
这不是技术问题，是制度问题。
而制度，往往比技术更难解决。