AI 治理：和平、民主与秩序
创建时间： 2026-05-03
来源： [[sources/Dario Amodei — Machines of Loving Grace]]
相关： Dario-Amodei，Machines-of-Loving-Grace，Powerful-AI-and-Economy
即使生物学、神经科学和经济发展的乐观预测全部实现，人类仍面临彼此之间的威胁。Amodei 认为 AI 在结构上不会自动偏向民主——与健康和扶贫不同，AI 可同时帮助”好人”和”坏人”。和平与民主需要主动争取。
国际层面：联合战略
核心前提
- 民主国家必须在强大 AI 诞生时占据世界主导地位
- AI 驱动的威权主义”太可怕以至于不可想象”
- 历史教训：20 世纪初人们以为战争已成为过去 → 两次世界大战；冷战后”历史终结”论 → 未实现
联合战略（Entente Strategy）
民主国家联盟通过以下方式获取明确优势：
- 确保供应链安全： 半导体设备、芯片等关键资源的控制
- 快速规模化： 在 AI 能力上保持领先
- 封锁/延迟对手获取关键资源： 如芯片出口管制
双管齐下：
- 大棒： AI 驱动的军事优势
- 胡萝卜： 向越来越多的国家提供强大 AI 的利益，条件是支持联盟的民主促进战略（类似”和平利用原子能”）
目标： 孤立最坏的对手，使其最终选择接受与其他国家相同的条件——放弃与民主国家竞争以换取所有利益。
乐观情景：“永恒的 1991”
民主国家在全球舞台上占据主导，拥有足够的经济和军事实力避免被威权政权颠覆——福山的理想得以实现。需要 AI 公司与民主政府的密切合作。
国内层面：AI 如何可能结构性偏向前主
如果民主国家控制了最强大的 AI，则 AI 可能在全球范围内结构性地有利于民主：
- 信息战优势： 民主政府可用更强大的 AI 反制威权国家的影响和宣传行动
- 全球自由信息环境： 以威权政权无法技术性封锁或监控的方式提供信息和 AI 服务
- 无需宣传： 只需反制恶意攻击和解除信息自由流通的障碍
为什么自由信息有利于民主
- 生活质量提升 → 支持民主： 心理健康、幸福和教育水平的提高与对威权领导人的支持呈负相关
- 当基本需求满足时，人们渴望更多自我表达，民主本身就是一种自我表达形式
- 威权依赖恐惧和怨恨，自由信息可以打破”皇帝的新衣”效应
AI 作为反抗工具
Serbia 的 Srdja Popovic（帮助推翻米洛舍维奇政权）所描述的心理剥夺威权者权力的技术——如果以超人的 AI 版本存在于每个人的口袋中，且独裁者无力封锁或审查——可以为全球异见者和改革者提供强大助力。
民主制度本身的改进
AI 与法律/司法
- 法律体系面临困境：法律追求公正但必须由有偏见的人类解释
- AI 是第一个能以可重复和机械化方式做出宽泛模糊判断的技术
- 应用方向：
- AI 辅助决策（而非替代法官）
- 训练过程可被广泛研究，可解释性技术可检测隐藏偏见
- 监测司法/警察场景中的基本权利侵犯，使宪法更具自我执行性
AI 与公民共识
- 汇聚意见、推动共识、化解冲突、寻找共同点和妥协
- Anthropic 与 Computational Democracy Project 的合作案例
AI 与政府服务
- 政府服务（医疗福利、社会保障、税务等）原则上人人可得，实践中往往严重不足
- 一个深思熟虑、信息充分的 AI 可以帮助公民获得所有法定权利，同时帮助遵守复杂的政府规则
- 提升国家能力既有助于实现法律面前人人平等，也有助于加强民主治理的尊重
Amodei 的不确定性声明
这些想法相对模糊，Amodei 对其可行性的信心远低于生物学、神经科学和减贫领域。关键在于拥有一个雄心勃勃的愿景——AI 作为自由、个人权利和法律面前人人平等的保障者这一愿景太强大了，值得为之奋斗。