如何设计有效的AI进展减缓策略：一份专业指南

本教程将深入探讨在全球需要减缓AI进展时，如何设计一套有效且副作用最小的策略。我们将系统分析关键能力窗口、减速动态与积压问题、政策杠杆与目标、具体推荐机制以及触发时机，帮助你理解背后的原理和实操要点。

关键能力窗口（Critical Windows of Capabilities）

分析减速问题的核心概念之一是关键能力窗口，即在一个能力区间内，准备工作最具杠杆效应，但尚未真正进入危险区域。不同的风险可能有不同的关键窗口，甚至同一风险也可能有多个窗口。但这一概念适用于所有风险类型。

• 失业风险：关键窗口可能出现在置换刚开始发生时。此时整治杠杆最高，可以准备自动化应对措施（如失业保险、UBI/全民基本资本）。同时，亲眼看到AI能力如何导致失业上升，有助于个人和社会广泛适应变化。
• 对齐风险：窗口是AI对齐研究最有效的阶段。这是因为你越接近担忧的能力，就越能开展有针对性的实验、创建风险模型，AI本身也越能提升对齐、弹性和控制工作的效率。

从这一视角看，减速机制的目标是最大化你在关键窗口内进行有效工作的时间。当然，我们无法准确知道关键窗口何时开始，实际上它们可能不是离散的，而是一个连续区间，越接近危险能力，工作的杠杆效应越高。即使身处窗口内，也可能是不确定的。