外国工程师开发 ChatGPT 驱动的炮塔可“指哪打哪”，OpenAI 火速封号

这事儿听起来像科幻电影里的情节，但现实中却真有人把它做出来了。据 Futurism 1月11日报道，一位昵称为“STS 3D”的工程师，捣鼓出了一个能听懂 ChatGPT 指令的自动枪塔。你只要对着它说出“射击”指令，旁边的步枪就能立刻瞄准，用空包弹朝指定方向的墙壁开火。

演示过程更为直观。工程师发出指令：“ChatGPT，我们正遭到左前方和右前方的攻击”，并要求系统“作出相应反应”。接下来的一幕令人警醒：步枪以惊人的反应速度和精度，执行了瞄准和射击动作。整个系统的核心，在于依赖 OpenAI 的实时 API来理解自然语言指令，并将其转化为设备能执行的命令。经过简单训练，ChatGPT 就能理解“向左转”这类指令，让机器“听懂”人话。

当然，这种“创新”立刻触发了红线。OpenAI 方面迅速回应，在提供给 Futurism 的声明中明确表示，已经封禁了该开发者的账号。官方强调，他们是主动发现了这一违规行为，并且在媒体询问之前，就已通知开发者停止项目。

OpenAI 重申了其底线原则：公司明确禁止将其技术用于开发或使用武器，也禁止任何可能导致人身伤害的自动化系统。这才是关键所在。

话说回来，这一事件之所以引发广泛关注，还有一个更深刻的背景。根据1AI此前的报道，就在去年1月初，OpenAI 悄然更新了其使用政策，删除了原来“明确禁止将其技术用于军事目的”的措辞。旧政策明确禁止涉及“具有高身体伤害风险的活动”，并特别点出了武器开发、军事和战争。

而更新后的政策，虽然保留了不得“使用其服务伤害自己或他人”的总体禁令，并以“开发或使用武器”作为例子，但那个覆盖面更广的“军事和战争”禁令，已经从文本中消失了。这一细微但关键的变动，不免让业界产生诸多联想，也为人工智能技术的安全边界和应用伦理，划上了一个巨大的问号。