1月28日,据IT之家报道,在开发者问答环节中,OpenAI首席执行官山姆·奥尔特曼发出警示:由于人工智能技术带来的便利性极高,人们正在忽视其潜在的灾难性后果。在缺乏必要安全基础设施的情况下,草率地赋予AI过多控制权。
IT之家援引博文介绍,奥尔特曼将这种心态形容为“YOLO”(活在当下/人生苦短,及时行乐),并担忧社会可能会因此“梦游”般地滑入一场信任危机。
为了佐证这一观点,奥尔特曼分享了自己的亲身经历。他曾立誓不给OpenAI的编程模型Codex赋予计算机完全访问权限,然而这一“安全防线”仅维持了两个小时。
奥尔特曼承认,由于人工智能表现得实在太过“讲道理”且能极大提升效率,他迅速妥协并解除了限制。他推测大多数用户也会做出同样的选择,而这种普遍的松懈可能导致安全漏洞或对齐问题被长期忽视,直至危机爆发。
这种担忧在开发者群体中已初现端倪。一名OpenAI开发者此前在社交媒体X上透露,他现在完全依赖AI编写代码。该开发者预测,企业很快也会采取类似模式,最终导致人类彻底失去对自己代码库的理解与控制能力。
