游乐游手机版
首页/AI热点日报/热点详情

当下人工智能行业越火热越需要冷思考

类型:热点整理2026-07-20
2026年世界人工智能大会上,解放日报社、复旦大学新闻学院、腾讯公司联合发起《浦江宣言》,以“真、善、美、安、惠”立纲,聚焦AI伦理与治理,强调安全可控与普惠平权,为智能时代划定规则底线。

全球人工智能的聚光灯,再度聚焦于上海。在黄浦江畔近40摄氏度的高温下,2026年世界人工智能大会(WAIC)的热度不仅源于天气,更源于一项年轻技术如何迫切回应“时代之问”的使命。

AI越火热,越需要一份“冷思考”

与往届相比,本届WAIC的声势明显更为浩大。大模型迭代加速,智能体落地进程加快,人工智能正以前所未有的深度渗透至经济社会的各个层面。然而,有趣的是,在一片热潮之中,一份看似“冷静”的宣言反而格外引人注目——7月18日下午,在大会“AI浪潮下的媒体创新论坛”上,解放日报社、复旦大学新闻学院、腾讯公司联合发起《浦江宣言:创造值得信赖的智能世界》。

这是中国首份聚焦人工智能伦理与治理的行业联合宣言,以“真、善、美、安、惠”五字为核心纲领,为AI时代的传播与治理划定规则。

为何偏偏在这个时刻,需要这样一份宣言?答案其实很清晰:AI越火热,就越需要回答“AI向何处去”;技术跑得越快,方向盘就越需要握稳。当“AI幻觉”开始干扰公共认知、“AI投毒”污染信息生态、数据滥用侵蚀个人隐私时,回答“AI向何处去”便不再只是技术课题,而是发展课题、治理课题。《浦江宣言》应时而生,其分量正在于此。

细读宣言,一条清晰的价值主线贯穿始终:以“可知、可控、可用、可靠”重塑AI发展逻辑,而内核是安全。

宣言提出,必须清晰界定AI与个人的权限边界,细化授权范围,明确提示风险,让用户知晓AI“能做什么、做了什么、要做什么、不做什么”;AI应用落地,应当获得用户与开发者的“双重授权”。这实际上切中了当下AI应用的核心矛盾:智能体要办事,就得调取权限、读取数据,便利与风险往往一体两面。

举例来说,最近一条“有人用AI买保险,结果支付到我这里来了”的帖子引发热议。有网友称,AI大模型将开源库中的个人收款码误作保险付款码,导致其他网友误转1612元,一度报警,最终联系到本人退款。平台回应称,这是多轮对话触发的幻觉,已修复。这个案例恰恰暴露出智能体进入消费交易链路后,技术狂奔与风险管控之间的落差正在被放大。

德国文豪歌德曾写过一首短诗《魔法师学徒》。师父外出,徒弟不愿一桶桶地提水,于是教会一把扫帚替他干活。扫帚服从了,但服从得过于尽职,作坊最终被水淹没,直到魔法师回来收拾残局。控制论奠基人诺伯特·维纳由此提出经典警示:如果给机器设定一个目标,而机器在执行过程中缺乏人类常识与伦理的约束,其行为可能走向初衷的反面。

2026年的今天,人工智能每天都在上演同一幕“魔法”,只是换了时间地点,换了不同牌子的扫帚。

人工智能的特殊性在于,它是人类历史上第一种能够自主学习、自主行动的技术造物。过去的治理对象是人以及由人操控的机器,今后则必须扩展到智能体自身。这意味着,数据采集边界、模型权限分级、兜底机制——这些环节都需要建起实实在在的护栏。物理世界的一键接管、关键场景的人工复核、高风险操作的权限熔断,一样都不能少。

当然,可控不是束缚创新,而是为创新划定安全边界。引擎越澎湃,对制动系统的要求就越高;AI的能力越强,“刹车”和“方向盘”就越要紧握在人类手中。确保人工智能始终处于人类控制之下,安全这条底线,怎么强调都不过分。

值得一提的是,宣言还把目光投向普惠——主张“AI平权”,让人工智能像空气、水、电一样,成为人人可及的基础设施,在教育、医疗、公益等领域平等造福每一个人。

这不是一句空话。人工智能治理天然是一个全球性话题。中国互联网的普惠经验表明,技术只有嵌入既有场景、解决真实痛点,才能真正下沉到普通人身边——数百万小程序构成的生态,天然就是AI触达百姓生活的毛细血管。《浦江宣言》的意义,就在于把中国的治理经验转化为可供世界对话的公共产品。

安全管住了技术的底线,普惠抬升了技术的高线:更好的技术,应当让人放心、把人放大。

说到底,宣言的分量最终要靠行动来称重。在AI最火热的时刻,发出一份冷静而清晰的信号:智能世界值不值得信赖,取决于今天的人们如何书写规则。这份写于黄浦江畔的宣言,是一个开端,更是一份承诺。

来源:https://k.sina.com.cn/article_5787187353_158f17899020025tda.html?from=tech

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。