优化人工智能可信度：让AI更“靠谱”的关键实践
新华社新加坡1月26日电 记者手记｜如何让人工智能更“靠谱”
新华社记者舒畅
越来越多人发现，人工智能聊天机器人并不总是可靠。它可能答非所问，抑或前言不搭后语，有时甚至煞有介事地编造根本不存在的消息。在1月下旬于新加坡举行的第40届人工智能促进协会年会上，如何让人工智能更“靠谱”、更“负责”，成为这场国际人工智能学术会议的重要议题之一。
在研究者眼中，人工智能的缺陷对应着更细分的问题。比如，人工智能的置信度值是否与真实情况匹配等。一个来自意大利的研究团队在本届年会上提醒说，合理计算人工智能的置信度值非常重要。
在这项名为“盲目自信的陷阱”的研究中，参与者在人工智能协助下完成逻辑推理题。结果显示，当人工智能表现得非常自信时，参与者更容易采纳它的建议——但这些建议很可能是错的；然而，如果人工智能犹豫不决，用户却可能会拒绝正确的建议。
意大利米兰-比可卡大学的研究成员卡泰丽娜·弗雷戈西说，这两种情况都反映了现实问题：很多人工智能系统的置信度值没有被正确校准，从而向使用者传递了误导性的信号。
置信度问题并非人工智能可靠与否的唯一体现。另一项来自印度和美国团队的研究，则从“认知疲劳”的角度，观察人工智能如何在不知不觉中变得不可靠。
美国南卡罗来纳大学人工智能研究所的研究成员里朱·马尔瓦说，随着人类与聊天机器人对话时间越来越长，模型会开始“走神”：偏离原始指令、重复输出内容，甚至以自信的口吻生成不可靠的信息。研究团队将这种现象称为“认知疲劳”，且它并非偶发，而是一种系统性效应。
“认知疲劳是可以被发现、预测并干预的。”马尔瓦说。团队设计了一个系统，通过追踪注意力衰减等三个关键指标，将人工智能何时开始“疲劳”可视化，并提供多种实时干预手段，如当人工智能开始偏离指令时，这套系统会重新输入原始指令，让对话回到“正确轨道”。
在大会现场，从单一的聊天机器人，到可以自主完成任务的智能体，再到多个智能体组成的协作网络，研究者们不只关注它们的能力与效率，也反复探讨它们的边界和可控性。
在不少与会者看来，完全放手让智能体自主完成任务，远没有想象中简单。
“目前，这些智能体的行动边界非常宽，它们能写代码，可以在计算机上做我们能做的任何事情……所以，我们应该把研发重点转向人类与智能体的协作，建立智能体与人类之间的透明交互，这具有现实紧迫性。”美国微软人工智能前沿实验室主任埃杰·卡马尔说。
微软首席科学家埃里克·霍维茨认为，当前种种不确定性，与人类尚未完全理解人工智能内部运作机制密切相关。
在23日的历任主席对谈会上，他说：“今天的人工智能表现令人惊讶。我说‘惊讶’，是因为我们仍无法给出令人满意的科学解释：它们为何如此高效？如何失败？在哪些方面脆弱？对人工智能内部机制和原理的系统性科学探索，现在变得非常紧迫。我们必须打开这个‘黑箱’。”（完）
相关攻略
在探索宇宙最深邃奥秘的道路上，中国科学家再次迈出了坚实的一步。近日，中国科学院高能物理研究所发布了一系列关于高海拔宇宙线观测站（LHAASO）的最新研究成果图像，为我们理解极端宇宙现象提供了前所未有的窗口。 这些图像并非普通的星空照片，而是超高能伽马射线源在人类探测设备中的“显影”。它们清晰地展示了
日本松下实验室的测试数据揭示了一个普遍现象：市面上多数传统吹风机为了追求极致的干发速度，出风口最高温度往往能轻松突破90℃。韩国延世大学皮肤科团队在《皮肤病学年鉴》上发表的一项经典研究，为这个温度提供了更触目惊心的注脚：当风温达到61℃时，头发毛鳞片便开始出现明显的翘起和开裂；而当温度攀升至95℃，
肠道菌群平衡是高效脂肪代谢的关键。特定益生菌能优化营养吸收，减少热量转化，并促进代谢废物排出，从而温和调节代谢。选择经临床验证、高活性保障的益生菌产品，结合健康生活方式，有助于建立更优的能量利用模式，辅助体态管理。
从物理到化学，从化学到生物，再从计算到人工智能——上海交通大学特聘教授、天鹜科技创始人洪亮的学术轨迹，堪称一条经典的交叉学科之路。他最初的身份是计算生物学家，而当AlphaFold的出现碘伏了传统科研范式后，他果断转向，利用AI深耕蛋白质工程领域。2026年，天鹜科技发布了全球首个“对话式干湿结合”
汉坦病毒主要由啮齿动物携带，人际传播罕见。安第斯病毒是其中一员，目前在南美局部传播，对我国输入风险低。感染后可能引发肾综合征出血热，典型症状包括发热、出血和肾脏损害。预防关键在于减少与鼠类及其排泄物接触，高风险人群可接种疫苗。出现相关症状应及时就医并告知暴露史。
热门专题
热门推荐
在《茶叶蛋的神秘之旅》第16关“相对运动”卡住了吗？许多玩家初次尝试时都会感到困惑，其实通关的关键在于掌握正确的操作顺序。本攻略将为你详细解析步骤，助你轻松解开谜题，顺利进入下一章节。 《茶叶蛋的神秘之旅》第16关相对运动图文攻略 通关的第一步至关重要：请你长按并拖动茶叶蛋正下方的那块石板，持续将其
对于初次体验《无畏契约：源能行动》的新手玩家而言，一个普遍关心的问题是：完成一局游戏究竟需要多长时间？在当下快节奏的生活中，许多玩家都希望能在有限时间内享受完整的对战乐趣。值得庆幸的是，这款源自热门端游的3D战术射击游戏，其单局耗时并非一成不变，而是根据您选择的游戏模式有着明显区别。本文将为您全面解
在《茶叶蛋的神秘之旅》第十四关“荡秋千”卡住了吗？别担心，这一关的过关思路其实非常直观。本攻略将为你提供清晰的步骤解析与通关技巧，助你快速解开谜题。 《茶叶蛋的神秘之旅》第14关荡秋千图文攻略 进入第十四关后，场景布局简洁明了。通关的核心操作，在于处理画面中央那个关键的图钉道具。 第一步：点击移除关
在《梦幻魔法公主》这款游戏中，女儿的“善恶”属性远非一个简单的数值标签。它是一条贯穿始终的隐藏叙事线索，深刻影响着女儿的成长方向、对话选择乃至最终的游戏结局。其计算机制采用独特的累积比例制：系统会将女儿在整个游戏历程中获得的所有“善行点数”与“恶行点数”相加，形成一个总基数（视为100%），然后依据
想在《永劫无间》中获得更流畅、更具竞争力的游戏体验，一个配置精良的账号无疑是绝佳的起点。然而，账号交易市场环境复杂，选择一个可靠、安全的交易平台至关重要。本文将为您详细解析几个主流的《永劫无间》账号交易渠道，并分享实用的游戏进阶攻略，助您快速上手，制胜聚窟洲。 交易猫：安全规范的头部之选 谈及国内游