1月13日消息,据外媒报道,谷歌公司已对部分健康相关的搜索请求暂停了其AI概述功能。
此前一项媒体调查也显示,该功能在回应特定医疗咨询时提供了误导性甚至完全虚假的信息,专家表示这些结果“令人震惊”且“存在风险”。
在媒体披露的案例中,谷歌的AI概述曾错误地建议胰腺癌患者避免食用高脂肪食物。
专家指出,这一建议与医学常识相悖,因为这类患者通常需要高热量饮食来维持体力,错误的饮食建议可能增加他们的健康风险。另一个案例则涉及关于肝功能测试的虚假信息,这可能导致患有严重肝病的用户误以为自己身体状况良好,从而延误就医。
截至昨日,针对“肝功能血液检测的正常范围是多少?”等问题的AI概述功能已被完全禁用。
谷歌发言人表示,公司在健康等主题的AI概述质量上投入了大量资源,绝大多数信息是准确的。
他在一份声明中称:“我们的内部临床医生团队审查了被分享的案例,发现在许多情况下,这些信息并非不准确,且得到了高质量来源的支持。”
他同时补充,在AI概述因缺失上下文而出现问题时,谷歌将致力于进行广泛改进,并根据政策采取相应行动。
这并非谷歌AI概述功能首次引发争议。此前,该功能曾因建议用户“在披萨上涂胶水”以防止奶酪滑落,以及建议“吃石头”而遭到广泛批评并面临多项诉讼。
