游乐游手机版
首页/科技数码/文章详情

警惕AI爬虫:Anthropic与OpenAI如何抓取互联网数据

时间:2026-01-13 09:01
IT之家 1 月 13 日消息,通常情况下,引用其他 内容的人工编辑会附上消息原始信息来源,以便读者参考原文内容,从而为原始平台带来访问流量,这构成了互联网长期运行的“隐性契约”。然而在当下 AI

IT之家1月13日消息,在互联网的通行规则里,编辑引用他人内容时,通常会附上信息来源,这既是对原创者的尊重,也为读者查验原文提供了便利。这种注明出处的做法,无形中为原始平台带来了访问流量,构成了互联网长期运行的隐性契约。

然而,在AI技术蓬勃发展的当下,这套固有的平衡机制正在迅速瓦解。如今,各大AI模型直接根据用户指令抓取海量网络数据,导致用户访问原始内容页面的意愿显著降低。与此同时,内容提供方却需要承担AI工具频繁抓取所带来的巨额流量消耗。

综合Cloudflare及外媒Business Insider的报道,自2025年起,Cloudflare开始系统性追踪这一失衡现象。他们通过统计大型科技公司网络爬虫的请求次数,以及对比这些公司最终为内容源带去的实际访问量,计算出一个“抓取回流比”。这个指标能直观反映平台从互联网“拿走”了多少价值,又“回报”了多少。例如,100:1的比例意味着平台每抓取内容100次,仅为原创者带来1次访问。

在Cloudflare的统计数据中,Anthropic的“抓取回流比”表现最差,其数据抓取量远高于它所能带来的实际访问量。OpenAI的情况也类似,其抓取与回流比同样不佳。这意味着,这两大平台正从互联网获取越来越多的价值,但反馈给内容生态的却越来越少。


这一趋势与Business Insider在2024年末的调查相互印证。当时的报道指出,Anthropic和OpenAI的网络爬虫对部分网站的抓取频率“高到惊人”,甚至导致网站流量与云计算成本大幅上升。

一位开发者当时透露,仅仅几个月内,其客户的云服务账单就因为AI爬虫的暴增而翻了一倍。也就是说,AI公司不仅从互联网获取内容、减少流量回流,还在无形中将更高的运营成本转嫁给了所有内容提供者。

来源:https://www.163.com/dy/article/KJ4T93190511B8LM.html
上一篇苹果AI战略:谷歌幕后支持,用户数据安全无忧 下一篇美股三大指数集体收涨,阿里巴巴暴涨超10%原因解析
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。