游乐游手机版
首页/科技数码/文章详情

应对AI爬虫泛滥:内容行业如何抵御无效抓取冲击

时间:2026-01-13 15:55
1月13日,互联网内容生态正面临一场结构性的挑战。长期以来,网络信息传播依赖于一种不成文的协作机制:当人工编辑引用外部内容时,通常会附上来源链接,引导读者前往原始平台查看完整信息。这种做法不仅保障了

1月13日,互联网内容生态正经历一场结构性的挑战。长久以来,网络信息传播依赖于一种不成文的协作机制:当编辑人员引用外部内容时,通常会附上来源链接,引导读者前往原始平台查看完整信息。这种做法不仅保障了信息的可追溯性,也为内容创作者带来了相应的流量回报,维系着整个数字生态的良性循环。

然而,随着人工智能技术的广泛应用,这一机制正在被迅速削弱。当前,大量AI系统在未经充分授权的情况下,直接从公开网络抓取数据用于模型训练和内容生成。用户通过AI工具即可获得摘要或答案,不再需要跳转至原始网页,导致原内容平台的访问量持续下滑。与此同时,这些AI系统的爬虫频繁访问,反而显著增加了后者的服务器负载与运营成本。

据网络安全与性能服务提供商的长期监测数据显示,自2025年起,部分大型科技企业的网络爬虫行为呈现出极高的抓取强度,但其对所抓取内容来源的流量反哺却极为有限。为此,相关机构引入“抓取与回流比”作为衡量指标,用以统计某一平台每抓取目标内容一定次数后,能为其带来的实际访问回流次数。例如,若比例为100:1,则表示该平台每抓取100次内容,仅带回1次回访流量。

监测结果表明,在所有被追踪的企业中,Anthropic的“抓取与回流比”表现最差,其数据抓取频率远超其为内容来源方带来的访问反馈。OpenAI的情况亦不容乐观,同样存在抓取多、回流少的问题。这反映出部分头部AI企业在获取网络公共信息资源的同时,并未建立起相应的价值反馈机制。

这一现象在2024年底已初现端倪。当时有技术开发者反映,其维护的多个网站在数月内遭遇异常访问激增,经分析确认主要来自几家主流AI公司的爬虫程序。由于请求频率过高,部分受访网站的云服务使用量成倍增长,导致运营成本大幅上升,个别案例中月度账单甚至翻倍。这意味着,网站运营者不仅未能从内容被使用中获益,反而承担了由AI企业带来的额外支出。

面对此类问题,已有技术服务商推出针对性解决方案,帮助网站识别并拦截特定AI爬虫,以降低非必要资源消耗。这一趋势也促使业界重新思考,在人工智能加速发展的背景下,如何建立更加公平、可持续的内容使用与价值分配机制。

来源:https://ai.zol.com.cn/1117/11174749.html
上一篇大疆Avata 360全景无人机评测:云台收纳与6K拍摄体验解析 下一篇上古卷轴6回归精耕细作的星海教条?内特·派珀专访揭秘
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
LiblibAI云端WebUI降低AI绘画部署门槛
科技数码 · 2026-07-02

LiblibAI云端WebUI降低AI绘画部署门槛

LiblibAI在线WebUI的核心优势在于——只需通过浏览器即可流畅运行Stable Diffusion,无需自行搭建本地环境。云端直接处理运算,模型即选即试,大幅降低了AI绘画的创作门槛。对于轻量创作和模型快速测试来说,体验相当顺畅,但用户仍需重视数据隐私保护和版权合规等问题。 过去使用Stab

微软因用户不安叫停Edge浏览器AI历史搜索功能
科技数码 · 2026-07-02

微软因用户不安叫停Edge浏览器AI历史搜索功能

微软紧急暂停Edge浏览器AI历史搜索功能,该功能因被用户吐槽“令人不安”而暂缓部署。尽管微软强调所有AI处理在设备端完成且数据不上传云端,但用户仍不信任。此举与WindowsK2计划减少功能堆砌的理念一致。

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场
科技数码 · 2026-07-02

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场

【CNMO科技消息】近日,红魔游戏平板5 Pro正式发布。这款平板从定位上就明确瞄准“极致游戏”体验,外观方面带来了一个重磅亮点——首次引入RGB水冷散热系统,背部那条可视化的水路通道,配合纯平透明背板设计,核心配置信息一览无余,科技感十足。 图源网络 屏幕方面同样表现突出。一块9 06英寸OLED

杭州全国首所机器人学校首批30台机器人入学
科技数码 · 2026-07-02

杭州全国首所机器人学校首批30台机器人入学

30台机器人整齐列队,有的刚从生产线卸下,机械零件还带着崭新的“工业气息”;有的已搭载运动控制模块,能稳健地小跑、跳跃几下。它们来自不同制造工厂,外形与功能各有千秋,但此刻都拥有了同一个身份——杭州机器人学校的第一批入学新生。 6月30日,杭州经信正式发布:由浙江大学机器人研究院、浙江省质量科学研究

美国计划发射航天器托举天文卫星
科技数码 · 2026-07-02

美国计划发射航天器托举天文卫星

就在最近,NASA公布了一项非常果断的干预计划——他们定于6月30日实施一次“卫星维修任务”,派遣一台名为“连接”号的机器人服务卫星,为一颗超期服役的天文卫星延长运行寿命。这颗卫星是“尼尔·格雷尔斯·斯威夫特天文台”,其轨道高度正在不断衰减,如果不进行干预,今年年底前很可能会坠入地球大气层并烧毁。