Anthropic与OpenAI的AI爬虫正如何改变互联网内容生态
1月13日消息，一直以来，人们在引用其他内容时，通常会注明信息的原始来源，方便读者查阅原文，进而为原始平台带来访问流量。这构成了互联网长期运行的"隐性契约"。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
然而在当下的AI时代，这套机制正在迅速瓦解。如今各大AI机器人直接根据用户需求抓取数据，导致用户访问原始内容的意愿明显下降，同时相应的AI工具也在大量消耗流量。
综合相关报道，Cloudflare从2025年开始系统性地追踪这一不公平现象。平台通过统计大型科技公司爬虫抓取的请求次数，以及这些平台向实际输送的访问量，由此计算出一个"抓取与回流比"。这个指标可以直观反映平台从互联网"拿走"了多少价值，又"归还"了多少。举例来说，"100:1的比例意味着平台每抓取内容100次，仅为其带来1次访问"。
在Cloudflare的统计中，Anthropic的"抓取与回流比"最差，其抓取量远高于带来的访问量。OpenAI的情况也类似，其抓取与回流比同样不佳。这意味着两家平台正从互联网获取越来越多的价值，却反馈得越来越少。
这一趋势与外媒在2024年末的调查相互印证。当时的报道指出，Anthropic和OpenAI的爬虫对部分网站的抓取频率"高到惊人"，甚至导致相关网站的流量和云计算成本大幅上升。
一位开发者当时透露，仅仅几个月时间，其客户的云服务账单就因为AI爬虫暴增而翻了一倍。也就是说，AI公司不仅从互联网获取内容、减少回流，还在无形中将更高的运营成本转嫁给了所有网站运营者。
相关阅读：
《一键屏蔽恶意 AI 模型爬虫机器人，Cloudflare 推出“防扒”网络工具》
相关攻略
Cloudflare为AI智能体“插上”邮件翅膀：异步、可靠且开箱即用 4月16日，Cloudflare的一则公告在开发者社区激起了涟漪：其邮件服务正式进入公开测试阶段。核心看点在于，这项服务专为AI智能体设计，提供了原生的邮件收发能力。这意味着，未来的AI助手不仅能聊天，还能像人类一样处理电子邮件
IT之家 2 月 14 日消息，Cloudflare 当地时间 12 日宣布推出 Markdown for Agents 功能，可从源头将 HTML 格式的网页内容转换为更适合 AI 爬虫或智能体利
智通财经APP获悉，随着投资者权衡网络安全公司Cloudflare(NET US)收购人工智能(AI)数据平台Human Native这笔交易，Cloudflare在周四收跌2 26%后于周五美股盘
1 月 13 日消息，通常情况下，引用其他 内容的人工编辑会附上消息原始信息来源，以便读者参考原文内容，从而为原始平台带来访问流量，这构成了互联网长期运行的“隐性契约”。然而在当下 AI 时代，这
1月11日消息，继上个月对苹果公司进行重罚之后，意大利政府再次采取行动，这次的目标是网络服务提供商Cloudflare。由于Cloudflare旗下的1 1 1 1公共DNS服务拒绝协助屏蔽与盗版相
热门专题
热门推荐
Chaplin是什么 提起AI股票分析工具，很多投资者可能首先会想到各种通用型平台。但今天要聊的这个，有些特别——它叫Chaplin，一个专为专业交易者量身打造的分析利器。简单来说，这是一款由Chaplin app开发的工具，核心目标很明确：为那些渴求深度洞察和精准预测的专业投资者与交易者，提供前沿
执行hermes gateway start后服务未持续运行，需依次检查命令可用性、启用--daemon模式、注册systemd服务或手动创建service文件 遇到执行 hermes gateway start 命令后服务没跑起来，或者终端一关就停，甚至干脆提示“command not found
一、使用Win + P快捷键即时启用扩展模式 这个方法最直接，它绕过了复杂的设置界面，直接调用系统底层的投影功能。无论你是在游戏、办公还是系统卡顿的时候，都能快速调出，用来临时切换或者测试显示器连接状态非常方便。 操作前，先确保几个基本条件：所有显示器都通着电，视频线在电脑和显示器两头都插紧了，别忘
MatchThatRoleAI是什么 在求职市场里，一份好简历是敲门砖，但找到真正适合自己的岗位往往更像大海捞针。有没有一款工具能把这两件事儿都搞定，甚至还能帮你规划未来几年？还真有，这就是我们今天要聊的MatchThatRoleAI。 简单来说，它是一个在线智能平台，核心任务就是帮你“双向奔赴”。
一、环境变量文件 env 这是最推荐、也是优先级最高的配置方式。Hermes Agent 启动时会默认优先读取这个文件，好处是无需改动任何代码或主配置文件，对所有支持的模型提供商（包括OpenRouter）都通用。 具体操作很简单：找到或创建这个文件——路径是 ~ hermes env。然后，