游乐游手机版
首页/AI热点日报/热点详情

开源项目让AI编程成本直降98%登顶GitHub

类型:热点整理2026-06-10
context-mode是一款为AI编程设计的上下文优化MCP插件,能将编程成本降低98%,并让大模型有效记忆时长从30分钟提升至3小时。其通过虚拟沙盒、存档点及“用代码思考”机制大幅减少Token消耗,解决模型失忆与API账单高昂问题,已登顶GitHubHackerNews。

文|李嘉星

编辑|周鑫雨

在连续编程过程中,大模型常常面临“内存瓶颈”,而API账单却持续飙升——这或许是2025年AI开发者最真实的痛点。有没有一种可能,让AI的记忆力更持久,同时还能显著降低成本?

context-mode正是为此而诞生的。这是一款专为AI编程场景打造的上下文优化MCP插件,其核心目标直击两大棘手问题:模型失忆与Token过度消耗。

一句话介绍

简单来说,context-mode能够让AI编程的成本降低98%——这不是空谈,而是团队实战跑出的真实数据。与此同时,大模型的记忆持续时长能从30分钟跃升至3小时。这意味着,原本写一会儿就“断片重启”的AI,现在可以陪你一口气连续工作三个小时。

团队背景

那么,这个出色方案出自谁手?context-mode背后是一支跨国团队,核心成员分布在土耳其、法国等四个国家,通过GitHub异步协作模式运转,硬是将这个项目推上了GitHub Hacker News榜首。

Mert Köseoğlu(核心开发者、创始人):曾担任OpenAI技术顾问,拥有超过10年的全栈工程与系统架构经验。创业之前,他在Countly、Planhat、Jotform等全球知名的数据与SaaS平台担任高级软件工程师,技术功底极为扎实。

孙逸诚(核心开发者、多平台适配负责人):团队中的中国面孔,目前还在大二就读。这位同学不仅入围过强基计划(全省数学物理前18名),还独立开发了Temporal-RAG引擎,并荣获知乎全球A2A黑客松银奖。用他自己的话说,“代码写得还行,主要是对成本优化很有一套心得。”

产品及业务

图源: context-mode

context-mode之所以能够在极客圈迅速走红,一个关键原因在于:它精准命中了令无数开发者头疼的痛点——被高昂API账单与大模型记忆难题所困扰的AI编程开发者

随着“龙虾”这类全自动AI编程智能体的兴起,Vibe Coding的门槛确实大幅降低。但随之而来的是新痛点:享受效率提升是一回事,承担费用是另一回事。Claude、GPT等顶尖模型的Token定价并不亲民,配备充足额度的高级套餐动辄200美元一个月。更为棘手的是,模型在执行任务过程中频繁试错、反复检索,导致大量Token被白白浪费。

在实际开发场景中,大模型有时表现得像一个“缺乏常识的数据处理机器”。例如,孙逸诚分享了一个真实案例:参加Kaggle竞赛时,他将一个包含300组数据的训练任务交给了Claude。为了确认任务进度,Claude并未选择编写定时脚本,而是每隔5秒对整个项目执行一次全局检索——这种极其低效的“死盯”策略,使得一个高配会员账号的API额度在短短半小时内消耗了90%。

与此同时,大模型的“失忆”顽疾也是常态。当代码量触及某些主流IDE的隐形上限(例如164K),系统就不得不丢弃或压缩历史信息,直接导致关键细节被遗忘。前一秒还在顺畅编写代码的AI,下一秒就把前置的架构和约束条件抛之脑后。

面对这一现状,context-mode给出的解决方案非常直接:既然大模型直接处理海量原始数据既昂贵又低效,那就限制它直接阅读原始数据的权限。

孙逸诚打了一个非常形象的比方:“传统的AI编程就像观看一场马拉松,大模型会死死盯住每个选手的每一步——这自然会耗尽它的上下文。而context-mode所做的,是将马拉松过程放入一个屏蔽的沙盒中,大模型只需查看最终的排名结果。”

具体到工作原理,首先,通过引入“虚拟沙盒”与精准检索机制,context-mode有效降低了Token消耗。

在传统模式下,每次MCP工具调用都极其昂贵,庞大的原始数据被直接倾泻进大模型的上下文窗口,Token消耗量自然居高不下。而context-mode的“虚拟化沙盒”机制,相当于在大模型与操作系统之间建立了一道“防火墙”。它先将所有文件和运行记录存储在本地,仅在必要时帮助大模型精准提取相关内容。

《智能涌现》的测试结果。

据《智能涌现》测试,接入context-mode后,大模型读取一份79.3KB的文件时,Token消耗成本降低了87.7%

其次为解决大模型的“失忆”问题,context-mode通过构建“存档点”,实时监控开发者的每一次文件编辑。当对话过长时,它会主动构建并向AI注入一个通常小于2KB的“快照”——相当于在代码编辑过程中创建了一个“记忆锚点”。官方数据显示,这种机制能够将大模型连续编程的有效时长从30分钟提升至3小时

最后,context-mode引入了强制性的“用代码思考”范式,进一步优化Token使用效率。

所谓“用代码思考”,简而言之,就是不让模型逐行阅读、处理文件,而是先让模型编写一个“小程序”,让这个脚本先在本地完成数据分析,再将提炼后的结果反馈给模型。Mert告诉《智能涌现》,许多开发者陷入了一个误区:习惯将海量数据直接丢给大模型处理。实际上,面对50个文件的数据统计任务,与其让模型亲自逐个阅读,不如先让模型编写一段脚本,由脚本完成统计,再将结果返回。

一个脚本可以替代十几个昂贵的工具调用,并节省百倍的上下文。根据《智能涌现》测试,接入context-mode后,模型处理一份文件时,节省了99.98%的Token成本

在入门门槛方面,context-mode比Cursor这类需要重新下载并适应环境的独立开发软件更低。作为一个轻量级的MCP插件中间件,它可以直接接入开发者现有的工作流程中。团队还提供了一系列快捷指令,用于查看各大平台的Token节省情况——用户只需在聊天框中输入指令,浏览器便会弹出一个本地数据统计面板,记录当周调用了多少次API,以及context-mode拦截了多少次无效数据读取。

△快捷指令列表。 图源: context-mode

近期,context-mode还针对企业研发场景推出了“上下文即服务”。在企业环境中,AI的ROI往往难以量化。为此,团队推出了“Insights”企业服务——获得授权后,插件可以将程序员使用AI的过程数据(如调用了哪些工具、报错次数、消耗费用)发送至Insights服务器。同时,Insights还能根据不同岗位生成定制报告:面向安全总监自动生成安全报告;面向财务团队提供Token消耗明细。目前此项服务仍处于定向内测阶段。

Founder思考

  • 停止将大模型视为“数据处理器”,它本质上是“代码生成器”。

如今许多平台和开发者陷入误区:喜欢将50个文件直接读入上下文,让大模型从中“数”出有多少个函数。这不仅效率低下,而且极其浪费算力。正确的做法是采用“用代码思考”模式——LLM应当编写一个统计脚本来完成计数,最终仅输出结果。一个脚本可以替代十几个昂贵的工具调用,并节省百倍的上下文。在未来的AI编程范式中,这将成为所有平台必须遵循的核心原则。

  • 无限上下文是一个伪命题,克制才是AI工具最难建立的壁垒。

行业目前都在比拼大模型的长文本能力,100K、1M的上下文层出不穷。但这实际上是一个陷阱——将几十KB的报错日志一股脑倾倒给AI,只会加速其“失忆”和产生幻觉。真正的解决方案不是盲目扩容,而是建立一套高度克制的“状态记忆层”。谁能将传递给AI的无效噪音压缩到极致,谁才能真正帮助开发者将连续编程的时间从30分钟延长到3小时。

  • 下一代AI编程的瓶颈不在于模型是否足够聪明,而在于上下文管理框架是否足够清晰。

现在大家都在抱怨AI会在同一个Bug上反复跌倒。这并非模型变笨了,而是它在冗长的对话中迷失了方向。只有为AI提供类似单机游戏的存档点,强制其按优先级读取记忆,才能为真正有价值的逻辑推理留出足够空间。

  • 大厂在卷“全家桶”,而我们在做跨平台的“万能插座”。

团队花费大量精力去适配Cursor、Claude、Gemini等不同的底层逻辑,原因很简单:真实的开发者生态永远是碎片化且快速迭代的。开发者不需要另一个被大厂深度绑定的全能Agent,他们需要的是一个轻量、低内存占用、即插即用且能大幅降低API账单的中间件。

来源:https://www.php.cn/faq/2623192.html?uid=1246273

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。