最近我集中了大量时间投入 vibe coding(沉浸式编程)实践,开发进度显著提升。上下文管理几乎没有特别调整,但 token 消耗量看起来依然偏大。于是我索性设了一个每日目标:每天消耗 10 亿 token(含缓存计算)。

缓存命中率整体较高,如果按 API 本身不计缓存的方式计算,实际消耗会非常惊人。

最近一周的消耗比较平稳。之前总担心用不完,又怕用太快不够用,现在节奏已经理顺,焦虑感减少了很多。

下面聊聊我最近正在推进的几个方向。
Web 端一体化编程工具
我尝试过飞书桥接方式、VS Code 以及 IDE 等多种方案。抛开网络访问限制不谈,在地铁或者外出途中,如果能够用手机随时处理多个模型协同开发的项目,同时高效管理多台服务器,这确实是一个硬需求。于是我自己动手写了 webagents 这个小项目。现在地铁上基本没时间刷视频了——网络不好也不影响整体输出,边思考边补充,个把小时就能完成几个功能的开发。
值得反思的一个错误开发方式:在迭代 webagents 的同时,另一边也对项目进行迭代。稳定性问题反复出现,会话频繁中断,恢复效果也不太理想。后来仔细复盘,发现这就像在不稳定的地基上盖房子,陷入了死循环。于是调整了节奏——webagents 的整体功能迭代尽量使用 VS Code,控制好发布时间;而其他项目都基于 webagents 来运行。把“一边发布一边迭代”的互相干扰错开,稳定性和效率一下子就提升上来了。
现在每天会自动对会话进行复盘总结,代码也做好了托管和版本控制。

搭建属于自己的知识库
我深度使用印象笔记和语雀很多年了。为了获取语雀的 API token,专门开通了会员,结果前几天收到提醒:会员快到期了,还有 20 天。转念一想,为什么不自己做一个知识库,把所有想要的功能都 DIY 出来呢?
从调研到落地整体还算顺利。把语雀上的文档同步迁移过来,只花了几小时就搞定了。想想一年前半手工迁移时,差不多用了两天时间。

里面有些功能挺有意思。比如网格化文档:平时用大模型问答时,它给出的答案框架不错,但某些部分需要微调;几个会话下来,整个内容结构可能已经变了样。网格化文档的思路是:先把文档的整体框架固定下来,然后让大模型针对每个部分进行补充和修正,甚至可以让多个模型进行辩论并达成共识,文档质量明显提高了很多。
再比如看板功能,自己关注的数据和指标都能快速迭代出来。公众号文章或者知乎收藏的问答,可以建立专门的知识库,存储后通过全文检索快速查询,真正做到知识库为我所用。
基本知识和基本原理是一道绕不开的门槛
大模型确实能大幅提升效率——在方案评估、问题修复方面速度快得惊人。但同时也存在一个明显问题:人的思维和认知常常很难跟上大模型,容易按现有认知去处理问题。如果你对某个方向很熟悉,大模型确实能大大提效;但如果不熟悉,有时还是会被带偏,或者抓不住重点,因为缺少基本知识的学习积淀。
用 AI 做出的东西,很可能只是一个玩具级别的应用。要想在生产环境中交付使用,没有实战经验基本行不通——不了解基本原理,出问题后的维护和迭代,就只能被大模型牵着鼻子走。基本知识和基本原理的学习,在当前阶段很容易被忽视,也容易产生过于乐观的幻觉。
今天认真看了看 RAG 体系化的书籍,才发现原来反复调试的很多地方都走错了路。体系化学习是必要的,绕不过去。
