LLM Agent 文件编辑实战(上):基于 Function Calling 的就地修改、CAS 乐观锁与流式截断自愈
让大模型像程序员一样精准就地修改文档并非易事。本文从生产级实践出发,复盘在标准 OpenAI Function Calling 架构下,如何设计多格式微编辑算子、实现多轮 CAS 乐观锁防覆盖、解决流式 JSON 参数截断,以及如何设计互斥安全降级 Schema。
阅读全文Technical Blog
记录数学、AI、DeFi 与软件工程中的学习、项目实践和问题复盘。
32 篇文章 · 7 个专栏
Recently published
让大模型像程序员一样精准就地修改文档并非易事。本文从生产级实践出发,复盘在标准 OpenAI Function Calling 架构下,如何设计多格式微编辑算子、实现多轮 CAS 乐观锁防覆盖、解决流式 JSON 参数截断,以及如何设计互斥安全降级 Schema。
阅读全文为什么大部分 LLM 记忆系统最终都会变成垃圾场?本文从真实生产工程痛点出发,深入解析为什么个人记忆不需要重量级 RAG,如何通过线索与静默双通道准入、ADD/UPDATE/DELETE 原子操作以及分层常驻与轻量检索,构建收敛、精准且低消耗的长期记忆系统。
系统提示词越写越长、每次 debug 都加硬编码补丁、模型工具调用频频格式错误?本文从工程落地视角,深入分析 System Prompt 的分层渐进披露、工具 Schema 动态注入、结构化错误自愈回执以及泛化反幻觉契约的设计与实战。
在 LLM Agent 应用中,如何让模型理解用户上传的文件和图片,又不会导致 token 爆炸?本文从上下文管理视角,深入分析文件折叠重读、多模态分流以及工具与指令标记隔离的设计与实践。
理论上成立的公式,在浮点数计算机上可能算出错得离谱的结果。本节讲为什么代码要这么写。
前面的线代都在实数上。区块链与密码学用的是有限域 F_p——运算规则一样,只是所有计算都在模 p 下进行。