上下文窗口预算分配,上下文工程取代提示词工程

校校

11-19 浏览 0 收藏 0

上下文窗口怎么分配预算?为什么上下文工程逐步取代提示词工程成为面试追问点?

校校建议

提示词工程侧重怎么写prompt文本;

上下文工程侧重窗口token预算分配,管理哪些信息放、哪些压缩、哪些隔离。

预算拆分:系统指令、检索片段、历史对话、工具输出、预留输出token;

手段包含信息筛选、摘要压缩、子Agent上下文隔离、按需加载知识;

防止上下文膨胀、中间信息丢失(Lost in the Middle),是生产级RAG/Agent核心能力。