上下文窗口怎么分配预算?为什么上下文工程逐步取代提示词工程成为面试追问点?
校校建议
提示词工程侧重怎么写prompt文本;
上下文工程侧重窗口token预算分配,管理哪些信息放、哪些压缩、哪些隔离。
预算拆分:系统指令、检索片段、历史对话、工具输出、预留输出token;
手段包含信息筛选、摘要压缩、子Agent上下文隔离、按需加载知识;
防止上下文膨胀、中间信息丢失(Lost in the Middle),是生产级RAG/Agent核心能力。
上下文窗口预算分配,上下文工程取代提示词工程
校校
上下文窗口怎么分配预算?为什么上下文工程逐步取代提示词工程成为面试追问点?
提示词工程侧重怎么写prompt文本;
上下文工程侧重窗口token预算分配,管理哪些信息放、哪些压缩、哪些隔离。
预算拆分:系统指令、检索片段、历史对话、工具输出、预留输出token;
手段包含信息筛选、摘要压缩、子Agent上下文隔离、按需加载知识;
防止上下文膨胀、中间信息丢失(Lost in the Middle),是生产级RAG/Agent核心能力。