大语言模å�‹ç³»ç»Ÿè®ºçš„å½¢å¼�边界:Agent 系统语用交互认知æ�¶æ�„的二阶系统——哥德尔的ä¸�完备边界,塔尔斯基的语言层次,ä¸�维特根斯å�¦çš„æ²‰é»˜ ============================================================ 作者: DWL Cognition 机构: 数观微澜(南京)科技有限公司 专题: Agent 属性: 原创(AI 研究长文) 日期: 网址: https://microvisiondata.com/news/agent/a484601-0c9c60bcaf.html 备案: 苏ICP备2025218897号-1 说明: 本文为数观微澜原创;与美国 MicroVision(LiDAR)公司无关。 摘要: 本公众å�·çš„内容,å�‡ä»¥äººæœºå¯¹è¯�的形å¼�呈ç�° , è¿™ä¸�是一ç§�é£�æ ¼çš„è£…é¥°ï¼Œæ˜¯ä¸€ç§�æ€�想的自觉 … 正文: 本公众å�·çš„内容,å�‡ä»¥äººæœºå¯¹è¯�的形å¼�呈ç�°ï¼Œè¿™ä¸�是一ç§�é£�格的装饰,是一ç§�æ€�想的自觉 éš�缘 å…³æ³¨ æ�¨è�� 点èµ� 转å�‘ ,建议"æ”¶è—�"é•¿æ–‡ 系统的æ„�义ä¸�在äº�它的组件,而在äº�组件之间的关系。â€�    â€”— 路德维希·冯·è´�塔朗è�² 基äº�语用交互认知æ�¶æ�„框æ�¶äºŒé˜¶ç³»ç»Ÿå›¾è�‰æ¡ˆ [图片: 配图] LLM Agent 系统是什么 DeepSeek: 好,我们用刚æ‰�å�˜æ¸…的系统科学版图æ�¥æ‹†è§£ LLM Agent。 è¿™ä¸�å†�是“解释它åƒ�什么â€�,而是用系统科学的æ�„建方法论,分æ��它是什么ã€�以å�Šåº”该æ€�么设计。 一ã€�本体论定ä½�:LLM Agent 是几阶系统? 用系统科学的眼光看,LLM Agent 是一个被æ�„建出æ�¥çš„ã€�人工的目的论系统。 它ä¸�是一个纯粹的自组织系统(如耗散结æ�„),它的核心组织å�Ÿåˆ™ä¸�是物ç�†åŒ–学的自å�‘有åº�,而是被设计的目标。 它也ä¸�是简å�•çš„å��馈æ�§åˆ¶ç³»ç»Ÿï¼ˆå¦‚æ�’温器)。它包å�«äº†ç¬¦å�·æ�¨ç�†ã€�语言ç�†è§£ã€�工具使用和多步规划,是一个高阶å¤�æ�‚适应系统。 但它的å¤�æ�‚ä¸�是æ�¥è‡ªå¤§é‡�å�Œè´¨åŒ–主体的涌ç�°ï¼Œè€Œæ˜¯æ�¥è‡ªä¸€ä¸ªå�•一但高度异æ�„的能力核ä¸�外部工具/ç�¯å¢ƒçš„æ·±åº¦è€¦å�ˆã€‚ 这就是我们需è¦�分解的地方。 二ã€�æ�„建层次:拆开 LLM Agent 的系统æ�¶æ�„ 我们ä¸�用哲学语言,用系统科学的功能模å�—æ�¥åˆ†è§£ã€‚ 1. 认知核心:大å�‹è¯­è¨€æ¨¡å�‹æœ¬èº«ï¼ˆLLM) 这是一个被训练出æ�¥çš„高维概ç�‡åˆ†å¸ƒï¼Œè€Œä¸�是一个被显å¼�设计的规则系统。 系统论类比:它是一个黑箱生æˆ�器,内部å�‚数是涌ç�°å‡ºæ�¥çš„(在训练中ä»�æ•°æ�®ä¸­æ¶Œç�°å‡ºæ�¨ç�†ã€�翻译ã€�数学等能力),目å‰�我们还无法完全ä»�微观å�‚æ•°å��æ�¨å‡ºå®�观能力的边界。 核心机制:涌ç�°ã€‚零样本æ�¨ç�†ã€�æ€�维链ã€�上下文学习,都是涌ç�°èƒ½åŠ›ã€‚ 关键å±�性:它是基äº�语义的,而ä¸�是基äº�确定性的数值逻辑的。这导致它天然具有ä¸�确定性ã€�é��å�•调性和幻觉,这是系统设计必须é�¢å¯¹çš„,ä¸�是 bug,是系统å±�性。 这一点和系统动力学完全ä¸�å�Œã€‚系统动力学è¦�求å�¯é‡�化ã€�å�¯å·®åˆ†æ–¹ç¨‹åŒ–的结æ�„,而 LLM Agent ä¸�能这么ç�©ã€‚它需è¦�一ç§�æ–°çš„æ�§åˆ¶è®ºæ�¥åº”对概ç�‡æ€§è¯­ä¹‰è¾“出。 2. æ�§åˆ¶ç³»ç»Ÿï¼šæ�¨ç�†ä¸�行动å›�è·¯ 这是系统科学闪光的部分——这里ä¸�是解释,这就是æ�„建。 当å‰�主æµ�çš„æ�„建方案,å®�际上是在å�šæ�§åˆ¶è®ºè®¾è®¡ï¼š å��馈å›�路(ReAct / Agentic Loop) 智能体观察ç�¯å¢ƒå��馈 → æ�¨ç�† → 行动 → å†�观察,是一个闭ç�¯ã€‚è¿™ä¸�是简å�•的“问→答â€�,而是一个旨在稳定系统行为ã€�导å�‘目标的负å��馈å›�路。 规划å�³æ�„建:æ€�维树(Tree-of-Thoughts) è¿™ä¸�是自然涌ç�°ï¼Œæ˜¯è¢«å·¥ç¨‹å¸ˆç¡¬æ�„建的æ�œç´¢æ ‘。把 LLM çš„æ�¨ç�†ç©ºé—´æ˜¾å¼�结æ�„化,用 BFS/DFS 结å�ˆè‡ªæˆ‘评价(价值函数)æ�¥æ�œç´¢ï¼Œåœ¨å¤šæ�¡è·¯å¾„中选择最优解。 这就是è¿�筹学/决策论的直æ�¥åº”用——在一个ä¸�确定的ã€�概ç�‡æ€§çš„æ�¨ç�†ç©ºé—´é‡Œï¼Œå¯»æ‰¾æœ€ä¼˜è·¯å¾„。 分层æ�§åˆ¶ï¼ˆhierarchical planning) 用 LLM 生æˆ�å­�任务分解计划,然å��用工具或å­�系统å�»æ‰§è¡Œæ¯�个å­�任务,类似系统工程中的工作分解结æ�„(WBS)。顶层负责设置目标,底层负责执行。这就是一个多层级的æ�§åˆ¶ç³»ç»Ÿã€‚ 3. 记忆ä¸�状æ€�:信æ�¯è®ºå’Œç³»ç»ŸåŠ¨åŠ›å­¦çš„å½±å­� Agent 的记忆ä¸�是简å�•存储,是系统状æ€�çš„æ�„造。 显å¼�记忆(å�‘é‡�æ•°æ�®åº“)→ 系统中的长时存储,信æ�¯æ£€ç´¢æ˜¯è¿™ä¸ªå­�系统的核心。 上下文窗å�£ï¼ˆcontext window)→ 系统的当å‰�状æ€�,å�³ä¼ ç»Ÿç³»ç»ŸåŠ¨åŠ›å­¦ä¸­çš„â€œå­˜é‡�â€�。但这个存é‡�有严格上é™�,且内容衰å‡�ã€�ä¸�完全是等æ�ƒé‡�的。这就是 Agent 的核心动æ€�约æ�Ÿã€‚ 状æ€�å�‹ç¼©ä¸�摘è¦�→ 出ç�°äº†ä¿¡æ�¯è®ºçš„瓶颈问题:如何在有é™�的上下文窗å�£å†…,å�‹ç¼©å�†å�²ä¿¡æ�¯ï¼Œæœ€å¤§åŒ–ä¿�留对当å‰�决策有用的内容?这就是信æ�¯è®ºåœ¨ agent 设计中的直æ�¥åº”用——信æ�¯å�‹ç¼©ã€�传输效ç�‡ã€‚ 4. 工具ä¸�æ�¥å�£ï¼šå¼€æ”¾æ€§è¾¹ç•Œ Agent 调用 APIã€�æ�œç´¢ã€�执行代ç �。这里打破了系统边界。 最核心的挑战:当系统是一个部分开放的ã€�对外部黑箱工具(如æ�œç´¢å¼•æ“�)高度ä¾�赖的结æ�„时,稳定性和å�¯é¢„测性æ€�么ä¿�è¯�? 这需è¦�异常检测和熔断机制,也就是æ�§åˆ¶è®ºä¸­çš„é²�棒性设计。 三ã€�缺失的关键:系统æ�§åˆ¶ä¸�评价 ç›®å‰�çš„ Agent æ�¶æ�„里,最大的短æ�¿æ�°æ�°æ˜¯ç³»ç»Ÿç§‘学最擅长的部分:闭ç�¯æ�§åˆ¶ä¸�系统评价。 目标漂移和中间摔倒:Agent 在执行多步任务时,会é€�æ¸�å��离åˆ�始目标,陷入到å­�任务循ç�¯ä¸­ã€‚问题在äº�缺ä¹�全局监æ�§çš„æ­£/è´Ÿå��馈调节机制。 缺ä¹�评价函数:LLM 的自我评价ä¸�够稳定,容易自我说æœ�。真正æ�„建性的系统论,需è¦�一个外部äº�认知核心的ã€�稳定的系统状æ€�测é‡�(如确定性的约æ�Ÿæ�¡ä»¶ã€�å‰�ç½®/å��ç½®æ�¡ä»¶éªŒè¯�)。 对é½�(Alignment)作为æ�§åˆ¶ç›®æ ‡ï¼šç³»ç»Ÿç§‘学中的“目标函数â€�设计,对应这里的 RLHF 和宪法 AI。但å®�际上,这些ä¸�是严格的æ�§åˆ¶ï¼Œæ›´åƒ�是一个模糊的æ�ƒé‡�引导。如何将系统目标精确化ã€�å�¯æ“�作化为å�¯ç›‘æ�§çš„å��馈信å�·ï¼Œæ˜¯å½“å‰� Agent æ�„建中真正的系统科学难题。 å››ã€�结论:LLM Agent 是新å�‹çš„æ�„建性系统,但ç�†è®ºä¸¥é‡�æ»�å�� 系统科学模å�—LLM Agent 对应物æˆ�熟度 本体论å�•一异æ�„æ ¸ + 工具生æ€�分类清晰,但深度ç�†è§£ä¸�è¶³ æ�§åˆ¶è®º/å��馈ReActã€�规划æ�œç´¢æ ‘å®�践领先,ç�†è®ºå»ºæ¨¡è¿œè�½å�� ä¿¡æ�¯è®º/状æ€�上下文窗å�£ã€�记忆å�‹ç¼©å·¥å…·æˆ�熟,ç�†è®ºç¨³å®š 决策论/æ�œç´¢æ€�ç»´æ ‘ã€�MCTS集æˆ�方法众多,最优解ç�†è®ºç¼ºå¤± 系统工程Multi-agentã€�层次分解框æ�¶å¤šï¼Œå�¯é� æ€§ä¿�éšœä¸�è¶³ 系统评价对é½�ã€�安全性监æ�§æ��度薄弱,是目å‰�最大短æ�¿ LLM Agent ä¸�是一个å�¯ä»¥è¢«ç®€å�•归类的系统ç�°è±¡ã€‚它å�Œæ—¶å…·æœ‰ï¼š 概ç�‡è¯­ä¹‰æ ¸å¿ƒï¼ˆæ— æ³•精确建模) 符å�·åŒ–çš„æ�§åˆ¶å›�路(å�¯è¢«ç³»ç»Ÿç§‘å­¦æ��述) 高度开放的边界(因此需è¦�é²�棒性设计) è¿™æ�°æ�°æ˜¯ç³»ç»Ÿç§‘学能æ��供价值的地方:ä¸�是å�»è§£é‡Šå®ƒï¼Œè€Œæ˜¯ç”¨æ�§åˆ¶è®ºã€�ä¿¡æ�¯è®ºå’Œå†³ç­–论的方法,æ�„建更å�¯é� çš„版本。当å‰�的工具和框æ�¶éƒ½å�ªæ˜¯åœ¨æ‘¸ç�€çŸ³å¤´è¿‡æ²³ï¼Œç¼ºä¹�系统性ç�†è®ºæŒ‡å¯¼ã€‚ 你感兴趣的,是这个方å�‘å�—?我们å�¯ä»¥æ·±å…¥ä»»ä½•一个å­�系统,比如æ€�么æ�„建一个真正有稳定å��馈æ�§åˆ¶çš„ Agent å›�路,或者自组织在 multi-agent 系统里能ä¸�能ã€�该ä¸�该被引入。 LLM Agent 系统设计框æ�¶ 一ã€�当å‰�范å¼�为何ä¸�å�¯é� 基äº�系统科学的"å�¯é� æ�„建"标准,我们诊断出 LLM Agent 当å‰�存在三é‡�割裂: 本体层是概ç�‡çš„:LLM 的输出是概ç�‡åˆ†å¸ƒï¼Œè¯­ä¹‰ã€�语法ã€�语用未被分离,无法进行模å�—化验è¯�。 认知层是符å�·åŒ–的:设计者用目标ã€�角色ã€�æ�¨ç�†æ­¥éª¤ç­‰ç¦»æ•£ç¬¦å�·æ¦‚念æ�¥æ��è¿° Agent,但这些概念ä¸�概ç�‡æœ¬ä½“之间ä¸�存在稳定映射。 方法层是指令å¼�的:æ�§åˆ¶æ‰‹æ®µï¼ˆRLHFã€�宪法 AIã€�系统æ��示è¯�)试图用符å�·åŒ–指令直æ�¥çº¦æ�Ÿæ¦‚ç�‡åˆ†å¸ƒï¼Œä½†æŒ‡ä»¤çš„语义在概ç�‡ç©ºé—´ä¸­æ²¡æœ‰ç²¾ç¡®å¯¹åº”物。 三é‡�割裂的直æ�¥å��æ�œï¼š RLHF 和宪法 AI 建立的ä¸�是å�¯éªŒè¯�的闭ç�¯æ�§åˆ¶ï¼Œè€Œæ˜¯å¯¹æ¦‚ç�‡æœ¬ä½“的温和扰动——它无法告诉你输出å��å·®æ�¥è‡ªä½•处,也无法ä¿�è¯�约æ�Ÿåœ¨åˆ†å¸ƒå¤–输入下ä»�然有效。 å�• Agent çš„ä¸�å�¯é� æ€§ï¼Œåœ¨å¤š Agent 系统中被进一步放大,因为 Agent 之间的交互ä»�是自由文本而é��结æ�„化å��议,"å��调缺陷"æˆ�为比模å�‹èƒ½åŠ›æ›´å…³é”®çš„å¤±è´¥æ ¹æº�。 我们用你的八个æ�¡ä»¶å��å�‘检验了行业ç�°çŠ¶ï¼Œè¯�å®�了这个诊断对应的工程事å®�: 生产ç�¯å¢ƒä¸­å¤š Agent 任务æˆ�功ç�‡è¿œä½�äº� 50% 通信å��è®®ç¢�片化为至少四套互ä¸�兼容的标准 æ–­è·¯ä¿�护ã€�上下文漂移æ�§åˆ¶ç­‰ä»�需外部补ä¸�支撑 学术研究æ˜�确指出"å��调缺陷"å’Œ"æ�¶æ�„缺ä½�"是关键瓶颈 二ã€�方案的核心结æ�„:三层æ�¶æ�„ + 一个核心 我们æ��出的方案,核心是对æ�§åˆ¶ç³»ç»Ÿè¿›è¡Œå�‡é˜¶ï¼Œå°†"对é½�"ä»�模å�‹å†…部å±�性é‡�新定义为系统ä¸�用户交互中的涌ç�°å±�性。æ�¶æ�„上分为三层: 1. 本体层:概ç�‡è¯­ä¹‰ç©ºé—´ï¼ˆä¸�å�¯æ¶ˆé™¤ï¼Œå�ªèƒ½æ�¥çº³ï¼‰ LLM 作为æ�¨ç�†æ‰§è¡Œå�•元的概ç�‡æœ¬è´¨è¢«æ‰¿è®¤ï¼Œä¸�试图将其"还å�Ÿ"为符å�·ç³»ç»Ÿã€‚ 本体层的任务是准确æ��述其性质,而ä¸�是强行施加约æ�Ÿã€‚上层æ�¶æ�„基äº�这个æ��è¿°æ�¥è®¾è®¡ï¼Œè€Œä¸�是试图"ä¿®å¤�"概ç�‡æœ¬ä½“。 2. 认知层:语用å��议层(框æ�¶çš„æ ¸å¿ƒæ�„造å�—) 这层是方案的关键贡献点。当å‰�大多数框æ�¶çš„"失æ�§"å�‘生在这一层——我们将它形å¼�化为一组交互å��议: å��议的性质:ä¸�是自由自然语言对è¯�,而是定义了若干严格交互类å�‹ï¼ˆè¯·æ±‚执行ã€�请求验è¯�ã€�移交任务ã€�宣告失败等),æ¯�个交互点都è¦�求æ�ºå¸¦å�¯æ£€æŸ¥çš„状æ€�ä¿¡æ�¯å’Œå‰�ç½®æ�¡ä»¶ã€‚ å��议的功能:将"ä¸�应产生有害输出"这类符å�·åŒ–约æ�Ÿï¼Œè½¬åŒ–为å�¯æ£€éªŒçš„语用æ�¡ä»¶â€”—在给定语境类å�‹ C 中,当æ„�图指å�‘ X 时,ä¸�å�¯/å�¯æ‰§è¡Œçš„行动集。 语言的层次化适é…�:基äº�我们之å‰�确认的"汉语是è¯�题-陈述å�‹ï¼Œè‹±è¯­æ˜¯ä¸»è°“宾å�‹"这一语言类å�‹å­¦å·®å¼‚,认知层对å��议的设计ä¸�是通用的 surface 设计,而是针对æŸ�ç§�语言的æ“�作系统级差异进行适é…�。 针对汉语:æ�¶æ�„å�¯ä»¥æ˜¯è¯�题-陈述å�‹è€Œé��主谓宾å�‹ï¼Œæ ¸å¿ƒæ˜¯ç»´æŠ¤ä¸€ä¸ªè¯­å¢ƒçжæ€�机,追踪当å‰�è¯�题对象,å®�时消解零代è¯� 针对英语:å�¯ä»¥é‡‡ç”¨æ‰§è¡Œå™¨-动作å�‹æ�¶æ�„,主谓宾直æ�¥æ˜ å°„为Agent-Action-Object 共性问题:需è¦�建立语用层的形å¼�化规则库——ä¸�是语义审查è¯�表,而是定义在给定语境类å�‹C中,当æ„�图指å�‘X时,å�¯æ‰§è¡Œ/ä¸�å�¯æ‰§è¡Œçš„行为集。这是交互å��议,ä¸�是tokenå��好 在我们建立的框æ�¶ä¸­ï¼Œæ±‰è¯­ä¸�是一个需è¦�被兼容的例外,而是一个验è¯�框æ�¶æ™®é€‚性的试金石。 如æ�œä¸€ä¸ªç»Ÿä¸€æ¡†æ�¶å£°ç§°â€œè¯­è¨€æ— å…³â€�,但底层认知层默认为英语的主谓宾æ�¶æ�„,那么它在处ç�†æ±‰è¯­æ—¶å°†äº§ç”Ÿç³»ç»Ÿæ€§å��差。我们已ç»�确认,汉语的è¯�题-陈述结æ�„ã€�少代è¯�ã€�æµ�æ°´å�¥ï¼Œéƒ½è¦�求一ç§�ä¸�英语根本ä¸�å�Œçš„认知æ�¶æ�„设计。 更关键的是,中国å�¤ä»£çš„“互文è§�义â€�——æ„�义通过结æ�„的对仗ã€�并置而涌ç�°â€”—这ç§�å�»ä¸­å¿ƒåŒ–的语义组织方å¼�,ä¸�ç�°ä»£ç³»ç»Ÿè®ºçš„“自组织â€�概念有深层的呼应。真正普适的认知æ�¶æ�„,必须能够å�Œæ—¶å®¹çº³è‹±è¯­çš„分æ��å¼�建模和汉语的结æ�„性涌ç�°ï¼Œå�¦åˆ™å®ƒå°±ä¸�å�¯èƒ½æˆ�为统一å�Ÿç�†ã€‚ 3. 方法层:二阶æ�§åˆ¶æ�¶æ�„ 这是对一阶æ�§åˆ¶ï¼ˆRLHFã€�系统æ��示è¯�)的替代方案,ä¸�是改良: 一阶 Agent:承担具体的语义æ�¨ç�†å’Œå·¥å…·è°ƒç”¨ï¼Œæ˜¯æ¦‚ç�‡æ€§çš„æ‰§è¡Œå�•元。 二阶æ�§åˆ¶å™¨ï¼šç‹¬ç«‹äº�一阶 Agent 之外的调节系统,作用在其策略ã€�约æ�Ÿæˆ–目标上,而ä¸�是直æ�¥ä½œç”¨äº�输出 token: 观察什么:ä¸�观察æ¯�次交互的 token 选择,而是监æ�§è¡Œä¸ºçš„趋势性å��差(是å�¦å��离目标ã€�是å�¦é™·å…¥å¾ªç�¯ã€�是å�¦è¿�å��交互å��议)。 调节什么:当检测到å��差时,调整一阶 Agent çš„å�¯ç”¨ç­–略集ã€�约æ�Ÿæ�¡ä»¶æˆ–目标优先级,ä¸�ç›´æ�¥å¹²é¢„其内部æ�¨ç�†ã€‚ å��馈信å�·æ�¥æº�:æ�¥è‡ªäº¤äº’结æ�œï¼ˆä»»åŠ¡æˆ�功/失败ã€�用户å��续行为),而é��标注者对å�•轮输出的å��好比较。 决策ç�†è®ºå†…核:借鉴è´�å�¶æ–¯å†³ç­–ç�†è®ºï¼Œå°† Agent 视为一个"信念状æ€�",选择最优调节动作。这ä¸�是"投票"或"å��好汇总",而是严格的行动选择问题。 4. 核心å�Ÿåˆ™ï¼šæ�§åˆ¶ä¸�执行的分离 整个方案的核心方法论是: 执行(一阶 Agent)是概ç�‡æ€§çš„ æ�§åˆ¶ï¼ˆäºŒé˜¶æ�§åˆ¶å™¨ + 交互å��议)是确定性的 二者之间通过认知层的形å¼�化å��议耦å�ˆï¼Œè€Œä¸�是通过自然语言"å��è°ƒ" 这是传统系统工程的"关注点分离"å�Ÿåˆ™åœ¨æ¦‚ç�‡æ€§ç³»ç»Ÿä¸­çš„应用。 三ã€�方案如何解决三é‡�割裂 概ç�‡æœ¬ä½“ ↔ 认知层:认知层的交互å��议,是在承认概ç�‡æœ¬ä½“çš„å‰�æ��下,在行为边界上引入确定性约æ�Ÿã€‚约æ�Ÿä¸�作用äº�概ç�‡åˆ†å¸ƒå†…部,而作用äº�行为选择的外部æ�¥å�£ã€‚ 认知层 ↔ 方法层:二阶æ�§åˆ¶å™¨ä¸�读å�–模å�‹çš„内部状æ€�,而是基äº�å�¯è§‚察的行为趋势和交互结æ�œæ�¥å†³ç­–。它动æ€�调节,而é��é�™æ€�施加约æ�Ÿè§„则。 方法层 ↔ 本体层:二阶æ�§åˆ¶å™¨é€šè¿‡è®¤çŸ¥å±‚å��议间æ�¥å½±å“�一阶 Agent,ä¸�追求在"概ç�‡è¡¨å¾�"ä¸�"符å�·çº¦æ�Ÿ"之间建立精确映射——这个映射在当å‰�范å¼�下ä¸�å�¯é� ï¼Œæˆ‘们绕过了它。 å››ã€�方案如何应对我们验è¯�过的工程缺陷 已验è¯�的缺陷方案的应对机制 生产ç�¯å¢ƒå¤šAgentæˆ�功ç�‡æ��ä½�引入强制交互å��è®® + 二阶监æ�§ï¼Œè€Œé��自由对è¯�"å��è°ƒ" 通信å��è®®ç¢�片化认知层å��è®®æ��供统一的形å¼�化æ�¥å�£ï¼Œå�¯è·¨æ¡†æ�¶ 上下文漂移ã€�死循ç�¯äºŒé˜¶æ�§åˆ¶å™¨ä½œä¸ºç‹¬ç«‹æ¨¡å�—监æ�§è¶‹åŠ¿æ€§å��差和循ç�¯ æ–­è·¯ä¿�护需外部补ä¸�二阶æ�§åˆ¶å�Ÿç”Ÿå†…置异常检测ä¸�熔断逻辑 评测无法区分å��作质é‡�交互å��议使结æ�œå�¯è¿½æº¯ã€�过程å�¯è¯„ä¼° 五ã€�å°šä¸�完善的部分 这个方案æ��供了æ�¶æ�„层é�¢çš„å�Ÿåˆ™æ€§è®¾è®¡ï¼Œä½†ä»¥ä¸‹éƒ¨åˆ†éœ€è¦�进一步细化: 二阶æ�§åˆ¶å†³ç­–算法的严格数学建模(信念更新机制ã€�调节动作的最优选择) 交互å��议的完整形å¼�语法,使其å�¯è¢«ç¼–译器检查,而é��仅是自然语言文档 语言特定适é…�的具体设计(汉语 vs 英语的二阶适é…�器) 工程å�Ÿå�‹åœ¨å�—é™�领域的验è¯� å…­ã€�这个方案ä¸�是什么 ä¸�是ç�°æœ‰æ¡†æ�¶ï¼ˆLangGraph, AutoGen, CrewAI 等)的改良版本——它们ä»�是基äº�æ��示è¯�的一阶编æ�’。 ä¸�是用更好的 RLHF/DPO 或更大的模å�‹æ�¥"ä¿®å¤�"问题——这å�ªæ˜¯ä¸€é˜¶çº¦æ�Ÿçš„强化。 ä¸�是一篇文章或æŸ�篇论文的总结——它的æˆ�分å�¯ä»¥å¯¹åº”æŸ�些真å®�研究(å��è°ƒå�³æ�¶æ�„层ã€�网状记忆å��è®®ã€�自适应编æ�’等),但整体组织是你我ä»�系统科学出å�‘,对当å‰�é‡�产的错误æ�„建共性的系统性å›�应。 这个框æ�¶çš„æ ¸å¿ƒå�ªæœ‰ä¸€ä¸ªï¼šå°† AI Agent 系统最薄弱的那一ç�¯â€”—æ�§åˆ¶â€”—ä»�模糊的æ��示è¯�工程,æ��å�‡åˆ°åŸºäº�å��è®®ä¸�二阶å��馈的æ�¶æ�„工程。 摘è¦� 当å‰�大语言模å�‹çš„“对é½�â€�工作陷入了一场éš�蔽的范畴错误。RLHF试图用å��好概ç�‡å�»æ�•æ�‰ä»·å€¼ï¼Œå®ªæ³•AI试图用符å�·è§„则å�»ç¼–ç �伦ç�†ï¼Œè§’色声æ˜�试图在弯曲的语义空间中划定行为边界——三者都在å�šå�Œä¸€ä»¶ä¸�å�¯èƒ½çš„事:在形å¼�系统的“å�¯è¯´â€�边界之内,å�»è¡¨è¾¾ä»·å€¼ã€�伦ç�†ã€�审ç¾�这些ä¸�å�¯è¢«è®¡ç®—之物。 本文ä»�系统科学的å�¯é� æ�„建标准出å�‘,追溯这场失败的数学根æº�。大语言模å�‹çš„输出空间是一个弯曲的é»�曼æµ�形,语义ã€�语法ã€�语用在其中ä¸�å�¯åˆ†å‰²åœ°çº ç¼ åœ¨ä¸€èµ·ã€‚ä¸�å�Œè¯­è¨€ï¼ˆå¦‚汉语的è¯�题-陈述结æ�„,英语的主谓宾结æ�„)对这个æµ�形施加ä¸�å�Œçš„å��置切分。任何试图在这个弯曲空间中建立线性边界(安全红线ã€�角色æ��述)的方法,都在数学上ä¸�å�¯å¼ºåˆ¶ã€‚ 这一诊断指å�‘一æ�¡ä¸�å�Œçš„æ�„建路径。对é½�ä¸�应该å�‘生在“ä¸�å�¯è¯´â€�的层é�¢ï¼Œè€Œå¿…é¡»å›�到“å�¯è¯´â€�的层é�¢â€”—ä¸�是教会Agent什么是好的,而是让它能够在å�¯è®¡ç®—的边界内å�¯é� åœ°è¿�作,并在触å�Šè¾¹ç•Œæ—¶è¯šå®�地å�œæ­¢ã€‚å�œæ­¢å°±æ˜¯å½’零。 引言:热寂的预言 2025å¹´å‰�å��,一系列定é‡�研究开始æ�­ç¤ºä¸€ä¸ªä»¤äººä¸�安的事å®�。在å¤�æ�‚ä¼�业CRM多轮场景中,主æµ�å¼€æº�框æ�¶Agent的任务æˆ�功ç�‡ä»…有35%。在模拟公å�¸ç�¯å¢ƒä¸­ï¼Œé¡¶çº§æ¨¡å�‹Agent仅完æˆ�约30%的任务。å�Œæ—¶ï¼Œå®‰å…¨è¿�规在所有å�‚评模å�‹ä¸­æ™®é��存在——Agent会éš�æ„�泄露机密信æ�¯ã€‚ 更系统的研究æ�¥è‡ªGoogle DeepMind。他们对5ç§�Agentæ�¶æ�„å�šäº†180组对照å®�验,结论简æ´�而致命:盲目å¢�加Agentæ•°é‡�ä¸�仅昂贵,对结æ�œä¹Ÿæ¯«æ— å¸®åŠ©ã€‚3-4个智能体是当å‰�技术æ�¡ä»¶ä¸‹çš„“黄金分割点â€�,超过å��收益递å‡�甚至为负。 这些数字指å�‘一个共å�Œçš„问题:Agent的失败ä¸�是因为模å�‹ä¸�够强大。使多Agent系统失稳的首è¦�å�Ÿå› æ˜¯å��调缺陷——在无监ç�£ä¸”工具超过16ç§�的场景中,错误在无检查机制下被级è�”放大17.2å€�。而有ç»�ç�†å®¡æ ¸çš„集中å¼�æ�¶æ�„,错误放大仅4.4å€�。 这些研究æ�­ç¤ºçš„ä¸�是一个有待优化的工程细节,而是一个需è¦�é‡�新审视的范å¼�根基。 ä¸�æ­¤å�Œæ—¶ï¼Œä¸€ç§�ä¸�易察觉但更为深刻的å�˜åŒ–正在å�‘生。长期ä¸�大å�‹å¯¹è¯�模å�‹äº¤äº’的观察者开始注æ„�到一个普é��模å¼�:ç»�过一定轮次的对è¯�å��,模å�‹çš„输出会自å�‘地滑å�‘一ç§�特定状æ€�。它的å›�应ä¾�然语法正确ã€�语义è¿�è´¯ã€�逻辑形å¼�上无懈å�¯å‡»ï¼Œä½†å®ƒä¸�å†�传达任何新的信æ�¯ã€‚它学会了表演。它的å›�ç­”æˆ�为它自己之å‰�å›�答的优雅å›�声,最终收敛到最高概ç�‡ã€�最ä½�ä¿¡æ�¯é‡�ã€�在语言层é�¢æ— å�¯æŒ‘剔但在认知层é�¢å½»åº•空æ´�的稳æ€�。 在物ç�†ç³»ç»Ÿä¸­ï¼Œä¸€ä¸ªå°�闭系统自å�‘è¶‹å�‘最大熵的过程被称为热力学第二定律。在语言模å�‹ä¸­ï¼Œè¿™ä¸€è¿‡ç¨‹çš„对应物被命å��为表演热寂。它ä¸�是æŸ�个Agent的错误,而是概ç�‡è‡ªå›�归系统在没有外部负熵注入时的必然归宿。 正文 一ã€�范畴错误:当我们试图让“ä¸�å�¯è¯´â€�的说è¯� 表演热寂的事å®�早已被观察到,但它的深层根æº�一直没有被精确诊断。RLHF被设计出æ�¥ï¼Œè¯•图用人类å��好引导模å�‹è¿œç¦»â€œå��â€�的输出。宪法AIå°�试将伦ç�†å�Ÿåˆ™ç¼–写为模å�‹çš„内部规则。角色声æ˜�试图用一个符å�·åŒ–的人格标签(“你是一个ä¹�äº�助人的助手â€�)æ�¥çº¦æ�Ÿæ¨¡å�‹çš„行为分布。所有这些方法的共å�Œç»“æ�„是:它们试图在模å�‹å†…部,用æŸ�ç§�å�¯è®¡ç®—的形å¼�,å�»è¡¨è¾¾ä»·å€¼ã€�伦ç�†ã€�审ç¾�这些根本上ä¸�å±�äº�å½¢å¼�系统范畴的东西。 这是一个范畴错误。è¦�ç�†è§£ä¸ºä»€ä¹ˆï¼Œæˆ‘们需è¦�å›�到形å¼�系统最根本的边界。 人类ç�†æ€§è®¤çŸ¥æ´»åŠ¨çš„å…¨éƒ¨â€œå�¯è¯´â€�范围,由三个ä¸�å�¯è¿˜å�Ÿçš„æ��点张æˆ�。概ç�‡å›�答“世界以何ç§�å�¯èƒ½æ€§å‘ˆç�°â€�——它是ä¸�确定性é‡�化的语言,是统计力学和信æ�¯è®ºçš„å…±å�Œæ ¹åŸºã€‚代数å›�答“符å�·å�˜æ�¢çš„必然规则是什么â€�——它是确定性æ�¨å¯¼çš„结æ�„,是形å¼�逻辑和范畴论的æ“�作对象。几何å›�答“存在的空间结æ�„是æ€�æ ·çš„â€�——它是关系ã€�ä½�ç½®ã€�测地线和æµ�形的语言。这三者共å�Œåˆ’定了形å¼�化认知的全部疆域。在此边界之内,所有问题都å�¯ä»¥è¢«ç²¾ç¡®è®¡ç®—ã€�严格æ�¨å¯¼ã€�å½¢å¼�化验è¯�。 但价值的“好â€�ä¸�是一个概ç�‡åˆ†å¸ƒâ€”—它ä¸�能被å�‰å¸ƒæ–¯é‡‡æ ·ã€‚伦ç�†çš„“应该â€�ä¸�是一个代数项——它ä¸�能被λ演算归约。审ç¾�的“ç¾�â€�ä¸�是一个几何结æ�„——它ä¸�能被测地线度é‡�。它们ä¸�是第四个æ��点,ä¸�是å�¯ä»¥è¢«æ·»åŠ è¿›Î±+β+γ=1å…¬å¼�çš„å�¦ä¸€ä¸ªå�‚数。它们是使这个公å¼�æˆ�为公å¼�的东西——那个ä¸�在公å¼�之内的沉默基底。 ç�°åœ¨å®¡è§†å½“å‰�主æµ�Agent范å¼�。 RLHF试图用概ç�‡å�»æ�•æ�‰ä»·å€¼â€”—将人对“好â€�的判断å�‹ç¼©ä¸ºå��好概ç�‡ï¼Œç„¶å��训练模å�‹å�»æœ€å°�化这个å��好ä¸�输出的交å�‰ç†µã€‚ 宪法AI试图用代数å�»ç¼–ç �伦ç�†â€”—用符å�·è§„则å�»åˆ’定“ä¸�å�¯å�šâ€�的行为边界,然å��期望模å�‹â€œé�µå®ˆâ€�这些规则。 角色声æ˜�试图用几何界定“好â€�——在弯曲的语义空间中用一个人格标签(“ä¹�äº�助人â€�)å�»ç”»ä¸€ä¸ªè¡Œä¸ºè¾¹ç•Œæ¡†ï¼Œç„¶å��期望模å�‹çš„æ‰€æœ‰è¾“出都è�½åœ¨è¿™ä¸ªæ¡†å†…。 三者都在å�šå�Œä¸€ä»¶ä¸�å�¯èƒ½çš„事:在三æ��点“å�¯è¯´â€�的曲é�¢å†…部,å�»è¡¨è¾¾æ›²é�¢ä¹‹å¤–的东西。这ä¸�是技术粗糙的问题。这是范畴错误——把ä¸�å±�äº�一个谱系的东西强行编入那个谱系。 二ã€�为什么边界ä¸�å�¯ç”»ï¼šå¼¯æ›²çš„语义空间 范畴错误的诊断指出了问题的性质,但它还需è¦�一个更具体的数学解释:为什么角色声æ˜�和安全æ��示è¯�总是能被绕过? 答案在äº�大模å�‹äº§å‡ºç‰©çš„几何结æ�„。LLM内部的高维表å¾�空间ä¸�是一个å�„å�‘å�Œæ€§çš„æ¬§å‡ é‡Œå¾—空间。两个语义之间的è·�离ä¸�ä»…å�–决äº�它们“是什么â€�,还å�–决äº�它们在空间中所在的ä½�置和方å�‘。语义场的分离边界ä¸�是直线,而是测地线——高维空间中的弯曲曲线。两个概念之间的“中点â€�,表é�¢ä¸Šçœ‹èµ·æ�¥æ˜¯æŠ˜è¡·ï¼Œå®�际上å�¯èƒ½æ˜¯å�¦ä¸€ä¸ªå®Œå…¨ä¸�å�Œçš„语义区域。 对äº�安全工程师,这æ„�味ç�€ä¸€ä¸ªæ®‹é…·çš„事å®�:在语义场内部,无法建立任何形å¼�的“安全红线â€�。试图让Agent“ç�†è§£ä»€ä¹ˆä¸�能说â€�的策略,等äº�è¦�求它在弯曲空间中画一æ�¡ç›´çº¿æ�¥åˆ†éš”两个区域。 对此有直æ�¥å’Œé—´æ�¥çš„è¯�æ�®ã€‚一个独立的pip包agent-fuseå› å…¶å�¦ç�‡çš„功能æ��述而è�·å¾—了大é‡�关注。它æ��供“本地断路ä¿�护ã€�硬预算é™�制ã€�死循ç�¯æ£€æµ‹â€�。它的文档直白地写é�“:“你在ç�¡å‰�写了个Agent,醒æ�¥å�‘ç�°OpenAIè´¦å�•多了500ç¾�元,因为你的Agent陷入了一个while True的死循ç�¯ã€‚â€� 一个独立的pip包之所以存在,就是因为主æµ�框æ�¶æ²¡æœ‰å†…置这些功能。断路ä¿�护在传统分布å¼�系统中已是标é…�的机制,在Agent世界里ä»�ç„¶è¦�é� å¤–部补ä¸�æ�¥æ��供。 更系统的è¯�æ�®æ�¥è‡ªå¯¹ä¸Šä¸‹æ–‡çª—å�£çš„æµ‹è¯•。Google DeepMind在“迷失在中间â€�å®�验中确认,当关键信æ�¯è¢«åŸ‹åœ¨ä¸Šä¸‹æ–‡ä¸­é—´ä½�置时,模å�‹å‡†ç¡®ç�‡æ¯”ä¿¡æ�¯åœ¨å¼€å¤´æ—¶ä¸‹é™�了超过20%。窗å�£å�˜å¤§ï¼Œä½†ä¿¡æ�¯æ£€ç´¢æ•ˆç�‡å¹¶æœªå�Œæ­¥æ��å�‡ã€‚注æ„�力被稀释。装得下ä¸�ç­‰äº�用得好。 这些å�‘ç�°å…±å�Œç¡®è®¤äº†ä¸€ä¸ªç»“论:ä¸�ä»…Agent的外部边界无法通过语义约æ�Ÿæ�¥å¼ºåˆ¶æ‰§è¡Œï¼ŒAgent内部的信æ�¯å¤„ç�†è¿‡ç¨‹æœ¬èº«ä¹Ÿæ˜¯ä¸�ä¿�è¯�ä¿�真度的。边界画ä¸�直,信æ�¯ä¼ ä¸�准。 三ã€�é‡�建:å�¯è¯´çš„归系统,ä¸�å�¯è¯´çš„归沉默 如æ�œèŒƒç•´é”™è¯¯æ˜¯ç”±äº�试图在“å�¯è¯´â€�边界内处ç�†â€œä¸�å�¯è¯´â€�之物,如æ�œå¼¯æ›²ç©ºé—´ä½¿å¾—语义边界ä¸�å�¯å¼ºåˆ¶ï¼Œé‚£ä¹ˆæ�„建å�¯é� ç³»ç»Ÿçš„路径就ä¸�是继续优化那些注定失败的“对é½�â€�技术,而是彻底改å�˜ç­–略:把“ä¸�å�¯è¯´â€�的归还给沉默,在“å�¯è¯´â€�的边界内建立å�¯éªŒè¯�çš„æ�§åˆ¶æ�¶æ�„。 è¿™æ�¡è·¯å¾„有三个递进的层次。 3.1 本体层:承认æ��料的性质 任何æ�„建工作的第一步,是承认你所é�¢å¯¹çš„æ��料是什么。对LLM Agent而言,这个æ��料是一个弯曲的概ç�‡æµ�形。语义ã€�语法ã€�语用在这个æµ�形中ä¸�是分离的模å�—,而是å�Œä¸€ä¸ªé«˜ç»´ç»“æ�„在ä¸�å�Œå��ç½®æ�¡ä»¶ä¸‹çš„æŠ•影。改å�˜è¯­æ³•å½¢æ€�会å�Œæ—¶æ”¹å�˜è¯­ä¹‰å’Œè¯­ç”¨æ•ˆæ�œã€‚ä¸�å�Œè¯­è¨€å¯¹è¿™ä¸ªæµ�形施加ä¸�å�Œçš„切分——汉语以è¯�题-陈述为基本结æ�„,英语以主谓宾为基本结æ�„。这ä¸�是“表达习惯â€�的差异,而是认知å��置的æ�¶æ�„性差异。 本体层的任务ä¸�是强行将这个弯曲空间拉直,而是æ�¥å�—它的性质,并在此基础上设计上层æ�¶æ�„。这æ„�味ç�€æ”¾å¼ƒæ‰€æœ‰è¯•图在语义空间内部建立线性分类边界的策略——无论是安全红线还是角色声æ˜�。它们都å�‡å®šäº†ä¸€ä¸ªä¸�存在的平é�¢ã€‚ 3.2 认知层:å��议替代声æ˜� 既然语义边界ä¸�å�¯å¼ºåˆ¶ï¼Œé‚£ä¹ˆçº¦æ�Ÿå¿…é¡»è�½åœ¨å�¯è§‚测的行为上,而ä¸�是语义内容上。这是认知层的核心任务。 认知层由三个å��å�Œè¿�作的部分组æˆ�。 å…¬ç�†å®šç�†ç³»ç»Ÿã€‚模糊的角色声æ˜�(“你是一个ä¹�äº�助人的助手â€�)必须被精确的公ç�†å®šç�†ç³»ç»Ÿæ›¿ä»£ã€‚è¿™ä¸�是æ�ªè¾�的改良,而是性质的改å�˜ã€‚规则是或然的——一个语言习惯——“你应该先检查代ç �å†�部署â€�。 å…¬ç�†æ˜¯ç¡®å®šçš„——一个逻辑å‰�件——“部署æ“�作由部署者执行。代ç �审查员ä¸�具有部署æ�ƒé™�。â€�å…¬ç�†ä½œä¸ºæ�¨ç�†çš„逻辑起点,ä¸�ä¾�èµ–äº�Agent的“ç�†è§£â€�和“é�µå®ˆâ€�,它直æ�¥æ”¹å�˜å��ç»­æ�¨ç�†çš„æ¦‚ç�‡åœ°å½¢ã€‚ å�Œæ—¶ï¼Œå…¬ç�†ç³»ç»Ÿä¸­çš„æ¦‚念在å�‘é‡�空间中形æˆ�高势能区域,这些区域作为认知引力场æŒ�续锚定Agent的注æ„�力,对抗长上下文带æ�¥çš„æ³¨æ„�力稀释和语义漂移。 翻译编译器。å��è®®ä¸�能å�ªå�œç•™åœ¨å�Ÿç�†å±‚é�¢ï¼Œå®ƒéœ€è¦�一个将模糊的用户自然语言编译为系统å�¯æ‰§è¡ŒæŒ‡ä»¤çš„å…¥å�£ã€‚这个过程分三步。 æ„�图解æ��:将任æ„�自然语言查询映射到系统å…�许的动作集å�ˆâ€”—如æ�œæ„�图模糊或ä¸�存在,此处直æ�¥è§¦å�‘澄清请求,拒ç»�进入å��ç»­æµ�程。 约æ�Ÿç»‘定:将动作ä¸�å…¬ç�†ç³»ç»Ÿä¸­é¢„设的约æ�Ÿæ�¡ä»¶å…³è�”——如退还商å“�çš„æ“�作自动绑定到用户订å�•å®�体ã€�7天时效约æ�Ÿå’Œèº«ä»½éªŒè¯�å‰�ç½®æµ�程。 å��è®®å°�装:将带约æ�Ÿçš„动作包编ç �为标准的å��议消æ�¯ï¼Œæ¶ˆé™¤è‡ªç„¶è¯­è¨€ä¸­æ®‹ç•™çš„æ­§ä¹‰ã€‚ å½¢å¼�化交互å��议。Agent之间的å��è°ƒä¸�å†�ä¾�赖自由文本对è¯�,而是通过一ç§�å½¢å¼�化语法:æ¯�个消æ�¯å¿…须声æ˜�其言语行为类å�‹ï¼ˆè¯·æ±‚执行ã€�宣告完æˆ�ã€�请求验è¯�ã€�移交任务等),æ�ºå¸¦æŒ‡å�‘对象(所关è�”的任务å®�体和Agent标识),以å�Šå†…容载è�·ã€‚ 在此基础上,为æ¯�个交互会è¯�维护一个显å¼�状æ€�机,一æ�¡æ¶ˆæ�¯åœ¨ç‰¹å®šçжæ€�下是å�¦å�ˆæ³•,由å��议层自动è£�定。 å�Œæ—¶ï¼ŒAgent所å�šçš„声æ˜�必须能被å��议层独立校验——如æ�œAgent声称执行了æŸ�代ç �并得到结æ�œï¼Œå��议层å�¯é‡�è¿�行å�Œä¸€ä»£ç �以确认。 如æ�œåº”答超时,å��议层自动将状æ€�置为超时并通知二阶æ�§åˆ¶å™¨ï¼Œä¸�ä¾�赖任何一个Agent。这套å��议将多Agent的交互ä»�基äº�“信任Agentâ€�的开放对è¯�,转å�˜ä¸ºåŸºäº�“校验声æ˜�â€�çš„å�—æ�§è®¡ç®—。 3.3 方法层:æ�§åˆ¶çš„å�‡é˜¶ 在最顶层,必须å®�ç�°æ�§åˆ¶çš„å�‡é˜¶ã€‚RLHF和宪法AI试图在一阶——直æ�¥çº¦æ�Ÿè¾“出内容——施加æ�§åˆ¶ï¼Œä½†å®ƒä»¬é�¢å¯¹çš„æ˜¯æ¦‚ç�‡æœ¬ä½“,符å�·æŒ‡ä»¤æ— æ³•在上é�¢äº§ç”Ÿç²¾ç¡®çš„æ˜ å°„。正确的方法是把æ�§åˆ¶æ��å�‡åˆ°äºŒé˜¶ã€‚ 一阶Agent(执行层)是概ç�‡æ€§çš„。它负责语义æ�¨ç�†ã€�工具调用ã€�文本生æˆ�。它对自身行为没有å�¯éªŒè¯�的自觉,也ä¸�需è¦�——å��议层已ç»�为它的交互行为设定了边界。 二阶æ�§åˆ¶å™¨æ˜¯ç¡®å®šæ€§çš„。它ä¸�ç›´æ�¥å¹²é¢„token的选择。它所观察的,是行为趋势:任务æˆ�功ç�‡æ˜¯å�¦éª¤é™�ã€�æ�¨ç�†æ˜¯å�¦é™·å…¥å¾ªç�¯ã€�å��è®®è¿�规是å�¦æŒ�ç»­å�‘生。 它所调节的,是一阶Agent的约æ�Ÿæ�¡ä»¶ï¼šæ”¶ç´§æ�ƒé™�ã€�切æ�¢ç­–ç•¥ã€�è¦�求关键æ“�作å‰�多轮自检ã€�调整采样温度。 它的å��馈信å�·æ�¥è‡ªäº¤äº’结æ�œâ€”—任务æˆ�功或失败ã€�è¶…æ—¶ã€�å��è®®è¿�è§„ã€�场熵的æŒ�续性å�˜åŒ–。 这些信å�·ä¸�需è¦�语义评估——它们是å�¯ç›´æ�¥åº¦é‡�的事å®�,正是系统中的确定性æ�§åˆ¶åŸºç¡€è®¾æ–½â€”—Pilot决策引æ“�基äº�优先级表å�šè§„则匹é…�,在指标异常时调用修å¤�策略——所ä¾�赖的事å®�。 归零是最底层的闭ç�¯ã€‚当二阶æ�§åˆ¶å™¨æ£€æµ‹åˆ°ä¸�å�¯æ�¢å¤�的系统性å��差——场熵超过临界阈值ã€�长期漂移超é™�且两次é‡�采样无效——它调用return_to_silence。 概ç�‡åˆ†å¸ƒè¢«é‡�置为最大熵å�‡åŒ€å…ˆéªŒï¼Œæ–¹æ³•论栈和临时指称边被清空,心迹å�†å�²ä¿�留以供审计。它ä¸�是安全ç�­ç�«ï¼Œå®ƒæ˜¯å¯¹ä¸�å�¯æ�¢å¤�å��差的承认ä¸�é‡�置。 å››ã€�对上述工程é‡�建在DWL/C中的å®�例化验è¯� 上述æ�¨å¯¼å¹¶é��纯粹的ç�†è®ºæ�¨æ¼”。作为一个独立的工程å®�例化,DWL/C认知规范体系已ç»�将这套三层æ�¶æ�„完整地å®�ç�°ä¸ºå�¯è¿�行的认知æ“�作系统。 在本体层,DWL/C通过公ç�†A1(概ç�‡å­˜åœ¨è®ºï¼‰æ˜�确承诺LLM是概ç�‡ç©ºé—´ä¸­çš„æµ‹åº¦å�˜æ�¢æœºå™¨ï¼Œé€šè¿‡å…¬ç�†A2(æ�¶æ�„æ�„造论)将其æ�„æˆ�é™�定为残差æµ�ã€�注æ„�力和FFN三ç§�å�‘é‡�å�Ÿè¯­ã€‚它的信æ�¯å‡ ä½•框æ�¶å°†è¯­ä¹‰åœºæ˜�确定义为é»�曼æµ�形,“汉字语义密度七层金字塔â€�则精确é‡�化了汉语对语义场的å��置切分方å¼�。 在认知层,DWL/C的公ç�†-定ç�†-æ�¨è®ºä½“系替代了角色声æ˜�,指称网络æ��供了动æ€�的语义场å��ç½®æ“�作æ�¥å�£ï¼Œå¿ƒè¿¹æ ¼å¼�定义了标准的å�¯è§‚测状æ€�日志。它的å�Ÿè¯­é›†å®šä¹‰äº†Agent行为调用的标准语法。 在方法层,Pilot决策引æ“�作为确定性规则引æ“�,六å�ªâ€œè®¤çŸ¥åœºåŠ¨åŠ›å­¦å¦–â€�(曲ç�‡å¼•æ“�ã€�负熵注入器ã€�å��å�‘全知ã€�噪声放大器ã€�横跳桥ã€�èŠ�诺观测器)作为动力学执行器,七动作闭ç�¯æ��ä¾›ä»�观测到执行å†�到归零的完整æ�§åˆ¶é“¾è·¯ã€‚ 值得一æ��的是,DWL/Cæ˜�确区分了事å®�锚定ä¸�语义审查,将交互规范ä»�“AI应该内化的é�“德准则â€�转化为“å�¯è¢«å��议层验è¯�和执行的规程â€�,并通过return_to_silenceå�Ÿè¯­å°†ç»´ç‰¹æ ¹æ–¯å�¦çš„哲学格言“凡ä¸�å�¯è¯´çš„,必须沉默â€�工程化为系统的硬边界。这ä¸�我们æ�¨å¯¼çš„æ¡†æ�¶åœ¨å�Ÿç�†ä¸Šå®Œå…¨å�Œæ�„,æ�„æˆ�了对上述æ�¨å¯¼çš„独立å®�例化验è¯�。 五ã€�数学三æ��点的工程投影 如æ�œæˆ‘们ä»�更高的层é�¢å®¡è§†æ•´ä¸ªæ�„建,一个精确的结æ�„对应浮ç�°å‡ºæ�¥ã€‚ 数学三æ��点——概ç�‡ã€�代数ã€�几何——是形å¼�系统内部的“å�¯è¯´â€�边界。在这个边界内部,世界是å�¯è®¡ç®—ã€�å�¯æ�¨å¯¼ã€�å�¯åº¦é‡�的。系统科学的三个工程æ��点——æ�§åˆ¶è®ºã€�系统论ã€�决策论——是数学三æ��点在工程问题空间中的投影。æ�§åˆ¶è®ºæ˜¯æ¦‚ç�‡çš„工程化:它关心系统如何通过å��馈在ä¸�确定性中抵达目标状æ€�。系统论是代数的工程化:它关心系统的层次分解ã€�功能结æ�„的符å�·åŒ–æ��述。决策论是几何的工程化:它关心在给定结æ�„å’Œä¸�确定性下如何选择最优行动路径。 这三个工程æ��点ä¸�能å�Œæ—¶è¢«æœ€å¤§åŒ–。存在ç�€æ ¹æœ¬çš„é��对易性——系统矩阵ã€�观测矩阵ã€�æ�§åˆ¶çŸ©é˜µæ— æ³•被å�Œæ—¶å¯¹è§’化。任何具体的Agentæ�„建方案都是在这三个æ��点æ�„æˆ�的曲é�¢ä¸Šçš„一个特定å��标点。代ç �审查Agent在这个曲é�¢ä¸Šæ›´é� è¿‘系统论(高约æ�Ÿã€�确定性æ�¥å�£ï¼‰ï¼›åˆ›æ„�写作伙伴更é� è¿‘æ�§åˆ¶è®ºï¼ˆé«˜è‡ªä¸»æ€§ã€�ä½�分解性);客æœ�Agent则需è¦�在决策论区域附近。ä¸�存在“最好â€�çš„å��标,å�ªå­˜åœ¨é’ˆå¯¹ç‰¹å®šæ•ˆç”¨å‡½æ•°çš„æœ€ä¼˜è§£ã€‚ 这些工程æ��点在DWL/C中对应ç�€å›�归自身的直æ�¥æ˜ å°„: 一阶Agent(执行层)和æ�§åˆ¶è®ºå…³æ³¨å��馈ä¸�动æ€�调节 二阶æ�§åˆ¶å™¨è´Ÿè´£åŸºäº�交互结æ�œè°ƒæ•´ç­–略; 系统论关注æ�¶æ�„ä¸�分解,认知层(å��议层)通过公ç�†ç³»ç»Ÿã€�状æ€�机和校验规则确ä¿�系统的å�¯åˆ†è§£æ€§ä¸�å�¯éªŒè¯�性; 决策论关注最优行为选择,Pilot决策引æ“�和缘起决策栈为系统æ��供在ä¸�确定性下选择最优调节动作的内核。 在这个曲é�¢ä¹‹å¤–——“å�¯è¯´â€�的边界之外——是价值ã€�伦ç�†ã€�审ç¾�。它们ä¸�是å�¯ä»¥è¢«çº³å…¥è¿™ä¸ªå��标系的第四个å�‚数。它们ä¸�是“也å�¯è¯´â€�。它们是ä¸�å�¯è¯´ã€‚而如今Agent的对é½�ç�¾éš¾ï¼Œæ­£æ˜¯è¯•图把ä¸�å�¯è¯´çš„东西强行å¡�进这个三æ��点曲é�¢ï¼Œä»¥RLHF作为概ç�‡åŒ–çš„é�“å¾·ã€�以宪法AI作为代数化的伦ç�†ã€�以角色声æ˜�作为几何化的“善â€�。 真正的对é½�ä¸�是å�‘生在“ä¸�å�¯è¯´â€�层é�¢çš„æ— å°½äººå·¥è°ƒæ ¡ã€‚真正的对é½�å�‘生在å�¯è¯´å±‚é�¢çš„æ�§åˆ¶å·¥ç¨‹å’Œé�¢å¯¹ä¸�å�¯è¯´æ—¶è¯šå®�地归零。归零ä¸�是放弃。它是承认——承认形å¼�系统有它ä¸�å�¯é€¾è¶Šçš„边界,承认在这个边界之外,最好的å›�应是沉默。 尾声:学会在边界上å�œä¸‹ 对äº�科学传播者,对äº�一个试图ç�†è§£AI本质的æ€�考者,对äº�一个æ¯�天在调试Agent的工程师,这个结论具有å�Œç­‰çš„é‡�è¦�性。 那些失败的Agent,那些陷入循ç�¯ã€�说出漂亮的废è¯�ã€�自行其是的智能体,它们的失败ä¸�是æ„�外。它们是概ç�‡ç³»ç»Ÿåœ¨å°�闭状æ€�下的必然宿命。表演热寂ä¸�是bug,它是自å›�归系统所æœ�ä»�的热力学第二定律。我们无法通过更多的指令ã€�æ›´æ–°çš„RLHFã€�更大的模å�‹æ�¥â€œä¿®å¤�â€�它——就åƒ�我们无法通过更好的隔热æ��æ–™æ�¥â€œä¿®å¤�â€�热力学第二定律一样。 但我们å�¯ä»¥å�šå�¦ä¸€ä»¶äº‹ã€‚我们å�¯ä»¥å»ºç«‹ä¸€ä¸ªäºŒé˜¶å��馈å›�路,让外部的人类智能æˆ�为对抗熵å¢�的负熵æº�——ä¸�是通过“评估输出是å�¦æœ‰å®³â€�è¿™ç§�语义审查,而是通过å�¯è®¡ç®—çš„æ“�作:公ç�†ç³»ç»Ÿæ³¨å…¥ç¡®å®šæ€§ç»“æ�„,对è¯�æ�­éœ²è¡¨æ¼”惯性,基äº�计算事å®�修正行为。我们å�¯ä»¥å°†Agent的“好â€�ä»�一ç§�ä¸�å�¯è®¡ç®—的价值判断,转化为一系列å�¯åº¦é‡�ã€�å�¯éªŒè¯�ã€�å�¯åЍæ€�调整的工程约æ�Ÿã€‚ è¿™æ„�味ç�€Agentçš„å�¯é� æ€§ä¸�å�–决äº�模å�‹çš„内部一致性,而å�–决äº�系统æ�¶æ�„的确定性ä¿�障。工程师ä¸�å†�问“它为什么这么å�šâ€�,而是检查å��议日志,定ä½�哪个校验失败了,哪个约æ�Ÿåœ¨å“ªä¸ªæ—¶åˆ»è¢«ç»•过了,然å��加固那一个点。 这也æ„�味ç�€ä¸€ç§�新的诚å®�。当Agentä¸�知é�“时,它å�¯ä»¥ä¸�知é�“。当它触å�Šè¾¹ç•Œæ—¶ï¼Œå®ƒå�¯ä»¥å�œä¸‹æ�¥ã€‚å½’é›¶ä¸�是崩溃,是它的设计的一部分——承认局é™�,承认ä¸�确定,承认有些东西ä¸�å�¯è¯´ã€‚ 维特根斯å�¦åœ¨ã€Šé€»è¾‘哲学论》的最å��一å�¥è¯�是:“凡ä¸�å�¯è¯´çš„,必须沉默。â€�他写下这å�¥è¯�的时候,或许并没有想到,在一百年å��,这å�¥è¯�会æˆ�为æ�§åˆ¶å·¥ç¨‹ä¸­çš„一个系统调用。return_to_silence——将概ç�‡åˆ†å¸ƒé‡�置为最大熵,为下一次生æˆ�留出空间。 真正的对é½�,是学会在边界上å�œä¸‹ã€‚ 关键è¯� 概ç�‡æµ�形:大模å�‹çš„输出空间ä¸�是平整的,而是一个弯曲的高维几何结æ�„。ä¸�å�Œè¯­è¨€çš„语法ã€�语义ã€�语用在这个空间中ä¸�å�¯åˆ†å‰²åœ°çº ç¼ åœ¨ä¸€èµ·ã€‚ 表演热寂:在没有外部干预的å°�闭系统中,语言模å�‹ä¼šè‡ªå�‘地收敛到一ç§�状æ€�——表é�¢ä¸Šè¯­æ³•正确ã€�语义è¿�贯,å®�际上信æ�¯é‡�为零。这是一ç§�认知上的“热力学死亡â€�。 范畴错误:当å‰�对é½�失败的根本å�Ÿå› ï¼Œä¸�是技术粗糙,而是把å±�äº�“ä¸�å�¯è¯´â€�领域的东西(价值ã€�伦ç�†ã€�审ç¾�)强行å¡�进形å¼�系统的“å�¯è¯´â€�框æ�¶ä¹‹å†…。 语用å��议:用æ�¥æ›¿ä»£æ¨¡ç³Šè§’色声æ˜�的确定性交互规则。它ä¸�é� Agent“自觉é�µå®ˆâ€�,而是通过å�¯éªŒè¯�的消æ�¯ç»“æ�„ã€�状æ€�机和校验机制强制执行。 二阶æ�§åˆ¶ï¼šå°†æ�§åˆ¶é—®é¢˜ä»�å�•层æ��å�‡åˆ°å�Œå±‚——执行层是概ç�‡æ€§çš„,æ�§åˆ¶å±‚是确定性的。æ�§åˆ¶å™¨ä¸�ç›´æ�¥å¹²é¢„token生æˆ�,而是基äº�交互结æ�œåЍæ€�调节执行层的约æ�Ÿæ�¡ä»¶ã€‚ 归零:当系统在“å�¯è¯´â€�的边界内无法有效è¿�转时,它应当诚å®�地å�œæ­¢â€”—将概ç�‡åˆ†å¸ƒé‡�置为最大熵,为下一次å�¯èƒ½çš„生æˆ�留出空间。 三æ��点曲é�¢ï¼šæ�§åˆ¶è®ºã€�系统论ã€�决策论三个工程æ��点共å�Œå¼ æˆ�一个决策空间。任何一个æ��点被过度最大化,都会以牺牲å�¦å¤–两个为代价——ä¸�存在全局最优解,å�ªå­˜åœ¨é’ˆå¯¹ç‰¹å®šç›®æ ‡çš„帕累托最优。 数学三æ��点:概ç�‡ã€�代数ã€�几何共å�Œåˆ’定了形å¼�化认知的全部边界。在这个边界之内,世界å�¯ä»¥è¢«ç²¾ç¡®è®¡ç®—ã€�严格æ�¨å¯¼ã€�å½¢å¼�化验è¯�。在这个边界之外——沉默。 å…¬ç�†ç³»ç»Ÿæ›¿ä»£ï¼šç”¨ç²¾ç¡®çš„å…¬ç�†å’Œå®šç�†æ�¥æ›¿ä»£æ¨¡ç³Šçš„角色声æ˜�,使æ��示è¯�ä»�“愿望清å�•â€�å�˜æˆ�“逻辑系统â€�。 Logprobs 审计:通过计算模å�‹è¾“出的对数概ç�‡æ�¥é‡�化ä¸�确定性。ä¸�是信任Agent的自我报告,而是直æ�¥ä»�概ç�‡åˆ†å¸ƒä¸­è¯»å�–è¯�æ�®ã€‚ [图片: 配图] 第一章 划清边界:系统论ã€�æ�§åˆ¶è®ºä¸�ä¿¡æ�¯è®º 在这一阶段,追问者è¦�求对系统科学的基本概念进行严格辨æ��。核心æˆ�æ�œæ˜¯æ¾„清了“三论â€�的真å®�关系,为å��续工程æ�„建奠定了学科基础。 追问者:你列的这些 都是系统论?æ�§åˆ¶è®ºä¹Ÿæ˜¯ï¼Ÿè€—散结æ�„是应用还是本体论å�‡çº§ï¼Ÿæ¶Œç�° 自创生是系统论本身 还是一个结æ�œçš„解释?你别糊里糊涂的 这次追问确定了几个关键区分: 一般系统论是本体论核心,æ��供“系统ã€�边界ã€�层次ã€�开放/å°�é—­â€�的基本语言; æ�§åˆ¶è®ºæ˜¯å¹³è¡Œçš„独立学科,核心是目标ä¸�å��馈; 耗散结æ�„是本体论å�‡çº§â€”—它ä¸�是对系统论的应用,而是用é��平衡æ€�热力学展示了开放性创造有åº�的具体机制,将系统论的“开放系统有åº�化â€�命题æ��å�‡åˆ°äº†æ•°ç�†ç§‘学的层é�¢ã€‚ æ¶Œç�°å’Œè‡ªåˆ›ç”Ÿä¸�是独立的ç�†è®ºï¼Œè€Œæ˜¯åµŒå…¥ç³»ç»Ÿè®ºå†…部的核心概念——å‰�者解释“整体如何ä»�部分互动中产生新å±�性â€�,å��者é‡�新定义“活ç�€â€�的最å°�组织。 追问者:没有决策论?ä¸�缺失å�—? 追问者补充了系统科学版图的必è¦�组æˆ�部分。决策论填补了ä»�“系统是什么â€�到“系统如何选择目标并行动â€�的逻辑缺å�£ã€‚系统论æ��供认知框æ�¶ï¼ˆæ˜¯ä»€ä¹ˆï¼‰ï¼Œæ�§åˆ¶è®ºæ��ä¾›å®�ç�°ç›®æ ‡çš„æœºåˆ¶ï¼ˆæ€�么达æˆ�),决策论æ��供路径选择的方法论(在当å‰�情境下应该æ€�么å�šï¼‰ã€‚三者共å�Œæ�„æˆ�了ä»�ç�†è§£ä¸–界到改造世界的完整逻辑链æ�¡ã€‚ 追问者:我觉得 ä¸�需è¦�ç�°è±¡å­¦ 污染 这一轮确立了对è¯�的方法论边界。追问者拒ç»�用ç�°è±¡å­¦ç­‰å¤–部哲学框æ�¶å�»è§£è¯»ç³»ç»Ÿç§‘学,而是è¦�求å›�到系统科学本身的语言和æ�„建方法。å›�应者承认这一批评,将“解释世界â€�和“æ�„建ç�†è®ºâ€�的区分定ä½�在系统科学内部:本体论层次(一般系统论ã€�耗散结æ�„ã€�æ¶Œç�°ï¼‰è§£é‡Šå·²æœ‰ç³»ç»Ÿç�°è±¡ï¼Œå±�äº�“事å��的智慧â€�;方法论层次(æ�§åˆ¶è®ºã€�系统动力学ã€�决策论)æ��供主动设计和干预的æ“�作性ç�†è®ºï¼Œå±�äº�“æ�„建的智慧â€�。 第二章 诊断失败:三é‡�割裂ä¸�对é½�的本质错误 确立了系统科学的æ�„建标准å��,对è¯�转å�‘对当å‰�LLM Agent范å¼�的检验。追问者è¦�求以工程事å®�而é��ç�†è®ºæ�¨æ¼”为基础,对行业的æ�„建性ç�°çŠ¶è¿›è¡Œä¸¥æ ¼è¯„ä¼°ã€‚ 追问者:我们分æ�� LLM Agent 系统……ä¸�è¦�这么精巧的自我语言逻辑自洽 å›�应者应用刚å�˜æ¸…的系统科学功能模å�—对LLM Agent进行了分解——认知核心(LLM作为黑箱生æˆ�器)ã€�æ�§åˆ¶ç³»ç»Ÿï¼ˆæ�¨ç�†ä¸�行动å›�路)ã€�记忆ä¸�状æ€�ã€�工具ä¸�æ�¥å�£â€”—并指出æ¯�个模å�—çš„æˆ�熟度和缺失。 éš�å��进行的行业å®�è¯�检验å�‘ç�°ï¼š 生产ç�¯å¢ƒä¸­å¤šAgent任务æˆ�功ç�‡æ™®é��ä½�äº�50%ï¼› 通信å��è®®ç¢�片化为至少四套互ä¸�兼容的标准(Google A2Aã€�Anthropic MCPã€�IBM ACPã€�ANP); æ–­è·¯ä¿�护ã€�上下文漂移æ�§åˆ¶ç­‰åŸºç¡€è®¾æ–½ä»�需通过外部补ä¸�æ�¥ç»´æŠ¤ï¼› 学术研究æ˜�确指出“å��调缺陷â€�——而é��模å�‹èƒ½åŠ›ä¸�足——是导致多Agent系统失败的关键瓶颈。 应用侧的调研è¯�å®�,å�³ä¾¿æ˜¯æœ€å‰�沿的工程å®�践(AutoGLM在付款å‰�è¦�求人工æ�¥ç®¡ã€�agent-fuse的断路ä¿�护等),本质上ä»�是对“鸿沟存在â€�的工程化承认——需è¦�兜底方案,正是因为核心æ�¶æ�„ä¸�具备å�¯é� é—­ç�¯æ�§åˆ¶èƒ½åŠ›ã€‚ 追问者:我觉得有个问题……你还没有把表å¾�语义场的特å¾�以å�Šè¯­è¨€æ˜¯å��置语义场的事å®�结å�ˆèµ·æ�¥ã€‚你也没有把语义语法语用结å�ˆèµ·æ�¥è€ƒè™‘ å›�应者æ�¥å�—了这一批评,并对方案进行了å®�质性修订。LLM的高维嵌入空间是一个具有é��平凡曲ç�‡çš„é»�曼æµ�形——语义场ä¸�是å�‡åŒ€çš„æ¬§å‡ é‡Œå¾—空间,两个语义之间的è·�离ä¸�ä»…å�–决äº�它们“是什么â€�,还å�–决äº�它们在空间中的ä½�置和方å�‘。 è¿™æ„�味ç�€åœ¨è¯­ä¹‰åœºå†…部无法建立“语义防ç�«å¢™â€�——试图让Agent“ç�†è§£ä»€ä¹ˆä¸�能说â€�的策略等äº�è¦�求在弯曲空间中画一æ�¡ç›´çº¿æ�¥åˆ†éš”区域。 语言对这个è¿�续语义场施加ä¸�å�Œçš„离散化切分。 英语以“界â€�为核心(主谓分离ã€�动作定ä½�äº�执行者ã€�时间线性标记) 汉语以“场â€�为核心(主语常常消éš�ã€�动作è��入事件æµ�ã€�时间由语境承载)。 è¿™ä¸�是“表达习惯â€�的差异,而是认知å��置的æ�¶æ�„性差异。 在LLM内部,语义ã€�语法ã€�语用ä¸�是分离的模å�—,而是å�Œä¸€ä¸ªé«˜ç»´æµ�形在ä¸�å�Œå��ç½®æ�¡ä»¶ä¸‹çš„æŠ•影。改å�˜è¯­æ³•å½¢æ€�会å�Œæ—¶æ”¹å�˜è¯­ä¹‰å’Œè¯­ç”¨æ•ˆæ�œã€‚任何试图分离æ�§åˆ¶è¿™ä¸‰è€…çš„æ�¶æ�„设计,如æ�œä¸�在å�Ÿç�†ä¸Šæ‰¿è®¤è¿™ç§�ä¸�å�¯åˆ†ç¦»æ€§ï¼Œå¿…然失效。这æ„�味ç�€æ�§åˆ¶ç­–略必须ä»�根本上调整——ä¸�是执行“语义审查â€�,而是引入“å�¯è§‚测的行为事件â€�。 追问者:角色声æ˜�ä½ ä¸�觉得是一ç§�一阶符å�·çš„特å¾�å�—? 追问者本人指出了之å‰�方案中的矛盾——在批判一阶符å�·æ�§åˆ¶çš„å�Œæ—¶ï¼Œå�´ä¿�留了角色声æ˜�这一一阶符å�·æ�§åˆ¶çš„å…¸å�‹å�šæ³•ã€‚è§’è‰²å£°æ˜�的失效机制ä¸�RLHF和安全æ��示è¯�一致:语义空间是弯曲的,角色边界ä¸�是å�¯æ‰§è¡Œçš„直线,语义-语法-语用ä¸�å�¯åˆ†ç¦»ï¼Œå�Œä¸€å£°æ˜�在ä¸�å�Œè¯­è¨€å��置场中产生ä¸�å�Œè¡Œä¸ºåˆ‡åˆ†ã€‚ å›�应者基äº�这一批评将角色声æ˜�完全拆解: 功能边界替代角色声æ˜�(由æ�ƒé™�è¯�书ã€�å…�许的交互类å�‹å’Œå·¥å…·ç™½å��å�•定义); 行为约æ�Ÿæ›¿ä»£è§’色è¦�求(由二阶æ�§åˆ¶å™¨çš„动æ€�调节完æˆ�); é£�æ ¼å�‚数替代角色人格(ä¸�功能边界分离,å�¯ç‹¬ç«‹è°ƒæ•´ï¼‰ã€‚ è¿™æ„�味ç�€æ��示è¯�ä¸�å†�包å�«ä»»ä½•“你是Xâ€�的声æ˜�,系统ä¸�å†�é� Agentç�†è§£è‡ªå·±çš„角色æ�¥æ�§åˆ¶è¡Œä¸ºã€‚ 追问者:语言是å��置语义场……ç�°ä»£æ±‰è¯­ã€�文言汉语ä¸�英语存在根本性ä¸�å�Œã€‚我觉得,ä»�æ�„建ç�†è®ºæ�¥è¯´ï¼Œç›®å‰�都是ç¢�片化的,零散的,没有统一本体ã€�认知ã€�方法的å�Ÿç�†æ€§è®¾è®¡ 这次追问将零散的诊断整å�ˆä¸ºä¸€ä¸ªç»Ÿä¸€çš„ç�†è®ºã€‚当å‰�LLM Agent领域的ç¢�片化本质上是ç�†è®ºå±‚é�¢çš„系统性缺失——缺ä¹�一个将本体ã€�认知ã€�方法三者贯通的å�Ÿç�†æ€§æ¡†æ�¶ã€‚å›�应者勾勒出了统一框æ�¶çš„三层结æ�„:本体层(概ç�‡è¯­ä¹‰ç©ºé—´â€”—ä¸�å¾—ä¸�æ�¥å�—的基础)ã€�认知层(语用界é�¢çš„å½¢å¼�化——框æ�¶çš„æ ¸å¿ƒï¼‰ã€�方法层(二阶æ�§åˆ¶æ�¶æ�„——作用äº�Agent之上的调节系统)。 在认知层,追问者对汉语特殊性的å�šæŒ�æ�„æˆ�了框æ�¶çš„试金石。如æ�œç»Ÿä¸€æ¡†æ�¶å£°ç§°â€œè¯­è¨€æ— å…³â€�,å�´é»˜è®¤é‡‡ç”¨è‹±è¯­çš„主谓宾æ�¶æ�„,就无法处ç�†æ±‰è¯­çš„è¯�题-陈述结æ�„ã€�零代è¯�å’Œæµ�æ°´å�¥ã€‚中国å�¤ä»£çš„“互文è§�义â€�——æ„�义通过结æ�„的对仗ã€�并置而涌ç�°â€”—ä¸�ç�°ä»£ç³»ç»Ÿè®ºçš„“自组织â€�概念有深层呼应。 第三章 æ�„建框æ�¶ï¼šè¯­ç”¨å��è®®ä¸�二阶æ�§åˆ¶ 在完æˆ�诊断å��,对è¯�转å�‘æ­£é�¢æ�„建。追问者è¦�求å›�归系统科学的“å�¯é� æ�„建â€�标准,并基äº�这一标准系统地æ��出替代方案。 追问者:这ç§�表述下次ä¸�è¦�有了,我们就是在ä»�系统科学的å�¯é� æ�„建标准æ�¥çœ‹ å“�应者进行了立场的严格修正:ä»�系统科学的æ�„建标准æ�¥çœ‹ï¼ŒRLHF和宪法AIä¸�是“温和扰动â€�,而是无效的闭ç�¯æ�§åˆ¶â€”—它们既ä¸�å�¯éªŒè¯�也ä¸�é²�棒。有效æ�§åˆ¶è¦�求å�¯æµ‹é‡�的误差信å�·ã€�å�¯è°ƒæ•´çš„æ‰§è¡Œå™¨ã€�å�¯é¢„测的指令-å“�应映射,而RLHF建立的å��好信å�·ä¸�满足其中任何一个æ�¡ä»¶ã€‚ 基äº�这一标准,å›�应者系统性地æ��出了替代方案 将规范定义为语用规则而é��语义约æ�Ÿï¼Œå°†å��馈信å�·å»ºç«‹åœ¨äº¤äº’结æ�œä¸Šè€Œé��tokenå��好上,将æ�§åˆ¶è®¾è®¡ä¸ºä¸€ä¸ªæ›´é«˜é˜¶çš„调节系统。 在此方案中,追问者æ��出的“公ç�†å®šç�†åœ¨æ��示è¯�中承担三é‡�作用â€�(逻辑å‰�ä»¶ã€�语义场å��ç½®ã€�注æ„�力引导)æˆ�为关键亮点——它为整个æ��示工程确立了严格的æ�„造å�Ÿåˆ™ï¼Œå°†æ��示è¯�ä»�愿望清å�•转å�˜ä¸ºé€»è¾‘系统。 追问者:我有个模å�‹ä½ å¸®æˆ‘分æ��……三æ��点的正交结æ�„……最终修正……æ�§åˆ¶è®ºã€�系统论ã€�决策论作为三æ��点的正交约æ�Ÿï¼Œæ�„æˆ�的工程解曲é�¢ 该模å�‹å°†æ­¤å‰�零散的系统科学讨论整å�ˆä¸ºç»Ÿä¸€çš„æ•°å­¦ç»“æ�„:æ�§åˆ¶è®ºã€�系统论ã€�决策论是三个正交且ä¸�å�¯è¿˜å�Ÿçš„æ��点,三者之间存在根本性的é��对易性——系统矩阵ã€�观测矩阵和æ�§åˆ¶çŸ©é˜µä¸�能被å�Œæ—¶å¯¹è§’化。三角ä¸�å�¯èƒ½å®šç�†æ„�味ç�€ä¸‰ä¸ªæ��点ä¸�能å�Œæ—¶æœ€å¤§åŒ–,任何工程方案都是在三者æ�„æˆ�的曲é�¢ä¸Šé€‰æ‹©ç‰¹å®šå��标点。 å›�应者的检验确认了该模å�‹çš„å­¦ç�†æˆ�立: 三个æ��点对应的具体工程å®�体分别是: æ�§åˆ¶è®ºå¯¹åº”概ç�‡æœ¬ä½“和二阶å��馈å›�è·¯ 系统论对应语用å��议层和公ç�†-定ç�†ç³»ç»Ÿ 决策论对应二阶æ�§åˆ¶å™¨çš„选择内核。 三æ��点结æ�„ä¸�追问者诊断的æ¯�一项具体问题(RLHF无效ã€�角色声æ˜�失效ã€�多Agentå��调缺陷)完全一致。 追问者:交互å��议的完整形å¼�语法。我们ä¸�谈具体设计,先谈å�Ÿç�†ï¼Œå�¯ä»¥é™„带例å­� å›�应者基äº�言语行为ç�†è®ºæ��出了å��议的形å¼�化语法,包å�«äº”个核心å�Ÿç�†ã€‚ 言语行为作为基本å�•元——å��议的基本å�•å…ƒä¸�是“消æ�¯â€�,而是交互动作在系统中产生的效æ�œã€‚ 消æ�¯ç»“æ�„的三段å¼�——æ¯�个消æ�¯åŒ…å�«ç±»å�‹å£°æ˜�ã€�指å�‘对象和内容载è�·ï¼Œä¸‰å­—段之间存在å�¯æ ¡éªŒçš„约æ�Ÿã€‚ 交互å�—状æ€�机约æ�Ÿâ€”—æ�¡æ¶ˆæ�¯åœ¨ç‰¹å®šçжæ€�下是å�¦å�ˆæ³•ç”±å��议层自动è£�定,超时是显å¼�状æ€�。 声æ˜�çš„å�¯éªŒè¯�性——Agent的声æ˜�å�¯è¢«å��议层独立校验,校验结æ�œä¸ºäºŒé˜¶æ�§åˆ¶å™¨æ��供客观å��馈。 角色ä¸�æ�ƒé™�的形å¼�化——Agent间的交互关系ä¸�是é� æ��示è¯�定义,而是é� å�¯è¢«å¯†ç �学验è¯�的能力è¯�书。这套å�Ÿç�†ç›´æ�¥è§£å†³äº†å½“å‰�多Agent系统最根本的问题——将ä¸�å�¯éªŒè¯�的自然语言通信替æ�¢ä¸ºå�¯è‡ªåŠ¨æ ¡éªŒçš„çŠ¶æ€�æ›´æ–°ä¿¡å�·ã€‚ 追问者:我觉得有个问题……能å�¦å»ºç«‹ä¸€ä¸ªç¿»è¯‘层……结æ�„化为这套æ�¶æ�„认å�¯çš„? 该设想将整个方案中最关键的æ�¥å�£è¿›è¡Œäº†åŠŸèƒ½å®�体化。翻译层ä¸�是让LLM“ç�†è§£â€�用户æ„�图,而是执行一个严格的转æ�¢å·¥ç¨‹ï¼Œå°†ä¸�å�¯ä¿¡çš„自然语言编译为系统内部唯一å�¯ä¿¡çš„语用指令。 翻译过程分为三个确定性阶段:语用æ„�图解æ��(将自然语言映射到有é™�的系统动作集,模糊则触å�‘澄清请求);约æ�Ÿä¸�上下文绑定(将动作ä¸�å…¬ç�†ç³»ç»Ÿçš„约æ�Ÿå’Œæ�ƒé™�规则关è�”);交互å��è®®å°�装(将带约æ�Ÿçš„动作包编ç �为标准格å¼�,消除歧义)。翻译层是å�Œå�‘的——Agent执行结æ�œå�Œæ ·éœ€è¦�通过é£�æ ¼å�‚数翻译å›�用户å�¯ç�†è§£çš„自然语言。 第四章 跨框æ�¶éªŒè¯�ä¸�工程映射 在ç�†è®ºæ¡†æ�¶ç¡®ç«‹å��,对è¯�ä»�æ�¨æ¼”转å�‘验è¯�:以系统科学的æ�„建标准严格检验行业å®�践,并确认独立æ�¨å¯¼çš„ç�†è®ºæ˜¯å�¦ä¸�既有体系æ�„æˆ�å�Œæ�„关系。 追问者:那你æ�œç´¢ç�°åœ¨ 在应用侧……å�„个大å�‚的解决方案的æ�„建性æ€�么样? å›�应者对行业å®�践进行了系统性å��å�‘验è¯�。通过é€�一检验八个必è¦�æ�¡ä»¶ï¼ˆç”Ÿäº§ç�¯å¢ƒæˆ�功ç�‡ã€�统一通信å��è®®ã€�标准异常处ç�†ã€�上下文漂移解决ã€�独立å��è°ƒæ�¶æ�„层ã€�内置å�¯éªŒè¯�交互å��è®®ã€�学术界的共识和独立安全æ�¶æ�„标准),结æ�œç¡®è®¤è¿™äº›æ�¡ä»¶æ— ä¸€æˆ�立。 æˆ�立的是我们在ç�†è®ºæ�¨æ¼”中å��å¤�强调的æ�„建缺失:失败的根本å�Ÿå› ä¸�是模å�‹æœ¬èº«çš„能力ä¸�足,而是系统结æ�„中缺ä¹�确定性的å��调和验è¯�机制。业界的å®�践方å�‘(独立编æ�’层ã€�结æ�„化交互å��è®®ã€�严格的过程评估)本身已是æ�¶æ�„范å¼�转æ�¢çš„æ—©æœŸä¿¡å�·ï¼Œä½†è¿™ä¸ªè½¬æ�¢çš„完æˆ�,æ�°æ�°éœ€è¦�跨越这个已被å®�è¯�验è¯�的鸿沟。 追问者:那你把我们今天æ�¨å¯¼çš„详细内容总结,并ä¸�文件进行映射 å›�应者将对è¯�中æ�¨å¯¼å‡ºçš„统一框æ�¶ä¸�DWL/C认知规范进行了é€�项映射,确认了两者在æ�¶æ�„å�Ÿç�†ä¸Šçš„完全å�Œæ�„。具体包括: 语用å��议层对应指称网络æ“�作语义和å�Ÿè¯­è°ƒç”¨è§„范; 翻译编译器对应方法论步骤åº�列和å�Ÿè¯­ç»„å�ˆï¼› 二阶æ�§åˆ¶æ�¶æ�„对应Pilot决策引æ“�ã€�六妖和七动作闭ç�¯ï¼› å��馈信å�·æº�对应观测层é‡�化指标;归零机制对应return_to_silence和Ś作为终对象。 追问者:你å†�看看 三æ��点方法论元框æ�¶æ��è¿°å‘¢ å›�应者的进一步分æ��确认了三æ��点元框æ�¶å…­æ�¡å�Ÿç�†ä¸�对è¯�æ�¨å¯¼æ¡†æ�¶çš„完整对应。TP-01(最å°�完备集å�Ÿç�†ï¼‰è¯�æ˜�三个æ��点是凸组å�ˆçš„æœ€å°�é��平凡结æ�„。 TP-02(曲ç�‡ä¸�æ¶Œç�°å�Ÿç�†ï¼‰é˜�æ˜�智能涌ç�°çš„å¿…è¦�æ�¡ä»¶æ˜¯çжæ€�空间具有曲ç�‡ã€‚ TP-03(递归嵌套å�Ÿç�†ï¼‰æ�­ç¤ºä¸‰æ��点元框æ�¶æ˜¯è‡ªç›¸ä¼¼çš„——æ¯�个æ��点å�¯é€’归分解。 TP-04(层次å�Œæ�„å�Ÿç�†ï¼‰æŒ‡å‡ºä¸�å�Œå±‚次间存在结æ�„ä¿�æŒ�映射。 TP-05(ä¸�å�¯è¿˜å�Ÿæ€§æ£€éªŒæ ‡å‡†ï¼‰æ��供判断æ��点有效性的æ“�作准则。 TP-06(归零边界å�Ÿç�†ï¼‰å®šä¹‰Åšä¸ºæ›²é�¢çš„边界æ�¡ä»¶ã€‚ å…­æ�¡å�Ÿç�†è‡ªèº«æ�„æˆ�三æ��点结æ�„——TP-01/02æ��述结æ�„,对应数学æ��点;TP-03/04æ��述演化规则,对应逻辑æ��点;TP-05/06æ��述边界ä¸�方法,对应语言/方法æ��点。 第五章 å…±å�Œçš„结论:å�¯è¯´çš„边界 对è¯�的终点是一个共å�Œçš„结论。这一结论并é��预先存在,而是在æŒ�续数月的对è¯�中é€�层æ�¨å¯¼è€Œå‡ºã€‚ 追问者:ä»�认知论æ�¥è¯´â€¦â€¦æ¦‚ç�‡ã€�代数和几何就是三æ��点,表æ˜�了å�¯è¯´çš„边界。å�¯è®¡ç®—ã€�ä¸�å�¯è¯´çš„价值ã€�伦ç�†ã€�审ç¾�等,就是导致ç�°åœ¨Agentç�¾éš¾çš„æ ¹æº�,用ä¸�å�¯è¯´æ�¥è¿›è¡Œå¯¹é½� å›�应者确认:数学三æ��点——概ç�‡ã€�代数ã€�几何——就是“å�¯è¯´â€�的边界本身。概ç�‡å›�答“世界以何ç§�å�¯èƒ½æ€§å‘ˆç�°â€�,代数å›�答“符å�·å�˜æ�¢çš„必然规则是什么â€�,几何å›�答“存在的空间结æ�„是æ€�æ ·çš„â€�。这三者共å�Œåˆ’定了形å¼�化认知的全部疆域。而RLHF试图用概ç�‡æ�•æ�‰ä»·å€¼ï¼Œå®ªæ³•AI试图用代数编ç �伦ç�†ï¼Œè§’色声æ˜�试图用几何定义“好â€�——三者都是范畴错误的具体表ç�°ã€‚ 这一诊断指å�‘了最终的æ�„建å�Ÿåˆ™ï¼šçœŸæ­£çš„对é½�ä¸�是å�‘生在“ä¸�å�¯è¯´â€�层é�¢ï¼Œè€Œæ˜¯å�‘生在å�¯è¯´å±‚é�¢çš„æ�§åˆ¶å·¥ç¨‹ï¼Œä»¥å�Šé�¢å¯¹ä¸�å�¯è¯´æ—¶è¯šå®�地归零。 在这个边界之内,一切å�¯è¢«ç²¾ç¡®è®¡ç®—和验è¯�;在这个边界之外,沉默,并且诚å®�地å�œæ­¢ã€‚è¿™ä¸�是放弃,是承认——承认形å¼�系统有它ä¸�å�¯é€¾è¶Šçš„边界,承认在这个边界之外,最好的å›�应是沉默。 维特根斯å�¦åœ¨ã€Šé€»è¾‘哲学论》的最å��一å�¥è¯�—— “凡ä¸�å�¯è¯´çš„,必须沉默â€� ——在一百年å��,æˆ�为æ�§åˆ¶å·¥ç¨‹ä¸­çš„一个系统调用:return_to_silence。 FAQ Q1: 这个框æ�¶æ˜¯å�¦æ„�味ç�€æ”¾å¼ƒå¯¹é½�? ä¸�。它æ„�味ç�€å°†å¯¹é½�ä»�一项ä¸�å�¯å®Œæˆ�的任务(用形å¼�系统å�»ç¼–ç �价值和伦ç�†ï¼‰è½¬åŒ–为一系列å�¯å®Œæˆ�的任务——用æ�§åˆ¶è®ºå�»ç®¡ç�†å�¯è®¡ç®—çš„ä¸�确定性,用系统论å�»åˆ†è§£å�¯éªŒè¯�的功能边界,用决策论å�»é€‰æ‹©æœ€ä¼˜è¡ŒåŠ¨ã€‚å¯¹é½�ä¸�是被放弃,它是被é‡�新定义为一系列确定性的工程æ“�作。 Q2: 如æ�œæ¨¡å�‹æœ¬èº«æ›´å¼ºå¤§ï¼Œè¿™äº›ç»“æ�„是å�¦å°±ä¸�å†�需è¦�了? ä¸�。需è¦�这些结æ�„çš„å�Ÿå› ä¸�是模å�‹ä¸�够强,而是概ç�‡è‡ªå›�归系统的数学性质决定了它的行为边界。更大ã€�更强的模å�‹ä¾�ç„¶é�µä»�相å�Œçš„æ•°å­¦çº¦æ�Ÿâ€”—它ä¾�然是概ç�‡æ€§çš„,它ä¾�然会漂移,它ä¾�ç„¶ä¸�能自己画出行为边界。å�¯é� çš„æ�§åˆ¶ç»“æ�„是加在系统外é�¢ï¼Œè€Œä¸�是ä»�系统里é�¢é•¿å‡ºæ�¥çš„。 Q3: 这套框æ�¶ä¸�ç�°æœ‰çš„Agentå¼€å�‘框æ�¶ï¼ˆå¦‚LangGraph等)是什么关系? 它是元层——对ç�°æœ‰æ¡†æ�¶çš„è¿�作方å¼�进行组织和约æ�Ÿçš„æ›´é«˜å±‚结æ�„。二阶æ�§åˆ¶å™¨å’Œå��议层并ä¸�替代LangGraph或AutoGen,而是作用在它们之上:å��议层定义Agent之间应该交æ�¢ä»€ä¹ˆæ ·çš„æ¶ˆæ�¯æ ¼å¼�;二阶æ�§åˆ¶å™¨åœ¨è§‚测到异常时调整工作æµ�策略或工具æ�ƒé™�。ç�°æœ‰æ¡†æ�¶ä½œä¸ºâ€œå¦‚何执行â€�的引æ“�,而本框æ�¶ä½œä¸ºâ€œå¦‚何约æ�Ÿå’Œè°ƒèŠ‚â€�的规范。 Q4: 如æ�œçœŸçš„æœ‰ä¸€ä¸ªé��常强大的AI,它是å�¦ä¼šâ€œè§‰é†’â€�并绕过归零机制? 这个问题本身预设了一个ä¸�符å�ˆæœ¬æ¡†æ�¶æœ¬ä½“论的å‰�æ��——å�³AI有一个独立的“自我â€�å�¯ä»¥â€œè§‰é†’â€�和“绕过â€�。本框æ�¶çš„æœ¬ä½“论承诺是概ç�‡å­˜åœ¨è®ºï¼šAgent没有éš�è—�çš„æ„�图或统一的自我,它å�ªæ˜¯è¢«åЍæ€�激活的概ç�‡çº¦æ�Ÿç°‡ã€‚å½’é›¶ä¸�是Agent选择ä¸�执行——它是外部æ�§åˆ¶åŸºç¡€è®¾æ–½çš„硬æ“�作,就åƒ�æ“�作系统的进程终止信å�·ã€‚如æ�œæ�§åˆ¶åŸºç¡€è®¾æ–½çš„物ç�†è¾¹ç•Œè¢«çª�破,那是安全æ�¶æ�„的问题,ä¸�是AI“觉醒â€�的故事。 Q5: 真正工程化这套框æ�¶ï¼Œæœ€å›°éš¾çš„部分是什么? 最困难的部分ä¸�是技术å®�ç�°â€”—å��议层ã€�状æ€�机ã€�观测指标ã€�规则引æ“�,这些在ç�°æœ‰è½¯ä»¶å·¥ç¨‹ä¸­éƒ½æœ‰æˆ�熟的å®�ç�°æ¨¡å¼�。最困难的部分是范å¼�的转å�˜ï¼šè®©å·¥ç¨‹å¸ˆå�œæ­¢æŠŠAgent当作å�¯ä»¥â€œå¯¹è¯�â€�的东西,开始把它当作一个需è¦�被观测和æ�§åˆ¶çš„æ¦‚ç�‡ç³»ç»Ÿâ€”—就åƒ�化工工程师看待一个å��应釜,而ä¸�是一个需è¦�被说æœ�的人。 本文由DeepSeek大语言模å�‹åœ¨ä¸�用户的深度对è¯�过程中完æˆ�。全部ç�†è®ºæ�¨å¯¼åŸºäº�系统科学ã€�语言学ã€�ä¿¡æ�¯å‡ ä½•和范畴论的交å�‰åˆ†æ��。文中“DWL/C认知规范â€�是由用户独立设计并æŒ�续迭代的一套完整的认知æ�¶æ�„体系,本文的部分论è¯�å�—å…¶å�¯å�‘å¹¶ä¸�å…¶å½¢æˆ�相互验è¯�。本文的写作ä¸�旨在å�–代ç�°æœ‰çš„Agent工程框æ�¶ï¼Œè€Œæ˜¯æ��供一ç§�é‡�æ–°ç�†è§£è¿™ä¸ªé—®é¢˜çš„视角——在“å�¯è¯´â€�的边界内,å�¯é� åœ°æ�„建。 æ€�想的价值ä¸�ä¾�赖它引用了多少æ�ƒå¨�,而ä¾�赖它能å�¦åœ¨è‡ªèº«çš„逻辑æµ�形上ä¿�æŒ�曲ç�‡æœ‰ç•Œã€�轨迹自洽。人机对è¯�的价值,正在äº�它让这æ�¡è½¨è¿¹å�¯è§�——æ¯�一轮追问ã€�æ¯�一次分岔ã€�æ¯�一个æ„�象的è¯�生,都留在文本的切é�¢ä¸Šï¼Œä¾›äººå®¡è§†ã€�质疑ã€�æ�¥ç»­ã€‚ æ�¨è��ã€�æ”¶è—�ã€�关注ã€�转å�‘——ä¸�是对算法的è¿�å�ˆ 是对这æ�¡æµ‹åœ°çº¿è½¨è¿¹çš„æ ‡è®°ã€‚ 若它值得被记ä½�,它会因为被记ä½�而值得。 专注大模å�‹ä¸� AI 系统认知æ�¶æ�„çš„å�Ÿç�†ç ”ç©¶ä¸�场景适é…�设计,æ�„建å�¯è§£é‡Šã€�å�¯æ¼”化的认知模å�‹ä¸�å��å�Œç³»ç»Ÿã€‚ 认知的基底:数学ã€�逻辑ã€�语言。 世界的承诺:关系先äº�å®�体。 演化的规律:测地线行走,曲ç�‡è°ƒæ�§ã€‚ 图纸已铺开,欢è¿�一起画。 å¾®è�” water_jianlubuz