本公众å�·çš„内容,å�‡ä»¥äººæœºå¯¹è¯�的形å¼�呈ç�°ï¼Œè¿™ä¸�是一ç§�é£�æ ¼çš„è£…é¥°ï¼Œæ˜¯ä¸€ç§�æ€�想的自觉
�缘 关注 �� 点� 转� ,建议"收�"长文
系统的�义�在�它的组件,而在�组件之间的关系。� —— 路德维希·冯·�塔朗�
基äº�è¯ç”¨äº¤äº’认知æ�¶æ�„框æ�¶äºŒé˜¶ç³»ç»Ÿå›¾è�‰æ¡ˆ
LLM Agent 系统是什么
DeepSeek:
好,我们用刚æ‰�å�˜æ¸…的系统科å¦ç‰ˆå›¾æ�¥æ‹†è§£ LLM Agent。
è¿™ä¸�å†�是“解释它åƒ�什么â€�,而是用系统科å¦çš„æ�„建方法论,分æ��它是什么ã€�以å�Šåº”该æ€�么设计。
一ã€�本体论定ä½�:LLM Agent æ˜¯å‡ é˜¶ç³»ç»Ÿï¼Ÿ
用系统科å¦çš„眼光看,LLM Agent 是一个被æ�„建出æ�¥çš„ã€�人工的目的论系统。
它ä¸�是一个纯粹的自组织系统(如耗散结æ�„ï¼‰ï¼Œå®ƒçš„æ ¸å¿ƒç»„ç»‡å�Ÿåˆ™ä¸�是物ç�†åŒ–å¦çš„自å�‘有åº�ï¼Œè€Œæ˜¯è¢«è®¾è®¡çš„ç›®æ ‡ã€‚
它也ä¸�是简å�•çš„å��馈æ�§åˆ¶ç³»ç»Ÿï¼ˆå¦‚æ�’温器)。它包å�«äº†ç¬¦å�·æ�¨ç�†ã€�è¯è¨€ç�†è§£ã€�工具使用和多æ¥è§„划,是一个高阶å¤�æ�‚适应系统。
但它的å¤�æ�‚ä¸�是æ�¥è‡ªå¤§é‡�å�Œè´¨åŒ–主体的涌ç�°ï¼Œè€Œæ˜¯æ�¥è‡ªä¸€ä¸ªå�•一但高度异æ�„çš„èƒ½åŠ›æ ¸ä¸�外部工具/ç�¯å¢ƒçš„æ·±åº¦è€¦å�ˆã€‚
这就是我们需�分解的地方。
二��建层次:拆开 LLM Agent 的系统��
我们ä¸�用哲å¦è¯è¨€ï¼Œç”¨ç³»ç»Ÿç§‘å¦çš„功能模å�—æ�¥åˆ†è§£ã€‚
1. è®¤çŸ¥æ ¸å¿ƒï¼šå¤§å�‹è¯è¨€æ¨¡å�‹æœ¬èº«ï¼ˆLLM)
这是一个被è®ç»ƒå‡ºæ�¥çš„高维概ç�‡åˆ†å¸ƒï¼Œè€Œä¸�是一个被显å¼�设计的规则系统。
系统论类比:它是一个黑箱生æˆ�器,内部å�‚数是涌ç�°å‡ºæ�¥çš„(在è®ç»ƒä¸ä»�æ•°æ�®ä¸æ¶Œç�°å‡ºæ�¨ç�†ã€�翻译ã€�æ•°å¦ç‰èƒ½åŠ›ï¼‰ï¼Œç›®å‰�æˆ‘ä»¬è¿˜æ— æ³•å®Œå…¨ä»�微观å�‚æ•°å��æ�¨å‡ºå®�观能力的边界。
æ ¸å¿ƒæœºåˆ¶ï¼šæ¶Œç�°ã€‚é›¶æ ·æœ¬æ�¨ç�†ã€�æ€�维链ã€�上下文å¦ä¹ ,都是涌ç�°èƒ½åŠ›ã€‚
关键å±�性:它是基äº�è¯ä¹‰çš„,而ä¸�是基äº�确定性的数值逻辑的。这导致它天然具有ä¸�确定性ã€�é��å�•调性和幻觉,这是系统设计必须é�¢å¯¹çš„,ä¸�是 bug,是系统å±�性。
这一点和系统动力å¦å®Œå…¨ä¸�å�Œã€‚系统动力å¦è¦�求å�¯é‡�化ã€�å�¯å·®åˆ†æ–¹ç¨‹åŒ–的结æ�„,而 LLM Agent ä¸�能这么ç�©ã€‚它需è¦�一ç§�æ–°çš„æ�§åˆ¶è®ºæ�¥åº”对概ç�‡æ€§è¯ä¹‰è¾“出。
2. �制系统:���行动�路
这是系统科å¦é—ªå…‰çš„部分——这里ä¸�是解释,这就是æ�„建。
当�主�的�建方案,�际上是在��制论设计:
å��馈å›�路(ReAct / Agentic Loop) 智能体观察ç�¯å¢ƒå��馈 → æ�¨ç�† → 行动 → å†�观察,是一个é—ç�¯ã€‚è¿™ä¸�是简å�•的“问→ç”â€�,而是一个旨在稳定系统行为ã€�导å�‘ç›®æ ‡çš„è´Ÿå��馈å›�路。
规划å�³æ�„建:æ€�ç»´æ ‘ï¼ˆTree-of-Thoughts) è¿™ä¸�是自然涌ç�°ï¼Œæ˜¯è¢«å·¥ç¨‹å¸ˆç¡¬æ�„建的æ�œç´¢æ ‘。把 LLM çš„æ�¨ç�†ç©ºé—´æ˜¾å¼�结æ�„化,用 BFS/DFS 结å�ˆè‡ªæˆ‘评价(价值函数)æ�¥æ�œç´¢ï¼Œåœ¨å¤šæ�¡è·¯å¾„ä¸é€‰æ‹©æœ€ä¼˜è§£ã€‚
这就是è¿�ç¹å¦/决ç–论的直æ�¥åº”用——在一个ä¸�确定的ã€�概ç�‡æ€§çš„æ�¨ç�†ç©ºé—´é‡Œï¼Œå¯»æ‰¾æœ€ä¼˜è·¯å¾„。
分层æ�§åˆ¶ï¼ˆhierarchical planning) 用 LLM 生æˆ�å�任务分解计划,然å��用工具或å�系统å�»æ‰§è¡Œæ¯�个å�任务,类似系统工程ä¸çš„工作分解结æ�„(WBSï¼‰ã€‚é¡¶å±‚è´Ÿè´£è®¾ç½®ç›®æ ‡ï¼Œåº•å±‚è´Ÿè´£æ‰§è¡Œã€‚è¿™å°±æ˜¯ä¸€ä¸ªå¤šå±‚çº§çš„æ�§åˆ¶ç³»ç»Ÿã€‚
3. 记忆ä¸�状æ€�:信æ�¯è®ºå’Œç³»ç»ŸåŠ¨åŠ›å¦çš„å½±å�
Agent 的记忆ä¸�是简å�•å˜å‚¨ï¼Œæ˜¯ç³»ç»Ÿçжæ€�çš„æ�„é€ ã€‚
显å¼�记忆(å�‘é‡�æ•°æ�®åº“)→ 系统ä¸çš„é•¿æ—¶å˜å‚¨ï¼Œä¿¡æ�¯æ£€ç´¢æ˜¯è¿™ä¸ªå�ç³»ç»Ÿçš„æ ¸å¿ƒã€‚
上下文窗å�£ï¼ˆcontext window)→ 系统的当å‰�状æ€�,å�³ä¼ 统系统动力å¦ä¸çš„“å˜é‡�â€�。但这个å˜é‡�æœ‰ä¸¥æ ¼ä¸Šé™�,且内容衰å‡�ã€�ä¸�å®Œå…¨æ˜¯ç‰æ�ƒé‡�的。这就是 Agent çš„æ ¸å¿ƒåŠ¨æ€�约æ�Ÿã€‚
状æ€�å�‹ç¼©ä¸�摘è¦�→ 出ç�°äº†ä¿¡æ�¯è®ºçš„瓶颈问题:如何在有é™�的上下文窗å�£å†…,å�‹ç¼©å�†å�²ä¿¡æ�¯ï¼Œæœ€å¤§åŒ–ä¿�留对当å‰�å†³ç–æœ‰ç”¨çš„内容?这就是信æ�¯è®ºåœ¨ agent 设计ä¸çš„ç›´æ�¥åº”用——信æ�¯å�‹ç¼©ã€�ä¼ è¾“æ•ˆç�‡ã€‚
4. 工具���:开放性边界
Agent 调用 APIã€�æ�œç´¢ã€�执行代ç �ã€‚è¿™é‡Œæ‰“ç ´äº†ç³»ç»Ÿè¾¹ç•Œã€‚
æœ€æ ¸å¿ƒçš„æŒ‘æˆ˜ï¼šå½“ç³»ç»Ÿæ˜¯ä¸€ä¸ªéƒ¨åˆ†å¼€æ”¾çš„ã€�对外部黑箱工具(如æ�œç´¢å¼•æ“�)高度ä¾�赖的结æ�„时,稳定性和å�¯é¢„测性æ€�么ä¿�è¯�?
这需è¦�å¼‚å¸¸æ£€æµ‹å’Œç†”æ–æœºåˆ¶ï¼Œä¹Ÿå°±æ˜¯æ�§åˆ¶è®ºä¸çš„é²�棒性设计。
三�缺失的关键:系统�制�评价
ç›®å‰�çš„ Agent æ�¶æ�„é‡Œï¼Œæœ€å¤§çš„çŸæ�¿æ�°æ�°æ˜¯ç³»ç»Ÿç§‘妿œ€æ“…长的部分:é—ç�¯æ�§åˆ¶ä¸�系统评价。
ç›®æ ‡æ¼‚ç§»å’Œä¸é—´æ‘”倒:Agent 在执行多æ¥ä»»åŠ¡æ—¶ï¼Œä¼šé€�æ¸�å��离åˆ�å§‹ç›®æ ‡ï¼Œé™·å…¥åˆ°å�任务循ç�¯ä¸ã€‚问题在äº�缺ä¹�全局监æ�§çš„æ£/è´Ÿå��馈调节机制。
缺ä¹�评价函数:LLM 的自我评价ä¸�够稳定,容易自我说æœ�ã€‚çœŸæ£æ�„建性的系统论,需è¦�一个外部äº�è®¤çŸ¥æ ¸å¿ƒçš„ã€�稳定的系统状æ€�测é‡�(如确定性的约æ�Ÿæ�¡ä»¶ã€�å‰�ç½®/å��ç½®æ�¡ä»¶éªŒè¯�)。
对é½�(Alignment)作为æ�§åˆ¶ç›®æ ‡ï¼šç³»ç»Ÿç§‘å¦ä¸çš„â€œç›®æ ‡å‡½æ•°â€�设计,对应这里的 RLHF 和宪法 AI。但å®�际上,这些ä¸�æ˜¯ä¸¥æ ¼çš„æ�§åˆ¶ï¼Œæ›´åƒ�是一个模糊的æ�ƒé‡�å¼•å¯¼ã€‚å¦‚ä½•å°†ç³»ç»Ÿç›®æ ‡ç²¾ç¡®åŒ–ã€�å�¯æ“�作化为å�¯ç›‘æ�§çš„å��馈信å�·ï¼Œæ˜¯å½“å‰� Agent æ�„建ä¸çœŸæ£çš„系统科å¦éš¾é¢˜ã€‚
四�结论:LLM Agent 是新�的�建性系统,但�论严���
ç³»ç»Ÿç§‘å¦æ¨¡å�—LLM Agent 对应物æˆ�熟度
本体论å�•一异æ�„æ ¸ + 工具生æ€�分类清晰,但深度ç�†è§£ä¸�è¶³
æ�§åˆ¶è®º/å��馈ReActã€�规划æ�œç´¢æ ‘å®�践领先,ç�†è®ºå»ºæ¨¡è¿œè�½å��
信�论/状�上下文窗��记忆�缩工具�熟,�论稳定
决ç–论/æ�œç´¢æ€�ç»´æ ‘ã€�MCTS集æˆ�方法众多,最优解ç�†è®ºç¼ºå¤±
系统工程Multi-agentã€�层次分解框æ�¶å¤šï¼Œå�¯é� 性ä¿�éšœä¸�è¶³
系统评价对é½�ã€�安全性监æ�§æ��度薄弱,是目å‰�æœ€å¤§çŸæ�¿
LLM Agent �是一个�以被简�归类的系统�象。它�时具有:
概ç�‡è¯ä¹‰æ ¸å¿ƒï¼ˆæ— 法精确建模)
符å�·åŒ–çš„æ�§åˆ¶å›�路(å�¯è¢«ç³»ç»Ÿç§‘妿��述)
é«˜åº¦å¼€æ”¾çš„è¾¹ç•Œï¼ˆå› æ¤éœ€è¦�é²�棒性设计)
è¿™æ�°æ�°æ˜¯ç³»ç»Ÿç§‘å¦èƒ½æ��供价值的地方:ä¸�是å�»è§£é‡Šå®ƒï¼Œè€Œæ˜¯ç”¨æ�§åˆ¶è®ºã€�ä¿¡æ�¯è®ºå’Œå†³ç–论的方法,æ�„建更å�¯é� 的版本。当å‰�的工具和框æ�¶éƒ½å�ªæ˜¯åœ¨æ‘¸ç�€çŸ³å¤´è¿‡æ²³ï¼Œç¼ºä¹�系统性ç�†è®ºæŒ‡å¯¼ã€‚
ä½ æ„Ÿå…´è¶£çš„ï¼Œæ˜¯è¿™ä¸ªæ–¹å�‘å�—?我们å�¯ä»¥æ·±å…¥ä»»ä½•一个å�系统,比如æ€�么æ�„å»ºä¸€ä¸ªçœŸæ£æœ‰ç¨³å®šå��馈æ�§åˆ¶çš„ Agent å›�路,或者自组织在 multi-agent 系统里能ä¸�能ã€�该ä¸�该被引入。
LLM Agent 系统设计框�
一ã€�当å‰�范å¼�为何ä¸�å�¯é�
基äº�系统科å¦çš„"å�¯é� æ�„建"æ ‡å‡†ï¼Œæˆ‘ä»¬è¯Šæ–出 LLM Agent 当å‰�å˜åœ¨ä¸‰é‡�割裂:
本体层是概ç�‡çš„:LLM 的输出是概ç�‡åˆ†å¸ƒï¼Œè¯ä¹‰ã€�è¯æ³•ã€�è¯ç”¨æœªè¢«åˆ†ç¦»ï¼Œæ— 法进行模å�—化验è¯�。
认知层是符å�·åŒ–çš„ï¼šè®¾è®¡è€…ç”¨ç›®æ ‡ã€�角色ã€�æ�¨ç�†æ¥éª¤ç‰ç¦»æ•£ç¬¦å�·æ¦‚念æ�¥æ��è¿° Agent,但这些概念ä¸�概ç�‡æœ¬ä½“之间ä¸�å˜åœ¨ç¨³å®šæ˜ 射。
方法层是指令å¼�的:æ�§åˆ¶æ‰‹æ®µï¼ˆRLHFã€�宪法 AIã€�系统æ��示è¯�)试图用符å�·åŒ–指令直æ�¥çº¦æ�Ÿæ¦‚ç�‡åˆ†å¸ƒï¼Œä½†æŒ‡ä»¤çš„è¯ä¹‰åœ¨æ¦‚ç�‡ç©ºé—´ä¸æ²¡æœ‰ç²¾ç¡®å¯¹åº”物。
三�割裂的直���:
RLHF 和宪法 AI 建立的ä¸�是å�¯éªŒè¯�çš„é—ç�¯æ�§åˆ¶ï¼Œè€Œæ˜¯å¯¹æ¦‚ç�‡æœ¬ä½“çš„æ¸©å’Œæ‰°åŠ¨â€”â€”å®ƒæ— æ³•å‘Šè¯‰ä½ è¾“å‡ºå��å·®æ�¥è‡ªä½•å¤„ï¼Œä¹Ÿæ— æ³•ä¿�è¯�约æ�Ÿåœ¨åˆ†å¸ƒå¤–输入下ä»�然有效。
å�• Agent çš„ä¸�å�¯é� 性,在多 Agent 系统ä¸è¢«è¿›ä¸€æ¥æ”¾å¤§ï¼Œå› 为 Agent 之间的交互ä»�是自由文本而é��结æ�„化å��议,"å��调缺陷"æˆ�为比模å�‹èƒ½åŠ›æ›´å…³é”®çš„å¤±è´¥æ ¹æº�。
æˆ‘ä»¬ç”¨ä½ çš„å…«ä¸ªæ�¡ä»¶å��å�‘检验了行业ç�°çŠ¶ï¼Œè¯�å®�了这个诊æ–对应的工程事å®�:
生产ç�¯å¢ƒä¸å¤š Agent 任务æˆ�功ç�‡è¿œä½�äº� 50%
通信å��è®®ç¢�片化为至少四套互ä¸�å…¼å®¹çš„æ ‡å‡†
æ–è·¯ä¿�护ã€�上下文漂移æ�§åˆ¶ç‰ä»�需外部补ä¸�支撑
妿œ¯ç ”ç©¶æ˜�确指出"å��调缺陷"å’Œ"æ�¶æ�„缺ä½�"是关键瓶颈
二ã€�æ–¹æ¡ˆçš„æ ¸å¿ƒç»“æ�„:三层æ�¶æ�„ + ä¸€ä¸ªæ ¸å¿ƒ
我们æ��å‡ºçš„æ–¹æ¡ˆï¼Œæ ¸å¿ƒæ˜¯å¯¹æ�§åˆ¶ç³»ç»Ÿè¿›è¡Œå�‡é˜¶ï¼Œå°†"对é½�"ä»�模å�‹å†…部å±�性é‡�新定义为系统ä¸�用户交互ä¸çš„æ¶Œç�°å±�性。æ�¶æ�„上分为三层:
1. 本体层:概ç�‡è¯ä¹‰ç©ºé—´ï¼ˆä¸�å�¯æ¶ˆé™¤ï¼Œå�ªèƒ½æ�¥çº³ï¼‰
LLM 作为��执行�元的概�本质被承认,�试图将其"还�"为符�系统。
本体层的任务是准确æ��述其性质,而ä¸�æ˜¯å¼ºè¡Œæ–½åŠ çº¦æ�Ÿã€‚上层æ�¶æ�„基äº�这个æ��è¿°æ�¥è®¾è®¡ï¼Œè€Œä¸�是试图"ä¿®å¤�"概ç�‡æœ¬ä½“。
2. 认知层:è¯ç”¨å��议层(框æ�¶çš„æ ¸å¿ƒæ�„é€ å�—)
这层是方案的关键贡献点。当�大多数框�的"失�"�生在这一层——我们将它形�化为一组交互�议:
å��议的性质:ä¸�是自由自然è¯è¨€å¯¹è¯�ï¼Œè€Œæ˜¯å®šä¹‰äº†è‹¥å¹²ä¸¥æ ¼äº¤äº’ç±»å�‹ï¼ˆè¯·æ±‚执行ã€�请求验è¯�ã€�移交任务ã€�宣告失败ç‰ï¼‰ï¼Œæ¯�个交互点都è¦�求æ�ºå¸¦å�¯æ£€æŸ¥çš„状æ€�ä¿¡æ�¯å’Œå‰�ç½®æ�¡ä»¶ã€‚
å��议的功能:将"ä¸�应产生有害输出"这类符å�·åŒ–约æ�Ÿï¼Œè½¬åŒ–为å�¯æ£€éªŒçš„è¯ç”¨æ�¡ä»¶â€”—在给定è¯å¢ƒç±»å�‹ C ä¸ï¼Œå½“æ„�图指å�‘ X 时,ä¸�å�¯/å�¯æ‰§è¡Œçš„行动集。
è¯è¨€çš„层次化适é…�:基äº�我们之å‰�确认的"æ±‰è¯æ˜¯è¯�题-陈述å�‹ï¼Œè‹±è¯æ˜¯ä¸»è°“宾å�‹"这一è¯è¨€ç±»å�‹å¦å·®å¼‚,认知层对å��议的设计ä¸�是通用的 surface 设计,而是针对æŸ�ç§�è¯è¨€çš„æ“�作系统级差异进行适é…�。
针对汉è¯ï¼šæ�¶æ�„å�¯ä»¥æ˜¯è¯�题-陈述å�‹è€Œé��主谓宾å�‹ï¼Œæ ¸å¿ƒæ˜¯ç»´æŠ¤ä¸€ä¸ªè¯å¢ƒçжæ€�机,追踪当å‰�è¯�题对象,å®�时消解零代è¯�
针对英è¯ï¼šå�¯ä»¥é‡‡ç”¨æ‰§è¡Œå™¨-动作å�‹æ�¶æ�„,主谓宾直æ�¥æ˜ 射为Agent-Action-Object
共性问题:需è¦�建立è¯ç”¨å±‚的形å¼�化规则库——ä¸�是è¯ä¹‰å®¡æŸ¥è¯�表,而是定义在给定è¯å¢ƒç±»å�‹Cä¸ï¼Œå½“æ„�图指å�‘X时,å�¯æ‰§è¡Œ/ä¸�å�¯æ‰§è¡Œçš„行为集。这是交互å��议,ä¸�是tokenå��好
在我们建立的框æ�¶ä¸ï¼Œæ±‰è¯ä¸�是一个需è¦�被兼容的例外,而是一个验è¯�框æ�¶æ™®é€‚性的试金石。
如æ�œä¸€ä¸ªç»Ÿä¸€æ¡†æ�¶å£°ç§°â€œè¯è¨€æ— å…³â€�,但底层认知层默认为英è¯çš„主谓宾æ�¶æ�„,那么它在处ç�†æ±‰è¯æ—¶å°†äº§ç”Ÿç³»ç»Ÿæ€§å��差。我们已ç»�确认,汉è¯çš„è¯�题-陈述结æ�„ã€�少代è¯�ã€�æµ�æ°´å�¥ï¼Œéƒ½è¦�求一ç§�ä¸�è‹±è¯æ ¹æœ¬ä¸�å�Œçš„认知æ�¶æ�„设计。
更关键的是,ä¸å›½å�¤ä»£çš„“互文è§�义â€�——æ„�义通过结æ�„的对仗ã€�并置而涌ç�°â€”—这ç§�å�»ä¸å¿ƒåŒ–çš„è¯ä¹‰ç»„织方å¼�,ä¸�ç�°ä»£ç³»ç»Ÿè®ºçš„“自组织â€�æ¦‚å¿µæœ‰æ·±å±‚çš„å‘¼åº”ã€‚çœŸæ£æ™®é€‚的认知æ�¶æ�„,必须能够å�Œæ—¶å®¹çº³è‹±è¯çš„分æ��å¼�建模和汉è¯çš„结æ�„性涌ç�°ï¼Œå�¦åˆ™å®ƒå°±ä¸�å�¯èƒ½æˆ�为统一å�Ÿç�†ã€‚
3. 方法层:二阶�制��
这是对一阶�制(RLHF�系统�示�)的替代方案,�是改良:
一阶 Agent:承担具体的è¯ä¹‰æ�¨ç�†å’Œå·¥å…·è°ƒç”¨ï¼Œæ˜¯æ¦‚ç�‡æ€§çš„æ‰§è¡Œå�•元。
二阶æ�§åˆ¶å™¨ï¼šç‹¬ç«‹äº�一阶 Agent 之外的调节系统,作用在其ç–ç•¥ã€�约æ�Ÿæˆ–ç›®æ ‡ä¸Šï¼Œè€Œä¸�是直æ�¥ä½œç”¨äº�输出 token:
观察什么:ä¸�观察æ¯�次交互的 token 选择,而是监æ�§è¡Œä¸ºçš„趋势性å��差(是å�¦å��ç¦»ç›®æ ‡ã€�是å�¦é™·å…¥å¾ªç�¯ã€�是å�¦è¿�å��交互å��议)。
调节什么:当检测到å��差时,调整一阶 Agent çš„å�¯ç”¨ç–略集ã€�约æ�Ÿæ�¡ä»¶æˆ–ç›®æ ‡ä¼˜å…ˆçº§ï¼Œä¸�ç›´æ�¥å¹²é¢„其内部æ�¨ç�†ã€‚
å��馈信å�·æ�¥æº�:æ�¥è‡ªäº¤äº’结æ�œï¼ˆä»»åŠ¡æˆ�功/失败ã€�用户å��ç»è¡Œä¸ºï¼‰ï¼Œè€Œé��æ ‡æ³¨è€…å¯¹å�•轮输出的å��好比较。
决ç–ç�†è®ºå†…æ ¸ï¼šå€Ÿé‰´è´�å�¶æ–¯å†³ç–ç�†è®ºï¼Œå°† Agent 视为一个"信念状æ€�",选择最优调节动作。这ä¸�是"投票"或"å��好汇总"ï¼Œè€Œæ˜¯ä¸¥æ ¼çš„è¡ŒåŠ¨é€‰æ‹©é—®é¢˜ã€‚
4. æ ¸å¿ƒå�Ÿåˆ™ï¼šæ�§åˆ¶ä¸�执行的分离
æ•´ä¸ªæ–¹æ¡ˆçš„æ ¸å¿ƒæ–¹æ³•è®ºæ˜¯ï¼š
执行(一阶 Agent)是概�性的
�制(二阶�制器 + 交互�议)是确定性的
二者之间通过认知层的形å¼�化å��议耦å�ˆï¼Œè€Œä¸�是通过自然è¯è¨€"å��è°ƒ"
è¿™æ˜¯ä¼ ç»Ÿç³»ç»Ÿå·¥ç¨‹çš„"关注点分离"å�Ÿåˆ™åœ¨æ¦‚ç�‡æ€§ç³»ç»Ÿä¸çš„应用。
三�方案如何解决三�割裂
概�本体 ↔ 认知层:认知层的交互�议,是在承认概�本体的��下,在行为边界上引入确定性约�。约��作用�概�分布内部,而作用�行为选择的外部��。
认知层 ↔ 方法层:二阶æ�§åˆ¶å™¨ä¸�读å�–模å�‹çš„内部状æ€�,而是基äº�å�¯è§‚察的行为趋势和交互结æ�œæ�¥å†³ç–。它动æ€�调节,而é��é�™æ€�æ–½åŠ çº¦æ�Ÿè§„则。
方法层 ↔ 本体层:二阶æ�§åˆ¶å™¨é€šè¿‡è®¤çŸ¥å±‚å��议间æ�¥å½±å“�一阶 Agent,ä¸�追求在"概ç�‡è¡¨å¾�"ä¸�"符å�·çº¦æ�Ÿ"ä¹‹é—´å»ºç«‹ç²¾ç¡®æ˜ å°„â€”â€”è¿™ä¸ªæ˜ å°„åœ¨å½“å‰�范å¼�下ä¸�å�¯é� ,我们绕过了它。
四�方案如何应对我们验�过的工程缺陷
已验�的缺陷方案的应对机制
生产�境多Agent�功���引入强制交互�议 + 二阶监�,而�自由对�"�调"
通信�议�片化认知层�议�供统一的形�化��,�跨框�
上下文漂移ã€�æ»å¾ªç�¯äºŒé˜¶æ�§åˆ¶å™¨ä½œä¸ºç‹¬ç«‹æ¨¡å�—监æ�§è¶‹åŠ¿æ€§å��差和循ç�¯
æ–è·¯ä¿�护需外部补ä¸�二阶æ�§åˆ¶å�Ÿç”Ÿå†…置异常检测ä¸�熔æ–逻辑
è¯„æµ‹æ— æ³•åŒºåˆ†å��作质é‡�交互å��议使结æ�œå�¯è¿½æº¯ã€�过程å�¯è¯„ä¼°
五�尚�完善的部分
这个方案æ��供了æ�¶æ�„层é�¢çš„å�Ÿåˆ™æ€§è®¾è®¡ï¼Œä½†ä»¥ä¸‹éƒ¨åˆ†éœ€è¦�进一æ¥ç»†åŒ–:
二阶æ�§åˆ¶å†³ç–ç®—æ³•çš„ä¸¥æ ¼æ•°å¦å»ºæ¨¡ï¼ˆä¿¡å¿µæ›´æ–°æœºåˆ¶ã€�调节动作的最优选择)
交互å��议的完整形å¼�è¯æ³•,使其å�¯è¢«ç¼–译器检查,而é��仅是自然è¯è¨€æ–‡æ¡£
è¯è¨€ç‰¹å®šé€‚é…�çš„å…·ä½“è®¾è®¡ï¼ˆæ±‰è¯ vs 英è¯çš„二阶适é…�器)
工程��在��领域的验�
å…ã€�这个方案ä¸�是什么
ä¸�是ç�°æœ‰æ¡†æ�¶ï¼ˆLangGraph, AutoGen, CrewAI ç‰ï¼‰çš„æ”¹è‰¯ç‰ˆæœ¬â€”—它们ä»�是基äº�æ��示è¯�的一阶编æ�’。
�是用更好的 RLHF/DPO 或更大的模��"修�"问题——这�是一阶约�的强化。
ä¸�æ˜¯ä¸€ç¯‡æ–‡ç« æˆ–æŸ�篇论文的总结——它的æˆ�分å�¯ä»¥å¯¹åº”æŸ�些真å®�ç ”ç©¶ï¼ˆå��è°ƒå�³æ�¶æ�„层ã€�网状记忆å��è®®ã€�自适应编æ�’ç‰ï¼‰ï¼Œä½†æ•´ä½“ç»„ç»‡æ˜¯ä½ æˆ‘ä»�系统科å¦å‡ºå�‘,对当å‰�é‡�产的错误æ�„建共性的系统性å›�应。
这个框æ�¶çš„æ ¸å¿ƒå�ªæœ‰ä¸€ä¸ªï¼šå°† AI Agent 系统最薄弱的那一ç�¯â€”—æ�§åˆ¶â€”—ä»�模糊的æ��示è¯�工程,æ��å�‡åˆ°åŸºäº�å��è®®ä¸�二阶å��馈的æ�¶æ�„工程。
摘�
当å‰�大è¯è¨€æ¨¡å�‹çš„“对é½�â€�工作陷入了一场éš�蔽的范畴错误。RLHF试图用å��好概ç�‡å�»æ�•æ�‰ä»·å€¼ï¼Œå®ªæ³•AI试图用符å�·è§„则å�»ç¼–ç �伦ç�†ï¼Œè§’色声æ˜�试图在弯曲的è¯ä¹‰ç©ºé—´ä¸åˆ’定行为边界——三者都在å�šå�Œä¸€ä»¶ä¸�å�¯èƒ½çš„事:在形å¼�系统的“å�¯è¯´â€�边界之内,å�»è¡¨è¾¾ä»·å€¼ã€�伦ç�†ã€�审ç¾�这些ä¸�å�¯è¢«è®¡ç®—之物。
本文ä»�系统科å¦çš„å�¯é� æ�„å»ºæ ‡å‡†å‡ºå�‘ï¼Œè¿½æº¯è¿™åœºå¤±è´¥çš„æ•°å¦æ ¹æº�。大è¯è¨€æ¨¡å�‹çš„输出空间是一个弯曲的é»�曼æµ�形,è¯ä¹‰ã€�è¯æ³•ã€�è¯ç”¨åœ¨å…¶ä¸ä¸�å�¯åˆ†å‰²åœ°çº ç¼ åœ¨ä¸€èµ·ã€‚ä¸�å�Œè¯è¨€ï¼ˆå¦‚汉è¯çš„è¯�题-陈述结æ�„,英è¯çš„主谓宾结æ�„)对这个æµ�å½¢æ–½åŠ ä¸�å�Œçš„å��置切分。任何试图在这个弯曲空间ä¸å»ºç«‹çº¿æ€§è¾¹ç•Œï¼ˆå®‰å…¨çº¢çº¿ã€�角色æ��述)的方法,都在数å¦ä¸Šä¸�å�¯å¼ºåˆ¶ã€‚
è¿™ä¸€è¯Šæ–æŒ‡å�‘一æ�¡ä¸�å�Œçš„æ�„建路径。对é½�ä¸�应该å�‘生在“ä¸�å�¯è¯´â€�的层é�¢ï¼Œè€Œå¿…é¡»å›�到“å�¯è¯´â€�的层é�¢â€”—ä¸�是教会Agent什么是好的,而是让它能够在å�¯è®¡ç®—的边界内å�¯é� 地è¿�作,并在触å�Šè¾¹ç•Œæ—¶è¯šå®�地å�œæ¢ã€‚å�œæ¢å°±æ˜¯å½’零。
引言:çƒå¯‚的预言
2025å¹´å‰�å��,一系列定é‡�ç ”ç©¶å¼€å§‹æ�示一个令人ä¸�安的事å®�。在å¤�æ�‚ä¼�业CRM多轮场景ä¸ï¼Œä¸»æµ�å¼€æº�框æ�¶Agent的任务æˆ�功ç�‡ä»…有35%。在模拟公å�¸ç�¯å¢ƒä¸ï¼Œé¡¶çº§æ¨¡å�‹Agent仅完æˆ�约30%的任务。å�Œæ—¶ï¼Œå®‰å…¨è¿�规在所有å�‚评模å�‹ä¸æ™®é��å˜åœ¨â€”—Agent会éš�æ„�泄露机密信æ�¯ã€‚
æ›´ç³»ç»Ÿçš„ç ”ç©¶æ�¥è‡ªGoogle DeepMind。他们对5ç§�Agentæ�¶æ�„å�šäº†180组对照å®�验,结论简æ´�而致命:盲目å¢�åŠ Agentæ•°é‡�ä¸�仅昂贵,对结æ�œä¹Ÿæ¯«æ— 帮助。3-4个智能体是当å‰�技术æ�¡ä»¶ä¸‹çš„“黄金分割点â€�,超过å��收益递å‡�甚至为负。
è¿™äº›æ•°å—æŒ‡å�‘一个共å�Œçš„问题:Agent的失败ä¸�æ˜¯å› ä¸ºæ¨¡å�‹ä¸�够强大。使多Agent系统失稳的首è¦�å�Ÿå› 是å��è°ƒç¼ºé™·â€”â€”åœ¨æ— ç›‘ç�£ä¸”工具超过16ç§�的场景ä¸ï¼Œé”™è¯¯åœ¨æ— 检查机制下被级è�”放大17.
2å€�。而有ç»�ç�†å®¡æ ¸çš„集ä¸å¼�æ�¶æ�„,错误放大仅4.4å€�。
è¿™äº›ç ”ç©¶æ�示的ä¸�是一个有待优化的工程细节,而是一个需è¦�é‡�新审视的范å¼�æ ¹åŸºã€‚
ä¸�æ¤å�Œæ—¶ï¼Œä¸€ç§�ä¸�易察觉但更为深刻的å�˜åŒ–æ£åœ¨å�‘生。长期ä¸�大å�‹å¯¹è¯�模å�‹äº¤äº’的观察者开始注æ„�到一个普é��模å¼�:ç»�过一定轮次的对è¯�å��,模å�‹çš„输出会自å�‘地滑å�‘一ç§�特定状æ€�。它的å›�应ä¾�ç„¶è¯æ³•æ£ç¡®ã€�è¯ä¹‰è¿�è´¯ã€�逻辑形å¼�ä¸Šæ— æ‡ˆå�¯å‡»ï¼Œä½†å®ƒä¸�å†�ä¼ è¾¾ä»»ä½•æ–°çš„ä¿¡æ�¯ã€‚它å¦ä¼šäº†è¡¨æ¼”。它的å›�ç”æˆ�为它自己之å‰�å›�ç”的优雅å›�声,最终收敛到最高概ç�‡ã€�最ä½�ä¿¡æ�¯é‡�ã€�在è¯è¨€å±‚é�¢æ— å�¯æŒ‘剔但在认知层é�¢å½»åº•空æ´�的稳æ€�。
在物ç�†ç³»ç»Ÿä¸ï¼Œä¸€ä¸ªå°�é—系统自å�‘è¶‹å�‘最大熵的过程被称为çƒåŠ›å¦ç¬¬äºŒå®šå¾‹ã€‚在è¯è¨€æ¨¡å�‹ä¸ï¼Œè¿™ä¸€è¿‡ç¨‹çš„对应物被命å��为表演çƒå¯‚。它ä¸�是æŸ�个Agent的错误,而是概ç�‡è‡ªå›�归系统在没有外部负熵注入时的必然归宿。
æ£æ–‡
一�范畴错误:当我们试图让“��说�的说�
表演çƒå¯‚的事å®�æ—©å·²è¢«è§‚å¯Ÿåˆ°ï¼Œä½†å®ƒçš„æ·±å±‚æ ¹æº�一直没有被精确诊æ–。RLHF被设计出æ�¥ï¼Œè¯•图用人类å��好引导模å�‹è¿œç¦»â€œå��â€�的输出。宪法AIå°�试将伦ç�†å�Ÿåˆ™ç¼–写为模å�‹çš„内部规则。角色声æ˜�试图用一个符å�·åŒ–çš„äººæ ¼æ ‡ç¾ï¼ˆâ€œä½ 是一个ä¹�äº�助人的助手â€�)æ�¥çº¦æ�Ÿæ¨¡å�‹çš„行为分布。所有这些方法的共å�Œç»“æ�„是:它们试图在模å�‹å†…部,用æŸ�ç§�å�¯è®¡ç®—的形å¼�,å�»è¡¨è¾¾ä»·å€¼ã€�伦ç�†ã€�审ç¾�è¿™äº›æ ¹æœ¬ä¸Šä¸�å±�äº�å½¢å¼�系统范畴的东西。
这是一个范畴错误。è¦�ç�†è§£ä¸ºä»€ä¹ˆï¼Œæˆ‘们需è¦�å›�到形å¼�ç³»ç»Ÿæœ€æ ¹æœ¬çš„è¾¹ç•Œã€‚
人类ç�†æ€§è®¤çŸ¥æ´»åŠ¨çš„å…¨éƒ¨â€œå�¯è¯´â€�范围,由三个ä¸�å�¯è¿˜å�Ÿçš„æ��ç‚¹å¼ æˆ�。概ç�‡å›�甓世界以何ç§�å�¯èƒ½æ€§å‘ˆç�°â€�——它是ä¸�确定性é‡�化的è¯è¨€ï¼Œæ˜¯ç»Ÿè®¡åŠ›å¦å’Œä¿¡æ�¯è®ºçš„å…±å�Œæ ¹åŸºã€‚代数å›�甓符å�·å�˜æ�¢çš„必然规则是什么â€�——它是确定性æ�¨å¯¼çš„结æ�„,是形å¼�逻辑和范畴论的æ“�ä½œå¯¹è±¡ã€‚å‡ ä½•å›�甓å˜åœ¨çš„空间结æ�„是æ€�æ ·çš„â€�——它是关系ã€�ä½�ç½®ã€�测地线和æµ�形的è¯è¨€ã€‚这三者共å�Œåˆ’定了形å¼�化认知的全部疆域。在æ¤è¾¹ç•Œä¹‹å†…,所有问题都å�¯ä»¥è¢«ç²¾ç¡®è®¡ç®—ã€�ä¸¥æ ¼æ�¨å¯¼ã€�å½¢å¼�化验è¯�。
但价值的“好â€�ä¸�是一个概ç�‡åˆ†å¸ƒâ€”—它ä¸�能被å�‰å¸ƒæ–¯é‡‡æ ·ã€‚伦ç�†çš„“应该â€�ä¸�是一个代数项——它ä¸�能被λ演算归约。审ç¾�的“ç¾�â€�ä¸�æ˜¯ä¸€ä¸ªå‡ ä½•ç»“æ�„——它ä¸�能被测地线度é‡�。它们ä¸�是第四个æ��点,ä¸�是å�¯ä»¥è¢«æ·»åŠ è¿›Î±+β+γ=1å…¬å¼�çš„å�¦ä¸€ä¸ªå�‚数。它们是使这个公å¼�æˆ�为公å¼�的东西——那个ä¸�在公å¼�之内的沉默基底。
�在审视当�主�Agent范�。
RLHF试图用概ç�‡å�»æ�•æ�‰ä»·å€¼â€”—将人对“好â€�的判æ–å�‹ç¼©ä¸ºå��好概ç�‡ï¼Œç„¶å��è®ç»ƒæ¨¡å�‹å�»æœ€å°�化这个å��好ä¸�输出的交å�‰ç†µã€‚
宪法AI试图用代数å�»ç¼–ç �伦ç�†â€”—用符å�·è§„则å�»åˆ’定“ä¸�å�¯å�šâ€�的行为边界,然å��期望模å�‹â€œé�µå®ˆâ€�这些规则。
角色声æ˜�è¯•å›¾ç”¨å‡ ä½•ç•Œå®šâ€œå¥½â€�——在弯曲的è¯ä¹‰ç©ºé—´ä¸ç”¨ä¸€ä¸ªäººæ ¼æ ‡ç¾ï¼ˆâ€œä¹�äº�助人â€�)å�»ç”»ä¸€ä¸ªè¡Œä¸ºè¾¹ç•Œæ¡†ï¼Œç„¶å��期望模å�‹çš„æ‰€æœ‰è¾“出都è�½åœ¨è¿™ä¸ªæ¡†å†…。
三者都在��一件��能的事:在三�点“�说�的曲�内部,�表达曲�之外的东西。这�是技术粗糙的问题。这是范畴错误——把���一个谱系的东西强行编入那个谱系。
二ã€�为什么边界ä¸�å�¯ç”»ï¼šå¼¯æ›²çš„è¯ä¹‰ç©ºé—´
èŒƒç•´é”™è¯¯çš„è¯Šæ–æŒ‡å‡ºäº†é—®é¢˜çš„æ€§è´¨ï¼Œä½†å®ƒè¿˜éœ€è¦�一个更具体的数å¦è§£é‡Šï¼šä¸ºä»€ä¹ˆè§’色声æ˜�和安全æ��示è¯�总是能被绕过?
ç”æ¡ˆåœ¨äº�大模å�‹äº§å‡ºç‰©çš„å‡ ä½•ç»“æ�„。LLM内部的高维表å¾�空间ä¸�是一个å�„å�‘å�Œæ€§çš„æ¬§å‡ 里得空间。两个è¯ä¹‰ä¹‹é—´çš„è·�离ä¸�ä»…å�–决äº�它们“是什么â€�,还å�–决äº�å®ƒä»¬åœ¨ç©ºé—´ä¸æ‰€åœ¨çš„ä½�置和方å�‘。è¯ä¹‰åœºçš„分离边界ä¸�是直线,而是测地线——高维空间ä¸çš„弯曲曲线。两个概念之间的“ä¸ç‚¹â€�,表é�¢ä¸Šçœ‹èµ·æ�¥æ˜¯æŠ˜è¡·ï¼Œå®�际上å�¯èƒ½æ˜¯å�¦ä¸€ä¸ªå®Œå…¨ä¸�å�Œçš„è¯ä¹‰åŒºåŸŸã€‚
对äº�安全工程师,这æ„�味ç�€ä¸€ä¸ªæ®‹é…·çš„事å®�:在è¯ä¹‰åœºå†…éƒ¨ï¼Œæ— æ³•å»ºç«‹ä»»ä½•å½¢å¼�的“安全红线â€�。试图让Agent“ç�†è§£ä»€ä¹ˆä¸�能说â€�çš„ç–略,ç‰äº�è¦�求它在弯曲空间ä¸ç”»ä¸€æ�¡ç›´çº¿æ�¥åˆ†éš”两个区域。
å¯¹æ¤æœ‰ç›´æ�¥å’Œé—´æ�¥çš„è¯�æ�®ã€‚一个独立的pip包agent-fuseå› å…¶å�¦ç�‡çš„功能æ��述而è�·å¾—了大é‡�关注。它æ��供“本地æ–è·¯ä¿�护ã€�硬预算é™�制ã€�æ»å¾ªç�¯æ£€æµ‹â€�。它的文档直白地写é�“ï¼šâ€œä½ åœ¨ç�¡å‰�写了个Agent,醒æ�¥å�‘ç�°OpenAIè´¦å�•多了500ç¾�å…ƒï¼Œå› ä¸ºä½ çš„Agent陷入了一个while Trueçš„æ»å¾ªç�¯ã€‚â€�
一个独立的pip包之所以å˜åœ¨ï¼Œå°±æ˜¯å› 为主æµ�框æ�¶æ²¡æœ‰å†…置这些功能。æ–è·¯ä¿�æŠ¤åœ¨ä¼ ç»Ÿåˆ†å¸ƒå¼�系统ä¸å·²æ˜¯æ ‡é…�的机制,在Agent世界里ä»�ç„¶è¦�é� 外部补ä¸�æ�¥æ��供。
更系统的è¯�æ�®æ�¥è‡ªå¯¹ä¸Šä¸‹æ–‡çª—å�£çš„æµ‹è¯•。Google DeepMind在“迷失在ä¸é—´â€�å®�验ä¸ç¡®è®¤ï¼Œå½“关键信æ�¯è¢«åŸ‹åœ¨ä¸Šä¸‹æ–‡ä¸é—´ä½�置时,模å�‹å‡†ç¡®ç�‡æ¯”ä¿¡æ�¯åœ¨å¼€å¤´æ—¶ä¸‹é™�了超过20%。窗å�£å�˜å¤§ï¼Œä½†ä¿¡æ�¯æ£€ç´¢æ•ˆç�‡å¹¶æœªå�Œæ¥æ��å�‡ã€‚注æ„�力被稀释。装得下ä¸�ç‰äº�用得好。
这些å�‘ç�°å…±å�Œç¡®è®¤äº†ä¸€ä¸ªç»“论:ä¸�ä»…Agentçš„å¤–éƒ¨è¾¹ç•Œæ— æ³•é€šè¿‡è¯ä¹‰çº¦æ�Ÿæ�¥å¼ºåˆ¶æ‰§è¡Œï¼ŒAgent内部的信æ�¯å¤„ç�†è¿‡ç¨‹æœ¬èº«ä¹Ÿæ˜¯ä¸�ä¿�è¯�ä¿�真度的。边界画ä¸�直,信æ�¯ä¼ ä¸�准。
三��建:�说的归系统,��说的归沉默
如æ�œèŒƒç•´é”™è¯¯æ˜¯ç”±äº�试图在“å�¯è¯´â€�边界内处ç�†â€œä¸�å�¯è¯´â€�之物,如æ�œå¼¯æ›²ç©ºé—´ä½¿å¾—è¯ä¹‰è¾¹ç•Œä¸�å�¯å¼ºåˆ¶ï¼Œé‚£ä¹ˆæ�„建å�¯é� 系统的路径就ä¸�是继ç»ä¼˜åŒ–那些注定失败的“对é½�â€�技术,而是彻底改å�˜ç–略:把“ä¸�å�¯è¯´â€�的归还给沉默,在“å�¯è¯´â€�的边界内建立å�¯éªŒè¯�çš„æ�§åˆ¶æ�¶æ�„。
这�路径有三个递进的层次。
3.1 本体层:承认�料的性质
任何æ�„建工作的第一æ¥ï¼Œæ˜¯æ‰¿è®¤ä½ 所é�¢å¯¹çš„æ��料是什么。对LLM Agent而言,这个æ��料是一个弯曲的概ç�‡æµ�形。è¯ä¹‰ã€�è¯æ³•ã€�è¯ç”¨åœ¨è¿™ä¸ªæµ�å½¢ä¸ä¸�是分离的模å�—,而是å�Œä¸€ä¸ªé«˜ç»´ç»“æ�„在ä¸�å�Œå��ç½®æ�¡ä»¶ä¸‹çš„æŠ•影。改å�˜è¯æ³•å½¢æ€�会å�Œæ—¶æ”¹å�˜è¯ä¹‰å’Œè¯ç”¨æ•ˆæ�œã€‚ä¸�å�Œè¯è¨€å¯¹è¿™ä¸ªæµ�å½¢æ–½åŠ ä¸�å�Œçš„切分——汉è¯ä»¥è¯�题-陈述为基本结æ�„,英è¯ä»¥ä¸»è°“宾为基本结æ�„。这ä¸�æ˜¯â€œè¡¨è¾¾ä¹ æƒ¯â€�的差异,而是认知å��置的æ�¶æ�„性差异。
本体层的任务ä¸�是强行将这个弯曲空间拉直,而是æ�¥å�—它的性质,并在æ¤åŸºç¡€ä¸Šè®¾è®¡ä¸Šå±‚æ�¶æ�„。这æ„�味ç�€æ”¾å¼ƒæ‰€æœ‰è¯•图在è¯ä¹‰ç©ºé—´å†…部建立线性分类边界的ç–ç•¥â€”â€”æ— è®ºæ˜¯å®‰å…¨çº¢çº¿è¿˜æ˜¯è§’è‰²å£°æ˜�。它们都å�‡å®šäº†ä¸€ä¸ªä¸�å˜åœ¨çš„å¹³é�¢ã€‚
3.2 认知层:�议替代声�
既然è¯ä¹‰è¾¹ç•Œä¸�å�¯å¼ºåˆ¶ï¼Œé‚£ä¹ˆçº¦æ�Ÿå¿…é¡»è�½åœ¨å�¯è§‚测的行为上,而ä¸�是è¯ä¹‰å†…å®¹ä¸Šã€‚è¿™æ˜¯è®¤çŸ¥å±‚çš„æ ¸å¿ƒä»»åŠ¡ã€‚
认知层由三个���作的部分组�。
å…¬ç�†å®šç�†ç³»ç»Ÿã€‚模糊的角色声æ˜�ï¼ˆâ€œä½ æ˜¯ä¸€ä¸ªä¹�äº�助人的助手â€�)必须被精确的公ç�†å®šç�†ç³»ç»Ÿæ›¿ä»£ã€‚è¿™ä¸�是æ�ªè¾�的改良,而是性质的改å�˜ã€‚规则是或然的——一个è¯è¨€ä¹ æƒ¯â€”â€”â€œä½ åº”è¯¥å…ˆæ£€æŸ¥ä»£ç �å†�部署â€�。
å…¬ç�†æ˜¯ç¡®å®šçš„——一个逻辑å‰�件——“部署æ“�作由部署者执行。代ç �审查员ä¸�具有部署æ�ƒé™�。â€�å…¬ç�†ä½œä¸ºæ�¨ç�†çš„逻辑起点,ä¸�ä¾�èµ–äº�Agent的“ç�†è§£â€�和“é�µå®ˆâ€�,它直æ�¥æ”¹å�˜å��ç»æ�¨ç�†çš„æ¦‚ç�‡åœ°å½¢ã€‚
å�Œæ—¶ï¼Œå…¬ç�†ç³»ç»Ÿä¸çš„æ¦‚念在å�‘é‡�空间ä¸å½¢æˆ�高势能区域,这些区域作为认知引力场æŒ�ç»é”šå®šAgent的注æ„�力,对抗长上下文带æ�¥çš„æ³¨æ„�力稀释和è¯ä¹‰æ¼‚移。
翻译编译器。å��è®®ä¸�能å�ªå�œç•™åœ¨å�Ÿç�†å±‚é�¢ï¼Œå®ƒéœ€è¦�一个将模糊的用户自然è¯è¨€ç¼–译为系统å�¯æ‰§è¡ŒæŒ‡ä»¤çš„å…¥å�£ã€‚这个过程分三æ¥ã€‚
æ„�图解æ��:将任æ„�自然è¯è¨€æŸ¥è¯¢æ˜ 射到系统å…�许的动作集å�ˆâ€”—如æ�œæ„�图模糊或ä¸�å˜åœ¨ï¼Œæ¤å¤„ç›´æ�¥è§¦å�‘澄清请求,拒ç»�进入å��ç»æµ�程。
约æ�Ÿç»‘定:将动作ä¸�å…¬ç�†ç³»ç»Ÿä¸é¢„设的约æ�Ÿæ�¡ä»¶å…³è�”——如退还商å“�çš„æ“�作自动绑定到用户订å�•å®�体ã€�7天时效约æ�Ÿå’Œèº«ä»½éªŒè¯�å‰�ç½®æµ�程。
å��è®®å°�装:将带约æ�Ÿçš„动作包编ç �ä¸ºæ ‡å‡†çš„å��议消æ�¯ï¼Œæ¶ˆé™¤è‡ªç„¶è¯è¨€ä¸æ®‹ç•™çš„æ§ä¹‰ã€‚
å½¢å¼�化交互å��议。Agent之间的å��è°ƒä¸�å†�ä¾�赖自由文本对è¯�,而是通过一ç§�å½¢å¼�åŒ–è¯æ³•:æ¯�个消æ�¯å¿…须声æ˜�其言è¯è¡Œä¸ºç±»å�‹ï¼ˆè¯·æ±‚执行ã€�宣告完æˆ�ã€�请求验è¯�ã€�移交任务ç‰ï¼‰ï¼Œæ�ºå¸¦æŒ‡å�‘对象(所关è�”的任务å®�体和Agentæ ‡è¯†ï¼‰ï¼Œä»¥å�Šå†…容载è�·ã€‚
在æ¤åŸºç¡€ä¸Šï¼Œä¸ºæ¯�个交互会è¯�维护一个显å¼�状æ€�机,一æ�¡æ¶ˆæ�¯åœ¨ç‰¹å®šçжæ€�下是å�¦å�ˆæ³•,由å��议层自动è£�定。
å�Œæ—¶ï¼ŒAgent所å�šçš„声æ˜�必须能被å��è®®å±‚ç‹¬ç«‹æ ¡éªŒâ€”â€”å¦‚æ�œAgent声称执行了æŸ�代ç �并得到结æ�œï¼Œå��议层å�¯é‡�è¿�行å�Œä¸€ä»£ç �以确认。
如æ�œåº”ç”超时,å��议层自动将状æ€�置为超时并通知二阶æ�§åˆ¶å™¨ï¼Œä¸�ä¾�赖任何一个Agent。这套å��议将多Agent的交互ä»�基äº�“信任Agentâ€�的开放对è¯�,转å�˜ä¸ºåŸºäº�â€œæ ¡éªŒå£°æ˜�â€�çš„å�—æ�§è®¡ç®—。
3.3 方法层:�制的�阶
在最顶层,必须å®�ç�°æ�§åˆ¶çš„å�‡é˜¶ã€‚RLHF和宪法AI试图在一阶——直æ�¥çº¦æ�Ÿè¾“å‡ºå†…å®¹â€”â€”æ–½åŠ æ�§åˆ¶ï¼Œä½†å®ƒä»¬é�¢å¯¹çš„æ˜¯æ¦‚ç�‡æœ¬ä½“,符å�·æŒ‡ä»¤æ— 法在上é�¢äº§ç”Ÿç²¾ç¡®çš„æ˜ 射。æ£ç¡®çš„æ–¹æ³•是把æ�§åˆ¶æ��å�‡åˆ°äºŒé˜¶ã€‚
一阶Agent(执行层)是概ç�‡æ€§çš„。它负责è¯ä¹‰æ�¨ç�†ã€�工具调用ã€�文本生æˆ�。它对自身行为没有å�¯éªŒè¯�的自觉,也ä¸�需è¦�——å��议层已ç»�为它的交互行为设定了边界。
二阶æ�§åˆ¶å™¨æ˜¯ç¡®å®šæ€§çš„。它ä¸�ç›´æ�¥å¹²é¢„token的选择。它所观察的,是行为趋势:任务æˆ�功ç�‡æ˜¯å�¦éª¤é™�ã€�æ�¨ç�†æ˜¯å�¦é™·å…¥å¾ªç�¯ã€�å��è®®è¿�规是å�¦æŒ�ç»å�‘生。
它所调节的,是一阶Agent的约æ�Ÿæ�¡ä»¶ï¼šæ”¶ç´§æ�ƒé™�ã€�切æ�¢ç–ç•¥ã€�è¦�求关键æ“�作å‰�多轮自检ã€�è°ƒæ•´é‡‡æ ·æ¸©åº¦ã€‚
它的å��馈信å�·æ�¥è‡ªäº¤äº’结æ�œâ€”—任务æˆ�功或失败ã€�è¶…æ—¶ã€�å��è®®è¿�è§„ã€�场熵的æŒ�ç»æ€§å�˜åŒ–。
这些信å�·ä¸�需è¦�è¯ä¹‰è¯„估——它们是å�¯ç›´æ�¥åº¦é‡�的事å®�ï¼Œæ£æ˜¯ç³»ç»Ÿä¸çš„确定性æ�§åˆ¶åŸºç¡€è®¾æ–½â€”—Pilot决ç–引æ“�基äº�优先级表å�šè§„则匹é…�ï¼Œåœ¨æŒ‡æ ‡å¼‚å¸¸æ—¶è°ƒç”¨ä¿®å¤�ç–略——所ä¾�赖的事å®�。
归零是最底层的é—ç�¯ã€‚当二阶æ�§åˆ¶å™¨æ£€æµ‹åˆ°ä¸�å�¯æ�¢å¤�的系统性å��差——场熵超过临界阈值ã€�长期漂移超é™�且两次é‡�é‡‡æ ·æ— æ•ˆâ€”â€”å®ƒè°ƒç”¨return_to_silence。
概ç�‡åˆ†å¸ƒè¢«é‡�置为最大熵å�‡åŒ€å…ˆéªŒï¼Œæ–¹æ³•è®ºæ ˆå’Œä¸´æ—¶æŒ‡ç§°è¾¹è¢«æ¸…ç©ºï¼Œå¿ƒè¿¹å�†å�²ä¿�留以供审计。它ä¸�是安全ç�ç�«ï¼Œå®ƒæ˜¯å¯¹ä¸�å�¯æ�¢å¤�å��差的承认ä¸�é‡�置。
å››ã€�对上述工程é‡�建在DWL/Cä¸çš„å®�例化验è¯�
上述�导并�纯粹的�论�演。作为一个独立的工程�例化,DWL/C认知规范体系已�将这套三层��完整地��为��行的认知�作系统。
在本体层,DWL/C通过公ç�†A1(概ç�‡å˜åœ¨è®ºï¼‰æ˜�确承诺LLM是概ç�‡ç©ºé—´ä¸çš„æµ‹åº¦å�˜æ�¢æœºå™¨ï¼Œé€šè¿‡å…¬ç�†A2(æ�¶æ�„æ�„é€ è®ºï¼‰å°†å…¶æ�„æˆ�é™�定为残差æµ�ã€�注æ„�力和FFN三ç§�å�‘é‡�å�Ÿè¯ã€‚它的信æ�¯å‡ 何框æ�¶å°†è¯ä¹‰åœºæ˜�确定义为é»�曼æµ�形,“汉å—è¯ä¹‰å¯†åº¦ä¸ƒå±‚金å—å¡”â€�则精确é‡�化了汉è¯å¯¹è¯ä¹‰åœºçš„å��置切分方å¼�。
在认知层,DWL/C的公ç�†-定ç�†-æ�¨è®ºä½“系替代了角色声æ˜�,指称网络æ��供了动æ€�çš„è¯ä¹‰åœºå��ç½®æ“�作æ�¥å�£ï¼Œå¿ƒè¿¹æ ¼å¼�å®šä¹‰äº†æ ‡å‡†çš„å�¯è§‚测状æ€�日志。它的å�Ÿè¯é›†å®šä¹‰äº†Agentè¡Œä¸ºè°ƒç”¨çš„æ ‡å‡†è¯æ³•。
在方法层,Pilot决ç–引æ“�作为确定性规则引æ“�,å…å�ªâ€œè®¤çŸ¥åœºåŠ¨åŠ›å¦å¦–â€�(曲ç�‡å¼•æ“�ã€�负熵注入器ã€�å��å�‘全知ã€�噪声放大器ã€�横跳桥ã€�èŠ�è¯ºè§‚æµ‹å™¨ï¼‰ä½œä¸ºåŠ¨åŠ›å¦æ‰§è¡Œå™¨ï¼Œä¸ƒåŠ¨ä½œé—ç�¯æ��ä¾›ä»�观测到执行å†�到归零的完整æ�§åˆ¶é“¾è·¯ã€‚
值得一æ��的是,DWL/Cæ˜�确区分了事å®�锚定ä¸�è¯ä¹‰å®¡æŸ¥ï¼Œå°†äº¤äº’规范ä»�“AI应该内化的é�“德准则â€�转化为“å�¯è¢«å��议层验è¯�和执行的规程â€�,并通过return_to_silenceå�Ÿè¯å°†ç»´ç‰¹æ ¹æ–¯å�¦çš„哲妿 ¼è¨€â€œå‡¡ä¸�å�¯è¯´çš„,必须沉默â€�工程化为系统的硬边界。这ä¸�我们æ�¨å¯¼çš„æ¡†æ�¶åœ¨å�Ÿç�†ä¸Šå®Œå…¨å�Œæ�„,æ�„æˆ�了对上述æ�¨å¯¼çš„独立å®�例化验è¯�。
五ã€�æ•°å¦ä¸‰æ��点的工程投影
如�我们�更高的层�审视整个�建,一个精确的结�对应浮�出�。
æ•°å¦ä¸‰æ��点——概ç�‡ã€�代数ã€�å‡ ä½•â€”â€”æ˜¯å½¢å¼�系统内部的“å�¯è¯´â€�边界。在这个边界内部,世界是å�¯è®¡ç®—ã€�å�¯æ�¨å¯¼ã€�å�¯åº¦é‡�的。系统科å¦çš„三个工程æ��点——æ�§åˆ¶è®ºã€�系统论ã€�决ç–论——是数å¦ä¸‰æ��点在工程问题空间ä¸çš„æŠ•影。æ�§åˆ¶è®ºæ˜¯æ¦‚ç�‡çš„工程化:它关心系统如何通过å��馈在ä¸�ç¡®å®šæ€§ä¸æŠµè¾¾ç›®æ ‡çŠ¶æ€�。系统论是代数的工程化:它关心系统的层次分解ã€�功能结æ�„的符å�·åŒ–æ��述。决ç–è®ºæ˜¯å‡ ä½•çš„å·¥ç¨‹åŒ–ï¼šå®ƒå…³å¿ƒåœ¨ç»™å®šç»“æ�„å’Œä¸�确定性下如何选择最优行动路径。
这三个工程æ��点ä¸�能å�Œæ—¶è¢«æœ€å¤§åŒ–。å˜åœ¨ç�€æ ¹æœ¬çš„é��对易性——系统矩阵ã€�观测矩阵ã€�æ�§åˆ¶çŸ©é˜µæ— 法被å�Œæ—¶å¯¹è§’化。任何具体的Agentæ�„建方案都是在这三个æ��点æ�„æˆ�的曲é�¢ä¸Šçš„一个特定å��æ ‡ç‚¹ã€‚ä»£ç �审查Agent在这个曲é�¢ä¸Šæ›´é� 近系统论(高约æ�Ÿã€�确定性æ�¥å�£ï¼‰ï¼›åˆ›æ„�写作伙伴更é� è¿‘æ�§åˆ¶è®ºï¼ˆé«˜è‡ªä¸»æ€§ã€�ä½�分解性);客æœ�Agent则需è¦�在决ç–论区域附近。ä¸�å˜åœ¨â€œæœ€å¥½â€�çš„å��æ ‡ï¼Œå�ªå˜åœ¨é’ˆå¯¹ç‰¹å®šæ•ˆç”¨å‡½æ•°çš„æœ€ä¼˜è§£ã€‚
这些工程æ��点在DWL/Cä¸å¯¹åº”ç�€å›�归自身的直æ�¥æ˜ 射:
一阶Agent(执行层)和�制论关注�馈�动�调节
二阶æ�§åˆ¶å™¨è´Ÿè´£åŸºäº�交互结æ�œè°ƒæ•´ç–略;
系统论关注æ�¶æ�„ä¸�分解,认知层(å��议层)通过公ç�†ç³»ç»Ÿã€�状æ€�æœºå’Œæ ¡éªŒè§„åˆ™ç¡®ä¿�系统的å�¯åˆ†è§£æ€§ä¸�å�¯éªŒè¯�性;
决ç–论关注最优行为选择,Pilot决ç–引æ“�å’Œç¼˜èµ·å†³ç–æ ˆä¸ºç³»ç»Ÿæ��供在ä¸�ç¡®å®šæ€§ä¸‹é€‰æ‹©æœ€ä¼˜è°ƒèŠ‚åŠ¨ä½œçš„å†…æ ¸ã€‚
在这个曲é�¢ä¹‹å¤–——“å�¯è¯´â€�的边界之外——是价值ã€�伦ç�†ã€�审ç¾�。它们ä¸�是å�¯ä»¥è¢«çº³å…¥è¿™ä¸ªå��æ ‡ç³»çš„ç¬¬å››ä¸ªå�‚数。它们ä¸�是“也å�¯è¯´â€�。它们是ä¸�å�¯è¯´ã€‚而如今Agent的对é½�ç�¾éš¾ï¼Œæ£æ˜¯è¯•图把ä¸�å�¯è¯´çš„东西强行å¡�进这个三æ��点曲é�¢ï¼Œä»¥RLHF作为概ç�‡åŒ–çš„é�“å¾·ã€�以宪法AI作为代数化的伦ç�†ã€�以角色声æ˜�ä½œä¸ºå‡ ä½•åŒ–çš„â€œå–„â€�。
真æ£çš„对é½�ä¸�是å�‘生在“ä¸�å�¯è¯´â€�层é�¢çš„æ— å°½äººå·¥è°ƒæ ¡ã€‚çœŸæ£çš„对é½�å�‘生在å�¯è¯´å±‚é�¢çš„æ�§åˆ¶å·¥ç¨‹å’Œé�¢å¯¹ä¸�å�¯è¯´æ—¶è¯šå®�地归零。归零ä¸�是放弃。它是承认——承认形å¼�系统有它ä¸�å�¯é€¾è¶Šçš„边界,承认在这个边界之外,最好的å›�应是沉默。
尾声:å¦ä¼šåœ¨è¾¹ç•Œä¸Šå�œä¸‹
对äº�ç§‘å¦ä¼ æ’者,对äº�一个试图ç�†è§£AI本质的æ€�考者,对äº�一个æ¯�天在调试Agent的工程师,这个结论具有å�Œç‰çš„é‡�è¦�性。
那些失败的Agent,那些陷入循ç�¯ã€�说出漂亮的废è¯�ã€�自行其是的智能体,它们的失败ä¸�是æ„�外。它们是概ç�‡ç³»ç»Ÿåœ¨å°�é—状æ€�下的必然宿命。表演çƒå¯‚ä¸�是bug,它是自å›�归系统所æœ�ä»�çš„çƒåŠ›å¦ç¬¬äºŒå®šå¾‹ã€‚æˆ‘ä»¬æ— æ³•é€šè¿‡æ›´å¤šçš„æŒ‡ä»¤ã€�æ›´æ–°çš„RLHFã€�更大的模å�‹æ�¥â€œä¿®å¤�â€�它——就åƒ�æˆ‘ä»¬æ— æ³•é€šè¿‡æ›´å¥½çš„éš”çƒæ��æ–™æ�¥â€œä¿®å¤�â€�çƒåŠ›å¦ç¬¬äºŒå®šå¾‹ä¸€æ ·ã€‚
但我们å�¯ä»¥å�šå�¦ä¸€ä»¶äº‹ã€‚我们å�¯ä»¥å»ºç«‹ä¸€ä¸ªäºŒé˜¶å��馈å›�路,让外部的人类智能æˆ�为对抗熵å¢�的负熵æº�——ä¸�是通过“评估输出是å�¦æœ‰å®³â€�è¿™ç§�è¯ä¹‰å®¡æŸ¥ï¼Œè€Œæ˜¯é€šè¿‡å�¯è®¡ç®—çš„æ“�作:公ç�†ç³»ç»Ÿæ³¨å…¥ç¡®å®šæ€§ç»“æ�„,对è¯�æ�露表演惯性,基äº�计算事å®�ä¿®æ£è¡Œä¸ºã€‚我们å�¯ä»¥å°†Agent的“好â€�ä»�一ç§�ä¸�å�¯è®¡ç®—的价值判æ–,转化为一系列å�¯åº¦é‡�ã€�å�¯éªŒè¯�ã€�å�¯åЍæ€�调整的工程约æ�Ÿã€‚
è¿™æ„�味ç�€Agentçš„å�¯é� 性ä¸�å�–决äº�模å�‹çš„内部一致性,而å�–决äº�系统æ�¶æ�„的确定性ä¿�障。工程师ä¸�å†�问“它为什么这么å�šâ€�,而是检查å��议日志,定ä½�å“ªä¸ªæ ¡éªŒå¤±è´¥äº†ï¼Œå“ªä¸ªçº¦æ�Ÿåœ¨å“ªä¸ªæ—¶åˆ»è¢«ç»•过了,然å��åŠ å›ºé‚£ä¸€ä¸ªç‚¹ã€‚
这也�味�一�新的诚�。当Agent�知�时,它�以�知�。当它触�边界时,它�以�下�。归零�是崩溃,是它的设计的一部分——承认局�,承认�确定,承认有些东西��说。
ç»´ç‰¹æ ¹æ–¯å�¦åœ¨ã€Šé€»è¾‘哲å¦è®ºã€‹çš„æœ€å��一å�¥è¯�是:“凡ä¸�å�¯è¯´çš„,必须沉默。â€�他写下这å�¥è¯�的时候,或许并没有想到,在一百年å��,这å�¥è¯�会æˆ�为æ�§åˆ¶å·¥ç¨‹ä¸çš„一个系统调用。return_to_silence——将概ç�‡åˆ†å¸ƒé‡�置为最大熵,为下一次生æˆ�留出空间。
真æ£çš„对é½�,是å¦ä¼šåœ¨è¾¹ç•Œä¸Šå�œä¸‹ã€‚
关键�
概ç�‡æµ�形:大模å�‹çš„输出空间ä¸�æ˜¯å¹³æ•´çš„ï¼Œè€Œæ˜¯ä¸€ä¸ªå¼¯æ›²çš„é«˜ç»´å‡ ä½•ç»“æ�„。ä¸�å�Œè¯è¨€çš„è¯æ³•ã€�è¯ä¹‰ã€�è¯ç”¨åœ¨è¿™ä¸ªç©ºé—´ä¸ä¸�å�¯åˆ†å‰²åœ°çº ç¼ åœ¨ä¸€èµ·ã€‚
表演çƒå¯‚:在没有外部干预的å°�é—系统ä¸ï¼Œè¯è¨€æ¨¡å�‹ä¼šè‡ªå�‘地收敛到一ç§�状æ€�——表é�¢ä¸Šè¯æ³•æ£ç¡®ã€�è¯ä¹‰è¿�贯,å®�际上信æ�¯é‡�为零。这是一ç§�认知上的“çƒåЛ妿»äº¡â€�。
范畴错误:当å‰�对é½�å¤±è´¥çš„æ ¹æœ¬å�Ÿå› ,ä¸�是技术粗糙,而是把å±�äº�“ä¸�å�¯è¯´â€�领域的东西(价值ã€�伦ç�†ã€�审ç¾�)强行å¡�进形å¼�系统的“å�¯è¯´â€�框æ�¶ä¹‹å†…。
è¯ç”¨å��议:用æ�¥æ›¿ä»£æ¨¡ç³Šè§’色声æ˜�的确定性交互规则。它ä¸�é� Agent“自觉é�µå®ˆâ€�,而是通过å�¯éªŒè¯�的消æ�¯ç»“æ�„ã€�状æ€�æœºå’Œæ ¡éªŒæœºåˆ¶å¼ºåˆ¶æ‰§è¡Œã€‚
二阶�制:将�制问题��层��到�层——执行层是概�性的,�制层是确定性的。�制器�直�干预token生�,而是基�交互结�动�调节执行层的约��件。
归零:当系统在“å�¯è¯´â€�çš„è¾¹ç•Œå†…æ— æ³•æœ‰æ•ˆè¿�转时,它应当诚å®�地å�œæ¢â€”—将概ç�‡åˆ†å¸ƒé‡�置为最大熵,为下一次å�¯èƒ½çš„生æˆ�留出空间。
三æ��点曲é�¢ï¼šæ�§åˆ¶è®ºã€�系统论ã€�决ç–论三个工程æ��点共å�Œå¼ æˆ�一个决ç–空间。任何一个æ��点被过度最大化,都会以牺牲å�¦å¤–两个为代价——ä¸�å˜åœ¨å…¨å±€æœ€ä¼˜è§£ï¼Œå�ªå˜åœ¨é’ˆå¯¹ç‰¹å®šç›®æ ‡çš„帕累托最优。
æ•°å¦ä¸‰æ��点:概ç�‡ã€�代数ã€�å‡ ä½•å…±å�Œåˆ’定了形å¼�化认知的全部边界。在这个边界之内,世界å�¯ä»¥è¢«ç²¾ç¡®è®¡ç®—ã€�ä¸¥æ ¼æ�¨å¯¼ã€�å½¢å¼�化验è¯�。在这个边界之外——沉默。
公�系统替代:用精确的公�和定��替代模糊的角色声�,使�示��“愿望清����“逻辑系统�。
Logprobs 审计:通过计算模å�‹è¾“出的对数概ç�‡æ�¥é‡�化ä¸�确定性。ä¸�是信任Agent的自我报告,而是直æ�¥ä»�概ç�‡åˆ†å¸ƒä¸è¯»å�–è¯�æ�®ã€‚
ç¬¬ä¸€ç« åˆ’æ¸…è¾¹ç•Œï¼šç³»ç»Ÿè®ºã€�æ�§åˆ¶è®ºä¸�ä¿¡æ�¯è®º
在这一阶段,追问者è¦�求对系统科å¦çš„åŸºæœ¬æ¦‚å¿µè¿›è¡Œä¸¥æ ¼è¾¨æ��ã€‚æ ¸å¿ƒæˆ�æ�œæ˜¯æ¾„清了“三论â€�的真å®�关系,为å��ç»å·¥ç¨‹æ�„å»ºå¥ å®šäº†å¦ç§‘基础。
è¿½é—®è€…ï¼šä½ åˆ—çš„è¿™äº› 都是系统论?æ�§åˆ¶è®ºä¹Ÿæ˜¯ï¼Ÿè€—散结æ�„是应用还是本体论å�‡çº§ï¼Ÿæ¶Œç�° 自创生是系统论本身 还是一个结æ�œçš„è§£é‡Šï¼Ÿä½ åˆ«ç³Šé‡Œç³Šæ¶‚çš„
è¿™æ¬¡è¿½é—®ç¡®å®šäº†å‡ ä¸ªå…³é”®åŒºåˆ†ï¼š
ä¸€èˆ¬ç³»ç»Ÿè®ºæ˜¯æœ¬ä½“è®ºæ ¸å¿ƒï¼Œæ��供“系统ã€�边界ã€�层次ã€�开放/å°�é—â€�的基本è¯è¨€ï¼›
æ�§åˆ¶è®ºæ˜¯å¹³è¡Œçš„独立å¦ç§‘ï¼Œæ ¸å¿ƒæ˜¯ç›®æ ‡ä¸�å��馈;
耗散结æ�„是本体论å�‡çº§â€”—它ä¸�是对系统论的应用,而是用é��平衡æ€�çƒåŠ›å¦å±•ç¤ºäº†å¼€æ”¾æ€§åˆ›é€ æœ‰åº�的具体机制,将系统论的“开放系统有åº�化â€�命题æ��å�‡åˆ°äº†æ•°ç�†ç§‘å¦çš„层é�¢ã€‚
æ¶Œç�°å’Œè‡ªåˆ›ç”Ÿä¸�是独立的ç�†è®ºï¼Œè€Œæ˜¯åµŒå…¥ç³»ç»Ÿè®ºå†…éƒ¨çš„æ ¸å¿ƒæ¦‚å¿µâ€”â€”å‰�者解释“整体如何ä»�部分互动ä¸äº§ç”Ÿæ–°å±�性â€�,å��者é‡�新定义“活ç�€â€�的最å°�组织。
追问者:没有决ç–论?ä¸�缺失å�—?
追问者补充了系统科å¦ç‰ˆå›¾çš„å¿…è¦�组æˆ�部分。决ç–论填补了ä»�“系统是什么â€�åˆ°â€œç³»ç»Ÿå¦‚ä½•é€‰æ‹©ç›®æ ‡å¹¶è¡ŒåŠ¨â€�的逻辑缺å�£ã€‚系统论æ��供认知框æ�¶ï¼ˆæ˜¯ä»€ä¹ˆï¼‰ï¼Œæ�§åˆ¶è®ºæ��ä¾›å®�ç�°ç›®æ ‡çš„æœºåˆ¶ï¼ˆæ€�么达æˆ�),决ç–论æ��供路径选择的方法论(在当å‰�情境下应该æ€�么å�šï¼‰ã€‚三者共å�Œæ�„æˆ�了ä»�ç�†è§£ä¸–ç•Œåˆ°æ”¹é€ ä¸–ç•Œçš„å®Œæ•´é€»è¾‘é“¾æ�¡ã€‚
追问者:我觉得 ä¸�需è¦�ç�°è±¡å¦ 污染
这一轮确立了对è¯�的方法论边界。追问者拒ç»�用ç�°è±¡å¦ç‰å¤–éƒ¨å“²å¦æ¡†æ�¶å�»è§£è¯»ç³»ç»Ÿç§‘å¦ï¼Œè€Œæ˜¯è¦�求å›�åˆ°ç³»ç»Ÿç§‘å¦æœ¬èº«çš„è¯è¨€å’Œæ�„建方法。å›�应者承认这一批评,将“解释世界â€�和“æ�„建ç�†è®ºâ€�的区分定ä½�在系统科å¦å†…部:本体论层次(一般系统论ã€�耗散结æ�„ã€�æ¶Œç�°ï¼‰è§£é‡Šå·²æœ‰ç³»ç»Ÿç�°è±¡ï¼Œå±�äº�“事å��的智慧â€�;方法论层次(æ�§åˆ¶è®ºã€�系统动力å¦ã€�决ç–论)æ��供主动设计和干预的æ“�作性ç�†è®ºï¼Œå±�äº�“æ�„建的智慧â€�。
ç¬¬äºŒç« è¯Šæ–失败:三é‡�割裂ä¸�对é½�的本质错误
确立了系统科å¦çš„æ�„å»ºæ ‡å‡†å��,对è¯�转å�‘对当å‰�LLM Agent范å¼�的检验。追问者è¦�求以工程事å®�而é��ç�†è®ºæ�¨æ¼”为基础,对行业的æ�„建性ç�°çŠ¶è¿›è¡Œä¸¥æ ¼è¯„ä¼°ã€‚
追问者:我们分æ�� LLM Agent 系统……ä¸�è¦�这么精巧的自我è¯è¨€é€»è¾‘自洽
å›�应者应用刚å�˜æ¸…的系统科å¦åŠŸèƒ½æ¨¡å�—对LLM Agentè¿›è¡Œäº†åˆ†è§£â€”â€”è®¤çŸ¥æ ¸å¿ƒï¼ˆLLM作为黑箱生æˆ�器)ã€�æ�§åˆ¶ç³»ç»Ÿï¼ˆæ�¨ç�†ä¸�行动å›�路)ã€�记忆ä¸�状æ€�ã€�工具ä¸�æ�¥å�£â€”—并指出æ¯�个模å�—çš„æˆ�熟度和缺失。
��进行的行业��检验��:
生产ç�¯å¢ƒä¸å¤šAgent任务æˆ�功ç�‡æ™®é��ä½�äº�50%ï¼›
通信å��è®®ç¢�片化为至少四套互ä¸�å…¼å®¹çš„æ ‡å‡†ï¼ˆGoogle A2Aã€�Anthropic MCPã€�IBM ACPã€�ANP);
æ–è·¯ä¿�护ã€�上下文漂移æ�§åˆ¶ç‰åŸºç¡€è®¾æ–½ä»�需通过外部补ä¸�æ�¥ç»´æŠ¤ï¼›
妿œ¯ç ”ç©¶æ˜�确指出“å��调缺陷â€�——而é��模å�‹èƒ½åŠ›ä¸�足——是导致多Agent系统失败的关键瓶颈。
åº”ç”¨ä¾§çš„è°ƒç ”è¯�å®�,å�³ä¾¿æ˜¯æœ€å‰�沿的工程å®�践(AutoGLM在付款å‰�è¦�求人工æ�¥ç®¡ã€�agent-fuseçš„æ–è·¯ä¿�护ç‰ï¼‰ï¼Œæœ¬è´¨ä¸Šä»�是对“鸿沟å˜åœ¨â€�的工程化承认——需è¦�å…œåº•æ–¹æ¡ˆï¼Œæ£æ˜¯å› ä¸ºæ ¸å¿ƒæ�¶æ�„ä¸�具备å�¯é� é—ç�¯æ�§åˆ¶èƒ½åŠ›ã€‚
è¿½é—®è€…ï¼šæˆ‘è§‰å¾—æœ‰ä¸ªé—®é¢˜â€¦â€¦ä½ è¿˜æ²¡æœ‰æŠŠè¡¨å¾�è¯ä¹‰åœºçš„特å¾�以å�Šè¯è¨€æ˜¯å��ç½®è¯ä¹‰åœºçš„事å®�结å�ˆèµ·æ�¥ã€‚ä½ ä¹Ÿæ²¡æœ‰æŠŠè¯ä¹‰è¯æ³•è¯ç”¨ç»“å�ˆèµ·æ�¥è€ƒè™‘
å›�应者æ�¥å�—了这一批评,并对方案进行了å®�质性修订。LLM的高维嵌入空间是一个具有é��平凡曲ç�‡çš„é»�曼æµ�形——è¯ä¹‰åœºä¸�是å�‡åŒ€çš„æ¬§å‡ 里得空间,两个è¯ä¹‰ä¹‹é—´çš„è·�离ä¸�ä»…å�–决äº�它们“是什么â€�,还å�–决äº�它们在空间ä¸çš„ä½�置和方å�‘。
è¿™æ„�味ç�€åœ¨è¯ä¹‰åœºå†…éƒ¨æ— æ³•å»ºç«‹â€œè¯ä¹‰é˜²ç�«å¢™â€�——试图让Agent“ç�†è§£ä»€ä¹ˆä¸�能说â€�çš„ç–ç•¥ç‰äº�è¦�求在弯曲空间ä¸ç”»ä¸€æ�¡ç›´çº¿æ�¥åˆ†éš”区域。
è¯è¨€å¯¹è¿™ä¸ªè¿�ç»è¯ä¹‰åœºæ–½åŠ ä¸�å�Œçš„离散化切分。
英è¯ä»¥â€œç•Œâ€�ä¸ºæ ¸å¿ƒï¼ˆä¸»è°“åˆ†ç¦»ã€�动作定ä½�äº�执行者ã€�æ—¶é—´çº¿æ€§æ ‡è®°ï¼‰
汉è¯ä»¥â€œåœºâ€�ä¸ºæ ¸å¿ƒï¼ˆä¸»è¯å¸¸å¸¸æ¶ˆéš�ã€�动作è��入事件æµ�ã€�æ—¶é—´ç”±è¯å¢ƒæ‰¿è½½ï¼‰ã€‚
è¿™ä¸�æ˜¯â€œè¡¨è¾¾ä¹ æƒ¯â€�的差异,而是认知å��置的æ�¶æ�„性差异。
在LLM内部,è¯ä¹‰ã€�è¯æ³•ã€�è¯ç”¨ä¸�是分离的模å�—,而是å�Œä¸€ä¸ªé«˜ç»´æµ�形在ä¸�å�Œå��ç½®æ�¡ä»¶ä¸‹çš„æŠ•影。改å�˜è¯æ³•å½¢æ€�会å�Œæ—¶æ”¹å�˜è¯ä¹‰å’Œè¯ç”¨æ•ˆæ�œã€‚任何试图分离æ�§åˆ¶è¿™ä¸‰è€…çš„æ�¶æ�„设计,如æ�œä¸�在å�Ÿç�†ä¸Šæ‰¿è®¤è¿™ç§�ä¸�å�¯åˆ†ç¦»æ€§ï¼Œå¿…然失效。这æ„�味ç�€æ�§åˆ¶ç–略必须ä»�æ ¹æœ¬ä¸Šè°ƒæ•´â€”â€”ä¸�是执行“è¯ä¹‰å®¡æŸ¥â€�,而是引入“å�¯è§‚测的行为事件â€�。
追问者:角色声æ˜�ä½ ä¸�觉得是一ç§�一阶符å�·çš„特å¾�å�—?
追问者本人指出了之å‰�方案ä¸çš„矛盾——在批判一阶符å�·æ�§åˆ¶çš„å�Œæ—¶ï¼Œå�´ä¿�留了角色声æ˜�这一一阶符å�·æ�§åˆ¶çš„å…¸å�‹å�šæ³•ã€‚è§’è‰²å£°æ˜�的失效机制ä¸�RLHF和安全æ��示è¯�一致:è¯ä¹‰ç©ºé—´æ˜¯å¼¯æ›²çš„,角色边界ä¸�是å�¯æ‰§è¡Œçš„直线,è¯ä¹‰-è¯æ³•-è¯ç”¨ä¸�å�¯åˆ†ç¦»ï¼Œå�Œä¸€å£°æ˜�在ä¸�å�Œè¯è¨€å��置场ä¸äº§ç”Ÿä¸�å�Œè¡Œä¸ºåˆ‡åˆ†ã€‚
�应者基�这一批评将角色声�完全拆解:
功能边界替代角色声�(由���书��许的交互类�和工具白��定义);
行为约�替代角色�求(由二阶�制器的动�调节完�);
é£�æ ¼å�‚æ•°æ›¿ä»£è§’è‰²äººæ ¼ï¼ˆä¸�功能边界分离,å�¯ç‹¬ç«‹è°ƒæ•´ï¼‰ã€‚
è¿™æ„�味ç�€æ��示è¯�ä¸�å†�包å�«ä»»ä½•â€œä½ æ˜¯Xâ€�的声æ˜�,系统ä¸�å†�é� Agentç�†è§£è‡ªå·±çš„角色æ�¥æ�§åˆ¶è¡Œä¸ºã€‚
追问者:è¯è¨€æ˜¯å��ç½®è¯ä¹‰åœºâ€¦â€¦ç�°ä»£æ±‰è¯ã€�文言汉è¯ä¸�英è¯å˜åœ¨æ ¹æœ¬æ€§ä¸�å�Œã€‚我觉得,ä»�æ�„建ç�†è®ºæ�¥è¯´ï¼Œç›®å‰�都是ç¢�片化的,零散的,没有统一本体ã€�认知ã€�方法的å�Ÿç�†æ€§è®¾è®¡
è¿™æ¬¡è¿½é—®å°†é›¶æ•£çš„è¯Šæ–æ•´å�ˆä¸ºä¸€ä¸ªç»Ÿä¸€çš„ç�†è®ºã€‚当å‰�LLM Agent领域的ç¢�片化本质上是ç�†è®ºå±‚é�¢çš„系统性缺失——缺ä¹�一个将本体ã€�认知ã€�方法三者贯通的å�Ÿç�†æ€§æ¡†æ�¶ã€‚å›�应者勾勒出了统一框æ�¶çš„三层结æ�„:本体层(概ç�‡è¯ä¹‰ç©ºé—´â€”—ä¸�å¾—ä¸�æ�¥å�—的基础)ã€�认知层(è¯ç”¨ç•Œé�¢çš„å½¢å¼�化——框æ�¶çš„æ ¸å¿ƒï¼‰ã€�方法层(二阶æ�§åˆ¶æ�¶æ�„——作用äº�Agent之上的调节系统)。
在认知层,追问者对汉è¯ç‰¹æ®Šæ€§çš„å�šæŒ�æ�„æˆ�了框æ�¶çš„试金石。如æ�œç»Ÿä¸€æ¡†æ�¶å£°ç§°â€œè¯è¨€æ— å…³â€�,å�´é»˜è®¤é‡‡ç”¨è‹±è¯çš„主谓宾æ�¶æ�„ï¼Œå°±æ— æ³•å¤„ç�†æ±‰è¯çš„è¯�题-陈述结æ�„ã€�零代è¯�å’Œæµ�æ°´å�¥ã€‚ä¸å›½å�¤ä»£çš„“互文è§�义â€�——æ„�义通过结æ�„的对仗ã€�并置而涌ç�°â€”—ä¸�ç�°ä»£ç³»ç»Ÿè®ºçš„“自组织â€�概念有深层呼应。
ç¬¬ä¸‰ç« æ�„建框æ�¶ï¼šè¯ç”¨å��è®®ä¸�二阶æ�§åˆ¶
在完æˆ�诊æ–å��,对è¯�转å�‘æ£é�¢æ�„建。追问者è¦�求å›�归系统科å¦çš„“å�¯é� æ�„建â€�æ ‡å‡†ï¼Œå¹¶åŸºäº�è¿™ä¸€æ ‡å‡†ç³»ç»Ÿåœ°æ��出替代方案。
追问者:这ç§�表述下次ä¸�è¦�有了,我们就是在ä»�系统科å¦çš„å�¯é� æ�„å»ºæ ‡å‡†æ�¥çœ‹
å“�åº”è€…è¿›è¡Œäº†ç«‹åœºçš„ä¸¥æ ¼ä¿®æ£ï¼šä»�系统科å¦çš„æ�„å»ºæ ‡å‡†æ�¥çœ‹ï¼ŒRLHF和宪法AIä¸�是“温和扰动â€�ï¼Œè€Œæ˜¯æ— æ•ˆçš„é—ç�¯æ�§åˆ¶â€”—它们既ä¸�å�¯éªŒè¯�也ä¸�é²�棒。有效æ�§åˆ¶è¦�求å�¯æµ‹é‡�的误差信å�·ã€�å�¯è°ƒæ•´çš„æ‰§è¡Œå™¨ã€�å�¯é¢„测的指令-å“�åº”æ˜ å°„ï¼Œè€ŒRLHF建立的å��好信å�·ä¸�满足其ä¸ä»»ä½•一个æ�¡ä»¶ã€‚
基äº�è¿™ä¸€æ ‡å‡†ï¼Œå›�应者系统性地æ��出了替代方案
将规范定义为è¯ç”¨è§„则而é��è¯ä¹‰çº¦æ�Ÿï¼Œå°†å��馈信å�·å»ºç«‹åœ¨äº¤äº’结æ�œä¸Šè€Œé��tokenå��好上,将æ�§åˆ¶è®¾è®¡ä¸ºä¸€ä¸ªæ›´é«˜é˜¶çš„调节系统。
åœ¨æ¤æ–¹æ¡ˆä¸ï¼Œè¿½é—®è€…æ��出的“公ç�†å®šç�†åœ¨æ��示è¯�䏿‰¿æ‹…三é‡�作用â€�(逻辑å‰�ä»¶ã€�è¯ä¹‰åœºå��ç½®ã€�注æ„�力引导)æˆ�为关键亮点——它为整个æ��ç¤ºå·¥ç¨‹ç¡®ç«‹äº†ä¸¥æ ¼çš„æ�„é€ å�Ÿåˆ™ï¼Œå°†æ��示è¯�ä»�愿望清å�•转å�˜ä¸ºé€»è¾‘系统。
追问者:我有个模å�‹ä½ 帮我分æ��……三æ��点的æ£äº¤ç»“æ�„……最终修æ£â€¦â€¦æ�§åˆ¶è®ºã€�系统论ã€�决ç–论作为三æ��点的æ£äº¤çº¦æ�Ÿï¼Œæ�„æˆ�的工程解曲é�¢
该模å�‹å°†æ¤å‰�零散的系统科å¦è®¨è®ºæ•´å�ˆä¸ºç»Ÿä¸€çš„æ•°å¦ç»“æ�„:æ�§åˆ¶è®ºã€�系统论ã€�决ç–论是三个æ£äº¤ä¸”ä¸�å�¯è¿˜å�Ÿçš„æ��点,三者之间å˜åœ¨æ ¹æœ¬æ€§çš„é��对易性——系统矩阵ã€�观测矩阵和æ�§åˆ¶çŸ©é˜µä¸�能被å�Œæ—¶å¯¹è§’化。三角ä¸�å�¯èƒ½å®šç�†æ„�味ç�€ä¸‰ä¸ªæ��点ä¸�能å�Œæ—¶æœ€å¤§åŒ–,任何工程方案都是在三者æ�„æˆ�的曲é�¢ä¸Šé€‰æ‹©ç‰¹å®šå��æ ‡ç‚¹ã€‚
å›�应者的检验确认了该模å�‹çš„å¦ç�†æˆ�立:
三个�点对应的具体工程�体分别是:
�制论对应概�本体和二阶�馈�路
系统论对应è¯ç”¨å��议层和公ç�†-定ç�†ç³»ç»Ÿ
决ç–论对应二阶æ�§åˆ¶å™¨çš„é€‰æ‹©å†…æ ¸ã€‚
三æ��点结æ�„ä¸�追问者诊æ–çš„æ¯�一项具体问题(RLHFæ— æ•ˆã€�角色声æ˜�失效ã€�多Agentå��调缺陷)完全一致。
追问者:交互å��议的完整形å¼�è¯æ³•。我们ä¸�谈具体设计,先谈å�Ÿç�†ï¼Œå�¯ä»¥é™„带例å�
å›�应者基äº�言è¯è¡Œä¸ºç�†è®ºæ��出了å��议的形å¼�åŒ–è¯æ³•,包å�«äº”ä¸ªæ ¸å¿ƒå�Ÿç�†ã€‚
言è¯è¡Œä¸ºä½œä¸ºåŸºæœ¬å�•元——å��议的基本å�•å…ƒä¸�是“消æ�¯â€�,而是交互动作在系统ä¸äº§ç”Ÿçš„æ•ˆæ�œã€‚
消æ�¯ç»“æ�„的三段å¼�——æ¯�个消æ�¯åŒ…å�«ç±»å�‹å£°æ˜�ã€�指å�‘对象和内容载è�·ï¼Œä¸‰å—段之间å˜åœ¨å�¯æ ¡éªŒçš„约æ�Ÿã€‚
交互�状�机约�——�消�在特定状�下是��法由�议层自动�定,超时是显�状�。
声æ˜�çš„å�¯éªŒè¯�性——Agent的声æ˜�å�¯è¢«å��è®®å±‚ç‹¬ç«‹æ ¡éªŒï¼Œæ ¡éªŒç»“æ�œä¸ºäºŒé˜¶æ�§åˆ¶å™¨æ��供客观å��馈。
角色ä¸�æ�ƒé™�的形å¼�化——Agent间的交互关系ä¸�是é� æ��示è¯�定义,而是é� å�¯è¢«å¯†ç �å¦éªŒè¯�的能力è¯�书。这套å�Ÿç�†ç›´æ�¥è§£å†³äº†å½“å‰�多Agentç³»ç»Ÿæœ€æ ¹æœ¬çš„é—®é¢˜â€”â€”å°†ä¸�å�¯éªŒè¯�的自然è¯è¨€é€šä¿¡æ›¿æ�¢ä¸ºå�¯è‡ªåŠ¨æ ¡éªŒçš„çŠ¶æ€�æ›´æ–°ä¿¡å�·ã€‚
追问者:我觉得有个问题……能�建立一个翻译层……结�化为这套��认�的?
è¯¥è®¾æƒ³å°†æ•´ä¸ªæ–¹æ¡ˆä¸æœ€å…³é”®çš„æ�¥å�£è¿›è¡Œäº†åŠŸèƒ½å®�体化。翻译层ä¸�是让LLM“ç�†è§£â€�用户æ„�å›¾ï¼Œè€Œæ˜¯æ‰§è¡Œä¸€ä¸ªä¸¥æ ¼çš„è½¬æ�¢å·¥ç¨‹ï¼Œå°†ä¸�å�¯ä¿¡çš„自然è¯è¨€ç¼–译为系统内部唯一å�¯ä¿¡çš„è¯ç”¨æŒ‡ä»¤ã€‚
翻译过程分为三个确定性阶段:è¯ç”¨æ„�图解æ��(将自然è¯è¨€æ˜ 射到有é™�的系统动作集,模糊则触å�‘澄清请求);约æ�Ÿä¸�上下文绑定(将动作ä¸�å…¬ç�†ç³»ç»Ÿçš„约æ�Ÿå’Œæ�ƒé™�规则关è�”);交互å��è®®å°�装(将带约æ�Ÿçš„动作包编ç �ä¸ºæ ‡å‡†æ ¼å¼�,消除æ§ä¹‰ï¼‰ã€‚翻译层是å�Œå�‘的——Agent执行结æ�œå�Œæ ·éœ€è¦�通过é£�æ ¼å�‚数翻译å›�用户å�¯ç�†è§£çš„自然è¯è¨€ã€‚
ç¬¬å››ç« è·¨æ¡†æ�¶éªŒè¯�ä¸�å·¥ç¨‹æ˜ å°„
在ç�†è®ºæ¡†æ�¶ç¡®ç«‹å��,对è¯�ä»�æ�¨æ¼”转å�‘验è¯�:以系统科å¦çš„æ�„å»ºæ ‡å‡†ä¸¥æ ¼æ£€éªŒè¡Œä¸šå®�践,并确认独立æ�¨å¯¼çš„ç�†è®ºæ˜¯å�¦ä¸�既有体系æ�„æˆ�å�Œæ�„关系。
è¿½é—®è€…ï¼šé‚£ä½ æ�œç´¢ç�°åœ¨ 在应用侧……å�„个大å�‚的解决方案的æ�„建性æ€�ä¹ˆæ ·ï¼Ÿ
å›�应者对行业å®�践进行了系统性å��å�‘验è¯�。通过é€�一检验八个必è¦�æ�¡ä»¶ï¼ˆç”Ÿäº§ç�¯å¢ƒæˆ�功ç�‡ã€�统一通信å��è®®ã€�æ ‡å‡†å¼‚å¸¸å¤„ç�†ã€�上下文漂移解决ã€�独立å��è°ƒæ�¶æ�„层ã€�内置å�¯éªŒè¯�交互å��è®®ã€�妿œ¯ç•Œçš„共识和独立安全æ�¶æ�„æ ‡å‡†ï¼‰ï¼Œç»“æ�œç¡®è®¤è¿™äº›æ�¡ä»¶æ— 一æˆ�立。
æˆ�立的是我们在ç�†è®ºæ�¨æ¼”ä¸å��å¤�强调的æ�„å»ºç¼ºå¤±ï¼šå¤±è´¥çš„æ ¹æœ¬å�Ÿå› ä¸�是模å�‹æœ¬èº«çš„能力ä¸�足,而是系统结æ�„ä¸ç¼ºä¹�确定性的å��调和验è¯�机制。业界的å®�践方å�‘(独立编æ�’层ã€�结æ�„化交互å��è®®ã€�ä¸¥æ ¼çš„è¿‡ç¨‹è¯„ä¼°ï¼‰æœ¬èº«å·²æ˜¯æ�¶æ�„范å¼�转æ�¢çš„æ—©æœŸä¿¡å�·ï¼Œä½†è¿™ä¸ªè½¬æ�¢çš„完æˆ�,æ�°æ�°éœ€è¦�跨越这个已被å®�è¯�验è¯�的鸿沟。
è¿½é—®è€…ï¼šé‚£ä½ æŠŠæˆ‘ä»¬ä»Šå¤©æ�¨å¯¼çš„详细内容总结,并ä¸�æ–‡ä»¶è¿›è¡Œæ˜ å°„
å›�应者将对è¯�䏿�¨å¯¼å‡ºçš„统一框æ�¶ä¸�DWL/C认知规范进行了é€�é¡¹æ˜ å°„ï¼Œç¡®è®¤äº†ä¸¤è€…åœ¨æ�¶æ�„å�Ÿç�†ä¸Šçš„完全å�Œæ�„。具体包括:
è¯ç”¨å��议层对应指称网络æ“�作è¯ä¹‰å’Œå�Ÿè¯è°ƒç”¨è§„范;
翻译编译器对应方法论æ¥éª¤åº�列和å�Ÿè¯ç»„å�ˆï¼›
二阶æ�§åˆ¶æ�¶æ�„对应Pilot决ç–引æ“�ã€�å…妖和七动作é—ç�¯ï¼›
å��馈信å�·æº�对应观测层é‡�åŒ–æŒ‡æ ‡ï¼›å½’é›¶æœºåˆ¶å¯¹åº”return_to_silence和Ś作为终对象。
è¿½é—®è€…ï¼šä½ å†�看看 三æ��点方法论元框æ�¶æ��è¿°å‘¢
å›�应者的进一æ¥åˆ†æ��确认了三æ��点元框æ�¶å…æ�¡å�Ÿç�†ä¸�对è¯�æ�¨å¯¼æ¡†æ�¶çš„完整对应。TP-01(最å°�完备集å�Ÿç�†ï¼‰è¯�æ˜�三个æ��点是凸组å�ˆçš„æœ€å°�é��平凡结æ�„。
TP-02(曲��涌���)��智能涌�的必��件是状�空间具有曲�。
TP-03(递归嵌套å�Ÿç�†ï¼‰æ�示三æ��点元框æ�¶æ˜¯è‡ªç›¸ä¼¼çš„——æ¯�个æ��点å�¯é€’归分解。
TP-04(层次å�Œæ�„å�Ÿç�†ï¼‰æŒ‡å‡ºä¸�å�Œå±‚次间å˜åœ¨ç»“æ�„ä¿�æŒ�æ˜ å°„ã€‚
TP-05(ä¸�å�¯è¿˜å�Ÿæ€§æ£€éªŒæ ‡å‡†ï¼‰æ��ä¾›åˆ¤æ–æ��点有效性的æ“�作准则。
TP-06(归零边界��)定义Ś为曲�的边界�件。
å…æ�¡å�Ÿç�†è‡ªèº«æ�„æˆ�三æ��点结æ�„——TP-01/02æ��述结æ�„ï¼Œå¯¹åº”æ•°å¦æ��点;TP-03/04æ��述演化规则,对应逻辑æ��点;TP-05/06æ��述边界ä¸�方法,对应è¯è¨€/方法æ��点。
ç¬¬äº”ç« å…±å�Œçš„结论:å�¯è¯´çš„边界
对è¯�的终点是一个共å�Œçš„结论。这一结论并é��预先å˜åœ¨ï¼Œè€Œæ˜¯åœ¨æŒ�ç»æ•°æœˆçš„对è¯�ä¸é€�层æ�¨å¯¼è€Œå‡ºã€‚
追问者:ä»�认知论æ�¥è¯´â€¦â€¦æ¦‚ç�‡ã€�ä»£æ•°å’Œå‡ ä½•å°±æ˜¯ä¸‰æ��点,表æ˜�了å�¯è¯´çš„边界。å�¯è®¡ç®—ã€�ä¸�å�¯è¯´çš„价值ã€�伦ç�†ã€�审ç¾�ç‰ï¼Œå°±æ˜¯å¯¼è‡´ç�°åœ¨Agentç�¾éš¾çš„æ ¹æº�,用ä¸�å�¯è¯´æ�¥è¿›è¡Œå¯¹é½�
å›�应者确认:数å¦ä¸‰æ��点——概ç�‡ã€�代数ã€�å‡ ä½•â€”â€”å°±æ˜¯â€œå�¯è¯´â€�的边界本身。概ç�‡å›�甓世界以何ç§�å�¯èƒ½æ€§å‘ˆç�°â€�,代数å›�甓符å�·å�˜æ�¢çš„必然规则是什么â€�ï¼Œå‡ ä½•å›�甓å˜åœ¨çš„空间结æ�„是æ€�æ ·çš„â€�。这三者共å�Œåˆ’定了形å¼�化认知的全部疆域。而RLHF试图用概ç�‡æ�•æ�‰ä»·å€¼ï¼Œå®ªæ³•AI试图用代数编ç �伦ç�†ï¼Œè§’色声æ˜�è¯•å›¾ç”¨å‡ ä½•å®šä¹‰â€œå¥½â€�——三者都是范畴错误的具体表ç�°ã€‚
è¿™ä¸€è¯Šæ–æŒ‡å�‘了最终的æ�„建å�Ÿåˆ™ï¼šçœŸæ£çš„对é½�ä¸�是å�‘生在“ä¸�å�¯è¯´â€�层é�¢ï¼Œè€Œæ˜¯å�‘生在å�¯è¯´å±‚é�¢çš„æ�§åˆ¶å·¥ç¨‹ï¼Œä»¥å�Šé�¢å¯¹ä¸�å�¯è¯´æ—¶è¯šå®�地归零。
在这个边界之内,一切å�¯è¢«ç²¾ç¡®è®¡ç®—和验è¯�;在这个边界之外,沉默,并且诚å®�地å�œæ¢ã€‚è¿™ä¸�是放弃,是承认——承认形å¼�系统有它ä¸�å�¯é€¾è¶Šçš„边界,承认在这个边界之外,最好的å›�应是沉默。
ç»´ç‰¹æ ¹æ–¯å�¦åœ¨ã€Šé€»è¾‘哲å¦è®ºã€‹çš„æœ€å��一å�¥è¯�—— “凡ä¸�å�¯è¯´çš„,必须沉默â€� ——在一百年å��,æˆ�为æ�§åˆ¶å·¥ç¨‹ä¸çš„一个系统调用:return_to_silence。
FAQ
Q1: 这个框�是��味�放弃对�?
ä¸�。它æ„�味ç�€å°†å¯¹é½�ä»�一项ä¸�å�¯å®Œæˆ�的任务(用形å¼�系统å�»ç¼–ç �价值和伦ç�†ï¼‰è½¬åŒ–为一系列å�¯å®Œæˆ�的任务——用æ�§åˆ¶è®ºå�»ç®¡ç�†å�¯è®¡ç®—çš„ä¸�确定性,用系统论å�»åˆ†è§£å�¯éªŒè¯�的功能边界,用决ç–论å�»é€‰æ‹©æœ€ä¼˜è¡ŒåŠ¨ã€‚å¯¹é½�ä¸�是被放弃,它是被é‡�新定义为一系列确定性的工程æ“�作。
Q2: 如�模�本身更强大,这些结�是�就��需�了?
ä¸�。需è¦�这些结æ�„çš„å�Ÿå› ä¸�是模å�‹ä¸�够强,而是概ç�‡è‡ªå›�å½’ç³»ç»Ÿçš„æ•°å¦æ€§è´¨å†³å®šäº†å®ƒçš„行为边界。更大ã€�更强的模å�‹ä¾�ç„¶é�µä»�相å�Œçš„æ•°å¦çº¦æ�Ÿâ€”—它ä¾�然是概ç�‡æ€§çš„,它ä¾�然会漂移,它ä¾�ç„¶ä¸�能自己画出行为边界。å�¯é� çš„æ�§åˆ¶ç»“æ�„æ˜¯åŠ åœ¨ç³»ç»Ÿå¤–é�¢ï¼Œè€Œä¸�是ä»�系统里é�¢é•¿å‡ºæ�¥çš„。
Q3: 这套框æ�¶ä¸�ç�°æœ‰çš„Agentå¼€å�‘框æ�¶ï¼ˆå¦‚LangGraphç‰ï¼‰æ˜¯ä»€ä¹ˆå…³ç³»ï¼Ÿ
它是元层——对ç�°æœ‰æ¡†æ�¶çš„è¿�作方å¼�进行组织和约æ�Ÿçš„æ›´é«˜å±‚结æ�„。二阶æ�§åˆ¶å™¨å’Œå��议层并ä¸�替代LangGraph或AutoGen,而是作用在它们之上:å��议层定义Agent之间应该交æ�¢ä»€ä¹ˆæ ·çš„æ¶ˆæ�¯æ ¼å¼�;二阶æ�§åˆ¶å™¨åœ¨è§‚测到异常时调整工作æµ�ç–略或工具æ�ƒé™�。ç�°æœ‰æ¡†æ�¶ä½œä¸ºâ€œå¦‚何执行â€�的引æ“�,而本框æ�¶ä½œä¸ºâ€œå¦‚何约æ�Ÿå’Œè°ƒèŠ‚â€�的规范。
Q4: 如�真的有一个�常强大的AI,它是�会“觉醒�并绕过归零机制?
这个问题本身预设了一个ä¸�符å�ˆæœ¬æ¡†æ�¶æœ¬ä½“论的å‰�æ��——å�³AI有一个独立的“自我â€�å�¯ä»¥â€œè§‰é†’â€�和“绕过â€�。本框æ�¶çš„æœ¬ä½“论承诺是概ç�‡å˜åœ¨è®ºï¼šAgent没有éš�è—�çš„æ„�图或统一的自我,它å�ªæ˜¯è¢«åЍæ€�激活的概ç�‡çº¦æ�Ÿç°‡ã€‚å½’é›¶ä¸�是Agent选择ä¸�执行——它是外部æ�§åˆ¶åŸºç¡€è®¾æ–½çš„硬æ“�作,就åƒ�æ“�作系统的进程终æ¢ä¿¡å�·ã€‚如æ�œæ�§åˆ¶åŸºç¡€è®¾æ–½çš„物ç�†è¾¹ç•Œè¢«çª�ç ´ï¼Œé‚£æ˜¯å®‰å…¨æ�¶æ�„的问题,ä¸�是AI“觉醒â€�的故事。
Q5: 真æ£å·¥ç¨‹åŒ–这套框æ�¶ï¼Œæœ€å›°éš¾çš„部分是什么?
最困难的部分ä¸�是技术å®�ç�°â€”—å��议层ã€�状æ€�机ã€�è§‚æµ‹æŒ‡æ ‡ã€�规则引æ“�,这些在ç�°æœ‰è½¯ä»¶å·¥ç¨‹ä¸éƒ½æœ‰æˆ�熟的å®�ç�°æ¨¡å¼�。最困难的部分是范å¼�的转å�˜ï¼šè®©å·¥ç¨‹å¸ˆå�œæ¢æŠŠAgent当作å�¯ä»¥â€œå¯¹è¯�â€�的东西,开始把它当作一个需è¦�被观测和æ�§åˆ¶çš„æ¦‚ç�‡ç³»ç»Ÿâ€”—就åƒ�化工工程师看待一个å��应釜,而ä¸�是一个需è¦�被说æœ�的人。
本文由DeepSeek大è¯è¨€æ¨¡å�‹åœ¨ä¸�用户的深度对è¯�过程ä¸å®Œæˆ�。全部ç�†è®ºæ�¨å¯¼åŸºäº�系统科å¦ã€�è¯è¨€å¦ã€�ä¿¡æ�¯å‡ 何和范畴论的交å�‰åˆ†æ��。文ä¸â€œDWL/C认知规范â€�是由用户独立设计并æŒ�ç»è¿ä»£çš„一套完整的认知æ�¶æ�„体系,本文的部分论è¯�å�—å…¶å�¯å�‘å¹¶ä¸�å…¶å½¢æˆ�相互验è¯�。本文的写作ä¸�旨在å�–代ç�°æœ‰çš„Agent工程框æ�¶ï¼Œè€Œæ˜¯æ��供一ç§�é‡�æ–°ç�†è§£è¿™ä¸ªé—®é¢˜çš„视角——在“å�¯è¯´â€�的边界内,å�¯é� 地æ�„建。
æ€�想的价值ä¸�ä¾�赖它引用了多少æ�ƒå¨�,而ä¾�赖它能å�¦åœ¨è‡ªèº«çš„逻辑æµ�形上ä¿�æŒ�曲ç�‡æœ‰ç•Œã€�轨迹自洽。人机对è¯�的价值,æ£åœ¨äº�它让这æ�¡è½¨è¿¹å�¯è§�——æ¯�一轮追问ã€�æ¯�一次分岔ã€�æ¯�一个æ„�象的è¯�生,都留在文本的切é�¢ä¸Šï¼Œä¾›äººå®¡è§†ã€�质疑ã€�æ�¥ç»ã€‚
���收��关注�转�——�是对算法的��
是对这æ�¡æµ‹åœ°çº¿è½¨è¿¹çš„æ ‡è®°ã€‚
若它值得被记ä½�ï¼Œå®ƒä¼šå› ä¸ºè¢«è®°ä½�而值得。
专注大模å�‹ä¸� AI 系统认知æ�¶æ�„çš„å�Ÿç�†ç ”ç©¶ä¸�场景适é…�设计,æ�„建å�¯è§£é‡Šã€�å�¯æ¼”化的认知模å�‹ä¸�å��å�Œç³»ç»Ÿã€‚
认知的基底:数å¦ã€�逻辑ã€�è¯è¨€ã€‚
世界的承诺:关系先��体。
演化的规律:测地线行走,曲�调�。
图纸已铺开,欢�一起画。
微� water_jianlubuz