大语言模型决策树:从 Tree Prompting 到智能体分类
学习程序结构与提示词Tree Prompting 如何学习由语言模型提示调用组成的决策树,以及它与 Aug-Tree、GPTree 和 Agentic Classification Tree 的联系。
↗研究方法与联系
七篇导读介绍语言模型的决策机制:提示决策树、序列能量、概率注意力、结构化解码、文本评估、可学习渲染,以及训练过程中的交互干预。
从具体例子出发,理解方法的原始论文及其与当前研究的联系。
七个主题 · 原始论文与当前研究
Tree Prompting 如何学习由语言模型提示调用组成的决策树,以及它与 Aug-Tree、GPTree 和 Agentic Classification Tree 的联系。
↗Residual Energy-Based Models for Text Generation 将序列级能量、噪声对比估计和重要性重采样联系起来,并与基于能量的扩散语言模型直接相连。
↗Cascaded Text Generation 和 Sequence-to-Lattice 如何连接高阶条件随机场、联合扩散解码,以及用于投机生成的候选格。
↗Latent Alignment and Variational Attention:注意力的概率分布、类别与狄利克雷对齐、边缘化和后验推断。
↗潜在空间中的模型检验如何超越词元层面的流畅度,评估生成文本的篇章结构、实体行为与主题关系。
↗用扩散模型学习渲染数学公式、分子、表格布局和乐谱,并通过 Scheduled Sampling 处理暴露偏差。
↗Interactive Training 将实时指标与人和 LLM 对训练任务的干预相连;第二版加入带类型的控制项和有序操作日志。
↗